또 디지털성범죄 피해자의 신원공개 정보와 딥페이크 등 성적 허위 영상물까지 확대해 피해자를 보호하고, 텔레그램 및 디스코드 등에 대한 중점 모니터링을 실시하는 등 사업자 자율규제(삭제)를 유도해 성착취 영상의 유통 확산에 적극 대처했다.
방심위는 해외 유통 비중이 높은 디지털성범죄정보에 대한 규제 실효성을 확보하기 위해 국제공조 체계도 지속해서...
이에 쌈디는 “알페스고 딥페이크 등등 지금 나한테 청원 올려달라는 글이 얼마나 다양하고 많은데 내가 하나하나 일일이 다 올려줘야 되나”라고 반문했다.
이어 “정인이 사건처럼 내가 진심으로 분노하고 슬프고 느껴야 내가 움직이는 것”이라며 “알페스에 대해서는 내가 정확히 보고 판단할 시간적 정신적 여유도 없었고 정인이 사건에 대한 슬픔이나 분노가...
딥페이크와 알페스 뜻, 처벌 등이 화두에 올랐다.
딥페이크, 알페스 뜻은 연일 온라인을 뜨겁게 달구고 있다. 딥페이크 뜻은 인공지능 기술을 이용해 기존 인물의 얼굴이나 특정 부위를 영화 CG처럼 합성한 영상합성물을 말한다. 딥페이크를 이용해 여성 연예인들의 가짜 영상을 만들어내는 범죄가 속출하고 있는 것.
알페스 뜻은 ‘Real Person Slash’의 약자인 RPS를...
특히 올해에는 마이크로소프트, 페이스북, AWS 등이 공동으로 총 100만 달러의 상금이 걸고 캐글에서 ‘딥페이크 감지 챌린지’를 개최하기도 했다. 조작된 이미지나 영상을 구분해내는 해당 알고리즘 개발 챌린지는 총 2256팀이 참가하면서 성료됐는데, 현재 ‘뤼이드 AIEd 챌린지’는 이미 이 규모를 넘어섰다. 또, 뤼이드의 경우 아직 챌린지 기간이 한 달 가량...
- 배철호 수석전문위원 (리얼미터)
진짜 같은 가짜 ‘딥페이크 시대’…활용 분야와 범죄 방지 대책은?
- 이경일 대표 (솔트룩스)
김어준의 뉴스공장 바로가기
김현정의 뉴스쇼
편성-CBS 표준FM
시간-(월~금) 오전 07:30~09:00
주파수-98.1㎒(서울)
"국회 필리버스터 / 정세균 '총리식당' 개업 / 김용균 2주기"
- CBS 김정훈 기자
- 뉴스톱...
삭제 지원을 받을 수 있는 불법촬영물의 범주에는 영상 촬영물뿐 아니라 '딥페이크'라 불리는 이미지 합성기술에 의한 영상물도 포함된다.
이 개정안은 또 공공기관에서 성폭력 사건이 발생했을 때 이를 수사기관과 여가부 장관에 의무적으로 통보하도록 했다.
여가부 장관은 사건이 발생한 기관에 대해 현장점검을 할 수 있고, 점검 결과에 따라 시정이나 보완을...
지난해 7~8월 SNS에서 알게 된 피해자의 얼굴에 타인의 전신 노출 사진을 합성(딥페이크)한 뒤 이를 피해자인 것처럼 가장해 SNS에 음란한 말과 함께 올린 혐의도 있다.
아울러 지난해 11~12월엔 공직선거법 위반으로 재판을 받는 윤장현 전 광주시장에게 판사 행사를 한 조 씨의 비서관인 것처럼 행동하며 유리한 재판을 받게 해주겠다고 속여 2차례에 걸쳐 500만 원씩...
더불어, 딥페이크 등 AI(인공지능) 기술을 악용한 보안 위협에 의한 피해 사례가 늘어나고, 랜섬 디도스(RDDoS) 등 금전적 수익 창출을 위한 사이버 공격도 변함없이 지속될 것으로 예상된다.
이러한 보안 위협에 맞서, 사고 발생 시 즉각 대응하고 신속히 업무 기능의 복원력을 높이기 위한 보안 기술과 방법론의 중요성이 한층 더 강조될 전망이다.
이글루시큐리티...
전 세계 딥페이크(인공지능 기반 이미지 합성 기술) 영상의 25%는 한국 여성 연예인들로 만들어졌다. 네덜란드의 사이버 보안 연구 회사 ‘딥트레이스’의 2019년 9월 딥페이크 연구 보고서의 분석 결과다. 총 딥페이크 영상 1만 4798개 중 98%가 포르노로 소비되고 있으며, 한국 여성 연예인이 이 중 4분의 1을 차지하는 것으로 나타났다.
현 상황에서 가상 아이돌이...
인공지능(AI)으로 딥페이크를 잡는 기술이 KAIST 연구실에서 탄생했다.
한국과학기술원(KAIST)은 이흥규 전산학부 교수 연구팀이 인공신경망을 이용해 디지털 형태의 사진 변형 여부를 광범위하게 탐지하는 실용 소프트웨어 ‘카이캐치(KAICATCH)’를 개발했다고 3일 밝혔다. 논문 발표 수준에만 머물러 있던 사진과 영상자료의 위ㆍ변조 탐지기술을 실용화 단계로 끌어...
이 기능이 출시되면 가짜뉴스에 주로 악용되어온 딥페이크 같이 악의적으로 편집된 이미지를 거를 수 있을 것으로 기대된다.
20일(현지시간) IT 전문 매체 더버지에 따르면 어도비는 이날부터 3일간 온라인 크리에이티브 콘퍼런스 ‘2020 어도비 맥스’를 개최했다. 어도비는 이날 행사에서 애플 아이패드용 일러스트레이터와 AI 채색 기술, ‘콘텐츠 어센티서티...
머니브레인은 과학기술정보통신부가 추진하는 ‘인공지능 학습용 데이터 구축 사업 중 ‘딥페이크 변조 영상 AI 데이터’ 분야의 수행 기업으로 선정됐다고 26일 밝혔다.
정부가 추진하는 이 사업은 ‘디지털 뉴딜 정책’의 일환인 일명 ‘데이터 댐’ 구축 사업이다. 산업적 활용 가치가 높으며 데이터 확보가 시급한 20가지 분야를 선정하여 양질의 AI 학습용...
주요 사업 과제는 △사람 감성과 문맥을 이해할 수 있는 자연어 처리분야 △자동차, 드론 등 자율주행기술 분야 △음성, 시각, 언어 등 융합 분야 등 국가적으로 산업적으로 활용가치가 높고 데이터 확보 필요성이 시급한 과제 △질병진단(치매, 구강질병 등) 및 운동 등 헬스케어 분야 △사람의 얼굴을 악의적으로 변조한 딥페이크 방지 기술 분야 △장애인의...
디지털성범죄정보의 위법성을 즉시 판단하기 어려운 문제가 있다"며 "플랫폼에 대한 형사벌과 같은 제재 강화는 현행 법적 제재하에 국내 플랫폼의 협조와 순응을 전반적으로 평가한 후에 논의해야 한다"고 했다.
입법조사처는 아동청소년이용음란물, 불법촬영물, 딥페이크물 등의 법적 정의와 기준을 명확히 세우고 구체화해야 한다고도 강조했다.
또한 지난해 7~8월 SNS에서 알게 된 피해자 C 씨의 얼굴에 타인의 전신노출 사진을 합성한 후 피해자인 것처럼 가장한 '딥페이크' 사진을 SNS에 올린 혐의가 있다.
검찰은 강 군에게 적용한 죄명 11개 중 △아동청소년의성보호에관한법률 위반(음란물제작배포 등) △아동청소년의성보호에관한법률 위반(강제추행) △강제추행 △성폭력범죄의처벌등에관한특례법...
강 씨는 지인의 사진을 나체 사진과 합성한 '딥페이크' 사진을 유포한 혐의도 받는다.
검찰은 지난달 29일 박사방 공범으로 지목된 강 씨와 장모(40)·김모(32) 씨 등의 주거지를 압수수색했다. 이와함께 13명을 형법상 범죄단체조직 혐의로, 유료회원 등 주변 인물 23명을 범죄단체가입·활동 혐의로 정식 입건해 수사를 이어오고 있다.
조 씨가 가상화폐로...
딥페이크 영상물을 단톡방에 올리는 경우에는 성폭력처벌법 제14조의2로 처벌될 수 있습니다. 먼저 수사기관에 신고해서 단톡방에 참가한 사람들 중 누가 단톡방에 올렸는지, 올라온 영상물을 제3자에게 재유포한 것은 아닌지 확인해야 합니다. 영상물 삭제 요청은 디지털성범죄피해자지원센터나 수사기관에 할 수 있습니다.
법무부는 미성년자 등의 성 착취물을...
최근 N번방을 비롯해 온라인 커뮤니티에 내 ‘딥페이크물’ 유포에 대한 피해가 심각한 상황이다. 합성대상자가 유명인뿐만 아니라 일반인들까지 확대되면서 사회적 문제로 대두되고 있다.
알엔딥은 레드 AI 딥페이크 검출 기술을 바탕으로 불법적으로 활용되고 있는 페이크 영상까지 검출해 온라인 커뮤니케이션 내 유포되고 있는 불법 영상에 대응할 수 있도록...
정부는 디지털 성범죄물의 범위를 △변형카메라 이용 불법촬영물 △합성ㆍ편집물(딥페이크 등) △아동ㆍ청소년이용음란물(협박, 강요, 그루밍 등에 의한 촬영물 포함) △당사자 동의 없이 유포한 영상물 등을 포괄해 정했다.
우선 수사관이 미성년자 등으로 위장해 수사하는 잠입수사 방식을 디지털 성범죄 수사에 도입한다. 현재 마약 수사 등에 활용되는 잠입수사...
MBC가 연예인 딥페이크에 보도에 사용된 자료화면으로 비난을 받고 있다.
20일 MBC ‘뉴스데스크’는 최근 논란이 되고 있는 ‘딥 페이크’에 대해 보도했다. 이 과정에서 특정 연예인을 두고 딥페이크 한 자료화면이 그대로 송출되며 팬들의 원성이 높아지고 있다.
‘딥페이크’란 인공 지능을 이용해 특정인의 얼굴과 음성을 합성하는 기술을 말한다. 최근 한...