전 세계 딥페이크(인공지능 기반 이미지 합성 기술) 영상의 25%는 한국 여성 연예인들로 만들어졌다. 네덜란드의 사이버 보안 연구 회사 ‘딥트레이스’의 2019년 9월 딥페이크 연구 보고서의 분석 결과다. 총 딥페이크 영상 1만 4798개 중 98%가 포르노로 소비되고 있으며, 한국 여성 연예인이 이 중 4분의 1을 차지하는 것으로 나타났다.
현 상황에서 가상 아이돌이...
인공지능(AI)으로 딥페이크를 잡는 기술이 KAIST 연구실에서 탄생했다.
한국과학기술원(KAIST)은 이흥규 전산학부 교수 연구팀이 인공신경망을 이용해 디지털 형태의 사진 변형 여부를 광범위하게 탐지하는 실용 소프트웨어 ‘카이캐치(KAICATCH)’를 개발했다고 3일 밝혔다. 논문 발표 수준에만 머물러 있던 사진과 영상자료의 위ㆍ변조 탐지기술을 실용화 단계로 끌어...
이 기능이 출시되면 가짜뉴스에 주로 악용되어온 딥페이크 같이 악의적으로 편집된 이미지를 거를 수 있을 것으로 기대된다.
20일(현지시간) IT 전문 매체 더버지에 따르면 어도비는 이날부터 3일간 온라인 크리에이티브 콘퍼런스 ‘2020 어도비 맥스’를 개최했다. 어도비는 이날 행사에서 애플 아이패드용 일러스트레이터와 AI 채색 기술, ‘콘텐츠 어센티서티...
머니브레인은 과학기술정보통신부가 추진하는 ‘인공지능 학습용 데이터 구축 사업 중 ‘딥페이크 변조 영상 AI 데이터’ 분야의 수행 기업으로 선정됐다고 26일 밝혔다.
정부가 추진하는 이 사업은 ‘디지털 뉴딜 정책’의 일환인 일명 ‘데이터 댐’ 구축 사업이다. 산업적 활용 가치가 높으며 데이터 확보가 시급한 20가지 분야를 선정하여 양질의 AI 학습용...
주요 사업 과제는 △사람 감성과 문맥을 이해할 수 있는 자연어 처리분야 △자동차, 드론 등 자율주행기술 분야 △음성, 시각, 언어 등 융합 분야 등 국가적으로 산업적으로 활용가치가 높고 데이터 확보 필요성이 시급한 과제 △질병진단(치매, 구강질병 등) 및 운동 등 헬스케어 분야 △사람의 얼굴을 악의적으로 변조한 딥페이크 방지 기술 분야 △장애인의...
디지털성범죄정보의 위법성을 즉시 판단하기 어려운 문제가 있다"며 "플랫폼에 대한 형사벌과 같은 제재 강화는 현행 법적 제재하에 국내 플랫폼의 협조와 순응을 전반적으로 평가한 후에 논의해야 한다"고 했다.
입법조사처는 아동청소년이용음란물, 불법촬영물, 딥페이크물 등의 법적 정의와 기준을 명확히 세우고 구체화해야 한다고도 강조했다.
또한 지난해 7~8월 SNS에서 알게 된 피해자 C 씨의 얼굴에 타인의 전신노출 사진을 합성한 후 피해자인 것처럼 가장한 '딥페이크' 사진을 SNS에 올린 혐의가 있다.
검찰은 강 군에게 적용한 죄명 11개 중 △아동청소년의성보호에관한법률 위반(음란물제작배포 등) △아동청소년의성보호에관한법률 위반(강제추행) △강제추행 △성폭력범죄의처벌등에관한특례법...
강 씨는 지인의 사진을 나체 사진과 합성한 '딥페이크' 사진을 유포한 혐의도 받는다.
검찰은 지난달 29일 박사방 공범으로 지목된 강 씨와 장모(40)·김모(32) 씨 등의 주거지를 압수수색했다. 이와함께 13명을 형법상 범죄단체조직 혐의로, 유료회원 등 주변 인물 23명을 범죄단체가입·활동 혐의로 정식 입건해 수사를 이어오고 있다.
조 씨가 가상화폐로...
딥페이크 영상물을 단톡방에 올리는 경우에는 성폭력처벌법 제14조의2로 처벌될 수 있습니다. 먼저 수사기관에 신고해서 단톡방에 참가한 사람들 중 누가 단톡방에 올렸는지, 올라온 영상물을 제3자에게 재유포한 것은 아닌지 확인해야 합니다. 영상물 삭제 요청은 디지털성범죄피해자지원센터나 수사기관에 할 수 있습니다.
법무부는 미성년자 등의 성 착취물을...
최근 N번방을 비롯해 온라인 커뮤니티에 내 ‘딥페이크물’ 유포에 대한 피해가 심각한 상황이다. 합성대상자가 유명인뿐만 아니라 일반인들까지 확대되면서 사회적 문제로 대두되고 있다.
알엔딥은 레드 AI 딥페이크 검출 기술을 바탕으로 불법적으로 활용되고 있는 페이크 영상까지 검출해 온라인 커뮤니케이션 내 유포되고 있는 불법 영상에 대응할 수 있도록...
정부는 디지털 성범죄물의 범위를 △변형카메라 이용 불법촬영물 △합성ㆍ편집물(딥페이크 등) △아동ㆍ청소년이용음란물(협박, 강요, 그루밍 등에 의한 촬영물 포함) △당사자 동의 없이 유포한 영상물 등을 포괄해 정했다.
우선 수사관이 미성년자 등으로 위장해 수사하는 잠입수사 방식을 디지털 성범죄 수사에 도입한다. 현재 마약 수사 등에 활용되는 잠입수사...
MBC가 연예인 딥페이크에 보도에 사용된 자료화면으로 비난을 받고 있다.
20일 MBC ‘뉴스데스크’는 최근 논란이 되고 있는 ‘딥 페이크’에 대해 보도했다. 이 과정에서 특정 연예인을 두고 딥페이크 한 자료화면이 그대로 송출되며 팬들의 원성이 높아지고 있다.
‘딥페이크’란 인공 지능을 이용해 특정인의 얼굴과 음성을 합성하는 기술을 말한다. 최근 한...
아울러 딥페이크 등 신종 디지털 성범죄를 예방․대응하기 위한 향후 R&D 추진방향과 함께 민간기술의 활용․도입, 실제 현장에서 피해자 보호나 범죄수사, 처벌 등을 위해 필요한 R&D 요구사항에 대해서도 폭넓은 의견을 수렴할 예정이다.
과기정통부 장석영 2차관은 “이번 ‘텔레그램 n번방’ 같은 디지털 성범죄의 경우, 피해자들은 물론 우리 모두의...
다수의 텔레그램 비밀방에서 딥페이크 영상이 공유된 것으로 알려져 충격을 주고 있다.
딥페이크란 인공지능(AI) 기술을 이용해 포르노 영상에 연예인 얼굴을 합성하는 것을 의미한다. 어떤 영상에든 원하는 인물의 얼굴을 붙일 수 있고, 가짜 동영상도 만들 수 있는 것이 특징. 표정이나 이목구비의 움직임을 자연스럽게 구현하고 목소리까지 비슷하다.
딥페이크가...
국회는 이달 5일 인공지능(AI) 기술을 악용해 ‘딥페이크(deepfake) 영상’을 만들고 이를 제작·유통할 경우 처벌을 강화하도록 한 성폭력처벌법 개정안을 통과시켰다. 이와 함께 디지털 성범죄 전담부서 신설과 양형기준 강화 등도 함께 논의했다.
성범죄 수법 진화에 따른 법ㆍ제도의 변화만큼 기존 수사 관행과 성인지 감수성을 한 층 더 업그레이드시키는 것도...
25일 김유빈은 ‘딥페이크’ 계정 팔로우 의혹에 대해 “해킹당한 적 있는데 덜 지워진 것 같다”라고 해명했다.
앞서 김유빈은 24일 ‘n번방’과 관련해 “남성들이 뭐 XX. N번방을 내가 봤냐. 이 XXX들아. 대한민국 XX가 27만 명이라는데 그럼 너도 사실상 XX냐? 내가 가해자면 너는 XX다”라며 망언을 해 논란이 됐다.
이후 김유빈은 자신의 행동을 사과하고...
국회가 5일 디지털성폭력 중 하나인 딥페이크(신체를 조합해 만든 합성물) 관련 개정안은 처리했을 당시 여성 단체들은 디지털 성범죄를 근본적으로 뿌리 뽑지 못하는 졸속 입법이라고 비판한 바 있다.
국회 관계자는 "청원이 있어서 그나마 '딥페이크' 논의도 있었던 것"이라며 "청원 내용 전체가 반영된 게 아닌 법안은 아니었다"고 말했다....
이정옥 여가부 장관은 “텔레그램 N번방 사건을 계기로, 디지털 및 아동청소년성착취물 범죄에 대한 사회적 경각심이 커지고 엄정한 대응에 대한 요구도 높아지고 있다”며 “최근 성폭력처벌법 개정을 통해 허위(딥페이크) 영상물 제작ㆍ판매 행위에 대한 처벌 근거가 신설됐다”고 설명했다.
이어 “앞으로도 신종 성범죄의 처벌 사각지대를 해소할...
신종 디지털 성범죄의 온상으로 지적돼온 딥페이크(deepfake) 영상을 제작하고 유포하는 행위에 대한 처벌이 강화된다.
법무부는 17일 이같은 내용을 담은 '성폭력범죄의 처벌 등에 관한 특례법' 일부개정법률 공포안이 국무회의에서 의결됐다고 밝혔다. 개정법률은 6월 25일부터 시행 예정이다.
딥페이크 영상은 사람의 얼굴‧신체를 대상으로 한 촬영물...
이 개정안은 특정 인물의 얼굴과 신체를 합성해 편집하는 '딥페이크' 영상을 만들고 유통했을 경우 5년 이하의 징역에 처하고, 영리 목적으로 유포하면 7년 이하 징역으로 처벌하도록 하는 내용을 골자로 한다.
최근 텔레그램에서는 딥페이크 음란물이 거래되는 이른바 'n번방 사건'이 알려지면서 논란이 일었다. 이에 디지털 성범죄 처벌에 관한 청원 내용이 국민 10만...