딥페이크 - 이투데이

검색결과 총111건

최신순 정확도순

경찰, ‘대통령 가짜 동영상’ 제작자 입건..."조국혁신당 당원"

해당 영상은 당초 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물)로 알려졌으나 기술적으로 확인한 결과 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV 연설 장면을 짜깁기한 것으로 파악됐다. 해당 영상이 확산하자 국민의힘은 이를 윤 대통령에 대한 명예훼손으로 보고 지난 2월 경찰에 고발했다.

2024-04-08 21:51
“사람 음성 15초 들으면 그대로 모방”…오픈AI, '보이스 엔진' 공개

다만 오픈AI는 “인조 음성 기능의 오용 가능성 때문에 더 광범위한 출시에 대해서는 조심스럽게 접근하고 있다”라며 “현재로서는 이 기술을 미리 보여주기(preview)만 하되 널리 출시하지는 않기로 했다”고 밝혔다. 이 같은 기술이 딥페이크(AI로 만든 영상이나 이미지, 음성 조작물) 위험에 대한 불안감을 일으킨다는 것이다.

2024-03-30 10:54
김소영 금융위 부위원장 "금융소비자 보호 위해 당국·업권 합심해 노력하자"

김 부위원장은 "최근 어려운 민생경제 여건 등을 고려할 때 금융소비자를 보다 두텁게 보호하기 위한 금융당국과 금융업권이 합심해 노력하는 것이 어느 때보다 중요한 시기"라며 "딥페이크 등 유명인 사칭 불법금융투자사기, 불법사금융 등 민생침해 범죄에 관계기관 합동으로 강력히 대응해 나가는 한편, 앞으로도 현장에서 느낀 건의사항을 적극적으로...

2024-03-29 10:00
정부, 딥페이크와 전쟁 선포…AI 생성물 표기 의무화ㆍ피해구제 전담창구 설치

정부가 딥페이크와의 전쟁을 선포했다. 인공지능(AI)이 만든 콘텐츠에 대해 AI 생성물 표기를 의무화하고 관련 피해구제를 위한 신고 전담창구를 설치한다. 방송통신위원회는 21일 이 같은 내용을 담은 2024년도 업무계획을 발표했다. 이상인 방송통신위원회 부위원장은 “딥페이크 등 AI 기술발전·확산에 따라 새로운 유형의 허위조작정보, 불법유해정보가 디지털...

2024-03-21 19:42
네이트, 제22대 총선 특집 페이지 오픈…딥페이크 근절 대응

한최근 사회적 문제로 떠오르고 있는 선거 관련 악의적 허위 정보나 딥페이크 생성물로 인한 피해 예방에도 만전을 기한다. 이를 위해 네이트가 제공하는 ‘AI챗’ 서비스를 이용한 이미지 생성 시 주요 정치인의 성명에 관한 ‘검색어 제한 조치’를 통해 선거 관련 딥페이크 제작을 사전 방지할 예정이다. 이와 함께 선거 관련 허위 정보 신고 채널을 운영하고 서비스 내...

2024-03-20 09:25
[유튜브 중독 보고서④] 팩트 없는 팬덤 갈라치기...“정보통신 콘텐츠 분류 때문”

이에 현재 딥페이크 영상 등 허위정보나 가짜뉴스 콘텐츠가 문제가 될 경우 민간 독립기구인 방송통신심의위원회(방심위)가 심의를 통해 유튜브 등 플랫폼 기업에 시정요구를 하고 있다. 그러나 일각에서는 정권이 바뀔 때마다 방심위 심의가 집권당의 방송장악 이슈로 비화할 수 있는 한계를 지적하는 목소리가 나온다. 또한, 정보통신망법상 명예훼손 혐의로 기소하는...

2024-03-14 05:00
카카오, 총선 딥페이크 방지 총력…워터마크 도입한다

카카오가 22대 국회의원 선거를 맞아 선거 관련 딥페이크 허위 조작 정보를 담은 콘텐츠의 제작과 유통을 근절하기 위해 기술적 조치를 마련했다고 13일 밝혔다. 카카오는 책임감 있는 AI 활용을 위해 카카오브레인의 이미지 생성형 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했다. 이미지 생성 애플리케이션인 ‘비 디스커버에는 가시성 워터마크를 이미 도입한...

2024-03-13 09:37
“반년만 버티자”…짧은 선거 공소시효, 부정선거·부실수사 우려 [6개월의 벽②]

검찰 역시 이번 총선의 핵심 점검 의제 중 하나로 AI 기술을 활용한 딥페이크를 지목했다. 이원석 검찰총장은 지난달 5일 대검에서 ‘전국 선거전담 부장검사 회의’를 열고 “생성형 AI, 딥페이크 기술 등과 결합한 가짜뉴스가 사이버 공간을 통해 무차별적으로 확산되고 있다”며 “신속하게 사실관계를 파악해 엄정하게 책임을 물어야 한다”고 강조했다. 검찰 출신...

2024-03-12 05:00
네카오ㆍSK컴즈, 총선 앞 딥페이크 악용 방지 위해 공동 대응

한국인터넷기업협회 회원사인 네이버, 카카오, SK커뮤니케이션즈(가나다 순)는 올해 치러지는 선거 과정에서의 공정성과 신뢰성을 위한 ‘악의적 선거 딥페이크 사용 방지를 위한 공동선언’을 8일 채택했다. 이번 공동선언은 주요 IT 기업들이 악의적 선거 딥페이크에 대응하기 위해 자발적으로 구성한 자율협의체 활동의 일환으로, 제 22대 국회의원 선거 기간...

2024-03-08 17:20
네이버, 딥페이크 검색하면 “유의하세요” 경고 문구 노출한다

네이버가 4월 제22대 국회의원 선거를 앞두고 생성형 인공지능(AI)을 활용한 딥페이크, 허위정보 확산 방지에 나섰다. 자사 생성형 AI 서비스에 선거 주의 안내 문구를 띄우고, 딥페이크 관련 검색 결과에서는 경고 문구를 노출한다. 네이버는 28일 검색 블로그를 통해 “오늘부터 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내...

2024-02-28 17:00
네카오·구글 등 IT 기업들, 총선 앞두고 딥페이크 대응 자율협의체 구성

협약은 선거에 영향을 미치기 위해 악의적으로 제작·편집한 딥페이크 콘텐츠(영상·음성·이미지, 이하 악의적 선거 딥페이크)를 대상으로 한다. 한국인터넷기업협회는 악의적 선거 딥페이크 관련 위험 완화를 위한 노력, 악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의, 외부 전문가 그룹과의 지속적 논의 등 대응 방안을 마련해 조속한 시일 내에 발표할...

2024-02-26 16:51
尹대통령 가짜 영상 논란에…방통위, 네카오·구글 등과 딥페이크 예방책 논의

정부가 최근 인공지능(AI) 기술로 이미지나 영상을 합성해 만들어낸 가짜 이미지, 영상물인 ‘딥페이크’에 대응하기 위해 네이버, 카카오, 구글, 메타 등 국내·외 플랫폼 사업자와 논의했다. 방송통신위원회(방통위)는 23일 딥페이크 허위정보 대응 관련 자율규제 강화를 위한 민관협력 회의를 개최했다. 딥페이크는 AI 기술인 딥러닝과 페이크의 합성어로, AI 기술을...

2024-02-23 17:13
방심위, ‘윤 대통령 허위조작 영상’ 차단 긴급 의결

해당 영상은 당초 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물)로 알려졌으나 기술적으로 확인한 결과 AI로 만든 이미지 합성이 아닌 윤 대통령이 대선후보였던 2022년 2월 진행한 TV 연설 장면을 짜깁기한 것으로 파악됐다. 전날 경찰은 해당 영상과 게시글이 허위 사실 적시에 의한 명예훼손에 해당한다고 보고 방심위에 차단을 요청했다. 해당 영상의 제목은...

2024-02-23 13:37
네이버, 총선 전 ‘유해 딥페이크’ 막는 대책 발표한다

네이버가 4·10 국회의원 총선거를 앞두고 딥페이크(Deepfack) 관련 키워드 검색 결과에 경고 라벨을 붙이는 방안을 추진한다. 21일 정보기술(IT) 업계에 따르면 네이버는 이르면 다음 주 중 총선 페이지를 열고 가짜뉴스 대응 방안과 딥페이크 대응책 등을 발표할 예정이다. 딥페이크는 ‘딥러닝(Deep Learning)’과 ‘가짜(Fake)’의 합성어로 기존 인물의 얼굴이나...

2024-02-21 22:12
오픈AI·MS 등 AI 선도 20개사, 딥페이크 선거 악용 방지책 마련 약속

뮌헨 안보회의서 협력안 발표딥페이크 자동 검출·워터마크 표기 등 기술 협력하기로X·틱톡 등 플랫폼 기업들도 참여 ‘챗GPT’로 생성형 인공지능(AI) 돌풍을 일으킨 오픈AI를 비롯해 마이크로소프트(MS), 구글 모회사 알파벳, 메타 등 AI 기술을 선도하는 빅테크 20개사가 딥페이크 등 AI 기술의 선거 악용 방지책을 마련하겠다고 약속했다. 17일(현지시간) CNN방송에...

2024-02-18 11:11
‘살인자ㅇ난감’ 감독 “손석구 아역? CG로 만든 얼굴…제작비 많이 들였어요”

높은 싱크로율로 화제를 모았던 넷플릭스 시리즈 ‘살인자ㅇ난감’ 주연 배우 손석구의 아역 얼굴이 딥페이크 기술을 사용한 CG인 것으로 밝혀졌다. ‘살인자ㅇ난감’ 이창희 감독은 14일 서울 종로구 소격동 한 카페에서 진행된 인터뷰에서 ‘손석구의 아역이 싱크로율이 높다는 얘기가 많다’는 질문에 “연기는 아역 (강지석) 배우가 연기를 하고, 얼굴은 손석구...

2024-02-14 17:19
메타, 모든 AI 이미지에 ‘라벨’ 붙인다…합성 이미지 집중 단속

최근 미국 대선을 앞두고 조 바이든 대통령의 목소리를 AI로 조작한 가짜 전화 유세가 확산되고 팝스타 테일러 스위프트의 얼굴과 음란물을 합성한 AI 조작 이미지가 SNS를 떠돌며 ‘딥페이크(AI를 활용한 이미지 및 음성 합성 기술) 규제’가 미국 내 주요 의제로 떠올랐다. 틱톡 역시 6일 개최된 ‘안전한 인터넷의 날’ 미디어 워크숍을 통해 “의도한 바와 상관없이...

2024-02-07 17:34
네이버, 총선 앞두고 AI 댓글ㆍ딥페이크 감시 강화

네이버는 뉴스 댓글 외 선거 기간 다른 서비스 영역에서의 생성형 AI 기반 가짜 정보 생성과 유통, 딥페이크 영상에 대한 대응도 조만간 마련한다. 선거를 앞두고 뉴스 댓글 집중 모니터링 기간에 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화한다. 각 부서 핫라인을 구축해 이슈 발생 시 빠른 대응에 나선다. 네이버 측은 “문장 맥락을 파악해 혐오...

2024-02-01 16:47
딥페이크·가짜뉴스에…총선 앞둔 韓, EU식 ‘AI규제’ 힘 받나

바이든 가짜목소리 전환에 '혼란'자율 외치던 美, 규제입법 목소리EU는 징벌적 과세 등 강력 규제정부 "현행법으로도 제재 가능"추가규제 필요성엔 신중한 입장AI기본법 국회서 1년째 계류 중 팝가수 테일러 스위프트의 사진이 인공지능(AI) 기술로 합성된 딥페이크 이미지가 확산하면서 전 세계적으로 AI에 대한 강력한 규제가 필요하다는 목소리가 커지고...

2024-01-30 05:00
[사설] ‘딥페이크’가 선거 민심 더럽히는 불상사 없어야

중앙선거관리위원회가 어제 인공지능(AI) 기반 ‘딥페이크’를 활용한 선거운동을 전면 금지했다. 실제와 구분하기 어려운 가상의 음향·이미지·영상은 4월 총선까지 제작·편집·유포·상영할 수 없다. 민주주의 최대 위협 요소를 사전에 차단하겠다는 것이다. 당내 경선이나 투표 참여 권유 등에선 허용된다. 딥페이크는 대중을 감쪽같이 속일 수 있다. 사실과 거짓을...

2024-01-30 05:00

1 2 3 4 5 6