딥페이크 - 이투데이

검색결과 총117건

최신순 정확도순

류희림 방심위원장 “생성 AI·딥페이크 악용 공동대응 방안 모색해야”

류희림 방송통신심의위원회 위원장이 생성형 인공지능(AI)와 딥페이크 기술의 악용에 대비해, 글로벌 유관 기구들과 국제적 공동대응 모색을 강조했다. 류 위원장은 17일 미국 워싱턴DC 소재 넥맥(NCMEC), 美 실종학대아동방지센터(National Center for Missing and Exploited Children)를 방문해 상호 긴밀한 업무협력 방안을 논의했다. 류 위원장은 “앞으로 생성형 AI와...

2024-05-17 14:59
AI 룰세팅 전세계 각축전…"자비스급 AI 오는데 안정장치 없는 韓"

챗GPT 출시 이후 AI 기술 혁신과 맞물려 할루시네이션(환각), 딥페이크, 가짜뉴스, 저작권 침해 등 악용 사례도 등장하자 AI 선진국들은 이미 발 빠르게 대응하고 있다. 국내에서 인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안이 국회 과학기술정보방송통신위원회 법안2소위를 통과한 채 1년 넘게 계류된 동안 유럽연합(EU)에서는 3월 세계 최초로 AI 기본법을...

2024-05-16 15:28
사이버 전문가 “AI 위협 과장…가짜 뉴스가 더 영향력 커”

8일(현지시간) CNBC방송에 따르면 마틴 리 시스코 탈로스인텔리전스그룹 기술 책임자는 이날 생성형 AI나 딥페이크가 민주주의에 미치는 위협이 우려만큼 크지 않을 수 있다고 주장했다. AI가 사람들의 정치적 견해와 투표 형태에 미치는 영향이 기존 가짜뉴스 만큼 효과적이지 않다는 이유에서다. 그는 “생성형 AI 도구는 가짜 콘텐츠 생성을 더 쉽게 만들 수 있고...

2024-05-09 16:53
일상 파고든 ‘AI의 비가역적’ 전환…“입법공백 해소 시급”

AI가 청각 장애인 목소리 보정…아이돌 그룹 '빅오션' 데뷔 인기'딥페이크 동영상' 부작용 속출…AI 기본법 1년째 국회서 계류 세상에 없던 인공지능(AI)이라는 신기술이 등장하며 AI가 나타나기 이전의 삶으로 돌아갈 수 없는 시대가 도래했다. AI 딥러닝 기술을 통해 청각장애인들이 아이돌로 데뷔를 하는가 하면, 손흥민 선수가 투자 종목을 추천해준다고 하는 거짓...

2024-04-30 05:00
금융범죄 전쟁 선포에도 딥페이크·AI로 끝없이 진화…“정책 지원 절실”

딥페이크 AI 등 최신 기술 발전에 따라 진화하는 디지털 금융범죄를 막기 위해서는 정책 지원이 절실하다는 의견이 나왔다. 25일 서병호 한국금융연구원 금융혁신연구실장은 서울 중구 명동 은행회관에서 열린 ‘제1회 금융 및 통신사기 방지와 대응을 위한 정책세미나’에서 “AI를 이용한 범죄에 대응하기 위해서는 생성형 AI 개발 관련 위수탁 시 수탁자 감독을...

2024-04-25 14:29
아동성범죄 피해자 평균 연령 13.9세…여성 피해자 91.5%로 절대다수

피해자의 얼굴과 음란물을 합성하는 '딥페이크 영상물' 제작도 크게 늘었다. 최종심 선고 결과는 징역형 38.3%, 집행유예 54.8%, 벌금형 6.3%인 것으로 나타났다. 직전 조사 대비 징역형 비율은 상승했고, 벌금형 비율은 하락했다. 한편 여가부는 SNS 등 온라인 활동 중 성인으로부터 온라인 그루밍 관련 성범죄 정황이 의심되면 바로 피해를 접수할 수 있는...

2024-04-25 11:00
경찰, ‘대통령 가짜 동영상’ 제작자 입건..."조국혁신당 당원"

해당 영상은 당초 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물)로 알려졌으나 기술적으로 확인한 결과 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV 연설 장면을 짜깁기한 것으로 파악됐다. 해당 영상이 확산하자 국민의힘은 이를 윤 대통령에 대한 명예훼손으로 보고 지난 2월 경찰에 고발했다.

2024-04-08 21:51
“사람 음성 15초 들으면 그대로 모방”…오픈AI, '보이스 엔진' 공개

다만 오픈AI는 “인조 음성 기능의 오용 가능성 때문에 더 광범위한 출시에 대해서는 조심스럽게 접근하고 있다”라며 “현재로서는 이 기술을 미리 보여주기(preview)만 하되 널리 출시하지는 않기로 했다”고 밝혔다. 이 같은 기술이 딥페이크(AI로 만든 영상이나 이미지, 음성 조작물) 위험에 대한 불안감을 일으킨다는 것이다.

2024-03-30 10:54
김소영 금융위 부위원장 "금융소비자 보호 위해 당국·업권 합심해 노력하자"

김 부위원장은 "최근 어려운 민생경제 여건 등을 고려할 때 금융소비자를 보다 두텁게 보호하기 위한 금융당국과 금융업권이 합심해 노력하는 것이 어느 때보다 중요한 시기"라며 "딥페이크 등 유명인 사칭 불법금융투자사기, 불법사금융 등 민생침해 범죄에 관계기관 합동으로 강력히 대응해 나가는 한편, 앞으로도 현장에서 느낀 건의사항을 적극적으로...

2024-03-29 10:00
정부, 딥페이크와 전쟁 선포…AI 생성물 표기 의무화ㆍ피해구제 전담창구 설치

정부가 딥페이크와의 전쟁을 선포했다. 인공지능(AI)이 만든 콘텐츠에 대해 AI 생성물 표기를 의무화하고 관련 피해구제를 위한 신고 전담창구를 설치한다. 방송통신위원회는 21일 이 같은 내용을 담은 2024년도 업무계획을 발표했다. 이상인 방송통신위원회 부위원장은 “딥페이크 등 AI 기술발전·확산에 따라 새로운 유형의 허위조작정보, 불법유해정보가 디지털...

2024-03-21 19:42
네이트, 제22대 총선 특집 페이지 오픈…딥페이크 근절 대응

한최근 사회적 문제로 떠오르고 있는 선거 관련 악의적 허위 정보나 딥페이크 생성물로 인한 피해 예방에도 만전을 기한다. 이를 위해 네이트가 제공하는 ‘AI챗’ 서비스를 이용한 이미지 생성 시 주요 정치인의 성명에 관한 ‘검색어 제한 조치’를 통해 선거 관련 딥페이크 제작을 사전 방지할 예정이다. 이와 함께 선거 관련 허위 정보 신고 채널을 운영하고 서비스 내...

2024-03-20 09:25
[유튜브 중독 보고서④] 팩트 없는 팬덤 갈라치기...“정보통신 콘텐츠 분류 때문”

이에 현재 딥페이크 영상 등 허위정보나 가짜뉴스 콘텐츠가 문제가 될 경우 민간 독립기구인 방송통신심의위원회(방심위)가 심의를 통해 유튜브 등 플랫폼 기업에 시정요구를 하고 있다. 그러나 일각에서는 정권이 바뀔 때마다 방심위 심의가 집권당의 방송장악 이슈로 비화할 수 있는 한계를 지적하는 목소리가 나온다. 또한, 정보통신망법상 명예훼손 혐의로 기소하는...

2024-03-14 05:00
카카오, 총선 딥페이크 방지 총력…워터마크 도입한다

카카오가 22대 국회의원 선거를 맞아 선거 관련 딥페이크 허위 조작 정보를 담은 콘텐츠의 제작과 유통을 근절하기 위해 기술적 조치를 마련했다고 13일 밝혔다. 카카오는 책임감 있는 AI 활용을 위해 카카오브레인의 이미지 생성형 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했다. 이미지 생성 애플리케이션인 ‘비 디스커버에는 가시성 워터마크를 이미 도입한...

2024-03-13 09:37
“반년만 버티자”…짧은 선거 공소시효, 부정선거·부실수사 우려 [6개월의 벽②]

검찰 역시 이번 총선의 핵심 점검 의제 중 하나로 AI 기술을 활용한 딥페이크를 지목했다. 이원석 검찰총장은 지난달 5일 대검에서 ‘전국 선거전담 부장검사 회의’를 열고 “생성형 AI, 딥페이크 기술 등과 결합한 가짜뉴스가 사이버 공간을 통해 무차별적으로 확산되고 있다”며 “신속하게 사실관계를 파악해 엄정하게 책임을 물어야 한다”고 강조했다. 검찰 출신...

2024-03-12 05:00
네카오ㆍSK컴즈, 총선 앞 딥페이크 악용 방지 위해 공동 대응

한국인터넷기업협회 회원사인 네이버, 카카오, SK커뮤니케이션즈(가나다 순)는 올해 치러지는 선거 과정에서의 공정성과 신뢰성을 위한 ‘악의적 선거 딥페이크 사용 방지를 위한 공동선언’을 8일 채택했다. 이번 공동선언은 주요 IT 기업들이 악의적 선거 딥페이크에 대응하기 위해 자발적으로 구성한 자율협의체 활동의 일환으로, 제 22대 국회의원 선거 기간...

2024-03-08 17:20
네이버, 딥페이크 검색하면 “유의하세요” 경고 문구 노출한다

네이버가 4월 제22대 국회의원 선거를 앞두고 생성형 인공지능(AI)을 활용한 딥페이크, 허위정보 확산 방지에 나섰다. 자사 생성형 AI 서비스에 선거 주의 안내 문구를 띄우고, 딥페이크 관련 검색 결과에서는 경고 문구를 노출한다. 네이버는 28일 검색 블로그를 통해 “오늘부터 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내...

2024-02-28 17:00
네카오·구글 등 IT 기업들, 총선 앞두고 딥페이크 대응 자율협의체 구성

협약은 선거에 영향을 미치기 위해 악의적으로 제작·편집한 딥페이크 콘텐츠(영상·음성·이미지, 이하 악의적 선거 딥페이크)를 대상으로 한다. 한국인터넷기업협회는 악의적 선거 딥페이크 관련 위험 완화를 위한 노력, 악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의, 외부 전문가 그룹과의 지속적 논의 등 대응 방안을 마련해 조속한 시일 내에 발표할...

2024-02-26 16:51
尹대통령 가짜 영상 논란에…방통위, 네카오·구글 등과 딥페이크 예방책 논의

정부가 최근 인공지능(AI) 기술로 이미지나 영상을 합성해 만들어낸 가짜 이미지, 영상물인 ‘딥페이크’에 대응하기 위해 네이버, 카카오, 구글, 메타 등 국내·외 플랫폼 사업자와 논의했다. 방송통신위원회(방통위)는 23일 딥페이크 허위정보 대응 관련 자율규제 강화를 위한 민관협력 회의를 개최했다. 딥페이크는 AI 기술인 딥러닝과 페이크의 합성어로, AI 기술을...

2024-02-23 17:13
방심위, ‘윤 대통령 허위조작 영상’ 차단 긴급 의결

해당 영상은 당초 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물)로 알려졌으나 기술적으로 확인한 결과 AI로 만든 이미지 합성이 아닌 윤 대통령이 대선후보였던 2022년 2월 진행한 TV 연설 장면을 짜깁기한 것으로 파악됐다. 전날 경찰은 해당 영상과 게시글이 허위 사실 적시에 의한 명예훼손에 해당한다고 보고 방심위에 차단을 요청했다. 해당 영상의 제목은...

2024-02-23 13:37
네이버, 총선 전 ‘유해 딥페이크’ 막는 대책 발표한다

네이버가 4·10 국회의원 총선거를 앞두고 딥페이크(Deepfack) 관련 키워드 검색 결과에 경고 라벨을 붙이는 방안을 추진한다. 21일 정보기술(IT) 업계에 따르면 네이버는 이르면 다음 주 중 총선 페이지를 열고 가짜뉴스 대응 방안과 딥페이크 대응책 등을 발표할 예정이다. 딥페이크는 ‘딥러닝(Deep Learning)’과 ‘가짜(Fake)’의 합성어로 기존 인물의 얼굴이나...

2024-02-21 22:12

1 2 3 4 5 6