딥페이크, 2페이지

검색결과 총126건

최신순 정확도순

[유튜브 중독 보고서④] 팩트 없는 팬덤 갈라치기...“정보통신 콘텐츠 분류 때문”

이에 현재 딥페이크 영상 등 허위정보나 가짜뉴스 콘텐츠가 문제가 될 경우 민간 독립기구인 방송통신심의위원회(방심위)가 심의를 통해 유튜브 등 플랫폼 기업에 시정요구를 하고 있다. 그러나 일각에서는 정권이 바뀔 때마다 방심위 심의가 집권당의 방송장악 이슈로 비화할 수 있는 한계를 지적하는 목소리가 나온다. 또한, 정보통신망법상 명예훼손 혐의로 기소하는...

2024-03-14 05:00
카카오, 총선 딥페이크 방지 총력…워터마크 도입한다

카카오가 22대 국회의원 선거를 맞아 선거 관련 딥페이크 허위 조작 정보를 담은 콘텐츠의 제작과 유통을 근절하기 위해 기술적 조치를 마련했다고 13일 밝혔다. 카카오는 책임감 있는 AI 활용을 위해 카카오브레인의 이미지 생성형 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했다. 이미지 생성 애플리케이션인 ‘비 디스커버에는 가시성 워터마크를 이미 도입한...

2024-03-13 09:37
“반년만 버티자”…짧은 선거 공소시효, 부정선거·부실수사 우려 [6개월의 벽②]

검찰 역시 이번 총선의 핵심 점검 의제 중 하나로 AI 기술을 활용한 딥페이크를 지목했다. 이원석 검찰총장은 지난달 5일 대검에서 ‘전국 선거전담 부장검사 회의’를 열고 “생성형 AI, 딥페이크 기술 등과 결합한 가짜뉴스가 사이버 공간을 통해 무차별적으로 확산되고 있다”며 “신속하게 사실관계를 파악해 엄정하게 책임을 물어야 한다”고 강조했다. 검찰 출신...

2024-03-12 05:00
네카오ㆍSK컴즈, 총선 앞 딥페이크 악용 방지 위해 공동 대응

한국인터넷기업협회 회원사인 네이버, 카카오, SK커뮤니케이션즈(가나다 순)는 올해 치러지는 선거 과정에서의 공정성과 신뢰성을 위한 ‘악의적 선거 딥페이크 사용 방지를 위한 공동선언’을 8일 채택했다. 이번 공동선언은 주요 IT 기업들이 악의적 선거 딥페이크에 대응하기 위해 자발적으로 구성한 자율협의체 활동의 일환으로, 제 22대 국회의원 선거 기간...

2024-03-08 17:20
네이버, 딥페이크 검색하면 “유의하세요” 경고 문구 노출한다

네이버가 4월 제22대 국회의원 선거를 앞두고 생성형 인공지능(AI)을 활용한 딥페이크, 허위정보 확산 방지에 나섰다. 자사 생성형 AI 서비스에 선거 주의 안내 문구를 띄우고, 딥페이크 관련 검색 결과에서는 경고 문구를 노출한다. 네이버는 28일 검색 블로그를 통해 “오늘부터 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내...

2024-02-28 17:00
네카오·구글 등 IT 기업들, 총선 앞두고 딥페이크 대응 자율협의체 구성

협약은 선거에 영향을 미치기 위해 악의적으로 제작·편집한 딥페이크 콘텐츠(영상·음성·이미지, 이하 악의적 선거 딥페이크)를 대상으로 한다. 한국인터넷기업협회는 악의적 선거 딥페이크 관련 위험 완화를 위한 노력, 악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의, 외부 전문가 그룹과의 지속적 논의 등 대응 방안을 마련해 조속한 시일 내에 발표할...

2024-02-26 16:51
尹대통령 가짜 영상 논란에…방통위, 네카오·구글 등과 딥페이크 예방책 논의

정부가 최근 인공지능(AI) 기술로 이미지나 영상을 합성해 만들어낸 가짜 이미지, 영상물인 ‘딥페이크’에 대응하기 위해 네이버, 카카오, 구글, 메타 등 국내·외 플랫폼 사업자와 논의했다. 방송통신위원회(방통위)는 23일 딥페이크 허위정보 대응 관련 자율규제 강화를 위한 민관협력 회의를 개최했다. 딥페이크는 AI 기술인 딥러닝과 페이크의 합성어로, AI 기술을...

2024-02-23 17:13
방심위, ‘윤 대통령 허위조작 영상’ 차단 긴급 의결

해당 영상은 당초 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물)로 알려졌으나 기술적으로 확인한 결과 AI로 만든 이미지 합성이 아닌 윤 대통령이 대선후보였던 2022년 2월 진행한 TV 연설 장면을 짜깁기한 것으로 파악됐다. 전날 경찰은 해당 영상과 게시글이 허위 사실 적시에 의한 명예훼손에 해당한다고 보고 방심위에 차단을 요청했다. 해당 영상의 제목은...

2024-02-23 13:37
네이버, 총선 전 ‘유해 딥페이크’ 막는 대책 발표한다

네이버가 4·10 국회의원 총선거를 앞두고 딥페이크(Deepfack) 관련 키워드 검색 결과에 경고 라벨을 붙이는 방안을 추진한다. 21일 정보기술(IT) 업계에 따르면 네이버는 이르면 다음 주 중 총선 페이지를 열고 가짜뉴스 대응 방안과 딥페이크 대응책 등을 발표할 예정이다. 딥페이크는 ‘딥러닝(Deep Learning)’과 ‘가짜(Fake)’의 합성어로 기존 인물의 얼굴이나...

2024-02-21 22:12
오픈AI·MS 등 AI 선도 20개사, 딥페이크 선거 악용 방지책 마련 약속

뮌헨 안보회의서 협력안 발표딥페이크 자동 검출·워터마크 표기 등 기술 협력하기로X·틱톡 등 플랫폼 기업들도 참여 ‘챗GPT’로 생성형 인공지능(AI) 돌풍을 일으킨 오픈AI를 비롯해 마이크로소프트(MS), 구글 모회사 알파벳, 메타 등 AI 기술을 선도하는 빅테크 20개사가 딥페이크 등 AI 기술의 선거 악용 방지책을 마련하겠다고 약속했다. 17일(현지시간) CNN방송에...

2024-02-18 11:11
‘살인자ㅇ난감’ 감독 “손석구 아역? CG로 만든 얼굴…제작비 많이 들였어요”

높은 싱크로율로 화제를 모았던 넷플릭스 시리즈 ‘살인자ㅇ난감’ 주연 배우 손석구의 아역 얼굴이 딥페이크 기술을 사용한 CG인 것으로 밝혀졌다. ‘살인자ㅇ난감’ 이창희 감독은 14일 서울 종로구 소격동 한 카페에서 진행된 인터뷰에서 ‘손석구의 아역이 싱크로율이 높다는 얘기가 많다’는 질문에 “연기는 아역 (강지석) 배우가 연기를 하고, 얼굴은 손석구...

2024-02-14 17:19
메타, 모든 AI 이미지에 ‘라벨’ 붙인다…합성 이미지 집중 단속

최근 미국 대선을 앞두고 조 바이든 대통령의 목소리를 AI로 조작한 가짜 전화 유세가 확산되고 팝스타 테일러 스위프트의 얼굴과 음란물을 합성한 AI 조작 이미지가 SNS를 떠돌며 ‘딥페이크(AI를 활용한 이미지 및 음성 합성 기술) 규제’가 미국 내 주요 의제로 떠올랐다. 틱톡 역시 6일 개최된 ‘안전한 인터넷의 날’ 미디어 워크숍을 통해 “의도한 바와 상관없이...

2024-02-07 17:34
네이버, 총선 앞두고 AI 댓글ㆍ딥페이크 감시 강화

네이버는 뉴스 댓글 외 선거 기간 다른 서비스 영역에서의 생성형 AI 기반 가짜 정보 생성과 유통, 딥페이크 영상에 대한 대응도 조만간 마련한다. 선거를 앞두고 뉴스 댓글 집중 모니터링 기간에 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화한다. 각 부서 핫라인을 구축해 이슈 발생 시 빠른 대응에 나선다. 네이버 측은 “문장 맥락을 파악해 혐오...

2024-02-01 16:47
딥페이크·가짜뉴스에…총선 앞둔 韓, EU식 ‘AI규제’ 힘 받나

바이든 가짜목소리 전환에 '혼란'자율 외치던 美, 규제입법 목소리EU는 징벌적 과세 등 강력 규제정부 "현행법으로도 제재 가능"추가규제 필요성엔 신중한 입장AI기본법 국회서 1년째 계류 중 팝가수 테일러 스위프트의 사진이 인공지능(AI) 기술로 합성된 딥페이크 이미지가 확산하면서 전 세계적으로 AI에 대한 강력한 규제가 필요하다는 목소리가 커지고...

2024-01-30 05:00
[사설] ‘딥페이크’가 선거 민심 더럽히는 불상사 없어야

중앙선거관리위원회가 어제 인공지능(AI) 기반 ‘딥페이크’를 활용한 선거운동을 전면 금지했다. 실제와 구분하기 어려운 가상의 음향·이미지·영상은 4월 총선까지 제작·편집·유포·상영할 수 없다. 민주주의 최대 위협 요소를 사전에 차단하겠다는 것이다. 당내 경선이나 투표 참여 권유 등에선 허용된다. 딥페이크는 대중을 감쪽같이 속일 수 있다. 사실과 거짓을...

2024-01-30 05:00
‘AI의 그림자’…스위프트 음란 딥페이크 이미지에 미국 발칵

노골적 성적 자세 합성 이미지 SNS에서 확산백악관 대변인 “의회 전략적 입법 필요”나델라 MS CEO “놀랍고 끔찍하다” 팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란한 딥페이크 이미지가 온라인상에서 확산해 전 세계 팬들이 공분했다. 이 이미지는 인공지능(AI) 도구로 생성된 것으로 추정된다. 최근 딥페이크 피해 사례가 잇따르는 가운데 미국 최고...

2024-01-28 16:18
“시리, 듣고 있니?”…외신도 사로잡은 ‘갤럭시 S24’, 게임 체인저 되나 [이슈크래커]

CNBC는 “개인정보보호 및 저작권 침해 등에 있어 AI 기능이 무엇을 의미해야 하는지 고려해야 한다”고 전했고, 우드 수석분석가는 “AI 기반 이미지 및 비디오 조작은 특히 딥페이크 콘텐츠 등 몇 가지 윤리적 질문을 남긴다”고 짚었죠. 그는 “삼성의 AI 기반 기능이 성공하기 위해서는 이점에 대한 명확한 의사소통, 사용사례의 지속적인 확대 등이 필요하다”...

2024-01-18 16:54
[사설] CES 뒤덮은 AI 물결, 졸면 죽는다

컨트롤타워를 세워 덩어리 규제를 해결해야 한다는 전문가 조언을 경청할 일이다. 당장 2030년 831억 달러(약 109조3000억 원) 규모의 시장부터 남의 떡이 되고 만다. 보안·윤리 문제 대처도 시급하다. AI 유토피아의 이면에는 딥페이크, 피싱 등 위험요소가 도사리고 있다. 지난해 영국 ‘블레츨리 선언’의 후속 대응을 한국이 주도할 수 있도록 길을 뚫어야 한다.

2024-01-12 05:00
안랩 “사이버 공격 및 가상자산 탈취 노린 개인 지갑 공격 심화”

선전•선동(Propaganda, 프로파간다)를 목적으로 딥페이크 기술을 활용해 가짜 뉴스를 생산하거나, 과거에 유출된 내용을 새로운 해킹 결과물이라고 허위로 주장할 수 있다. 특히, 국가 배후 공격 그룹의 경우 적대 세력의 정보를 빼내기 위한 활동뿐 아니라 전력 등 인프라 장애를 노린 공격도 시도할 수 있다. 이를 위해 공격자는 타깃을 직접 공격하는 방법 외에...

2023-12-28 13:23
‘AI’와 함께 맞이하는 2024 선거, 얼마나 달라지나 [AI 선거]

미국 싱크탱크 브루킹스연구소는 딥페이크 등 AI 기술 발전이 내년 주요국 선거에 몰고 올 수 있는 긍·부정적 변화를 각각 정리했다. 먼저 정치인들은 생성형 AI를 이용해 선거전에 빠르게 대응할 수 있게 됐다. RNC도 바이든 대통령의 재선 도전 발표 직후 새 비디오를 공개했다. 내년에는 대응 시간이 며칠, 몇 시간이 아니라 몇 분으로 대폭 단축될 수 있다. AI는...

2023-12-16 06:00

1 2 3 4 5 6 7