미국에서 인공지능(AI)으로 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트의 이용자가 폭증하면서 악용 우려가 커지고 있다.
10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만 명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다. 딥페이크는 딥러닝과 페이크...
미국 라스베이거스의 새로운 장소로 주목받는 공연장 스피어, 미국 멧 갈라 쇼에 나타난 바퀴벌레, 생성형 인공지능(AI)을 통해 만들어진 프란치스코 교황의 딥페이크(AI 기반 인물 이미지 합성 기술) 사진 등이 선정됐다.
NYT는 “선정자 가운데 일부는 ‘사람’이 아니다. 그러나 명단에 오른 대상 모두 우리가 무엇을 입고, 어떻게 살아가며, 어떻게 자기 자신을...
국회 정치개혁특별위원회가 선거 90일 전부터는 딥페이크(Deepfake)를 활용한 선거운동을 못 하도록 하는 법안을 통과시켰다.
정개특위는 5일 전체회의를 열고 이 같은 내용의 공직선거법 개정안을 처리했다.
개정안에는 선거일 90일 전부터 선거일까지 선거 운동을 위해 딥페이크 영상을 제작·편집해 유포·상영 또는 게시할 수 없게 하는 내용이 담겼다.
이를...
2일 방송된 JTBC 토일 드라마 '웰컴투 삼달리'는 첫 회부터 1994년의 故 송해를 딥페이크 기술로 부활시키며 시청자들에게 여운을 선사했다. 매주 일요일마다 안방극장에 울리던 목소리까지 완벽히 구현했다.
‘딥페이크’는 딥러닝(deep learning)과 페이크(fake)의 합성어로, 컴퓨터가 스스로 외부 데이터를 조합, 분석하여 학습하는 딥러닝을 활용해 기존...
비밀번호부터 딥페이크까지 사이버 보안 ‘경고등’X “과금 시스템 시범 도입”…구글은 ‘비밀번호 종식’“보안 강화·사용자 불편 방지 사이서 균형 찾아야
올여름 개봉한 영화 ‘미션 임파서블: 데드 레코닝 PART ONE’에는 스파이 조직 요원인 에단 헌트(톰 크루즈)가 정교한 가면을 쓰고 목소리까지 바꿔가며 타인을 사칭하는 장면이 나온다. 이 장면은 스파이뿐만...
메타의 이번 광고 정책은 빅테크들이 최근 생성형 AI에 따른 가짜뉴스, 딥페이크 등의 부작용과 씨름하는 가운데 나와 주목된다.
앞서 구글도 9월 모든 선거 광고주에게 AI에 의해 생성 및 변경되는 경우 이를 공개하도록 요구할 예정이라고 밝힌 바 있다. 해당 조치는 이달 중순부터 적용된다.
블룸버그통신에 따르면 전문가들은 내년 미국을 비롯해 러시아, 대만...
전 세계적으로 AI 위험성 논란에 가짜뉴스, 딥페이크 등의 부작용이 발생하면서 이를 막기 위한 규제에는 관심이 높아지는 반면 AI 리터러시에 대한 중요성은 외면받는 분위기다.
윤석열 대통령까지 나서서 디지털 격차 해소를 강조하고 있음에도 불구하고 내년 관련 정부 예산은 반토막이 났다. 내년 디지털 격차 해소 기반 조성 사업 예산은 428억6400만 원으로...
“딥페이크 막자”…AI 콘텐츠 식별 워터마크 도입 추진
바이든 대통령은 행정명령 후 “나도 내 것(딥페이크)을 본 적이 있는데, ‘내가 도대체 언제 저렇게 발언했지’라고 말할 정도”라고 언급했다. 이어 “AI는 우리 삶을 더 좋게 만들고 있지만 저작권 및 개인정보 침해, 가짜뉴스, 딥페이크 등 AI의 위험을 피하기 위해서는 관리해야 한다”고 목소리를 높였다....
또 그는 자신의 딥페이크 영상을 봤던 경험을 소개하면서 AI 규제의 필요성을 강조했다.
30일(현지시간) 블룸버그통신에 따르면 백악관은 바이든 대통령이 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다고 밝혔다. 행정명령에 따라 AI 개발자·기업들은 AI 모델이 국가 안보, 경제 및 건강상 위험을 초래할 경우 안전 테스트 결과를 미국 정부에 먼저...
시인 이상과 대화하며 교감…딥페이크 기술관동별곡 '실감 미디어아트'로 재탄생16일 일반에 공개…사전 예약 필수
1937년에 우리 곁을 떠난 시인 이상이 돌아왔다. 딥페이크(Deep-fake) 기술로 다시 살아난 시인 이상을 국립중앙도서관에서 만날 수 있다.
12일 국립중앙도서관은 인공지능(AI) 기술과 한국 고전 문학을 결합한 실감체험관 '열린마당'을 공개했다....
최근 생성형 AI에 의한 거짓뉴스, 딥페이크(deepfake) 및 위조를 통한 허위 영상 생성 등 선거를 방해하는 행위가 다수 발생해 왔기 때문이다.
젤렌스키 우크라이나 대통령의 항복선언 가짜영상, 미 국방부 폭발의 딥페이크 가짜영상, 트럼프 전 대통령 등 유명 정치인에 대해 악의적으로 생성된 가짜영상 등은 사회에 충격을 주었다. 최근에는 전문가도...
영국 주간 이코노미스트는 최근 “대형 언어 모델을 통해 가짜뉴스량이 1000배, 10만 배로 늘게 되면 사람들이 다른 사람에게 투표하도록 설득될 수 있다”며 “초현실적인 딥페이크는 가짜 오디오와 사진, 비디오가 사실이 아닌 것으로 밝혀지기 전까지 유권자를 흔들 수 있다”고 지적했다.
AI를 이용하면 유권자별로 고도로 개인화한 선전을 펼칠 수 있다는 점도...
“작은 학교 교수셨던 아버지가 인공지능(AI) 관련 스타트업을 창업하셨는데, 내가 했다면 더 잘할 수 있었다고 생각했다.”
◇딥페이크에서 모션캡처 솔루션으로 = 사명 플라스크는 얼핏 떠오르는 과학 실험실에서 쓰이는 유리 실험기구 플라스크(Flask)와는 다른 플라스틱(Plastic)과 마스크(Mask)의 합성어다.
창업 초기 아이템이 인공지능을 기반으로 인간 이미지 합성...
배우·가상인간, 창작·기계작업 간 대체성 논란
물론 생성 인공지능으로 가짜 이미지, 영상을 만드는 딥페이크 기술을 적극적으로 받아들이는 배우도 있다. 한 유명 배우는 자신의 얼굴을 드라마 제작에 사용해도 좋다는 내용의 계약서에 서명했다. 그 배우의 인공지능 딥페이크 버전이 드라마에 ‘출연’하는 것이다. 이 딥페이크 버전 배우가 ‘연기’하는 모든 말과...
고봉수 SK쉴더스 CXE그룹장은 “딥페이크 기술 악용 등 영상 위∙변조 사례가 늘어나며, 영상 보안에 대한 관심이 높아짐에 따라 이와 관련된 새로운 솔루션을 선보이게 됐다”라며 “지문인식기 등 철저한 보안인증 기능을 탑재한 캡스 영상반출솔루션은 9월 의료법 개정안 시행을 앞둔 의료 기관 관계자들에게도 효과적인 대응 방안이 될 것”이라고 말했다.
딥페이크 기술로 이미지·음성 변조챗GPT로 사기 대본 작성할 수도“금융·정부 기관 보호 툴 무력화”미국 온라인 사기 피해액 19% 급증
범죄자들이 금융사기에 고도로 발달한 인공지능(AI)을 활용하기 시작하면서 ‘범죄 3.0’ 시대가 열리고 있다는 경고가 나왔다.
10일(현지시간) 야후 파이낸스에 따르면 전문가들은 AI가 사기 행각에 악용돼 범죄 수법이 한층 더...
예를 들어 사회에 해를 끼치는 딥페이크 영상을 만드는 것에 대한 대가는 있어야 한다는 것이다.
피차이 CEO는 “AI와 함께 일해본 사람이라면 AI가 매우 심오하고 (차원이) 다르기 때문에 AI에 대한 적응 방법에 대해 생각한다면 사회적 규제가 필요하다는 것을 깨닫게 될 것”이라고 설명했다.
그는 AI 기술에 대해 사회가 준비돼 있는지에 대한 사회자의 질문에...
그러나 최근 이미지 생성 AI의 손 묘사가 크게 개선되면서 딥페이크 폐해가 더 커질 것이라는 불안이 고조되고 있다고 26일(현지시간) 워싱턴포스트(WP)가 보도했다.
인기 있는 이미지 생성 AI인 미드저니는 손을 서툴게 그리는 문제를 해결하기 위해 이달 중순 소프트웨어를 업데이트 했다. 아티스트들은 미드저니의 새 버전이 이전보다 훨씬 잘 손 이미지를 생성했다고...
이 밖에도 딥브레인AI는 AI 영상합성 분야에서 국내외 148건의 지적 재산권을 출원 또는 등록했으며, 국제 컴퓨터 비전 학회(ICCV) 2021과 인터스피치(Interspeech) 2021에 딥페이크 탐지와 음성 합성 관련 논문을 등재하는 등 더 나은 AI 휴먼을 제공하기 위한 연구 수행 및 기술 개발에 지속적인 노력을 기울이고 있다.
장세영 딥브레인AI 대표는 "세계 최고...