네이버, 딥페이크 검색하면 “유의하세요” 경고 문구 노출한다

입력 2024-02-28 17:00
  • 가장작게

  • 작게

  • 기본

  • 크게

  • 가장크게

▲네이버에 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 제공된다. (사진제공=네이버)
▲네이버에 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 제공된다. (사진제공=네이버)
네이버가 4월 제22대 국회의원 선거를 앞두고 생성형 인공지능(AI)을 활용한 딥페이크, 허위정보 확산 방지에 나섰다. 자사 생성형 AI 서비스에 선거 주의 안내 문구를 띄우고, 딥페이크 관련 검색 결과에서는 경고 문구를 노출한다.

네이버는 28일 검색 블로그를 통해 “오늘부터 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 제공된다”고 공지했다.

안내 문구가 제공되는 검색 결과는 딥페이크를 부적절하게 사용하거나 관련 정보를 찾고자 하는 의도가 포함된 검색어들을 대상으로 한다. 검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있도록 지원한다는 의도다.

가령 딥페이크 사이트를 네이버에 검색할 경우, 검색 결과 상단에 “딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 주세요”라는 안내 문구가 뜬다.

딥페이크 악용 사례로 인한 피해 유형이나 피해 신고 방법 등을 안내하는 도움말도 제공해 이용자의 피해에 대응할 수 있는 창구도 마련했다.

네이버는 블로그, 카페 등에서 동영상 등을 이용한 게시물을 작성할 때, 새로 시행된 공직선거법을 인지하지 못해 저촉되지 않도록 딥페이크 관련 안내문구를 제공해 사용자가 관련 내용을 확인할 수 있도록 했다.

뉴스 서비스에서도 AI, 로봇이 자동으로 작성한 기사를 사용자가 잘 인지할 수 있도록 표기를 강조한다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에 “이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성됐습니다”라는 문구가 노출되고 있다.

네이버는 생성형 AI 서비스인 클로바 X와 CUE:(큐:) 서비스 대화창 하단에 선거 관련 사용자 주의 안내 문구를 제공할 예정이다. 네이버는 이날 공식 블로그 다이어리에 이같은 내용을 공지하고 “아직은 생성형 AI의 기술적 한계로 정보 구성에 어려움이 있는 데 반해 선거와 관련된 정보는 작은 오류로도 피해가 발생하고 선거 참여에 영향을 줄 수 있어 그 정확성이 매우 중요하기 때문에 클로바 X, 큐: 서비스를 이용할 때 주의가 필요하다”고 강조했다.

이날부터 네이버 뉴스에서 선거 관련 허위정보 등이 포함된 댓글을 신고할 수 있다. 네이버 신고센터 메인 페이지에 ‘선거 관련 허위 정보 신고’ 채널을 개설했다. 명예훼손 등 권리보호센터를 통해 접수되는 게시중단 요청의 경우 선거 출마 후보자 등 관련인으로부터의 요청은 선거 관련법과 KISO 선거 관련 정책에 따라 운영될 예정이다. 게시물에 대한 임시조치는 선거관리위원회의 결정에 따라 이뤄지게 된다.

네이버는 뉴스 댓글 집중 모니터링 기간 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생 시 빠르게 대응해 나갈 예정이다.

  • 좋아요0
  • 화나요0
  • 슬퍼요0
  • 추가취재 원해요0

주요 뉴스

  • ‘인기 있는 K팝스타’는 여자가 너무 쉬웠다…BBC가 알린 ‘버닝썬’ 실체 [해시태그]
  • 서울시민이 뽑은 랜드마크 1위는 '한강'…외국인은 '여기' [데이터클립]
  • 윤민수, 결혼 18년 만에 이혼 발표…"윤후 부모로 최선 다할 것"
  • 육군 32사단서 신병교육 중 수류탄 사고로 훈련병 1명 사망…조교는 중상
  • "웃기려고 만든 거 아니죠?"…업계 강타한 '점보 제품'의 비밀 [이슈크래커]
  • '최강야구' 고려대 직관전, 3회까지 3병살 경기에…김성근 "재미없다"
  • 비용절감 몸부림치는데…또다시 불거진 수수료 인하 불씨 [카드·캐피털 수난시대上]
  • 문동주, 23일 만에 1군 콜업…위기의 한화 구해낼까 [프로야구 21일 경기 일정]
  • 오늘의 상승종목

  • 05.21 장종료

실시간 암호화폐 시세

  • 종목
  • 현재가(원)
  • 변동률
    • 비트코인
    • 96,005,000
    • +0.55%
    • 이더리움
    • 5,157,000
    • +9.54%
    • 비트코인 캐시
    • 708,500
    • +3.28%
    • 리플
    • 744
    • +2.34%
    • 솔라나
    • 244,200
    • -3.55%
    • 에이다
    • 688
    • +3.46%
    • 이오스
    • 1,198
    • +4.36%
    • 트론
    • 170
    • +1.19%
    • 스텔라루멘
    • 155
    • +1.97%
    • 비트코인에스브이
    • 95,150
    • +3.03%
    • 체인링크
    • 23,030
    • -0.73%
    • 샌드박스
    • 644
    • +2.06%
* 24시간 변동률 기준