AI가 스스로 보안 취약점을 찾아 공격 코드를 개발한 사례가 확인됐다.
17일 구글 위협 인텔리전스 그룹(GTIG)은 이 같은 내용을 담은 ‘AI 위협 추적 보고서’를 발표했다고 밝혔다.
GTIG와 맨디언트는 사이버 범죄와 첩보, 여론 공작에 AI를 활용한 사례를 분석했다. 공격자들은 AI에 명령을 입력해 작업을 시키는 방식에서 벗어나 여러 AI 에이전
워터마크 없는 AI 영상도 시각·통계적 특성 분석해 적발…크롬·사파리 확장 완성美 선거 허위정보 논란 속 기술 부각…언론·플랫폼·공공기관 맞춤형 API 공급
시각특수효과(VFX) 전문기업 M83이 인공지능(AI) 연구개발 자회사 디블라트와 손잡고 생성형 AI로 생성·변형된 이미지와 영상을 정밀 탐지하는 딥페이크 판별 솔루션 ‘안티제니(AntigenI)’
EU AI법 대응 조치⋯출시 초기 EU에만 적용
오픈AI가 챗GPT가 생성한 글에 사람 눈에는 보이지 않는 ‘텍스트 워터마크’를 적용한다. 경쟁사 앤스로픽이 AI 모델 클로드에 워터마크를 도입한 데 이어 생성형 AI 기업들의 콘텐츠 출처 표시가 확산하는 모습이다.
5일(현지시간) 오픈AI는 공식 블로그를 통해 향후 수 주일에 걸쳐 유럽연합(EU) 지역의
한국전자기술연구원(KETI)이 AI로 변형된 이미지에서도 숨겨진 워터마크를 안정적으로 찾아내는 기술로 국제전기전자공학회(IEEE)의 ‘JPEG Trust 챌린지’에서 1위를 차지했다. 미국·영국·독일 등 12개국 기업·기관이 참여한 가운데 미국 워터마크 기술기업 트루포와 최종 경쟁해 우승했다.
KETI는 16일(현지시간) 핀란드 탐페레에서 열린 ‘20
기존 불법정보와 달리 판단 기준이 모호했던 ‘허위조작정보’를 가려내기 위한 민간 자율규제 체계가 본격 가동됐다. 한국인터넷자율정책기구(KISO)가 허위·조작성뿐 아니라 유포 목적과 실제 피해까지 단계적으로 따지는 기준을 마련하고 실제 신고 사건에 적용하기 시작했다. 개정 정보통신망법 시행과 함께 새롭게 만들어진 심의 체계가 운영 초기 단계에 들어섰다는 점
캐시 읽기 요금 75% 인하…에이전트 작업 비용 최대 45% 절감과학 벤치마크 점수 전작의 두 배…‘미토스 5.1’은 제한 공개EU AI법 따라 생성물에 보이지 않는 워터마크 적용
인공지능(AI) 기업 앤트로픽이 최신 모델 ‘클로드 페이블 5.1’과 ‘클로드 미토스 5.1’을 공개했다.
앤트로픽은 1일(이하 현지시간) 공식 홈페이지를 통해 페이블
베선트 “美 모델 증류했는지 조사”“중국 AI서 워터마크 발견” 주장문샷AI 키미 K3, 일부 평가서 美 추월9월 미·중 첫 AI 협상…베선트, 대표단 통솔
미국 정부가 중국 AI 모델이 미국 기업의 기술을 무단으로 학습한 것으로 확인되면 제재에 나설 수 있다고 경고했다. 중국의 저비용·고성능 오픈웨이트 모델이 빠르게 성장하자 미국이 반도체 수출통제에 이어
양국 AI 모델 놓고 대화하는 건 처음바이든 때 AI 핵사용 결정 금지 합의
미국과 중국 정부가 9월 AI 관련 회담을 개최할 예정이라고 로이터통신이 소식통을 인용해 21일(현지시간) 보도했다.
소식통에 따르면 회담은 시진핑 중국 국가주석이 도널드 트럼프 미국 대통령과 회담하기 위해 미국을 방문하는 9월 24일 이전에 열릴 가능성이 크다.
미국에선 스콧
‘뮤즈 이미지’, 광고주·크리에이터 겨냥영상 AI ‘뮤즈 비디오’도 출시 예고
메타가 처음으로 자체 이미지 생성형 AI 모델을 선보였다고 CNBC가 7일(현지시간) 보도했다.
‘뮤즈 이미지(Muse Image)’라는 이 모델을 통해 메타는 크리에이터와 광고주를 끌어들이는 것을 목표로 하고 있다. 뮤즈 이미지는 일반 이용자들이 메타 AI 앱과 웹사
카카오가 구글 딥마인드(Google DeepMind)와 함께 책임 있는 AI에 드라이브를 건다.
카카오는 구글 딥마인드와 AI 생성 콘텐츠의 투명성 확보를 위한 기술 파트너십을 체결했다고 20일 밝혔다. 이번 파트너십을 통해 카카오는 자체 AI 모델 '카나나(Kanana)'에 ‘신스ID(SynthID)’를 적용해 AI 생성 콘텐츠에 워터마크를 삽입하고
인공지능(AI)의 급격한 확산 이후 화이트칼라 직무의 위기설이 대두될 때마다 법조계는 대표적인 대체 직군으로 거론됐다. 방대한 판례 검토와 법률 문서 작성 작업은 데이터 처리에 특화된 생성형 AI의 주요 기능과 맞닿아 있기 때문이다.
글로벌 AI 업계 일각에서는 법률 업무의 완전 자동화나 2035년 전통적 변호사의 소멸 전망까지 제기됐다. 그러나 현실
한글과컴퓨터가 PDF 문서의 접근성 태그를 자동으로 생성·삽입하는 인공지능(AI) 기반 핵심 기능을 오픈소스로 공개했다. 전 세계 개발자와 기업을 ‘한컴 생태계’로 끌어들이며 글로벌 사업 확대를 본격화하겠다는 전략이다.
30일 한컴은 오픈데이터로더(OpenDataLoader) PDF에 해당 기능을 탑재해 배포했다. 이번 공개로 기업과 공공기관은 추가 비
AI 생성물 식별 의무화 선제 대응⋯딥페이크 등 방지 효과
한국조폐공사의 디지털 워터마크 기술이 스마트폰 등을 활용한 '가상 의류 피팅' 서비스에 도입된다.
조폐공사 기술연구원은 9일 AI 가상피팅·룩북 생성 서비스인 ‘LOOK PICK AI(룩픽 AI)’에 공사가 자체 개발한 ‘AI 기반 비가시성 디지털 워터마크’ 기술을 적용했다고 밝혔다.
이 기
인공지능(AI)기본법 시행과 함께 운영 중인 AI기본법 지원데스크에 접수되는 문의 중 'AI 투명성 확보' 관련 내용이 가장 큰 비중을 차지하는 것으로 나타났다.
3일 과학기술정보통신부와 한국AI·소프트웨어산업협회(KOSA)에 따르면 지난달 22일 지원데스크 개소 이후 열흘간 172건의 상담이 접수됐다. 이 중 전화 상담 78건, 온라인 상담 94건이다
진주시와 위변조 방지 종량제 봉투 도입 계약 체결개인도 스마트폰으로 비춰 위변조 여부 확인 가능
앞으로 경상남도 진주시 주민들도 쓰레기종량제 봉투의 위변조 여부를 확인할 수 있게 된다.
한국조폐공사는 진주시와 ‘위변조 방지 보안요소가 적용된 쓰레기 종량제 봉투 기술공급 계약’을 체결했다고 2일 밝혔다.
이번 계약을 통해 진주시는 조폐공사의 AI 기반
기술 발전의 속도가 인간이 감당할 수 있는 속도를 넘어섰다. 2022년 11월 챗GPT가 등장한 이후 전 세계는 단숨에 인공지능(AI)이 만들어낸 텍스트, 이미지, 영상으로 가득 찬 정보의 홍수 속으로 들어왔다. 정보는 넘치는데 신뢰는 줄어드는 모순적인 현실, ‘AI 슬럼’이 됐다. 저품질 콘텐츠가 온라인을 뒤덮고, 저작권과 윤리는 배제되며, 국가의 데이터
오늘부터 AI 기본법 시행...뭐가 달라질까? ① 산업 기반 조성▪️ 과학기술정보통신부 장관이 3년마다 인공지능 기본계획 수립▪️ 국가인공지능위원회 실효성 확보, AI 안전연구소 설립 등② '고영향 AI' 개념 도입▪️ 고영향 AI: 의료·에너지·채용·대출심사 등 국민의 생명이나 권리에 큰 영향을 주는 분야의 AI▪️ 고영향 AI 이용한 제품·서비스 제
세계 최초 ‘인공지능(AI) 기본법’이 22일 국내에서 전면 시행되며 생성형 AI 결과물의 워터마크 표시 의무화가 기업들의 부담을 불러일으킬 것으로 예상되는 가운데 이를 해결할 수 있을지 주목되는 기업이 있다. 비가시성 워터마크 기술을 제공하는 국내 스타트업 ‘스냅태그’다. 이 기업은 ‘K-세이프 공개 응용프로그램 인터페이스(API)’ 프로젝트를 통해 생
고영향 AI, 안전성·신뢰성 확보 조치 의무화의사결정에 사람 개입시 고영향 AI서 제외
국내 2500여 개 인공지능(AI) 기업의 명운을 가를 ‘AI 기본법’이 22일부터 본격 시행된다. 정부는 ‘최소 규제·최대 지원’을 원칙으로 산업 진흥에 무게를 뒀지만, 고영향 AI의 모호한 기준과 투명성 의무를 둘러싼 시장의 불확실성은 여전하다. 혁신의 마중물이
인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)이 22일부터 본격 시행된다.
21일 과학기술정보통신부에 따르면 AI기본법은 국가 AI거버넌스를 법제화하고 AI산업 활성화와 인프라 조성, AI혁신을 뒷받침하는 안전신뢰 기반에 관한 내용을 담고 있다. AI산업 진흥에 방점을 두고 필요최소 규제 원칙 아래 AI사업자에 대한 의무사항이나
유튜브 영상 하나가 세상을 들었다 놨다 하는 시대다. 한때 전 세계인에게 폭발적인 사랑을 받은 싸이의 ‘강남스타일’이 대표적인 예다. 취미, V-Log(일상생활), 요리, 미용, 육아, 게임 등 다양한 영상 콘텐츠로 스타가 되고, 이에 따른 광고 수입으로 노다지를 캐는 유튜버(유튜브에 영상을 올리며 활동하는 사람, ‘1인 크리에이터’라 부르기도 한다)도 많