AI안전 검색결과 - 이투데이

검색결과 총196건

최신순 정확도순

정부, 앤스로픽과 AI 보안 협력 논의…'미토스 접근권'은 아직

정부가 앤스로픽과 인공지능(AI) 사이버보안 협력 논의에 착수했지만 ‘미토스 접근권’ 확보에는 이르지 못했다. 글로벌 AI 안보 경쟁이 본격화되는 가운데 정부가 보다 적극적으로 대응해야 한다는 지적이 나온다. 11일 과학기술정보통신부와 정보통신기술(ICT) 업계에 따르면 류제명 과기정통부 제2차관은 이날 오전 서울 광화문 인근 모처에서 마이클 셀리토 앤

2026-05-11 16:36
AI 안보전으로 번진 '미토스 쇼크'…“6~12개월이 골든타임”

11일 과기정통부·엔스로픽 회의‘프로젝트 글라스윙’ 참여 타진이달 말 구체적 대응 방안 마련트럼프 행정부, AI 안보 자산화미토스 접근권 확보 쉽지 않아“독자 AI 기반 보안 체계 필요” 앤스로픽의 ‘미토스’ 등장으로 생성형 인공지능(AI) 경쟁이 국가 안보 체계 확보전으로 번졌다. 업계에서는 향후 6~12개월이 AI 기반 사이버 공격 확산을 막기 위한

2026-05-10 17:00
[데스크 시각] 앤스로픽 목에 방울 달기

생성형 인공지능(AI) 기업 앤스로픽은 원래 ‘안전을 위한 반란’에서 출발한 회사였다. 오픈AI가 지나치게 상업화되고 안전성을 경시하는 것에 반발한 다리오 아모데이 등 핵심 인력들이 ‘보다 안전하고 통제 가능한 AI’를 만들겠다며 세운 회사가 앤스로픽이다. 실제로 앤스로픽은 그동안 AI 헌법, 위험성 평가, 자율 규제 등을 강조하며 업계 내 대표적인 ‘AI

2026-05-08 06:00
기업 94.6% "AI 기본법 내용 몰라"⋯표준협회, 대응 지원 세미나 개최

올해 1월 인공지능(AI) 기본법이 본격적으로 시행됐지만 국내 기업 10곳 중 9곳 이상은 법의 내용조차 제대로 파악하지 못하고 있는 것으로 나타났다. 4일 한국표준협회에 따르면 기업 종사자 368명을 대상으로 실시한 설문조사 결과 응답자의 94.6%가 올해 1월 22일 시행된 'AI 기본법'의 내용을 제대로 알지 못하는 것으로 집계됐다. 세부적으로

2026-05-04 09:42
LG-KETI, ‘엑사원’으로 ‘연 1000만 건’ 이상 안전 신고 처리한다

엑사원 4.5, 행안부 ‘AI 안전신문고’ 두뇌로하루 3만9000건 이상 안전 신고엑사원이 분석해 핵심 정보 추출 LG AI연구원이 한국전자기술연구원(KETI)과 함께 LG의 인공지능(AI) 모델 ‘엑사원(EXAONE)’을 기반으로 행정안전부의 ‘AI 안전신문고’ 1단계 연구 개발을 완료하고, 연내 시범 서비스 준비를 본격화하고 있다. 폭증하는 신고 처리

2026-04-30 10:00
오픈AI 운명 가를 재판 시작…머스크 “자선단체 훔친 셈”

머스크 “오픈AI는 내 아이디어”“패소 시 모든 자선단체 위험”올트먼, 머스크 발언 전에 퇴청오픈AI “경쟁자 괴롭히기” 반박 챗GPT 개발사인 오픈AI의 운명은 물론 인공지능(AI) 산업의 지배구조를 뒤흔들 세기의 재판이 시작됐다. 일론 머스크 테슬라 최고경영자(CEO)가 오픈AI의 영리법인 전환을 문제 삼아 제기한 소송 첫 재판에서 양측이 정면 충돌했다

2026-04-29 17:27
과기정통부, 국내 AI·디지털 핵심기술 국제표준화 지원 확대

과학기술정보통신부는 29일 정보통신기획평가원, 한국정보통신기술협회와 함께 AI·디지털 핵심 표준 연구개발과 표준화 포럼 활동을 강화해 국내 핵심 기술의 국제 표준화를 통한 글로벌 시장 주도권 확보를 지원하겠다고 밝혔다. 최근 AI·디지털 분야에서 피지컬 AI를 포함한 AI 기술 패권 확보를 위해 국제표준화기구 및 빅테크를 중심으로 데이터, 안전·신뢰성

2026-04-29 12:00
국회 과방위 “미토스 위협 현실화”…정부에 구체적 대응 주문

인공지능(AI)이 사이버 공격의 진입 장벽을 낮추며 보안 패러다임이 급변하는 가운데 국회 과학기술정보방송통신위원회에가 정부 차원의 대응 전략 재정비를 주문했다. 28일 국회 과방위 전체회의에서는 AI가 사이버 공격의 진입 장벽을 급격히 낮추고 있다는 지적이 제기됐다. 최근 앤스로픽이 제한적으로 공개한 클로드 미토스 프리뷰가 대량 보안 취약점을 한꺼번에

2026-04-28 15:18
하사비스 구글 딥마인드 CEO "5년 내 AGI 시대…과학 발전의 황금기 맞을 것"

데미스 하사비스 구글 딥마인드 공동 창업자 겸 최고경영자(CEO)가 “범용 인공지능(AGI) 시대가 5년 안에 도래할 것으로 예상되면서 우리는 또 다른 전환기 앞에 있다”며 “다양한 도전 과제를 잘 헤쳐나가면 과학 발전의 황금기를 맞을 수 있다”고 말했다. 27일 하사비스 CEO는 서울 포시즌스 호텔에서 배경훈 부총리 겸 과학기술정보통신부 장관을 만나

2026-04-27 17:36
배경훈, 구글 딥마인드와 ‘K-문샷’ 협력…연내 강남에 ‘구글 AI 캠퍼스’ 조성

과학기술정보통신부가 세계 최고 수준의 인공지능(AI) 연구 역량을 보유한 구글 딥마인드와 손잡고 ‘K-문샷’ 프로젝트와 책임 있는 AI 활용을 위한 협력 체계를 구축한다. 구글은 연내 한국에 'AI 캠퍼스'를 설립하고 과학기술·AI 안전 분야까지 전방위적인 공동 연구를 진행할 예정이다. 27일 배경훈 부총리 겸 과기정통부 장관은 2016년 알파고와 세계

2026-04-27 16:36
과기정통부, ‘에이전틱 AI 얼라이언스’ 첫 워크숍…관련 생태계 발전 전략 상반기 수립

과학기술정보통신부가 올해 상반기 수립 예정인 ‘에이전틱 인공지능(AI) 생태계 발전 전략’에 대해 민·관 협의체의 의견을 수렴했다. ‘에이전틱 AI 얼라이언스’ 출범 이후 첫 워크숍을 열고 생태계 조기 구축을 위한 실행 전략 논의에 착수했다. 27일 과기정통부는 에이전틱 AI 생태계 발전 방향과 추진 전략 논의를 위한 워크숍을 개최했다고 밝혔다. 1일

2026-04-27 13:00
AI ‘접근권’이 안보와 직결…韓, 앤스로픽 ‘글라스윙’ 참여 가능할까

한국 정부가 앤스로픽의 ‘프로젝트 글라스윙’ 참여를 타진하고 있지만 실제 접근 문턱은 예상보다 높다는 지적이 나온다. AI 모델에 대한 접근 권한이 ‘글로벌 AI 패권 경쟁’ 양상을 재편하며 국가 안보 문제로도 이어지는 모양새다. 26일 한국이 프로젝트 글라스윙 참여를 추진 중인 가운데 앤스로픽의 ‘클로드 미토스’에 외부 접근이 허용된 국가는 영국이 유

2026-04-26 11:22
[반휘은의 AI 이야기] 가장 위험한 직원

바야흐로 에이전틱 AI의 시대다. 2022년 말 ChatGPT의 등장 이후, AI는 질문에 답하는 챗봇에서 코드를 짜고 문서를 분석하는 어시스턴트로, 다시 스스로 계획을 세우고 도구를 호출하며 업무를 수행하는 자율형 에이전트로 진화해 왔다. 에이전틱 AI는 사용자가 일일이 프롬프트를 입력할 필요 없이, 목표만 주어지면 하위 작업을 분해하고 외부 시스템과

2026-04-22 06:00
美 백악관 긴장시킨 ‘클로드 미토스’…앤스로픽 AI, 안보 변수로 부상

“스스로 공격 가능…너무 강력한 AI”“취약점 찾고 공격코드 자체 생성”美, 주요 기관 관계자 긴급 소집정부 핵심인프라 보안 강화 논의 ‘성능이 너무 강력해서 위험하다’는 이유로 제한적으로 공개된 앤스로픽의 최첨단 인공지능(AI) 모델 ‘클로드 미토스’가 사이버 안보 변수로 부상했다. 보안 취약점 탐지를 넘어 자체 공격 가능성까지 드러나면서 미 백악관이

2026-04-12 18:00
메타 초지능팀, 첫 AI 모델 ‘뮤즈 스파크’ 발표…경쟁사 AI에 필적

GPT·제미나이 등 경쟁모델과 성능 비슷‘심사숙고 모드’로 고급 추론 능력 갖춰AI 안전성 평가서 경쟁모델 뛰어 넘어초지능팀 첫 성과…AI 경쟁 본격화 메타가 지난해부터 초지능 구현을 목표로 적극적으로 영입한 인재들로 구성된 초지능팀이 첫 번째 인공지능(AI) 모델을 공개했다. 8일(현지시간) 월스트리트저널(WSJ), CNBC 등에 따르면 알렉산더

2026-04-09 09:05
오픈AI, 다가올 ‘초지능시대’ 정책 제안…“로봇세·주 4일 근무 고려해야”

AI 이익 공유 위한 세제개편 필요성 강조생산성 향상 반영한 근로시간 단축 제안AI 감시·검증 체계 구축 필요성 제기 챗GPT 개발사 오픈AI가 초지능시대를 대비해 로봇세 신설, 주 32시간 근무제(주 4일 근무제), 공공 기금 조성 등 여러 정책 아이디어를 제안하는 정책 제안서를 발표했다. 6일(현지시간) 테크크런치에 따르면 오픈AI는 ‘인공지능

2026-04-07 13:37
고려대 AI보안연구소 개소…이상근 소장 “‘AI 신뢰 1등’ 달성해야”

AI 활용 사이버 공격 급증"신뢰할 수 있는 AI 구현이 핵심" 인공지능(AI) 에이전트가 확산하면서 보안이 새로운 경쟁력으로 부상했다. 이에 고려대학교에서 새롭게 출범한 AI보안연구소는 ‘AI 3대 강국’을 목표로 하는 우리나라가 ‘신뢰할 수 있는 AI’로 1등을 노려야 한다고 제언했다. 연구소는 보안연구 거점으로 AI 신뢰 선도국가 도약에 기여할 계획

2026-04-04 07:00
'한-불 과학기술공동위' 개최…수교 140주년·마크롱 방한 계기

과학기술정보통신부가 프랑스 고등교육연구우주부(MESRE)와 ‘제9차 한-불 과학기술공동위원회를 개최했다. 공동위는 1981년에 체결된 ‘한-불 과학기술협력협정’을 바탕으로 양국간 과학기술 정책 공유 및 협력 과제 발굴을 위해 운영되어 온 정례 협의체다. 3일 서울 국가과학기술자문회의에서 열린 제9차 회의는 한-불 수교 140주년과 프랑스 대통령 방한을

2026-04-03 14:30
과기정통부, ‘AI 안전 국민 공감 토크콘서트‘ 개최…안전한 AI 미래 함께 그린다

과학기술정보통신부는 한국정보통신기술협회, 인공지능안전연구소와 함께 일반 국민과 AI 전문가가 참여하는 'AI 안전 국민 공감 토크콘서트'를 1일 개최했다. 이날 오후 7시 서울 강남구 삼성동 가빈아트홀에서 열린 이번 토크콘서트는 국가 차원의 AI 안전 확보 방안을 수립하기에 앞서 국민 눈높이에 맞는 AI 안전 정책을 만들어 가기 위한 소통과 공감의 장

2026-04-01 19:00
과기정통부, ‘에이전틱AI 얼라이언스’ 출범…발전·신뢰 모두 챙긴다

과학기술정보통신부가 기술 개발부터 산업 적용, 생태계 조성 및 안전·신뢰 확보까지 전 주기를 아우르는 협력 플랫폼 ‘에이전틱 AI 얼라이언스(Agentic AI Alliance)’를 구축했다. 스스로 판단하고 행동하는 에이전틱 AI로 패러다임이 전환됨에 따라 국가 차원의 역량을 결집해 경쟁력을 확보하겠다는 전략이다. 1일 과기정통부는 서울 엘타워에서

2026-04-01 16:11

1 2 3 4 5 6 7 8 9 10

브라보 마이 라이프

거짓말하는 AI, 고령자 AI 안전하게 사용하는 법

AI의 발전이 일상에 깊숙이 스며들면서 시니어 세대 역시 AI와 자연스럽게 만나는 시대가 도래했다. 누구나 AI를 활용해 원하는 정보를 얻을 수 있지만, 그 안에 숨어 있는 위험한 판단과 무감각한 자신감을 인지하지 못하고 있다. 특히 디지털 취약계층인 고령층은 AI가 주는 답변을 ‘신뢰해도 되는 말’로 착각하기 쉽다. 하지만 AI는 인간처럼 맥락

2025-09-09 07:00