인공지능안전연구소 검색결과

검색결과 총14건

최신순 정확도순

KT, 다국어 LLM 안전성 벤치마크 공개…에임인텔리전스·MS와 협력

KT가 글로벌 기업, 공공기관, 학계 등과 함께 대규모 언어모델(LLM)의 안전성과 문화적 민감성 인식 능력을 통합 평가하는 다국어 벤치마크 ‘XL-SafetyBench’를 개발했다. 벤치마크 설계에는 AI 보안 전문 기업 에임인텔리전스와 마이크로소프트(MS), 한국 인공지능안전연구소(AISI), 국내·외 전문가들이 공동으로 참여해 공신력을 높였다. 4

2026-06-04 10:10
정부, 오픈AI와 사이버 보안 협력 워크숍…미토스 대신 오픈AI 보안 접근권 확보할까

앤스로픽의 차세대 인공지능(AI) 모델인 미토스가 촉발한 보안 위협이 커지는 가운데 정부가 오픈AI와 만나 사이버 보안 협력을 논의했다. 오픈AI가 앤스로픽의 '프로젝트 글라스윙'처럼 최신 보안 특화 AI를 제한된 기관에 공개하는 가운데 정부가 접근권을 확보할지 주목된다. 18일 과학기술정보통신부는 외교부, 국가정보원, 금융위원회, 국가인공지능전략위원회

2026-05-18 16:47
정부, 앤스로픽과 AI 보안 협력 논의…'미토스 접근권'은 아직

정부가 앤스로픽과 인공지능(AI) 사이버보안 협력 논의에 착수했지만 ‘미토스 접근권’ 확보에는 이르지 못했다. 글로벌 AI 안보 경쟁이 본격화되는 가운데 정부가 보다 적극적으로 대응해야 한다는 지적이 나온다. 11일 과학기술정보통신부와 정보통신기술(ICT) 업계에 따르면 류제명 과기정통부 제2차관은 이날 오전 서울 광화문 인근 모처에서 마이클 셀리토 앤

2026-05-11 16:36
기업 94.6% "AI 기본법 내용 몰라"⋯표준협회, 대응 지원 세미나 개최

올해 1월 인공지능(AI) 기본법이 본격적으로 시행됐지만 국내 기업 10곳 중 9곳 이상은 법의 내용조차 제대로 파악하지 못하고 있는 것으로 나타났다. 4일 한국표준협회에 따르면 기업 종사자 368명을 대상으로 실시한 설문조사 결과 응답자의 94.6%가 올해 1월 22일 시행된 'AI 기본법'의 내용을 제대로 알지 못하는 것으로 집계됐다. 세부적으로

2026-05-04 09:42
과기정통부, ‘에이전틱 AI 얼라이언스’ 첫 워크숍…관련 생태계 발전 전략 상반기 수립

과학기술정보통신부가 올해 상반기 수립 예정인 ‘에이전틱 인공지능(AI) 생태계 발전 전략’에 대해 민·관 협의체의 의견을 수렴했다. ‘에이전틱 AI 얼라이언스’ 출범 이후 첫 워크숍을 열고 생태계 조기 구축을 위한 실행 전략 논의에 착수했다. 27일 과기정통부는 에이전틱 AI 생태계 발전 방향과 추진 전략 논의를 위한 워크숍을 개최했다고 밝혔다. 1일

2026-04-27 13:00
'한-불 과학기술공동위' 개최…수교 140주년·마크롱 방한 계기

과학기술정보통신부가 프랑스 고등교육연구우주부(MESRE)와 ‘제9차 한-불 과학기술공동위원회를 개최했다. 공동위는 1981년에 체결된 ‘한-불 과학기술협력협정’을 바탕으로 양국간 과학기술 정책 공유 및 협력 과제 발굴을 위해 운영되어 온 정례 협의체다. 3일 서울 국가과학기술자문회의에서 열린 제9차 회의는 한-불 수교 140주년과 프랑스 대통령 방한을

2026-04-03 14:30
과기정통부, ‘AI 안전 국민 공감 토크콘서트‘ 개최…안전한 AI 미래 함께 그린다

과학기술정보통신부는 한국정보통신기술협회, 인공지능안전연구소와 함께 일반 국민과 AI 전문가가 참여하는 'AI 안전 국민 공감 토크콘서트'를 1일 개최했다. 이날 오후 7시 서울 강남구 삼성동 가빈아트홀에서 열린 이번 토크콘서트는 국가 차원의 AI 안전 확보 방안을 수립하기에 앞서 국민 눈높이에 맞는 AI 안전 정책을 만들어 가기 위한 소통과 공감의 장

2026-04-01 19:00
과기정통부, ‘에이전틱AI 얼라이언스’ 출범…발전·신뢰 모두 챙긴다

과학기술정보통신부가 기술 개발부터 산업 적용, 생태계 조성 및 안전·신뢰 확보까지 전 주기를 아우르는 협력 플랫폼 ‘에이전틱 AI 얼라이언스(Agentic AI Alliance)’를 구축했다. 스스로 판단하고 행동하는 에이전틱 AI로 패러다임이 전환됨에 따라 국가 차원의 역량을 결집해 경쟁력을 확보하겠다는 전략이다. 1일 과기정통부는 서울 엘타워에서

2026-04-01 16:11
과기정통부, ‘에이전틱 AI 얼라이언스’ 출범…국가적 역량 결집해 생태계 주도권 선점

과학기술정보통신부가 기술개발부터 산업 적용, 생태계 조성 및 안전·신뢰 확보까지 전 주기를 아우르는 협력 플랫폼 '에이전틱 AI 얼라이언스(Agentic AI Alliance)'를 구축했다. 스스로 판단하고 행동하는 에이전틱 AI로 패러다임이 전환되는 상황에서 국가 차원으로 역량을 결집해 생태계 주도권을 확보하겠다는 전략이다. 1일 과기정통부는 서울 엘

2026-04-01 14:00
“안전 없는 혁신은 없다”...과기정통부, 국민과 함께 ‘AI 안전 마스터플랜’ 만든다

과학기술정보통신부가 ‘인공지능(AI) 안전 생태계 조성 마스터플랜’을 구체화하기 위해 산업계, 학계, 시민사회 관계자를 모아 의견수렴 간담회를 열었다. 이날 한국정보통신기술협회(TTA), 인공지능안전연구소가 ‘AI 안전 생태계 조성을 위한 3가지 전략’을 소개했으며 자유토론이 이어졌다. 6일 서울 중구 은행회관에서 진행된 이번 간담회는 상반기 발표 예정

2026-02-06 17:55
과기정통부, 국가 AI 안전 생태계 조성 마스터플랜 위한 의견 수렴 간담회 개최

과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)와 인공지능안전연구소가 주관하는 ‘국가 AI 안전 생태계 조성 마스터플랜’ 의견수렴 간담회를 6일 14시 서울 중구 은행회관 국제회의실에서 개최한다. 과기정통부는 AI 기본사회 구현을 위해 국민들이 AI를 안전하게 활용할 수 있는 환경을 구축하기 위한 AI 안전 생태계 조성을 고민하고 있다. 이번

2026-02-05 15:13
AI기본법 지원데스크 운영 열흘 동안 ‘AI 워터마크’ 문의 가장 많았다

인공지능(AI)기본법 시행과 함께 운영 중인 AI기본법 지원데스크에 접수되는 문의 중 'AI 투명성 확보' 관련 내용이 가장 큰 비중을 차지하는 것으로 나타났다. 3일 과학기술정보통신부와 한국AI·소프트웨어산업협회(KOSA)에 따르면 지난달 22일 지원데스크 개소 이후 열흘간 172건의 상담이 접수됐다. 이 중 전화 상담 78건, 온라인 상담 94건이다

2026-02-03 15:12
AI기본법 시행령 제정안 입법예고⋯1년 이상 과태료 계도기간 운영

과학기술정보통신부는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법) 제정에 따른 'AI기본법 시행령' 제정안을 마련해 12일부터 내달 22일까지 40일간 입법예고한다고 밝혔다. AI기본법은 AI산업 발전과 AI의 안전·신뢰 기반 조성을 위해 지난해 12월 여·야 합의를 거쳐 국회를 통과해 내년 1월 시행을 앞두고 있다. 과기정통부는 「AI

2025-11-12 12:00
“새 정부, 규제만 풀어줘도 반은 간다”…AI 족쇄 풀릴까 [위기의 대한민국, 이것만은 꼭]

네거티브 규제 전면 도입…AI 데이터·인프라·인재 육성으로 승부수‘AI 기본법’ 시행령 속도 낼까…업계, 규제 완화 기대 속 집행력 촉구기대와 우려 교차…AI 육성 정책, 역기능 방지 및 체감도 높여야 이재명 정부가 출범하며 인공지능(AI) 산업에 대한 ‘규제 혁신’과 ‘생태계 육성’을 핵심 국정과제로 전면에 내세웠다. 이재명 대통령의 공약집에선 AI와

2025-06-16 05:00