AI안전성 검색결과

검색결과 총72건

최신순 정확도순

KAIST, 국내 유일 MS AI 레드팀 선정…AI 안전성 연구 생태계 확대

한국과학기술원(KAIST)이 마이크로소프트(MS)의 글로벌 AI 안전성 연구 프로그램에 선정돼 차세대 AI 보안·신뢰성 기술 개발에 나선다. 국내에서 유일하게 참여하는 KAIST는 MS로부터 약 3700만원의 관련 연구비를 지원받는다. KAIST는 손수엘 전산학부 교수가 국내에서는 유일하게 MS AI 레드팀이 운영하는 글로벌 AI 안전성 연구 프로그램

2026-07-28 13:54
팀네이버, 세계 AI 학회서 레드티밍·피지컬 AI 연구 공개

네이버가 대규모언어모델(LLM) 안전성과 AI 모델 운영, 피지컬 AI 분야 연구 성과를 공개했다. AI 모델 개발부터 서비스 적용까지 이어지는 기술을 선보이며 연구 성과를 소개했다. 네이버클라우드는 팀네이버가 지난 6일부터 11일까지 서울 코엑스에서 열린 국제 머신러닝 학회(ICML 2026)에서 AI 안전성 강화와 모델·에이전트 운영 효율화, 3차원

2026-07-13 09:53
KT, UN·ITU 글로벌 행사 참여…AI 시대 신뢰 인프라 구축 논의

KT가 유엔(UN)과 국제전기통신연합(ITU)이 주관한 글로벌 행사에서 에이전틱 AI 시대의 디지털 신뢰 체계와 국제 표준 협력 방안을 제시했다. AI 에이전트의 신원과 권한, 검증 가능성을 보장하는 개방형 신뢰 인프라 구축이 필요하다고 강조했다. KT는 7일(현지시간) 스위스 제네바에서 개최된 ‘AI for Good Global Summit’의 ‘AI

2026-07-09 13:43
네이버, AI 탭도 안전성 관리…ASF 2.0 공개

네이버가 AI 모델 중심이던 안전성 관리 체계를 이용자와 서비스 전반으로 확대했다. AI 서비스 출시부터 운영까지 전 과정의 안전성을 점검하는 'ASF(AI Safety Framework) 2.0'을 공개하고 AI 탭 등 실제 서비스에도 적용한다. 네이버는 AI 안전성 체계 'ASF 2.0'을 공개했다고 8일 밝혔다. ASF 2.0은 2024년 공개한

2026-07-08 09:44
노엄 브라운 오픈AI 리서치 부사장 "AI 안전성 평가에 연산량 고려해야"

노엄 브라운 오픈AI 리서치 부문 부사장이 ‘대규모 타임 컴퓨트(연산량)’ 시대에 맞춰 AI 안전성 평가 방식을 제고해야 한다고 제언했다. 앞으로 AI 연구소는 새로 출시되는 모델에 대해 토큰 비용이나 시간에 따른 함수 형태로 벤치마크를 공개해야 한다는 것이다. 3일 서울 강남 웨스틴 서울 파르나스에서 진행된 ‘글로벌 AI 프론티어 심포지엄 2026’에

2026-07-03 15:11
kt cloud, 카카오와 AI 안전성 협력…안전한 AI 서비스 구현한다

kt cloud가 카카오와 함께 안전한 AI 서비스 구현을 위한 AI 안전성(AI Safety) 협력 체계를 구축하고 공공·민간 분야에서 신뢰할 수 있는 AI 활용 환경 조성에 나선다고 26일 밝혔다. 먼저 공공고객 대상의 RAG 기반 생성형 AI 서비스 플랫폼에 카카나 세이프가드를 연동한다. 최근 생성형 AI 활용이 확대되면서 유해 콘텐츠 생성, 프롬

2026-06-26 10:07
카카오, 데이터센터 온실가스 4753톤↓…재생에너지 2.8배↑

카카오가 지난해 데이터센터 온실가스를 4753톤 감축했다. 재생에너지 조달량은 2.8배 늘렸으며 AI 안전성도 강화했다. 카카오는 이러한 내용을 포함해 지난 한 해 동안의 환경·사회·지배구조(ESG) 성과를 담은 ‘2025 카카오 지속가능성 보고서’를 발간했다고 24일 밝혔다. 이와 함께 이해관계자와 소통을 강화하기 위해 지속가능경영 정보를 통합 제공하

2026-06-24 16:02
오픈AI·앤스로픽·미스트랄까지…글로벌 AI 기업 집결지 된 한국

글로벌 생성형 AI 기업들이 한국에 몰려들고 있다. 오픈AI가 한국 법인을 세운 데 이어 앤스로픽도 네 번째 거점을 서울에 마련했다. 아시아에 지사가 없는 프랑스의 미스트랄AI도 서울 근무 인력을 채용 중이다. 글로벌 AI 기업들은 ‘정부와의 협력’과 ‘엔터프라이즈 도입’을 주요 전략으로 삼아 주도권 경쟁을 벌이고 있다. 18일 AI 업계에 따르면 오픈

2026-06-18 15:27
과기정통부, 앤스로픽과 글로벌 AI 안전‧보안 동맹…사이버 보안 협력

과학기술정보통신부가 글로벌 AI 연구개발 기업인 앤스로픽과 AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약(MoU)을 체결했다고 18일 밝혔다. 과기정통부는 이번 MoU를 통해 첨단 AI의 안전성 확보를 위한 협력체계를 더욱 공고히 할 예정이다. AI가 사이버 공격과 방어에 미치는 영향을 심층 분석하고, 한국어 맥락에서의 AI 모델 안전성

2026-06-18 11:30
앤스로픽 서울사무소 출범…“AI 안전성·엔터프라이즈 차별점”

미국 정부가 앤스로픽의 최신 모델 미토스5, 페이블5에 대해 외국인의 접근을 전면 차단한 가운데 앤스로픽이 17일 아시아태평양 지역 세 번째 거점인 앤스로픽 서울 오피스를 공식 출범했다. 앤스로픽은 AI 안정성과 엔터프라이즈 경쟁력을 바탕으로 한국에 먼저 진출한 오픈AI와의 차별점을 내세웠다. 크리스 차우리(Chris Ciauri) 앤스로픽 인터내셔널

2026-06-17 23:59
오픈 AI, 韓 AI안전연구소와 세계 4번째로 맞손…“고위험 AI 안전 협력”

과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 최첨단 AI의 안전성 확보를 위해 AI안전연구소와 오픈AI 간 고위험 분야 AI 안전 협력 강화를 위한 업무협약(MOU)을 체결했다고 밝혔다. 이번 업무협약 체결은 지난해 10월 과기정통부와 오픈AI 간 MOU 체결을 통해 구축한 AI 협력기반을 AI 안전 분야까지 확대하기 위한 것이다

2026-06-17 10:00
KT, 한국 문화 특화 AI 벤치마크 공개…고려대와 공동개발

KT가 멀티모달 대형언어모델(MLLM) 벤치마크 'KSAFE-MM'을 공개했다. KT와 고려대가 공동 개발했으며 멀티모달 AI 모델의 안전성을 한국 사회 이슈와 문화적 맥락을 반영해 평가한다. KT가 16일 공개한 KSAFE-MM은 글로벌 공통 리스크를 한국 문화 맥락으로 변환한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁과 같은 한국 사회 고유의

2026-06-16 10:15
KT, 다국어 LLM 안전성 벤치마크 공개…에임인텔리전스·MS와 협력

KT가 글로벌 기업, 공공기관, 학계 등과 함께 대규모 언어모델(LLM)의 안전성과 문화적 민감성 인식 능력을 통합 평가하는 다국어 벤치마크 ‘XL-SafetyBench’를 개발했다. 벤치마크 설계에는 AI 보안 전문 기업 에임인텔리전스와 마이크로소프트(MS), 한국 인공지능안전연구소(AISI), 국내·외 전문가들이 공동으로 참여해 공신력을 높였다. 4

2026-06-04 10:10
"AI 이제 듣기도 싫다"⋯창의성·취업 불안에 반감 확산

생성형 인공지능(AI)이 일상과 산업 전반으로 빠르게 확산하는 가운데 학계에서는 AI가 인간의 창의성과 사고 다양성까지 악화시키고 있다는 경고가 잇따르고 있다. 이에 청년층 사이에서는 AI 기술 발전에 대한 반감이 커지는 분위기다. 27일(현지시간) 미국 뉴욕타임스(NYT)에 따르면 레베카 윈스롭 미국 브루킹스연구소 박사는 생성형 AI 확산이 인간의 창

2026-05-28 13:55
과기정통부 “오픈AI GTAC 프로그램 참여“

과학기술정보통신부는 인공지능(Al) 보안위협에 대응하기 위해 오픈 Al 측이 운영 중인 정부, 기관용 신뢰기반 접근 프로그램(CTAC)에 참여한다고 27일 밝혔다. 전날 과기정통부와 오픈AI는 AI 보안위협 대응과 AI 안전, 신뢰 확보 등 협력 방안 모색을 위한 간담회를 개최했다. 한국 측에서는 과기정통부 류제명 제2차관 등이 참석해 제이슨 권 최고전

2026-05-27 10:00
“AI 투자액 20% 보안에”…금감원, 금융권 디지털통제 강화

금감원, 금융권 AI 위험관리 프레임워크 마련 착수버그바운티 확대…가상자산·GA까지 보안 점검 강화 금융감독원이 금융권의 인공지능(AI) 활용 확산에 맞춰 보안 투자와 위험관리 체계 강화에 나선다. 생성형 AI 도입 경쟁이 본격화면서 내부정보 유출과 AI 오작동, 사이버 공격 등 새로운 리스크 우려가 커지자 금융당국도 사전예방 중심 감독 체계 구축에 속도

2026-05-26 16:48
교황, 즉위 후 첫 회칙서 AI 경고…“바벨탑될 수 있어”

“AI 무장해제 필요”앤스로픽 공동 창업자도 배석 레오 14세 교황이 인공지능(AI)을 바벨탑에 비유하며 AI가 인간을 지배할 것에 대해 경고했다. 그러면서 막대한 디지털 권력이 소수 빅테크·민간 기업에 집중되는 현상을 막아야 한다고 강조했다. 25일(현지시간) 월스트리트저널(WSJ)에 따르면 레오 14세는 이날 교황청 시노드 강당에서 이런 내용이

2026-05-26 10:23
정부, 앤스로픽과 AI 보안 협력 논의…'미토스 접근권'은 아직

정부가 앤스로픽과 인공지능(AI) 사이버보안 협력 논의에 착수했지만 ‘미토스 접근권’ 확보에는 이르지 못했다. 글로벌 AI 안보 경쟁이 본격화되는 가운데 정부가 보다 적극적으로 대응해야 한다는 지적이 나온다. 11일 과학기술정보통신부와 정보통신기술(ICT) 업계에 따르면 류제명 과기정통부 제2차관은 이날 오전 서울 광화문 인근 모처에서 마이클 셀리토 앤

2026-05-11 16:36
과기정통부, ‘에이전틱 AI 얼라이언스’ 첫 워크숍…관련 생태계 발전 전략 상반기 수립

과학기술정보통신부가 올해 상반기 수립 예정인 ‘에이전틱 인공지능(AI) 생태계 발전 전략’에 대해 민·관 협의체의 의견을 수렴했다. ‘에이전틱 AI 얼라이언스’ 출범 이후 첫 워크숍을 열고 생태계 조기 구축을 위한 실행 전략 논의에 착수했다. 27일 과기정통부는 에이전틱 AI 생태계 발전 방향과 추진 전략 논의를 위한 워크숍을 개최했다고 밝혔다. 1일

2026-04-27 13:00
메타 초지능팀, 첫 AI 모델 ‘뮤즈 스파크’ 발표…경쟁사 AI에 필적

GPT·제미나이 등 경쟁모델과 성능 비슷‘심사숙고 모드’로 고급 추론 능력 갖춰AI 안전성 평가서 경쟁모델 뛰어 넘어초지능팀 첫 성과…AI 경쟁 본격화 메타가 지난해부터 초지능 구현을 목표로 적극적으로 영입한 인재들로 구성된 초지능팀이 첫 번째 인공지능(AI) 모델을 공개했다. 8일(현지시간) 월스트리트저널(WSJ), CNBC 등에 따르면 알렉산더

2026-04-09 09:05

1 2 3 4