AI안전성평가 검색결과

검색결과 총8건

최신순 정확도순

KAIST, 국내 유일 MS AI 레드팀 선정…AI 안전성 연구 생태계 확대

한국과학기술원(KAIST)이 마이크로소프트(MS)의 글로벌 AI 안전성 연구 프로그램에 선정돼 차세대 AI 보안·신뢰성 기술 개발에 나선다. 국내에서 유일하게 참여하는 KAIST는 MS로부터 약 3700만원의 관련 연구비를 지원받는다. KAIST는 손수엘 전산학부 교수가 국내에서는 유일하게 MS AI 레드팀이 운영하는 글로벌 AI 안전성 연구 프로그램

2026-07-28 13:54
노엄 브라운 오픈AI 리서치 부사장 "AI 안전성 평가에 연산량 고려해야"

노엄 브라운 오픈AI 리서치 부문 부사장이 ‘대규모 타임 컴퓨트(연산량)’ 시대에 맞춰 AI 안전성 평가 방식을 제고해야 한다고 제언했다. 앞으로 AI 연구소는 새로 출시되는 모델에 대해 토큰 비용이나 시간에 따른 함수 형태로 벤치마크를 공개해야 한다는 것이다. 3일 서울 강남 웨스틴 서울 파르나스에서 진행된 ‘글로벌 AI 프론티어 심포지엄 2026’에

2026-07-03 15:11
오픈 AI, 韓 AI안전연구소와 세계 4번째로 맞손…“고위험 AI 안전 협력”

과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 최첨단 AI의 안전성 확보를 위해 AI안전연구소와 오픈AI 간 고위험 분야 AI 안전 협력 강화를 위한 업무협약(MOU)을 체결했다고 밝혔다. 이번 업무협약 체결은 지난해 10월 과기정통부와 오픈AI 간 MOU 체결을 통해 구축한 AI 협력기반을 AI 안전 분야까지 확대하기 위한 것이다

2026-06-17 10:00
KT, 한국 문화 특화 AI 벤치마크 공개…고려대와 공동개발

KT가 멀티모달 대형언어모델(MLLM) 벤치마크 'KSAFE-MM'을 공개했다. KT와 고려대가 공동 개발했으며 멀티모달 AI 모델의 안전성을 한국 사회 이슈와 문화적 맥락을 반영해 평가한다. KT가 16일 공개한 KSAFE-MM은 글로벌 공통 리스크를 한국 문화 맥락으로 변환한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁과 같은 한국 사회 고유의

2026-06-16 10:15
과기정통부 “오픈AI GTAC 프로그램 참여“

과학기술정보통신부는 인공지능(Al) 보안위협에 대응하기 위해 오픈 Al 측이 운영 중인 정부, 기관용 신뢰기반 접근 프로그램(CTAC)에 참여한다고 27일 밝혔다. 전날 과기정통부와 오픈AI는 AI 보안위협 대응과 AI 안전, 신뢰 확보 등 협력 방안 모색을 위한 간담회를 개최했다. 한국 측에서는 과기정통부 류제명 제2차관 등이 참석해 제이슨 권 최고전

2026-05-27 10:00
메타 초지능팀, 첫 AI 모델 ‘뮤즈 스파크’ 발표…경쟁사 AI에 필적

GPT·제미나이 등 경쟁모델과 성능 비슷‘심사숙고 모드’로 고급 추론 능력 갖춰AI 안전성 평가서 경쟁모델 뛰어 넘어초지능팀 첫 성과…AI 경쟁 본격화 메타가 지난해부터 초지능 구현을 목표로 적극적으로 영입한 인재들로 구성된 초지능팀이 첫 번째 인공지능(AI) 모델을 공개했다. 8일(현지시간) 월스트리트저널(WSJ), CNBC 등에 따르면 알렉산더

2026-04-09 09:05
AI 룰세팅 전세계 각축전…"자비스급 AI 오는데 안정장치 없는 韓"

오픈AI, 구글, 마이크로소프트 등 빅테크의 인공지능(AI) 패권 경쟁만큼 AI 룰세팅(규칙제정)의 주도권을 가져가기 위한 강대국들의 경쟁이 치열해지고 있다. 국내에서도 국제표준 선점을 위해 선제적으로 AI 기본법을 제정해야 한다는 지적이 나온다. 전창배 국제인공지능윤리협회(IAAE) 이사장은 16일 서울 강남구 마루 180에서 열린 2024 AI S

2024-05-16 15:28
AI 글로벌 규범 자문단 출범...5월 AI 정상회의 준비

과학기술정보통신부(과기정통부)는 ‘AI 글로벌 규범 자문단’을 구성해 16일 서울 스페이스에이드 CBD에서 1차 회의를 열었다고 밝혔다. 자문단은 오는 5월 한국에서 개최하는 제2차 인공지능(AI) 안전성 정상회의를 체계적으로 준비하고, 정상회의의 주요 논의와 합의점을 모색하는 과정에서 국내 산업계와 학계의 목소리를 반영하기 위해 구성됐다. 이날

2024-02-16 11:18