AI안전성 검색결과

검색결과 총61건

최신순 정확도순

KT, 한국 문화 특화 AI 벤치마크 공개…고려대와 공동개발

KT가 멀티모달 대형언어모델(MLLM) 벤치마크 'KSAFE-MM'을 공개했다. KT와 고려대가 공동 개발했으며 멀티모달 AI 모델의 안전성을 한국 사회 이슈와 문화적 맥락을 반영해 평가한다. KT가 16일 공개한 KSAFE-MM은 글로벌 공통 리스크를 한국 문화 맥락으로 변환한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁과 같은 한국 사회 고유의

2026-06-16 10:15
KT, 다국어 LLM 안전성 벤치마크 공개…에임인텔리전스·MS와 협력

KT가 글로벌 기업, 공공기관, 학계 등과 함께 대규모 언어모델(LLM)의 안전성과 문화적 민감성 인식 능력을 통합 평가하는 다국어 벤치마크 ‘XL-SafetyBench’를 개발했다. 벤치마크 설계에는 AI 보안 전문 기업 에임인텔리전스와 마이크로소프트(MS), 한국 인공지능안전연구소(AISI), 국내·외 전문가들이 공동으로 참여해 공신력을 높였다. 4

2026-06-04 10:10
"AI 이제 듣기도 싫다"⋯창의성·취업 불안에 반감 확산

생성형 인공지능(AI)이 일상과 산업 전반으로 빠르게 확산하는 가운데 학계에서는 AI가 인간의 창의성과 사고 다양성까지 악화시키고 있다는 경고가 잇따르고 있다. 이에 청년층 사이에서는 AI 기술 발전에 대한 반감이 커지는 분위기다. 27일(현지시간) 미국 뉴욕타임스(NYT)에 따르면 레베카 윈스롭 미국 브루킹스연구소 박사는 생성형 AI 확산이 인간의 창

2026-05-28 13:55
과기정통부 “오픈AI GTAC 프로그램 참여“

과학기술정보통신부는 인공지능(Al) 보안위협에 대응하기 위해 오픈 Al 측이 운영 중인 정부, 기관용 신뢰기반 접근 프로그램(CTAC)에 참여한다고 27일 밝혔다. 전날 과기정통부와 오픈AI는 AI 보안위협 대응과 AI 안전, 신뢰 확보 등 협력 방안 모색을 위한 간담회를 개최했다. 한국 측에서는 과기정통부 류제명 제2차관 등이 참석해 제이슨 권 최고전

2026-05-27 10:00
“AI 투자액 20% 보안에”…금감원, 금융권 디지털통제 강화

금감원, 금융권 AI 위험관리 프레임워크 마련 착수버그바운티 확대…가상자산·GA까지 보안 점검 강화 금융감독원이 금융권의 인공지능(AI) 활용 확산에 맞춰 보안 투자와 위험관리 체계 강화에 나선다. 생성형 AI 도입 경쟁이 본격화면서 내부정보 유출과 AI 오작동, 사이버 공격 등 새로운 리스크 우려가 커지자 금융당국도 사전예방 중심 감독 체계 구축에 속도

2026-05-26 16:48
교황, 즉위 후 첫 회칙서 AI 경고…“바벨탑될 수 있어”

“AI 무장해제 필요”앤스로픽 공동 창업자도 배석 레오 14세 교황이 인공지능(AI)을 바벨탑에 비유하며 AI가 인간을 지배할 것에 대해 경고했다. 그러면서 막대한 디지털 권력이 소수 빅테크·민간 기업에 집중되는 현상을 막아야 한다고 강조했다. 25일(현지시간) 월스트리트저널(WSJ)에 따르면 레오 14세는 이날 교황청 시노드 강당에서 이런 내용이

2026-05-26 10:23
정부, 앤스로픽과 AI 보안 협력 논의…'미토스 접근권'은 아직

정부가 앤스로픽과 인공지능(AI) 사이버보안 협력 논의에 착수했지만 ‘미토스 접근권’ 확보에는 이르지 못했다. 글로벌 AI 안보 경쟁이 본격화되는 가운데 정부가 보다 적극적으로 대응해야 한다는 지적이 나온다. 11일 과학기술정보통신부와 정보통신기술(ICT) 업계에 따르면 류제명 과기정통부 제2차관은 이날 오전 서울 광화문 인근 모처에서 마이클 셀리토 앤

2026-05-11 16:36
과기정통부, ‘에이전틱 AI 얼라이언스’ 첫 워크숍…관련 생태계 발전 전략 상반기 수립

과학기술정보통신부가 올해 상반기 수립 예정인 ‘에이전틱 인공지능(AI) 생태계 발전 전략’에 대해 민·관 협의체의 의견을 수렴했다. ‘에이전틱 AI 얼라이언스’ 출범 이후 첫 워크숍을 열고 생태계 조기 구축을 위한 실행 전략 논의에 착수했다. 27일 과기정통부는 에이전틱 AI 생태계 발전 방향과 추진 전략 논의를 위한 워크숍을 개최했다고 밝혔다. 1일

2026-04-27 13:00
메타 초지능팀, 첫 AI 모델 ‘뮤즈 스파크’ 발표…경쟁사 AI에 필적

GPT·제미나이 등 경쟁모델과 성능 비슷‘심사숙고 모드’로 고급 추론 능력 갖춰AI 안전성 평가서 경쟁모델 뛰어 넘어초지능팀 첫 성과…AI 경쟁 본격화 메타가 지난해부터 초지능 구현을 목표로 적극적으로 영입한 인재들로 구성된 초지능팀이 첫 번째 인공지능(AI) 모델을 공개했다. 8일(현지시간) 월스트리트저널(WSJ), CNBC 등에 따르면 알렉산더

2026-04-09 09:05
과기정통부, ‘에이전틱AI 얼라이언스’ 출범…발전·신뢰 모두 챙긴다

과학기술정보통신부가 기술 개발부터 산업 적용, 생태계 조성 및 안전·신뢰 확보까지 전 주기를 아우르는 협력 플랫폼 ‘에이전틱 AI 얼라이언스(Agentic AI Alliance)’를 구축했다. 스스로 판단하고 행동하는 에이전틱 AI로 패러다임이 전환됨에 따라 국가 차원의 역량을 결집해 경쟁력을 확보하겠다는 전략이다. 1일 과기정통부는 서울 엘타워에서

2026-04-01 16:11
과기정통부, ‘에이전틱 AI 얼라이언스’ 출범…국가적 역량 결집해 생태계 주도권 선점

과학기술정보통신부가 기술개발부터 산업 적용, 생태계 조성 및 안전·신뢰 확보까지 전 주기를 아우르는 협력 플랫폼 '에이전틱 AI 얼라이언스(Agentic AI Alliance)'를 구축했다. 스스로 판단하고 행동하는 에이전틱 AI로 패러다임이 전환되는 상황에서 국가 차원으로 역량을 결집해 생태계 주도권을 확보하겠다는 전략이다. 1일 과기정통부는 서울 엘

2026-04-01 14:00
한국지역정보개발원-고려대 정보보호대학원 손잡아…'AI 기본법 시대' 지자체 AX 본격 가동

한국지역정보개발원과 고려대학교 정보보호대학원이 지자체 인공지능 전환(AX)을 체계적으로 지원하기 위한 업무협약을 체결했다. AI기본법 시행에 발맞춰 지방정부 AI 활용 역량을 끌어올리겠다는 전략이다. 한국지역정보개발원과 고려대학교 정보보호대학원은 26일 오전 11시 개발원 10층 전략회의실에서 '지자체 AX의 체계적 지원을 위한 업무협약'을 체결했다고 밝

2026-01-26 13:15
‘AI생성콘텐츠’ 명시? 인공지능사업자만…딥페이크 직관적 표시 의무화 [AI 기본법 시행]

고영향 AI, 안전성·신뢰성 확보 조치 의무화의사결정에 사람 개입시 고영향 AI서 제외 국내 2500여 개 인공지능(AI) 기업의 명운을 가를 ‘AI 기본법’이 22일부터 본격 시행된다. 정부는 ‘최소 규제·최대 지원’을 원칙으로 산업 진흥에 무게를 뒀지만, 고영향 AI의 모호한 기준과 투명성 의무를 둘러싼 시장의 불확실성은 여전하다. 혁신의 마중물이

2026-01-21 15:57
'AI 보안성 82%'… 숭실대 연구센터 국내외 모델 첫 비교 분석

숭실대학교 AI안전성연구센터는 국내외 거대언어모델(LLM) 20종을 비교한 결과, 국내 모델의 보안성과 안전성이 해외 모델의 약 82% 수준이라고 18일 밝혔다. 이번 분석은 최근 '국내외 파운데이션 모델 보안·안전성 평가 세미나'에서 공개됐으며, 과학기술정보통신부와 정보통신기획평가원의 '정보보호핵심원천기술개발사업' 연구과제의 일환으로 수행했다. 연

2025-11-18 14:47
'안전한 AI 개발' 글로벌 과제로⋯기업들, AI 안전장치 마련 총력

글로벌 빅테크부터 국내 정보통신기술(ICT) 기업까지 인공지능(AI) 안전 장치와 거버넌스 구축이 단순한 선택이 아닌 ‘생존 전략’으로 자리 잡아가고 있다. AI의 급속한 발전이 인류 사회에 혁신을 가져다주는 동시에 통제 불가능성과 안전성 위협이라는 새로운 과제를 던지면서다. 7일 스탠퍼드대 보고서에 따르면 2024년 AI 관련 사건·사고는 233건으

2025-10-07 09:00
AI로 열어가는 미래 항공시대…우주항공청, ‘항공AI 심포지엄’ 개최

우주항공청이 26일 ‘인공지능으로 열어가는 미래 항공시대’라는 주제로 항공AI 심포지엄을 개최했다. 광명역 테이크호텔에서 열린 이번 심포지엄은 9월 30일부터 10월 2일까지 이어지는 ‘2025년 인공지능 주간’을 맞이해 항공 분야에 AI 기술을 빠르게 도입해야 하는 필요성과 방향성을 논의하고 전문가 네트워크를 강화하기 위해 마련됐다. 먼저 최미진 우

2025-09-26 12:00
네이버 최수연 대표, UNGC 이사 선임⋯AI 거버넌스 주도한다

최수연 네이버 대표가 유엔글로벌콤팩트(UN Global Compact·UNGC) 신임 이사로 공식 선임됐다. 한국인 기업인이 UNGC 이사회 멤버로 참여하는 것은 17년 만으로 안전하고 책임 있는 인공지능(AI) 생태계 조성을 위한 국제 논의에 기여한 공로가 인정된 결과다. 네이버는 최 대표가 향후 3년간 UNGC 이사회 멤버로 활동한다고 18일 밝혔다

2025-09-18 09:18
유영상 SKT 대표 “대한민국 AI 생태계 혁신적 도약 이끌 것”

유영상 SK텔레콤 대표가 지난 9일 “국가대표 인공지능(AI) 기업이라는 사명감으로 국민 일상 속 AI를 위한 최고 수준의 AI 파운데이션 모델을 개발하겠다”며 “단순한 모델 개발을 넘어 대한민국 AI 생태계 전체의 혁신적 도약을 이끌어낼 것”이라고 말했다. 유 대표의 이같은 발언은 이날 서울 명동 르메르디앙 서울 호텔에서 진행된 과학기술정보통신부의 ‘

2025-09-10 14:04
국대 AI 5개사, 'K-AI' 앰블럼 단다⋯배경훈 “글로벌 파급력 AI 개발에 집중해달라”

국가대표 인공지능(AI) 5개사로 선정된 5개 기업들이 이날부터 ‘K-AI’라는 앰블럼을 활용할 수 있게 됐다. 배경훈 장관은 이들 기업에 전 세계에 파급력을 떨칠 수 있는 AI 모델 개발에 전념해달라고 주문했다. 9일 과학기술정보통신부는 ‘독자 AI 파운데이션 모델’ 프로젝트 착수식을 개최했다. 이날 착수식에는 배경훈 장관을 비롯해 정보통신산업진흥원

2025-09-09 17:00
SKT, ‘AI 거버넌스 포털’로 AI 서비스의 신뢰·안전 높인다

SK텔레콤이 자사 인공지능(AI) 서비스의 신뢰성과 안전성을 체계적으로 관리하기 위한 사내 ‘AI 거버넌스 포털’을 공식 오픈했다고 2일 밝혔다. AI 거버넌스 포털은 SKT가 자체 수립한 AI 거버넌스 원칙 ‘T.H.E. AI’를 기준으로 한다. T.H.E. AI는 △통신기술 기반의 연결과 신뢰를 의미하는 ‘by Telco’ △사람을 위한 다양성과 포

2025-09-02 10:48

1 2 3 4