AI안전성 검색결과

검색결과 총77건

최신순 정확도순

앤스로픽, 2조달러 IPO 시동⋯미ㆍ중 AI 주도권 경쟁은 가속

나스닥 낙점⋯몸값 기존 평가액 두 배 이상엔비디아, 최대 100억달러 투자 검토AI 감속 촉구 속 오픈AI는 연내 상장 보류트럼프 “美 우위 유지”⋯中, 오픈소스 연대 추진 생성형 AI ‘클로드’ 개발사 앤스로픽이 기업가치 2조달러(약 2690조원) 이상이 예상되는 나스닥거래소 상장을 추진한다. AI 시장의 성장세를 앞세운 초대형 기업공개(IPO)가 가시

2026-09-14 16:53
앤스로픽 ‘나스닥 IPO’ 추진⋯‘2조달러 AI 잭팟’ 초읽기 [마켓핫]

10월 상장 목표로 IPO 준비기업가치 최대 2조달러 거론AI 안전론 속 상장 강행 주목 AI ‘클로드(Claude)’ 개발사 앤스로픽이 미국 나스닥거래소 상장을 추진한다. AI 기업에 대한 천문학적인 투자 열기가 증시로 확산할지 주목된다. 13일(현지시간) 비즈니스인사이더(BI)는 사안에 정통한 관계자를 인용해 앤스로픽이 잠재적인 IPO를 위해 나스닥

2026-09-14 08:33
독파모 5개팀 AI 학습데이터 푼다…1.56조 토큰 무료 개방

정부가 ‘독자 AI 파운데이션 모델(독파모)’ 프로젝트를 통해 확보한 1조5600억 토큰 규모의 인공지능(AI) 학습용 데이터를 민간에 개방한다. 독파모 5개 정예팀이 모델 개발 과정에서 구축한 데이터로 국내 기업과 연구자, 학생 등이 무료로 활용할 수 있다. 과학기술정보통신부와 한국지능정보사회진흥원(NIA)은 독파모 5개 정예팀이 1차 단계평가 과정에서

2026-08-27 14:00
美 'AI 규제' 윤곽⋯미국산 오픈 웨이트 모델은 정부 심사 제외

도널드 트럼프 미국 행정부가 고성능 AI 모델의 안전성을 점검하기 위한 새로운 가이드라인을 마련하면서 미국 기업이 개발한 오픈웨이트 모델은 적용 대상에서 제외하기로 했다. AI 안전성 확보와 혁신 촉진 사이에서 균형을 맞추려는 조치로 풀이된다. 4일(현지시간) 월스트리트저널(WSJ)에 따르면 미국 행정부 당국자는 이 프레임워크와 관련해 주요 AI 기업

2026-08-05 14:39
트럼프, AI 안전성 심사 지침 마련⋯앤스로픽ㆍ오픈AIㆍ구글 소집

사이버 보안 심사 지침 마련AI 기업 자발적 사전평가 체제 도널드 트럼프 미국 행정부가 최첨단 AI 모델의 사이버 공격 능력을 평가하기 위한 기업의 자발적인 사이버 보안 심사 지침을 마련했다. 정부는 이번 심사를 두고 관련 기업들과의 협의를 진행할 전망이다. 로이터통신은 3일(현지시간) 사안에 정통한 소식통을 인용해 "이튿날 백악관에서 관련 회의가

2026-08-04 11:20
KAIST, 국내 유일 MS AI 레드팀 선정…AI 안전성 연구 생태계 확대

한국과학기술원(KAIST)이 마이크로소프트(MS)의 글로벌 AI 안전성 연구 프로그램에 선정돼 차세대 AI 보안·신뢰성 기술 개발에 나선다. 국내에서 유일하게 참여하는 KAIST는 MS로부터 약 3700만원의 관련 연구비를 지원받는다. KAIST는 손수엘 전산학부 교수가 국내에서는 유일하게 MS AI 레드팀이 운영하는 글로벌 AI 안전성 연구 프로그램

2026-07-28 13:54
팀네이버, 세계 AI 학회서 레드티밍·피지컬 AI 연구 공개

네이버가 대규모언어모델(LLM) 안전성과 AI 모델 운영, 피지컬 AI 분야 연구 성과를 공개했다. AI 모델 개발부터 서비스 적용까지 이어지는 기술을 선보이며 연구 성과를 소개했다. 네이버클라우드는 팀네이버가 지난 6일부터 11일까지 서울 코엑스에서 열린 국제 머신러닝 학회(ICML 2026)에서 AI 안전성 강화와 모델·에이전트 운영 효율화, 3차원

2026-07-13 09:53
KT, UN·ITU 글로벌 행사 참여…AI 시대 신뢰 인프라 구축 논의

KT가 유엔(UN)과 국제전기통신연합(ITU)이 주관한 글로벌 행사에서 에이전틱 AI 시대의 디지털 신뢰 체계와 국제 표준 협력 방안을 제시했다. AI 에이전트의 신원과 권한, 검증 가능성을 보장하는 개방형 신뢰 인프라 구축이 필요하다고 강조했다. KT는 7일(현지시간) 스위스 제네바에서 개최된 ‘AI for Good Global Summit’의 ‘AI

2026-07-09 13:43
네이버, AI 탭도 안전성 관리…ASF 2.0 공개

네이버가 AI 모델 중심이던 안전성 관리 체계를 이용자와 서비스 전반으로 확대했다. AI 서비스 출시부터 운영까지 전 과정의 안전성을 점검하는 'ASF(AI Safety Framework) 2.0'을 공개하고 AI 탭 등 실제 서비스에도 적용한다. 네이버는 AI 안전성 체계 'ASF 2.0'을 공개했다고 8일 밝혔다. ASF 2.0은 2024년 공개한

2026-07-08 09:44
노엄 브라운 오픈AI 리서치 부사장 "AI 안전성 평가에 연산량 고려해야"

노엄 브라운 오픈AI 리서치 부문 부사장이 ‘대규모 타임 컴퓨트(연산량)’ 시대에 맞춰 AI 안전성 평가 방식을 제고해야 한다고 제언했다. 앞으로 AI 연구소는 새로 출시되는 모델에 대해 토큰 비용이나 시간에 따른 함수 형태로 벤치마크를 공개해야 한다는 것이다. 3일 서울 강남 웨스틴 서울 파르나스에서 진행된 ‘글로벌 AI 프론티어 심포지엄 2026’에

2026-07-03 15:11
kt cloud, 카카오와 AI 안전성 협력…안전한 AI 서비스 구현한다

kt cloud가 카카오와 함께 안전한 AI 서비스 구현을 위한 AI 안전성(AI Safety) 협력 체계를 구축하고 공공·민간 분야에서 신뢰할 수 있는 AI 활용 환경 조성에 나선다고 26일 밝혔다. 먼저 공공고객 대상의 RAG 기반 생성형 AI 서비스 플랫폼에 카카나 세이프가드를 연동한다. 최근 생성형 AI 활용이 확대되면서 유해 콘텐츠 생성, 프롬

2026-06-26 10:07
카카오, 데이터센터 온실가스 4753톤↓…재생에너지 2.8배↑

카카오가 지난해 데이터센터 온실가스를 4753톤 감축했다. 재생에너지 조달량은 2.8배 늘렸으며 AI 안전성도 강화했다. 카카오는 이러한 내용을 포함해 지난 한 해 동안의 환경·사회·지배구조(ESG) 성과를 담은 ‘2025 카카오 지속가능성 보고서’를 발간했다고 24일 밝혔다. 이와 함께 이해관계자와 소통을 강화하기 위해 지속가능경영 정보를 통합 제공하

2026-06-24 16:02
오픈AI·앤스로픽·미스트랄까지…글로벌 AI 기업 집결지 된 한국

글로벌 생성형 AI 기업들이 한국에 몰려들고 있다. 오픈AI가 한국 법인을 세운 데 이어 앤스로픽도 네 번째 거점을 서울에 마련했다. 아시아에 지사가 없는 프랑스의 미스트랄AI도 서울 근무 인력을 채용 중이다. 글로벌 AI 기업들은 ‘정부와의 협력’과 ‘엔터프라이즈 도입’을 주요 전략으로 삼아 주도권 경쟁을 벌이고 있다. 18일 AI 업계에 따르면 오픈

2026-06-18 15:27
과기정통부, 앤스로픽과 글로벌 AI 안전‧보안 동맹…사이버 보안 협력

과학기술정보통신부가 글로벌 AI 연구개발 기업인 앤스로픽과 AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약(MoU)을 체결했다고 18일 밝혔다. 과기정통부는 이번 MoU를 통해 첨단 AI의 안전성 확보를 위한 협력체계를 더욱 공고히 할 예정이다. AI가 사이버 공격과 방어에 미치는 영향을 심층 분석하고, 한국어 맥락에서의 AI 모델 안전성

2026-06-18 11:30
앤스로픽 서울사무소 출범…“AI 안전성·엔터프라이즈 차별점”

미국 정부가 앤스로픽의 최신 모델 미토스5, 페이블5에 대해 외국인의 접근을 전면 차단한 가운데 앤스로픽이 17일 아시아태평양 지역 세 번째 거점인 앤스로픽 서울 오피스를 공식 출범했다. 앤스로픽은 AI 안정성과 엔터프라이즈 경쟁력을 바탕으로 한국에 먼저 진출한 오픈AI와의 차별점을 내세웠다. 크리스 차우리(Chris Ciauri) 앤스로픽 인터내셔널

2026-06-17 23:59
오픈 AI, 韓 AI안전연구소와 세계 4번째로 맞손…“고위험 AI 안전 협력”

과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 최첨단 AI의 안전성 확보를 위해 AI안전연구소와 오픈AI 간 고위험 분야 AI 안전 협력 강화를 위한 업무협약(MOU)을 체결했다고 밝혔다. 이번 업무협약 체결은 지난해 10월 과기정통부와 오픈AI 간 MOU 체결을 통해 구축한 AI 협력기반을 AI 안전 분야까지 확대하기 위한 것이다

2026-06-17 10:00
KT, 한국 문화 특화 AI 벤치마크 공개…고려대와 공동개발

KT가 멀티모달 대형언어모델(MLLM) 벤치마크 'KSAFE-MM'을 공개했다. KT와 고려대가 공동 개발했으며 멀티모달 AI 모델의 안전성을 한국 사회 이슈와 문화적 맥락을 반영해 평가한다. KT가 16일 공개한 KSAFE-MM은 글로벌 공통 리스크를 한국 문화 맥락으로 변환한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁과 같은 한국 사회 고유의

2026-06-16 10:15
KT, 다국어 LLM 안전성 벤치마크 공개…에임인텔리전스·MS와 협력

KT가 글로벌 기업, 공공기관, 학계 등과 함께 대규모 언어모델(LLM)의 안전성과 문화적 민감성 인식 능력을 통합 평가하는 다국어 벤치마크 ‘XL-SafetyBench’를 개발했다. 벤치마크 설계에는 AI 보안 전문 기업 에임인텔리전스와 마이크로소프트(MS), 한국 인공지능안전연구소(AISI), 국내·외 전문가들이 공동으로 참여해 공신력을 높였다. 4

2026-06-04 10:10
"AI 이제 듣기도 싫다"⋯창의성·취업 불안에 반감 확산

생성형 인공지능(AI)이 일상과 산업 전반으로 빠르게 확산하는 가운데 학계에서는 AI가 인간의 창의성과 사고 다양성까지 악화시키고 있다는 경고가 잇따르고 있다. 이에 청년층 사이에서는 AI 기술 발전에 대한 반감이 커지는 분위기다. 27일(현지시간) 미국 뉴욕타임스(NYT)에 따르면 레베카 윈스롭 미국 브루킹스연구소 박사는 생성형 AI 확산이 인간의 창

2026-05-28 13:55
과기정통부 “오픈AI GTAC 프로그램 참여“

과학기술정보통신부는 인공지능(Al) 보안위협에 대응하기 위해 오픈 Al 측이 운영 중인 정부, 기관용 신뢰기반 접근 프로그램(CTAC)에 참여한다고 27일 밝혔다. 전날 과기정통부와 오픈AI는 AI 보안위협 대응과 AI 안전, 신뢰 확보 등 협력 방안 모색을 위한 간담회를 개최했다. 한국 측에서는 과기정통부 류제명 제2차관 등이 참석해 제이슨 권 최고전

2026-05-27 10:00

1 2 3 4