AI안전 검색결과 - 이투데이

검색결과 총221건

최신순 정확도순

kt cloud, 카카오와 AI 안전성 협력…안전한 AI 서비스 구현한다

kt cloud가 카카오와 함께 안전한 AI 서비스 구현을 위한 AI 안전성(AI Safety) 협력 체계를 구축하고 공공·민간 분야에서 신뢰할 수 있는 AI 활용 환경 조성에 나선다고 26일 밝혔다. 먼저 공공고객 대상의 RAG 기반 생성형 AI 서비스 플랫폼에 카카나 세이프가드를 연동한다. 최근 생성형 AI 활용이 확대되면서 유해 콘텐츠 생성, 프롬

2026-06-26 10:07
카카오, 데이터센터 온실가스 4753톤↓…재생에너지 2.8배↑

카카오가 지난해 데이터센터 온실가스를 4753톤 감축했다. 재생에너지 조달량은 2.8배 늘렸으며 AI 안전성도 강화했다. 카카오는 이러한 내용을 포함해 지난 한 해 동안의 환경·사회·지배구조(ESG) 성과를 담은 ‘2025 카카오 지속가능성 보고서’를 발간했다고 24일 밝혔다. 이와 함께 이해관계자와 소통을 강화하기 위해 지속가능경영 정보를 통합 제공하

2026-06-24 16:02
박창근 국토안전관리원장 “R&D 강화해 AI 안전관리 체계 구축…노후 인프라 선제 대응”

드론·통합플랫폼 활용한 시설물 점검 고도화내년부터 AI 사업 500~600억 규모 추진“공사비·안전비 구조도 함께 살펴야” 박창근 국토안전관리원장이 노후 기반시설과 지하 안전 관리에 AI를 접목한 안전관리 체계를 구축하겠다고 밝혔다. 시설물 점검과 지하 안전 조사에 AI·드론·통합 플랫폼을 활용해 기존 인력 중심의 점검 방식을 고도화하겠다는 구상이다.

2026-06-23 16:00
예보, 7년 만에 경평 ‘A등급’…바뀐 시험지에도 등급 올랐다

준정부기관 평가서 우수 등급…2019년도 평가 이후 처음 직전 지급 경평 성과급 260만 원…올해 지급분 증가 전망 국민복리증진 유형 편입 첫해 주요사업 성과 입증 예금보험공사가 7년 만에 공공기관 경영평가 우수(A) 등급을 받았다. 평가유형이 바뀐 첫해 거둔 성과로, 향후 지급될 임직원 성과급에도 영향을 줄 전망이다. 23일 예보에 따르면 공사는 최근

2026-06-23 13:33
포스코그룹, ‘K-뉴딜 아카데미’ 참여…스마트 제조 인재 키운다

포유드림 연계 AI 실무교육 개설…올해 청년 300명 선발제조AI·LLM·비전AI 등 5개 과정 운영…포항서 4개월 교육 포스코그룹이 제조 현장의 AI 전환을 이끌 청년 인재 양성에 나선다. 19일 포스코그룹은 청년 직무 역량 강화 교육 프로그램인 ‘포유드림(POSCO Youth Dream)’과 연계해 제조 및 스마트팩토리 산업에 특화된 AI 실무 역량

2026-06-19 08:57
오픈AI·앤스로픽·미스트랄까지…글로벌 AI 기업 집결지 된 한국

글로벌 생성형 AI 기업들이 한국에 몰려들고 있다. 오픈AI가 한국 법인을 세운 데 이어 앤스로픽도 네 번째 거점을 서울에 마련했다. 아시아에 지사가 없는 프랑스의 미스트랄AI도 서울 근무 인력을 채용 중이다. 글로벌 AI 기업들은 ‘정부와의 협력’과 ‘엔터프라이즈 도입’을 주요 전략으로 삼아 주도권 경쟁을 벌이고 있다. 18일 AI 업계에 따르면 오픈

2026-06-18 15:27
과기정통부, 앤스로픽과 글로벌 AI 안전‧보안 동맹…사이버 보안 협력

과학기술정보통신부가 글로벌 AI 연구개발 기업인 앤스로픽과 AI 안전성 확보 및 사이버보안 분야 협력을 위한 업무협약(MoU)을 체결했다고 18일 밝혔다. 과기정통부는 이번 MoU를 통해 첨단 AI의 안전성 확보를 위한 협력체계를 더욱 공고히 할 예정이다. AI가 사이버 공격과 방어에 미치는 영향을 심층 분석하고, 한국어 맥락에서의 AI 모델 안전성

2026-06-18 11:30
앤스로픽 서울사무소 출범…“AI 안전성·엔터프라이즈 차별점”

미국 정부가 앤스로픽의 최신 모델 미토스5, 페이블5에 대해 외국인의 접근을 전면 차단한 가운데 앤스로픽이 17일 아시아태평양 지역 세 번째 거점인 앤스로픽 서울 오피스를 공식 출범했다. 앤스로픽은 AI 안정성과 엔터프라이즈 경쟁력을 바탕으로 한국에 먼저 진출한 오픈AI와의 차별점을 내세웠다. 크리스 차우리(Chris Ciauri) 앤스로픽 인터내셔널

2026-06-17 23:59
오픈 AI, 韓 AI안전연구소와 세계 4번째로 맞손…“고위험 AI 안전 협력”

과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 최첨단 AI의 안전성 확보를 위해 AI안전연구소와 오픈AI 간 고위험 분야 AI 안전 협력 강화를 위한 업무협약(MOU)을 체결했다고 밝혔다. 이번 업무협약 체결은 지난해 10월 과기정통부와 오픈AI 간 MOU 체결을 통해 구축한 AI 협력기반을 AI 안전 분야까지 확대하기 위한 것이다

2026-06-17 10:00
KT, 한국 문화 특화 AI 벤치마크 공개…고려대와 공동개발

KT가 멀티모달 대형언어모델(MLLM) 벤치마크 'KSAFE-MM'을 공개했다. KT와 고려대가 공동 개발했으며 멀티모달 AI 모델의 안전성을 한국 사회 이슈와 문화적 맥락을 반영해 평가한다. KT가 16일 공개한 KSAFE-MM은 글로벌 공통 리스크를 한국 문화 맥락으로 변환한 'KSAFE-MM-G'와 전세 사기, 독도 분쟁과 같은 한국 사회 고유의

2026-06-16 10:15
삼정KPMG, 'AI Summit 2026' 성료…"에이전틱 AI 시대 AX 전략 재정립 필요"

삼정KPMG가 지난 12일 서울 강남구 포스코타워 역삼 이벤트홀에서 개최한 ‘AI Summit 2026’을 성황리에 마무리했다고 15일 밝혔다. 이번 행사는 기업 경영진과 실무자들이 참석한 가운데 ‘에이전틱 인공지능(AI) 시대, 새로운 운영 전략’을 주제로 진행됐으며, 삼정KPMG 전문가들이 AI 전환(AX·AI Transformation)의 핵심

2026-06-15 08:31
네이버 D2SF, AI 보안 스타트업 ‘에임인텔리전스’에 신규 투자

네이버 D2SF가 AI 보안 스타트업 에임인텔리전스(AIM Intelligence)에 신규 투자했다고 10일 밝혔다. 에임인텔리전스는 기업의 AI 도입이 보편화되는 과정에서 안전한 활용을 위한 AI 보안 기술을 개발하는 기업이다. 네이버 D2SF는 생성형 AI, 에이전트, 멀티모달 및 피지컬 AI까지 확산되는 환경에서 AI 보안 기술이 필수 인프라로 자리

2026-06-10 09:23
에이전트AI, AI 검증 플랫폼 ‘로보게이트’…엔비디아 ‘인셉션’ 선정

코스닥 상장사 에이전트AI의 자회사 에이전트AI랩스가 개발 중인 인공지능(AI) 로봇 안전 검증 플랫폼 ‘로보게이트(RoboGate)’가 엔비디아의 스타트업 육성 프로그램인 ‘인셉션(Inception)’에 최종 선정됐다. 에이전트AI는 자회사 에이전트AI랩스의 AI 로봇 안전 검증 플랫폼 로보게이트가 엔비디아 인셉션 프로그램에 공식 선정됐다고 8일 밝혔

2026-06-08 08:29
우리은행, AI로 금융소비자보호 강화…청년 아이디어 경진대회

취약계층 보호·금융사기 예방 AI 솔루션 발굴치매금융 사전지정 보호 시스템 제안팀 대상 우리은행이 청년 AI 인재들과 금융소비자보호 아이디어 발굴에 나섰다. 우리은행은 '삼성 청년 SW·AI 아카데미(SSAFY)' 교육생을 초청해 AI-금융소비자보호 아이디어 경진대회 본선을 열었다고 7일 밝혔다. 이번 대회는 AI 기술을 활용해 △취약계층 권익 보호 △

2026-06-07 09:24
포커스에이아이, 80억 규모 유증 납입 완료…“AI 물리보안 사업 성장 본격화”

제이플래닝 대상 제3자 배정 완료…최대주주 양재석 회장 지분율 20% 상회최대주주 책임경영 의지 표명…SWㆍ솔루션 플랫폼 중심으로 사업 구조 재편삼성물산과 AI 카메라 시연 및 공동 특허 추진…산업안전관리 시장 공략 가속 포커스에이아이가 자금 조달에 성공하며 재무 안정성 확보와 함께 본원 사업의 성장에 속도를 내고 있다. 포커스에이아이는 제이플래닝

2026-06-04 13:39
KT, 다국어 LLM 안전성 벤치마크 공개…에임인텔리전스·MS와 협력

KT가 글로벌 기업, 공공기관, 학계 등과 함께 대규모 언어모델(LLM)의 안전성과 문화적 민감성 인식 능력을 통합 평가하는 다국어 벤치마크 ‘XL-SafetyBench’를 개발했다. 벤치마크 설계에는 AI 보안 전문 기업 에임인텔리전스와 마이크로소프트(MS), 한국 인공지능안전연구소(AISI), 국내·외 전문가들이 공동으로 참여해 공신력을 높였다. 4

2026-06-04 10:10
포커스에이아이, 삼성물산과 AI 안전 카메라 ‘PNN CAM’ 시연

코스닥 상장사 포커스에이아이가 삼성물산과 손잡고 인공지능(AI) 기반의 건설현장 안전 시스템 실증에 돌입했다. 중대재해처벌법 강화로 선제적 위험 예방의 중요성이 커진 가운데, 양사는 공동 기술 개발과 특허 출원을 통해 실제 산업 현장에 즉각 적용 가능한 지능형 안전 관리 시스템을 구축한다는 구상이다. 포커스에이아이는 삼성물산과 건설현장 안전 강화를 위한

2026-06-01 10:03
"AI 이제 듣기도 싫다"⋯창의성·취업 불안에 반감 확산

생성형 인공지능(AI)이 일상과 산업 전반으로 빠르게 확산하는 가운데 학계에서는 AI가 인간의 창의성과 사고 다양성까지 악화시키고 있다는 경고가 잇따르고 있다. 이에 청년층 사이에서는 AI 기술 발전에 대한 반감이 커지는 분위기다. 27일(현지시간) 미국 뉴욕타임스(NYT)에 따르면 레베카 윈스롭 미국 브루킹스연구소 박사는 생성형 AI 확산이 인간의 창

2026-05-28 13:55
과기정통부 “오픈AI GTAC 프로그램 참여“

과학기술정보통신부는 인공지능(Al) 보안위협에 대응하기 위해 오픈 Al 측이 운영 중인 정부, 기관용 신뢰기반 접근 프로그램(CTAC)에 참여한다고 27일 밝혔다. 전날 과기정통부와 오픈AI는 AI 보안위협 대응과 AI 안전, 신뢰 확보 등 협력 방안 모색을 위한 간담회를 개최했다. 한국 측에서는 과기정통부 류제명 제2차관 등이 참석해 제이슨 권 최고전

2026-05-27 10:00
“AI 투자액 20% 보안에”…금감원, 금융권 디지털통제 강화

금감원, 금융권 AI 위험관리 프레임워크 마련 착수버그바운티 확대…가상자산·GA까지 보안 점검 강화 금융감독원이 금융권의 인공지능(AI) 활용 확산에 맞춰 보안 투자와 위험관리 체계 강화에 나선다. 생성형 AI 도입 경쟁이 본격화면서 내부정보 유출과 AI 오작동, 사이버 공격 등 새로운 리스크 우려가 커지자 금융당국도 사전예방 중심 감독 체계 구축에 속도

2026-05-26 16:48

1 2 3 4 5 6 7 8 9 10

브라보 마이 라이프

거짓말하는 AI, 고령자 AI 안전하게 사용하는 법

AI의 발전이 일상에 깊숙이 스며들면서 시니어 세대 역시 AI와 자연스럽게 만나는 시대가 도래했다. 누구나 AI를 활용해 원하는 정보를 얻을 수 있지만, 그 안에 숨어 있는 위험한 판단과 무감각한 자신감을 인지하지 못하고 있다. 특히 디지털 취약계층인 고령층은 AI가 주는 답변을 ‘신뢰해도 되는 말’로 착각하기 쉽다. 하지만 AI는 인간처럼 맥락

2025-09-09 07:00