AI안전 검색결과 - 이투데이

검색결과 총246건

최신순 정확도순

정부, ‘인공지능 윤리원칙’ 초안 발표…“규제 아닌 개발·활용 돕는 헬퍼”

서문에 인간, 사회, 미래 담긴 것 긍정적논쟁적인 학습 데이터 공개 담긴 것은 우려 정부가 '인간의 존엄성ㆍ사회의 공공선ㆍ기술의 신뢰성' 등 3대 가치와 7대 원칙이 담긴 ‘인공지능 윤리원칙’ 초안을 발표했다. 과학기술정보통신부와 정보통신정책연구원(KISDI)이 14일 프레지던트호텔 모짤트홀에서 개최한 ‘대한민국 인공지능 윤리원칙’ 대토론회에서 최우석

2026-08-14 13:41
과기정통부, ‘대한민국 인공지능 윤리원칙’ 대토론회 진행

정부가 마련 중인 3대 가치·7대 원칙이 담긴 ‘대한민국 인공지능 윤리원칙’을 두고 업계와 학계, 시민들의 의견을 청취하는 자리를 만들었다. 참여자들은 윤리원칙이 규제가 아닌 바람직한 AI 개발·활용을 돕는 역할을 해야 한다고 제언했다. 과학기술정보통신부와 정보통신정책연구원(KISDI)은 14일 프레지던트호텔 모짤트홀에서 ‘대한민국 인공지능 윤리원칙’

2026-08-14 10:00
SKT AI 모델 'A.X K2', 국제수학올림피아드서 금메달 성능…미·중 이외 유일

SK텔레콤의 독자 AI 모델 에이닷엑스(A.X) K2가 국제수학올림피아드(IMO) 2026에서 금메달 수준의 성능을 기록하고, MathArena AIME 2026 리더보드에서도 공동 최고점을 달성했다. 미국·중국 이외의 지역에서 개발된 모델 중 IMO 2026 금메달 기준을 충족한 유일한 사례다. SKT는 자체 개발한 초거대언어모델 A.X K2가 대표적

2026-08-11 13:37
北 해커도 ‘AI 무장’…피싱 넘어 공격 자동화 노린다

북한 첩보 활동 연계 김수키, AI 공격 역량 축적“북한 AI 에이전트 활용 공격, 올해 말 가시화” 북한 해킹조직 ‘김수키’가 AI를 활용해 피싱용 문서를 작성하는 것을 넘어 로컬 대형언어모델(LLM)과 AI 에이전트 등을 구축한 것으로 나타났다. AI가 국가 배후 해킹조직의 공격 생산성을 끌어올리는 새로운 사이버 무기로 떠오른 것이다. 사이버 보안

2026-08-10 14:58
똑똑해질수록 위험해진다…아스트라가 보여준 'AI 개발 성능 vs 안전 딜레마'

AI 모델의 성능이 높아질수록 이를 통제하기 어려워지는 개발 패러독스가 현실화하고 있다. 추론·코딩 능력 향상이 사이버 공격 역량까지 끌어올리면서 AI 기업들이 ‘성능과 안전’ 사이의 딜레마에 직면하는 모양새다. 9일 AI 업계에 따르면 오픈AI는 차세대 AI 모델 ‘아스트라’의 개발 속도를 늦추기로 했다. 최근 진행한 내부 평가 결과 코딩·사이버 보안

2026-08-09 15:32
전주시설공단, 지방공기업 경영평가 ‘최우수’…가등급 획득

지난해 나 등급서 한단계 상승…전국 268개 기관 중 최상위권AI 안전관리·ESG 경영·지역상생 성과 인정 전주시설공단이 행정안전부 주관 지방공기업 경영평가에서 최상위인 ‘가’등급을 받았다. 9일 전주시설공단에 따르면 공단은 전국 268개 지방공기업을 대상으로 실시한 ‘2026년 지방공기업 경영평가’에서 최우수기관으로 선정됐다. 지난해 ‘나’ 등급에서

2026-08-09 14:39
美 'AI 규제' 윤곽⋯미국산 오픈 웨이트 모델은 정부 심사 제외

도널드 트럼프 미국 행정부가 고성능 AI 모델의 안전성을 점검하기 위한 새로운 가이드라인을 마련하면서 미국 기업이 개발한 오픈웨이트 모델은 적용 대상에서 제외하기로 했다. AI 안전성 확보와 혁신 촉진 사이에서 균형을 맞추려는 조치로 풀이된다. 4일(현지시간) 월스트리트저널(WSJ)에 따르면 미국 행정부 당국자는 이 프레임워크와 관련해 주요 AI 기업

2026-08-05 14:39
트럼프, AI 안전성 심사 지침 마련⋯앤스로픽ㆍ오픈AIㆍ구글 소집

사이버 보안 심사 지침 마련AI 기업 자발적 사전평가 체제 도널드 트럼프 미국 행정부가 최첨단 AI 모델의 사이버 공격 능력을 평가하기 위한 기업의 자발적인 사이버 보안 심사 지침을 마련했다. 정부는 이번 심사를 두고 관련 기업들과의 협의를 진행할 전망이다. 로이터통신은 3일(현지시간) 사안에 정통한 소식통을 인용해 "이튿날 백악관에서 관련 회의가

2026-08-04 11:20
LG AI연구원, 국내 최대 파라미터 7500억 개 ‘K-엑사원 2.0’ 공개

LG AI연구원은 과학기술정보통신부의 '독자 AI 파운데이션 모델 프로젝트' 2차수 모델인 'K-엑사원 2.0'을 오픈소스 커뮤니티 허깅페이스에 공개했다고 31일 밝혔다. K-엑사원 2.0은 750B(7500억 개) 파라미터 규모로 국내 AI 모델 가운데 최대 규모다. 1차수 모델(236B)보다 크기가 3배 이상 확대됐다. 라이선스도 누구나 상업적으로 활

2026-07-31 10:00
폴라리스AI, ‘폴라리스 아이’ 첫 상용화…산업안전 AI 시장 공략 본격화

계열사 폴라리스AI파마 발안공장에 16채널 구축 완료온프레미스ㆍ온디바이스 라인업 강화…보안ㆍ실시간성 확보향후 유비테크 로봇 연계 ‘피지컬 AI’ 솔루션으로 확장 폴라리스AI가 어나더리얼(Another Real) 엔진 기반의 산업안전 특화 비전 AI(Vision AI) 솔루션 ‘폴라리스 아이(POLARIS EYE)’의 첫 공급을 완료하고 산업현장 AI

2026-07-31 09:13
현대힘스, 美 항만크레인 구조물 55억원 수주…북미 시장 진출

현대힘스가 국내 생산기지에서 제작한 항만크레인 구조물을 미국으로 공급하며 북미 시장에 진출한다. 항만크레인 사업 확대와 조선기자재 생산 현장의 자동화를 통해 사업 포트폴리오 다각화에도 속도를 낸다. 현대힘스는 주요 고객사인 HD현대삼호가 수주한 미국 워싱턴 유나이티드 터미널(WUT) 프로젝트의 안벽크레인(QC) 2기 구조물 제작을 맡는다고 30일 밝혔

2026-07-30 14:52
KT, 기업전용 5G에 ‘갤럭시 워치’ 연동…‘안전관리 Watch’ 출시

KT가 삼성전자와 협력해 산업 현장 근로자를 위한 기업전용 5G 부가서비스인 ‘안전관리 Watch’를 출시하고 기업 고객의 산업 안전 지원에 나선다고 30일 밝혔다. 양사는 건설·제조·물류 등 다양한 산업 현장으로 서비스를 확대할 계획이다. ‘기업전용 5G’는 별도의 네트워크 장비를 통해 일반 네트워크와 기업 내부망을 분리해 접속할 수 있도록 해주는 서

2026-07-30 09:13
KAIST, 국내 유일 MS AI 레드팀 선정…AI 안전성 연구 생태계 확대

한국과학기술원(KAIST)이 마이크로소프트(MS)의 글로벌 AI 안전성 연구 프로그램에 선정돼 차세대 AI 보안·신뢰성 기술 개발에 나선다. 국내에서 유일하게 참여하는 KAIST는 MS로부터 약 3700만원의 관련 연구비를 지원받는다. KAIST는 손수엘 전산학부 교수가 국내에서는 유일하게 MS AI 레드팀이 운영하는 글로벌 AI 안전성 연구 프로그램

2026-07-28 13:54
엔비디아, ‘오픈 시큐어 AI 얼라이언스’ 출범…네이버·SKT 참여

엔비디아가 세계 주요 빅테크, 사이버 보안 기업, 연구기관들과 손잡고 AI 안전과 사이버 보안을 강화하기 위한 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’를 출범했다. 엔비디아는 AI 기술을 전략 자산으로 관리하려는 폐쇄적 흐름 속에서 엔비디아는 AI 보안이 개방형 생태계를 중심으로 발전해야 한다고 강조했다. 엔비디아는

2026-07-28 11:03
이 대통령 "AI에 대대적 투자"…다리오 "한국과 AI 보안 협력 본격화"

미국을 방문 중인 이재명 대통령이 다리오 아모데이 앤트로픽 최고경영자(CEO)과 24일(현지시간) 만나 AI 협력 확대 방안을 논의했다. 이 대통령이 한국의 대규모 AI 투자 계획을 밝히며 글로벌 협력을 제안했고, 아모데이 CEO는 한국을 AI 핵심 협력국으로 평가하며 정부와 기업을 아우르는 협력 확대 의지를 밝혔다. 이 대통령은 이날 미국 샌프란시스코

2026-07-25 04:48
팀네이버, 세계 AI 학회서 레드티밍·피지컬 AI 연구 공개

네이버가 대규모언어모델(LLM) 안전성과 AI 모델 운영, 피지컬 AI 분야 연구 성과를 공개했다. AI 모델 개발부터 서비스 적용까지 이어지는 기술을 선보이며 연구 성과를 소개했다. 네이버클라우드는 팀네이버가 지난 6일부터 11일까지 서울 코엑스에서 열린 국제 머신러닝 학회(ICML 2026)에서 AI 안전성 강화와 모델·에이전트 운영 효율화, 3차원

2026-07-13 09:53
KT, UN·ITU 글로벌 행사 참여…AI 시대 신뢰 인프라 구축 논의

KT가 유엔(UN)과 국제전기통신연합(ITU)이 주관한 글로벌 행사에서 에이전틱 AI 시대의 디지털 신뢰 체계와 국제 표준 협력 방안을 제시했다. AI 에이전트의 신원과 권한, 검증 가능성을 보장하는 개방형 신뢰 인프라 구축이 필요하다고 강조했다. KT는 7일(현지시간) 스위스 제네바에서 개최된 ‘AI for Good Global Summit’의 ‘AI

2026-07-09 13:43
기아 오토랜드 광주, AI 안전관리 시스템으로 고용부 장관상

기아 오토랜드 광주가 AI 기반 스마트 안전관리 시스템을 도입한 성과를 인정받아 고용노동부 장관상을 받았다. 기아는 오토랜드 광주가 고용노동부와 한국산업안전보건공단이 주관한 '2026 AI·스마트 산업안전기술 우수사례 챌린지'에서 대상(고용노동부 장관상)을 수상했다고 9일 밝혔다. 이번 수상은 자동화 공정 내 안전사고 예방을 위해 AI를 활용한 스마트

2026-07-09 09:05
“취약점 대응 시간 6700배 단축”…AI 시대 보안 패러다임 변화

제15회 정보보호의 날 기념식“2028년에는 취약점 대응 시간 분 단위로 줄어들 것” 프론티어 AI 모델의 등장으로 2018년 대비 8년 만에 취약점 대응 시간이 6700배 단축됐다는 지적이 나왔다. 이상근 고려대 정보보호대학원 교수(AI보안연구소장)는 “2018년 2.3년이 걸렸는데 2026년 3시간으로 취약점 대응 시간이 붕괴됐다”고 말했다. 8일

2026-07-08 15:19
포커스에이아이, 국제안전보건전시회 참가…인공지능 산업안전 솔루션 공개

스마트 안전 플랫폼·지게차 인체 감지 등 소개…삼성중공업·삼성물산 공급 이력 확보김영훈 고용노동부 장관 부스 방문…조선·건설·제조 중심 신규 고객사 발굴 박차 인공지능(AI) 기반 산업안전 솔루션 기업 포커스에이아이가 국내 최대 규모의 안전보건 전시회에 참가해 독자적인 기술력을 선보인다. 포커스에이아이는 경기 고양시 킨텍스에서 열리는 ‘국제안전보건전시회

2026-07-08 10:34

1 2 3 4 5 6 7 8 9 10

브라보 마이 라이프

거짓말하는 AI, 고령자 AI 안전하게 사용하는 법

AI의 발전이 일상에 깊숙이 스며들면서 시니어 세대 역시 AI와 자연스럽게 만나는 시대가 도래했다. 누구나 AI를 활용해 원하는 정보를 얻을 수 있지만, 그 안에 숨어 있는 위험한 판단과 무감각한 자신감을 인지하지 못하고 있다. 특히 디지털 취약계층인 고령층은 AI가 주는 답변을 ‘신뢰해도 되는 말’로 착각하기 쉽다. 하지만 AI는 인간처럼 맥락

2025-09-09 07:00