AI안전연구소 검색결과

검색결과 총38건

최신순 정확도순

AI 안보전으로 번진 '미토스 쇼크'…“6~12개월이 골든타임”

11일 과기정통부·엔스로픽 회의‘프로젝트 글라스윙’ 참여 타진이달 말 구체적 대응 방안 마련트럼프 행정부, AI 안보 자산화미토스 접근권 확보 쉽지 않아“독자 AI 기반 보안 체계 필요” 앤스로픽의 ‘미토스’ 등장으로 생성형 인공지능(AI) 경쟁이 국가 안보 체계 확보전으로 번졌다. 업계에서는 향후 6~12개월이 AI 기반 사이버 공격 확산을 막기 위한

2026-05-10 17:00
국회 과방위 “미토스 위협 현실화”…정부에 구체적 대응 주문

인공지능(AI)이 사이버 공격의 진입 장벽을 낮추며 보안 패러다임이 급변하는 가운데 국회 과학기술정보방송통신위원회에가 정부 차원의 대응 전략 재정비를 주문했다. 28일 국회 과방위 전체회의에서는 AI가 사이버 공격의 진입 장벽을 급격히 낮추고 있다는 지적이 제기됐다. 최근 앤스로픽이 제한적으로 공개한 클로드 미토스 프리뷰가 대량 보안 취약점을 한꺼번에

2026-04-28 15:18
배경훈, 구글 딥마인드와 ‘K-문샷’ 협력…연내 강남에 ‘구글 AI 캠퍼스’ 조성

과학기술정보통신부가 세계 최고 수준의 인공지능(AI) 연구 역량을 보유한 구글 딥마인드와 손잡고 ‘K-문샷’ 프로젝트와 책임 있는 AI 활용을 위한 협력 체계를 구축한다. 구글은 연내 한국에 'AI 캠퍼스'를 설립하고 과학기술·AI 안전 분야까지 전방위적인 공동 연구를 진행할 예정이다. 27일 배경훈 부총리 겸 과기정통부 장관은 2016년 알파고와 세계

2026-04-27 16:36
AI ‘접근권’이 안보와 직결…韓, 앤스로픽 ‘글라스윙’ 참여 가능할까

한국 정부가 앤스로픽의 ‘프로젝트 글라스윙’ 참여를 타진하고 있지만 실제 접근 문턱은 예상보다 높다는 지적이 나온다. AI 모델에 대한 접근 권한이 ‘글로벌 AI 패권 경쟁’ 양상을 재편하며 국가 안보 문제로도 이어지는 모양새다. 26일 한국이 프로젝트 글라스윙 참여를 추진 중인 가운데 앤스로픽의 ‘클로드 미토스’에 외부 접근이 허용된 국가는 영국이 유

2026-04-26 11:22
[반휘은의 AI 이야기] 가장 위험한 직원

바야흐로 에이전틱 AI의 시대다. 2022년 말 ChatGPT의 등장 이후, AI는 질문에 답하는 챗봇에서 코드를 짜고 문서를 분석하는 어시스턴트로, 다시 스스로 계획을 세우고 도구를 호출하며 업무를 수행하는 자율형 에이전트로 진화해 왔다. 에이전틱 AI는 사용자가 일일이 프롬프트를 입력할 필요 없이, 목표만 주어지면 하위 작업을 분해하고 외부 시스템과

2026-04-22 06:00
한국지역정보개발원·한국디지털정부학회, 민·관·학 총집결…"지방정부 AX, 현장 실행력이 성패 가른다"

한국지역정보개발원과 한국디지털정부학회가 민·관·학 전문가를 총집결시켜 지방정부 AI 대전환(AX)의 실행전략을 본격 가동했다. 중앙 중심의 기술 도입에서 벗어나 지역 현장이 직접 AX를 주도해야 한다는 공감대가 형성된 가운데, 전국 지자체 AI 전환 수준을 평가해 '지방정부 AI혁신리더상'을 수여하는 파격적 구상까지 공개돼 주목된다. 한국지역정보개발원은

2026-02-12 17:31
“안전 없는 혁신은 없다”...과기정통부, 국민과 함께 ‘AI 안전 마스터플랜’ 만든다

과학기술정보통신부가 ‘인공지능(AI) 안전 생태계 조성 마스터플랜’을 구체화하기 위해 산업계, 학계, 시민사회 관계자를 모아 의견수렴 간담회를 열었다. 이날 한국정보통신기술협회(TTA), 인공지능안전연구소가 ‘AI 안전 생태계 조성을 위한 3가지 전략’을 소개했으며 자유토론이 이어졌다. 6일 서울 중구 은행회관에서 진행된 이번 간담회는 상반기 발표 예정

2026-02-06 17:55
과기정통부, 국가 AI 안전 생태계 조성 마스터플랜 위한 의견 수렴 간담회 개최

과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)와 인공지능안전연구소가 주관하는 ‘국가 AI 안전 생태계 조성 마스터플랜’ 의견수렴 간담회를 6일 14시 서울 중구 은행회관 국제회의실에서 개최한다. 과기정통부는 AI 기본사회 구현을 위해 국민들이 AI를 안전하게 활용할 수 있는 환경을 구축하기 위한 AI 안전 생태계 조성을 고민하고 있다. 이번

2026-02-05 15:13
개인정보위, '2026 AI 프라이버시 민·관 정책협의회' 출범…3개 분과로 리스크 관리 고도화

개인정보보호위원회가 인공지능(AI) 시대에 급변하는 개인정보 처리 환경에 대응하기 위해 ‘AI 프라이버시 민·관 정책협의회’를 개편해 새롭게 출범했다. 2일 개인정보위는 서울 중구 은행회관 국제회의실에서 ‘2026 AI 프라이버시 민·관 정책협의회’를 출범하고 첫 번째 전체회의를 개최했다. 개인정보위는 AI의 편익과 위험성을 고려한 규율체계를 공동 설계

2026-02-02 14:00
AI 기본법 오늘부터 시행...뭐가 달라질까? [카드뉴스]

오늘부터 AI 기본법 시행...뭐가 달라질까? ① 산업 기반 조성▪️ 과학기술정보통신부 장관이 3년마다 인공지능 기본계획 수립▪️ 국가인공지능위원회 실효성 확보, AI 안전연구소 설립 등② '고영향 AI' 개념 도입▪️ 고영향 AI: 의료·에너지·채용·대출심사 등 국민의 생명이나 권리에 큰 영향을 주는 분야의 AI▪️ 고영향 AI 이용한 제품·서비스 제

2026-01-22 16:10
과기정통부, AI‧디지털 분야 한·아세안 협력 강화

과학기술정보통신부가 인공지능(AI)·디지털 분야에서의 한·아세안 협력 강화에 나선다. 과기정통부는 이도규 정보통신정책실장이 수석대표로 16일까지 베트남 하노이에서 개최되는 제5차 한·아세안 디지털 장관회의에 참석한다고 15일 밝혔다. 한·아세안 디지털 장관회의는 우리나라가 아세안의 대화상대국으로 초청돼 아세안 디지털 장관회의와 연계해 개최되는 양자성

2026-01-15 19:00
국대 AI 첫 탈락팀은 ‘네이버ㆍNC AI‘⋯정예팀 1곳 추가모집

독자 AI 파운데이션 모델 프로젝트 1차 단계평가에서 네이버와 NC AI가 탈락하고 업스테이지, SK텔레콤, LG AI연구원이 생존했다. 정부는 정예팀 1곳을 추가 모집할 예정이다. 15일 과학기술정보통신부와 정보통신산업진흥원, 한국정보통신기술협회는 독자 AI 파운데이션 모델 프로젝트 이러한 1차 단계평가 결과를 밝혔다. 과기정통부와 NIPA, 5개

2026-01-15 15:00
한 달 앞으로 다가온 'AI기본법' 시행…과기정통부, 가이드라인 1월 공개

내년 1월 22일 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’ 시행을 앞두고 과학기술정보통신부가 AI기본법 시행령 제정 관련 의견을 수렴하고 이를 반영한 고시 및 가이드라인을 1월 중 공개하겠다고 밝혔다. 24일 과기정통부는 한국지능정보사회진흥원(NIA) 대강당에서 ‘AI기본법 시행령 시행 대비 설명회’를 열고 “AI기본법 시행령 입

2025-12-24 12:47
첫 '부총리급' 과기부 국감…여 "윤 정부 R&D 삭감"vs 야 "딥페이크 AI 악용" 공세[국감]

과학기술정보통신부가 부총리급 조직으로 승격한 후 국회 과학기술정보방송통신위원회가 진행한 첫 국정감사에서 여야는 각기 다른 쟁점에 집중했다. 더불어민주당은 윤석열 정부의 R&D 예산 삭감 여파를 짚었으며 국민의힘은 딥페이크 등 인공지능(AI) 악용 우려를 핵심 사안으로 다뤘다. 정부의 국가정보자원관리원 화재 대응 관련해선 전 정부와 현 정부 책임론이 맞붙었

2025-10-13 16:22
'AI 국가대표' 선발 닻 올랐다…20일부터 공모

민관 협력으로 글로벌 파급력 있는 독자 AI 파운데이션 모델 확보 도전글로벌 AI 모델 대비 95% 이상 성능 목표로, 최대 5개 정예팀 선정 계획최대 3년간 참여팀이 희망하는 GPU+데이터+인재 종합 지원 계획 정부가 글로벌 톱 수준의 거대언어모델(LLM)을 만드는 '국가대표 AI' 선발 사업을 본격 추진한다. 과학기술정보통신부는 정보통신산업진흥원

2025-06-20 12:00
“새 정부, 규제만 풀어줘도 반은 간다”…AI 족쇄 풀릴까 [위기의 대한민국, 이것만은 꼭]

네거티브 규제 전면 도입…AI 데이터·인프라·인재 육성으로 승부수‘AI 기본법’ 시행령 속도 낼까…업계, 규제 완화 기대 속 집행력 촉구기대와 우려 교차…AI 육성 정책, 역기능 방지 및 체감도 높여야 이재명 정부가 출범하며 인공지능(AI) 산업에 대한 ‘규제 혁신’과 ‘생태계 육성’을 핵심 국정과제로 전면에 내세웠다. 이재명 대통령의 공약집에선 AI와

2025-06-16 05:00
LG전자, ‘책임 있는 AI’ 위해 AI 신뢰‧윤리 강화 앞장선다

AI안전연구소와 업무협약 체결AI 기술 안전성 확보 가속책임있는 AI 선제 대응 강화 LG전자가 ‘책임 있는 AI’를 앞세워 더 안전하고 윤리적인 인공지능(AI) 기술의 개발 및 활용에 앞장선다. LG전자가 최근 한국전자통신연구원(ETRI) AI안전연구소와 ‘글로벌 AI 규제 대응 협력을 위한 업무협약’을 체결했다고 3일 밝혔다. 김명주 AI안전연구

2025-06-03 10:00
유상임 "2030→2027, GPU 3만 장 확보 계획 앞당긴다"

2027년까지 AI GPU 3만 장 확보, 기존 계획 3년 앞당긴다 2월 중 상세한 ‘AI컴퓨팅 인프라 발전전략’ 발표 "딥시크, 판도 바꿨다고 생각하지 않아…우리도 할 수 있다" 정부가 당초 2030년까지 AI 그래픽처리장치(GPU) 3만 장을 구매하겠다는 계획을 2026년 말~2027년으로 앞당긴다. 이를 위해 우선 올해 GPU 1만 5000장 확

2025-02-04 14:18
3000만 달러 투입하는 '한-아세안 디지털 혁신 플래그십' 프로젝트 가동

정부가 5년간 한-아세안 협력기금 3000만 달러를 투입해 추진하는 ‘한-아세안 디지털 혁신 플래그십’ 프로젝트를 본격적으로 가동한다. 과기정통부는 강도현 제2차관을 수석대표로 16~17일 양일간 태국 방콕에서 열리는 제5차 아세안 디지털 장관회의에 참석해 디지털 혁신을 위한 한-아세안 협력을 추진한다. 한-아세안 디지털 장관회의는 아세안 디지털 장관

2025-01-16 12:00
'딥페이크·개인정보 유출' AI 사건 지난해 역대 최고치

SPRi "2023년 AI로 인해 발생한 사건 사고 142건"올해 7월까지 88건…2024년에도 역대 최대치 전망AI기본법 제정 눈앞…인권 침해 구제책 향후 입법 과제 딥페이크 성범죄·개인정보 부적절 수집 등 지난해 인공지능(AI)으로 인해 발생한 사건이 142건으로 최대치를 기록했다. 22일 소프트웨어정책연구소(SPRi)가 발간한 이슈리포트 '책임

2024-12-23 05:00

1 2