AI레드팀 검색결과

검색결과 총7건

최신순 정확도순

“금융권 AI, 3세대 이상 최신 공격엔 취약”

금융보안원, ‘2025년 AI 레드팀 보고서’ 발간 금융권 인공지능(AI)이 기본적인 보안 위협에는 대응할 수 있지만 고도화된 최신 공격에는 취약하다는 경고가 나왔다. 금융보안원은 이러한 내용을 골자로 AI 보안 위협 전망과 금융권 AI 레드팀 활동 결과를 담은 ‘2025년 AI 레드팀 보고서’를 발간했다고 30일 밝혔다. AI 레드팀은 공격자 관점에

2025-12-30 13:51
AI 보안 최전선…방어력 끌어올리는 ‘레드팀’ [해외실험실: 빅테크 보안 대해부 ③]

해커 역할 부여해 AI 보안 취약점 확인불법 조언 확인·차단 용도로도 활용 인공지능(AI) 보안 문제가 갈수록 중요해지면서 떠오른 화두가 바로 ‘레드팀’이다. 레드팀은 사내 AI 보안 취약점을 찾아내는 조직을 의미하는 것으로 빅테크가 회사 안팎에서 직접 해커 역할을 지정한다. AI 수요가 급증하면서 빅테크들 사이에서 레드팀의 역할이 커지는 상황이다. 11

2025-12-12 05:00
SKT 컨소시엄, 정부 ‘독자 AI 파운데이션 모델’ 정예팀 선정

SK텔레콤은 과학기술정보통신부가 주관하는 ‘독자 인공지능(AI) 파운데이션 모델’ 프로젝트의 정예팀으로 선정됐다고 4일 밝혔다. SKT 컨소시엄은 반도체, 모델, 데이터, 서비스로 이어지는 독자 기술 기반의 풀스택 AI를 구현하고, 개발하는 모델을 국내 AI 생태계의 다양한 기업들에 오픈소스로 개방하는 것을 목표로 출범했다. 컨소시엄에는 국내 최대

2025-08-04 17:04
SKT 유영상 "AI 성장·발전과 안전성의 균형 도모해야"

SK텔레콤은 21일~22일 양일간 서울에서 열린 ‘인공지능(AI) 서울 정상회의’에서 유영상 CEO가 약 17개국 정부, 재계 인사들 앞에서 대한민국 대표 AI 기업으로 지속가능한 혁신 방안에 대해 발표했다고 23일 밝혔다 AI 서울 정상회의는 미국, 영국 등 주요국 정상과 디지털부 장관, 국내외 빅테크 대표들이 참석하는 회의로, 21일 정상세션과 22일

2024-05-23 09:11
[르포] "하나 둘 셋 스타트"…시민 1084명 ‘생성형 AI’ 위험 찾는 레드팀 됐다

AI‧IT분야 종사자뿐만 아니라 제조‧금융‧의료분야 종사자, 대학생 등 참가 “방어가 탄탄해 잘 안 뚫렸다.” 11일 오후 2시 서울 강남구 코엑스 B2 홀에서 열린 ‘생성형 AI 레드팀 챌린지’. 실제 서비스되고 있는 거대언어모델(LLM)에 참가자들이 모의로 프롬프트 공격을 해 모델의 안전성을 검증하는 이번 대회에는 시민 1084명이 레드팀으로 참가

2024-04-12 10:30
“AI 잠재적 위험 찾는다” 국내 첫 ‘레드팀 챌린지’ 개최...네이버ㆍSKT 등 참여

과학기술정보통신부(과기정통부)와 한국정보통신기술협회(TTA)는 생성형 인공지능(AI) 레드팀 챌린지 행사를 11일부터 이틀간 개최한다고 밝혔다. 서울시 강남 코엑스 B2홀에서 진행되는 ‘레드팀 챌린지’는 다양한 관점을 가진 국민들의 집단지성을 활용해 국내 생성형 AI 모델(LLM)의 잠재적 취약점(유해정보 생성 등)을 식별하는 행사다. 공개 레드팀 챌

2024-04-11 14:30
네이버, 생성형 AI 안정성 검증 챌린지 대표 파트너로 참여…AI 개발 논의 이끈다

네이버가 과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)와 초거대AI추진협의회가 주관해 다음달 11일과 12일 양일간 개최되는 ‘생성형 AI 레드팀 챌린지(Gen AI Korea 2024)’에 대표 파트너사로 참여한다고 21일 밝혔다. 공동 대표 파트너사인 AI 학습 데이터 플랫폼 스타트업 ‘셀렉트스타’와 행사를 진행하며 AI 안전성 기술 교류

2024-03-21 16:08