AI레드팀 검색결과

검색결과 총13건

최신순 정확도순

금융보안원, ‘AI 에이전트’ 보안 평가기준 마련⋯17개 항목 점검

금융보안원이 금융권에 확산하는 AI 에이전트를 겨냥한 전용 보안 평가 기준을 내놨다. AI가 스스로 판단하고 실행하는 과정에서 생기는 새로운 유형의 보안 위협을 미리 걸러내겠다는 취지다. 금융보안원은 6개 분야 17개 점검 항목으로 구성된 '금융분야 AI 에이전트 보안 평가 기준'을 개발했다고 7일 밝혔다. AI 에이전트는 주어진 목표를 이루기 위해

2026-10-07 10:17
SK쉴더스 화이트해커 그룹, 데프콘 34 AI CTF서 글로벌 5위 기록

SK쉴더스의 화이트해커 그룹 EQST(이큐스트)가 미국 라스베이거스에서 진행된 세계 최대 해킹·보안 컨퍼런스 ‘데프콘(DEF CON) 34’의 AI 빌리지에서 열린 CTF(Capture The Flag)에서 글로벌 200여 팀 가운데 최종 5위를 기록했다. SK쉴더스는 이큐스트가 AI CTF에서 국내 참가팀 중 유일하게 톱5에 이름을 올리며 AI 에이전

2026-08-10 16:35
KAIST, 국내 유일 MS AI 레드팀 선정…AI 안전성 연구 생태계 확대

한국과학기술원(KAIST)이 마이크로소프트(MS)의 글로벌 AI 안전성 연구 프로그램에 선정돼 차세대 AI 보안·신뢰성 기술 개발에 나선다. 국내에서 유일하게 참여하는 KAIST는 MS로부터 약 3700만원의 관련 연구비를 지원받는다. KAIST는 손수엘 전산학부 교수가 국내에서는 유일하게 MS AI 레드팀이 운영하는 글로벌 AI 안전성 연구 프로그램

2026-07-28 13:54
과기정통부·KISA, AI 보안 위협 대응 매뉴얼 발간

AI 서비스 확산으로 프롬프트 인젝션과 데이터 유출 등 새로운 보안 위협이 늘어나는 가운데 정부가 공격자 관점에서 취약점을 진단하고 대응하는 AI 보안 가이드를 마련했다. 과학기술정보통신부는 한국인터넷진흥원(KISA)과 AI 서비스 보안 위협 대응 역량을 강화하기 위해 'AI 보안 위협 대응 매뉴얼'과 'AI 보안 레드티밍 가이드'를 발간했다고 8일 밝

2026-07-08 12:00
SKT, A.X K1으로 '글로벌 AI 레드팀 챌린지' 참여…세계 무대서 국가대표 AI 모델 신뢰성 검증

SK텔레콤은 자체 개발한 인공지능(AI) 모델 ‘에이닷엑스 케이원(A.X K1)’의 안전성과 신뢰성을 검증하기 위해 세계 최대 모바일 박람회 'MWC26' 기간 중 진행되는 ‘글로벌 AI 레드팀 챌린지’에 참여한다고 25일 밝혔다. 글로벌 AI 레드팀 챌린지는 국내외를 대표하는 통신·AI 기업들이 개발한 거대언어모델(LLM)을 대상으로 약 100명의 평

2026-02-25 10:24
LG유플, MWC26 ‘글로벌 AI 레드팀 챌린지’ 참가…신뢰성 검증

LG유플러스가 생성형 인공지능(AI)의 안전성과 신뢰성을 검증하기 위해 모바일월드콩그레스(MWC) 기간 중 진행되는 ‘글로벌 AI 레드팀 챌린지’에 참여한다고 19일 밝혔다. 글로벌 AI 레드팀 챌린지는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램으로, MWC26이 열리는 스페인 바르셀로나에서 개최된다. 해당 챌린지는 MWC와 공동

2026-02-19 09:09
“금융권 AI, 3세대 이상 최신 공격엔 취약”

금융보안원, ‘2025년 AI 레드팀 보고서’ 발간 금융권 인공지능(AI)이 기본적인 보안 위협에는 대응할 수 있지만 고도화된 최신 공격에는 취약하다는 경고가 나왔다. 금융보안원은 이러한 내용을 골자로 AI 보안 위협 전망과 금융권 AI 레드팀 활동 결과를 담은 ‘2025년 AI 레드팀 보고서’를 발간했다고 30일 밝혔다. AI 레드팀은 공격자 관점에

2025-12-30 13:51
AI 보안 최전선…방어력 끌어올리는 ‘레드팀’ [해외실험실: 빅테크 보안 대해부 ③]

해커 역할 부여해 AI 보안 취약점 확인불법 조언 확인·차단 용도로도 활용 인공지능(AI) 보안 문제가 갈수록 중요해지면서 떠오른 화두가 바로 ‘레드팀’이다. 레드팀은 사내 AI 보안 취약점을 찾아내는 조직을 의미하는 것으로 빅테크가 회사 안팎에서 직접 해커 역할을 지정한다. AI 수요가 급증하면서 빅테크들 사이에서 레드팀의 역할이 커지는 상황이다. 11

2025-12-12 05:00
SKT 컨소시엄, 정부 ‘독자 AI 파운데이션 모델’ 정예팀 선정

SK텔레콤은 과학기술정보통신부가 주관하는 ‘독자 인공지능(AI) 파운데이션 모델’ 프로젝트의 정예팀으로 선정됐다고 4일 밝혔다. SKT 컨소시엄은 반도체, 모델, 데이터, 서비스로 이어지는 독자 기술 기반의 풀스택 AI를 구현하고, 개발하는 모델을 국내 AI 생태계의 다양한 기업들에 오픈소스로 개방하는 것을 목표로 출범했다. 컨소시엄에는 국내 최대

2025-08-04 17:04
SKT 유영상 "AI 성장·발전과 안전성의 균형 도모해야"

SK텔레콤은 21일~22일 양일간 서울에서 열린 ‘인공지능(AI) 서울 정상회의’에서 유영상 CEO가 약 17개국 정부, 재계 인사들 앞에서 대한민국 대표 AI 기업으로 지속가능한 혁신 방안에 대해 발표했다고 23일 밝혔다 AI 서울 정상회의는 미국, 영국 등 주요국 정상과 디지털부 장관, 국내외 빅테크 대표들이 참석하는 회의로, 21일 정상세션과 22일

2024-05-23 09:11
[르포] "하나 둘 셋 스타트"…시민 1084명 ‘생성형 AI’ 위험 찾는 레드팀 됐다

AI‧IT분야 종사자뿐만 아니라 제조‧금융‧의료분야 종사자, 대학생 등 참가 “방어가 탄탄해 잘 안 뚫렸다.” 11일 오후 2시 서울 강남구 코엑스 B2 홀에서 열린 ‘생성형 AI 레드팀 챌린지’. 실제 서비스되고 있는 거대언어모델(LLM)에 참가자들이 모의로 프롬프트 공격을 해 모델의 안전성을 검증하는 이번 대회에는 시민 1084명이 레드팀으로 참가

2024-04-12 10:30
“AI 잠재적 위험 찾는다” 국내 첫 ‘레드팀 챌린지’ 개최...네이버ㆍSKT 등 참여

과학기술정보통신부(과기정통부)와 한국정보통신기술협회(TTA)는 생성형 인공지능(AI) 레드팀 챌린지 행사를 11일부터 이틀간 개최한다고 밝혔다. 서울시 강남 코엑스 B2홀에서 진행되는 ‘레드팀 챌린지’는 다양한 관점을 가진 국민들의 집단지성을 활용해 국내 생성형 AI 모델(LLM)의 잠재적 취약점(유해정보 생성 등)을 식별하는 행사다. 공개 레드팀 챌

2024-04-11 14:30
네이버, 생성형 AI 안정성 검증 챌린지 대표 파트너로 참여…AI 개발 논의 이끈다

네이버가 과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)와 초거대AI추진협의회가 주관해 다음달 11일과 12일 양일간 개최되는 ‘생성형 AI 레드팀 챌린지(Gen AI Korea 2024)’에 대표 파트너사로 참여한다고 21일 밝혔다. 공동 대표 파트너사인 AI 학습 데이터 플랫폼 스타트업 ‘셀렉트스타’와 행사를 진행하며 AI 안전성 기술 교류

2024-03-21 16:08