레드티밍 검색결과

검색결과 총11건

최신순 정확도순

팀네이버, 세계 AI 학회서 레드티밍·피지컬 AI 연구 공개

네이버가 대규모언어모델(LLM) 안전성과 AI 모델 운영, 피지컬 AI 분야 연구 성과를 공개했다. AI 모델 개발부터 서비스 적용까지 이어지는 기술을 선보이며 연구 성과를 소개했다. 네이버클라우드는 팀네이버가 지난 6일부터 11일까지 서울 코엑스에서 열린 국제 머신러닝 학회(ICML 2026)에서 AI 안전성 강화와 모델·에이전트 운영 효율화, 3차원

2026-07-13 09:53
과기정통부·KISA, AI 보안 위협 대응 매뉴얼 발간

AI 서비스 확산으로 프롬프트 인젝션과 데이터 유출 등 새로운 보안 위협이 늘어나는 가운데 정부가 공격자 관점에서 취약점을 진단하고 대응하는 AI 보안 가이드를 마련했다. 과학기술정보통신부는 한국인터넷진흥원(KISA)과 AI 서비스 보안 위협 대응 역량을 강화하기 위해 'AI 보안 위협 대응 매뉴얼'과 'AI 보안 레드티밍 가이드'를 발간했다고 8일 밝

2026-07-08 12:00
kt cloud, 카카오와 AI 안전성 협력…안전한 AI 서비스 구현한다

kt cloud가 카카오와 함께 안전한 AI 서비스 구현을 위한 AI 안전성(AI Safety) 협력 체계를 구축하고 공공·민간 분야에서 신뢰할 수 있는 AI 활용 환경 조성에 나선다고 26일 밝혔다. 먼저 공공고객 대상의 RAG 기반 생성형 AI 서비스 플랫폼에 카카나 세이프가드를 연동한다. 최근 생성형 AI 활용이 확대되면서 유해 콘텐츠 생성, 프롬

2026-06-26 10:07
금감원, 금융권 모의해킹 연 2회로 확대⋯AI 점검 첫 도입

금융감독원이 금융권 사이버 위협 대응 역량 강화를 위해 ‘블라인드 모의해킹’ 훈련을 연 2회로 늘린다. 금감원은 30일 금융보안원과 함께 올해 금융권 블라인드 모의해킹 훈련을 기존 연 1회에서 상·하반기 연 2회로 확대 실시한다고 밝혔다. 블라인드 모의해킹은 공격 시점과 대상을 사전에 공개하지 않은 채 화이트해커가 실제 해킹을 시도하는 방식으로, 금

2026-04-30 06:00
“안전 없는 혁신은 없다”...과기정통부, 국민과 함께 ‘AI 안전 마스터플랜’ 만든다

과학기술정보통신부가 ‘인공지능(AI) 안전 생태계 조성 마스터플랜’을 구체화하기 위해 산업계, 학계, 시민사회 관계자를 모아 의견수렴 간담회를 열었다. 이날 한국정보통신기술협회(TTA), 인공지능안전연구소가 ‘AI 안전 생태계 조성을 위한 3가지 전략’을 소개했으며 자유토론이 이어졌다. 6일 서울 중구 은행회관에서 진행된 이번 간담회는 상반기 발표 예정

2026-02-06 17:55
개인정보위, '2026 AI 프라이버시 민·관 정책협의회' 출범…3개 분과로 리스크 관리 고도화

개인정보보호위원회가 인공지능(AI) 시대에 급변하는 개인정보 처리 환경에 대응하기 위해 ‘AI 프라이버시 민·관 정책협의회’를 개편해 새롭게 출범했다. 2일 개인정보위는 서울 중구 은행회관 국제회의실에서 ‘2026 AI 프라이버시 민·관 정책협의회’를 출범하고 첫 번째 전체회의를 개최했다. 개인정보위는 AI의 편익과 위험성을 고려한 규율체계를 공동 설계

2026-02-02 14:00
“금융권 AI, 3세대 이상 최신 공격엔 취약”

금융보안원, ‘2025년 AI 레드팀 보고서’ 발간 금융권 인공지능(AI)이 기본적인 보안 위협에는 대응할 수 있지만 고도화된 최신 공격에는 취약하다는 경고가 나왔다. 금융보안원은 이러한 내용을 골자로 AI 보안 위협 전망과 금융권 AI 레드팀 활동 결과를 담은 ‘2025년 AI 레드팀 보고서’를 발간했다고 30일 밝혔다. AI 레드팀은 공격자 관점에

2025-12-30 13:51
'AI 보안성 82%'… 숭실대 연구센터 국내외 모델 첫 비교 분석

숭실대학교 AI안전성연구센터는 국내외 거대언어모델(LLM) 20종을 비교한 결과, 국내 모델의 보안성과 안전성이 해외 모델의 약 82% 수준이라고 18일 밝혔다. 이번 분석은 최근 '국내외 파운데이션 모델 보안·안전성 평가 세미나'에서 공개됐으며, 과학기술정보통신부와 정보통신기획평가원의 '정보보호핵심원천기술개발사업' 연구과제의 일환으로 수행했다. 연

2025-11-18 14:47
‘IT 윤리팀’ 세운 삼성SDS…AI 위험 식별ㆍ방지 총력전

유네스코 가이드라인 기반 AI 윤리헌장도 수립클라우드 및 AI 핵심 사업 성장성과 맞물려 주목 삼성SDS가 ‘인공지능(AI) 윤리’를 전사 전략으로 끌어올렸다. AI 거버넌스 담당 조직인 ‘IT 윤리팀’을 세우고, AI 위험을 식별·방지하는 기술의 연구개발에도 나섰다. 이를 통해 삼성SDS의 미래 성장동력인 ‘AI 및 클라우드’ 사업의 신뢰성을 선제적으

2025-07-01 05:00
숭실대 AI 안전성 연구센터, (주)엔키화이트햇과 MOU 체결

숭실대 AI 안전성 연구센터는 지난 9일 'AI 안전성 연구센터 세미나'를 개최하고 ㈜엔키화이트햇과의 연구협력(MOU)을 체결했다고 13일 밝혔다. 이번 세미나는 온라인과 오프라인으로 진행됐으며 총 60여 명이 참석했다. 세미나에서는 한국인공지능 법학회 최경진 회장과 숭실대 AI 안전성 연구센터 최대선 센터장의 발표가 진행됐다. 최경진 회장은 '글로

2024-12-13 14:14
네이버 하이퍼클로바X, 수학·코딩 분야 글로벌 오픈소스 제쳤다

네이버클라우드가 3일 초대규모 AI ‘하이퍼클로바X(HyperCLOVA X)’의 테크니컬 리포트를 공개했다. 테크니컬 리포트는 학습 방법이나 성능 등 AI 모델의 세부 정보를 소개하는 논문이다. 오픈AI, 구글과 같은 빅테크 기업들도 자사 AI의 특징을 테크니컬 리포트를 통해 설명하고 있다. 성능 평가에서 글로벌 오픈소스 모델보다 높은 점수 기록…데이터셋

2024-04-04 09:39