프롬프트인젝션 검색결과

검색결과 총11건

최신순 정확도순

과기정통부·KISA, AI 보안 위협 대응 매뉴얼 발간

AI 서비스 확산으로 프롬프트 인젝션과 데이터 유출 등 새로운 보안 위협이 늘어나는 가운데 정부가 공격자 관점에서 취약점을 진단하고 대응하는 AI 보안 가이드를 마련했다. 과학기술정보통신부는 한국인터넷진흥원(KISA)과 AI 서비스 보안 위협 대응 역량을 강화하기 위해 'AI 보안 위협 대응 매뉴얼'과 'AI 보안 레드티밍 가이드'를 발간했다고 8일 밝

2026-07-08 12:00
[넥스블록]임주영 ABC 총괄 “사람 대신 행동하는 AI 에이전트, 미래 가상경제 주체”

23일 블록체인 웹3 게임 컨퍼런스서 강연 스테이블코인, 온체인 경제 필수 인프라 주목 “AI 에이전트 실행 시 사람 개입, 결제 중단 또는 정책 변경 가능” “합법적∙안전한 사업 위한 방안 마련으로 최적 비즈니스 구현 필요” 미래 가상경제에서는 트랜잭션 대부분이 사람 대신 스스로 판단하고 행동하는 AI 에이전트에 의해 일어날 것이라는 전망이 나온

2026-06-24 06:00
삼일PwC "자산운용업, AI 확산에 내부통제 한계…전사 관리체계 시급"

최근 금융 산업 전반에서 인공지능(AI) 활용이 빠르게 확산되며, 투자 판단과 리스크 관리 등 핵심 의사결정 영역까지 영향력이 확대되고 있다. 특히, 자산운용업에서는 리서치, 데이터 분석, 포트폴리오 관리, 리스크 관리 등 주요 업무 전반에 AI 활용이 확산되고 있다. 이에 따라 기존 내부통제 체계와 책임 구조만으로 이를 충분히 관리하기 어려운 환경으

2026-06-11 08:40
“AI가 실수해도 보험으로 보상”…일레븐랩스, ‘AI 에이전트 보험’ 첫 도입

일레븐랩스가 기업의 인공지능(AI) 도입 과정에서 발생하는 책임 문제를 해결하기 위한 ‘AI 에이전트 보험’ 제도를 도입했다. AI를 단순한 소프트웨어가 아닌 ‘디지털 직원’으로 보고, 오류로 인한 손해까지 보장하는 구조다. 일레븐랩스는 AI 리스크 평가 기업 AIUC(Artificial Intelligence Underwriting Company)와 협

2026-03-18 21:05
서울아산병원 공동연구 통해 AI ‘프롬프트 인젝션 공격’ 취약성 확인

최근 생성형 인공지능(AI) 챗봇에게 질환 상담을 하는 사례가 늘고 있는데, 상용 중인 AI 모델 대부분이 악의적 공격에 무방비로 당해 잘못된 치료를 권할 위험이 매우 높은 것으로 나타났다. 서울아산병원 서준교 비뇨의학과 교수·전태준 정보의학과 교수, 이로운 인하대병원 영상의학과 교수 연구팀은 의료용 대규모언어모델(LLM)이 프롬프트 인젝션 공격에 9

2026-01-05 13:23
한화생명, 업계 최초로 AI 보안 거버넌스 국제표준 ‘ISO 42001’ 인증 획득

AI 전 생애주기 통제·책임성 확보…AI 기본법 등 규제 환경 선제 대응 한화생명이 이달 30일 보험업계 최초로 AI 보안 거버넌스 국제표준인 ‘ISO/IEC 42001’ 인증을 취득했다고 31일 밝혔다. ISO 42001은 국제표준화기구(ISO)가 제정한 AI 경영시스템 국제표준으로, AI 제공자·생산자·사용자가 AI의 기획부터 개발, 운영, 폐기

2025-12-31 09:45
'AI 보안성 82%'… 숭실대 연구센터 국내외 모델 첫 비교 분석

숭실대학교 AI안전성연구센터는 국내외 거대언어모델(LLM) 20종을 비교한 결과, 국내 모델의 보안성과 안전성이 해외 모델의 약 82% 수준이라고 18일 밝혔다. 이번 분석은 최근 '국내외 파운데이션 모델 보안·안전성 평가 세미나'에서 공개됐으며, 과학기술정보통신부와 정보통신기획평가원의 '정보보호핵심원천기술개발사업' 연구과제의 일환으로 수행했다. 연

2025-11-18 14:47
성신여대, 한국정보처리학회 ‘ACK 2025’에서 수상

성신여자대학교는 융합보안공학과 대학원생과 학부생으로 구성된 연구팀이 3개 대학 학부생들과 공동으로 수행한 연구 논문 발표를 통해 한국정보처리학회 ‘ACK 2025’ 학술대회에서 다수의 상을 받았다고 10일 밝혔다. 성신여대 연구팀(융합보안공학과 대학원생 김남령·김연진·정예림, 학부생 정선우·조효빈·김유나)은 5월부터 한국정보보호산업협회(KISIA)의

2025-11-11 16:19
이니텍, KMAC AX SUMMIT서 AI 보안 플랫폼 ‘Secure AI’ 소개

보안 전문기업 이니텍은 FKI타워 컨퍼런스센터에서 열린 ‘KMAC AX SUMMIT 2025’에 참가해 안전한 인공지능(AI) 활용을 위한 보안 플랫폼 ‘Secure AI’를 선보였다고 10일 밝혔다. 이번 행사는 ‘The Third Wave of AI’를 부제로 눈앞에 다가온 AI 에이전트(Agent) 시대에 필요한 변화와 대응 전략을 다루는 다양한

2025-09-10 14:05
안랩클라우드메이트, 생성형 AI 보안 서비스 ‘시큐어브리지’ 출시

중요 데이터 AI 입출력 자동 탐지 및 차단 안랩의 클라우드 운영관리 서비스(MSP) 전문 자회사 안랩클라우드메이트가 16일 생성형 AI 데이터 보안 서비스 ‘시큐어브리지(SecureBridge)’를 출시했다고 밝혔다. 시큐어브리지는 생성형 AI 확산에 따라 커지는 정보 유출 우려에 대응해, 기업이 도입에 대한 기술적 부담 없이 정보를 안전하게 보호

2025-06-16 09:57
SK쉴더스, ‘안전한 AI 활용’ 위한 보안 전략 공개

SK쉴더스는 올해 상반기 주요 보안 트렌드를 분석하고 인공지능(AI) 거대언어모델(LLM) 보안 대응전략을 제시하는 미디어 세미나를 개최했다고 2일 밝혔다. 이날 발표는 국내 최대 규모의 화이트해커 전문가 그룹인 SK쉴더스의 이큐스트(EQST)가 상반기에 직접 경험한 해킹 사고 사례와 연구 결과를 토대로 분석한 내용을 바탕으로 진행됐다. 특히, 최근 주

2024-07-02 15:51

넥스블록

임주영 ABC 총괄 “사람 대신 행동하는 AI 에이전트, 미래 가상경제 주체”

23일 블록체인 웹3 게임 컨퍼런스서 강연 스테이블코인, 온체인 경제 필수 인프라 주목 “AI 에이전트 실행 시 사람 개입, 결제 중단 또는 정책 변경 가능” “합법적∙안전한 사업 위한 방안 마련으로 최적 비즈니스 구현 필요” 미래 가상경제에서는 트랜잭션 대부분이 사람 대신 스스로 판단하고 행동하는 AI 에이전트에 의해 일어날 것이라는 전망이 나온

2026-06-24 06:00