“AI도 보안이 우선”…파수, 데이터 유출 막는 LLM ‘엘름’ 선봬

▲22일 파수는 서울시 여의도 페어몬트 앰버서더 호텔에서 'FDI 2025 심포지엄'을 열었다. 사진은 파수 조규곤 대표 (이은주 기자 letswin@)

"보안기업으로서 안전한 거대언어모델(LLM)을 사용하도록 엘름(Ellm) 거버넌스를 지원하겠습니다."

22일 파수는 서울 여의도 페어몬트 앰버서더 호텔에서 'FDI 2025 심포지엄'을 열었다. 윤경구 파수 본부장은 "엘름은 입력과 출력에 대해 (민감 데이터를) 분류하거나 제한할 수 있는 데이터 손실 방지(DLP) 기능을 탑재했다"며 이같이 설명했다.

엘름은 사내 데이터를 학습한 산업 특화 인공지능(AI)이다. 주로 AI 채팅, 문서 요약 및 작성, 데이터 분석 등 서비스를 제공한다. 특히 엘름은 파수의 보안 솔루션과 연동돼 세부적인 접근 제어와 메타데이터 통제 등 기능을 고도화할 수 있다.

파수는 AI의 고질적인 문제인 '환각(할루시네이션)'도 최소화했다고 밝혔다. 윤 본부장은 "엘름은 모르는 걸 '모른다'고 답변하도록 훈련됐다"며 "파수는 AI 에이전트가 사람의 의도나 목적에 부합하는 결과물을 생성하고, 또 보안의 관점을 고려하는 것이 바람직한 방향이라고 생각한다"고 말했다.

▲22일 파수는 서울시 여의도 페어몬트 앰버서더 호텔에서 'FDI 2025 심포지엄'을 열었다. 사진은 '엘름' 시연 장면 (이은주 기자 letswin@)

엘름은 기업 내부의 데이터베이스를 바탕으로 답변을 생성한다. 구글이나 네이버 등 포털 검색은 보안 측면을 고려해 하지 않는다. 또, 생성된 콘텐츠엔 데이터 출처가 표기돼 이용자는 직접 정보의 정확도를 검토할 수 있다.

파수 관계자는 "챗GPT 등 공개된 AI를 사용한다면 답변의 퀄리티가 좋을 수는 있겠지만, 내부 기업 정보를 오픈된 클라우드 서버로 보내는 과정이 필수적이다. 그러나 엘름은 데이터 외부 유출을 하지 않고, 사내에 있는 데이터만을 활용해 답변한다"고 말했다. 이어 그는 "작은 AI 모델을 사내 업무에 특화한 것"이라고 덧붙였다.

이날 FDI 행사에는 기업ㆍ기관의 최고정보책임자(CIO), 최고정보보안책임자(CISO), 보안 및 정보기술(IT) 관계자가 참석했다. 메인 트랙으로는 ‘악성 메일 훈련·교육, 취약점 진단과 태세 관리’와 ‘AI와 클라우드 시대의 데이터 보안’을 주제로 발표가 진행됐다. 같은 시간 별도로 진행되는 특별 트랙으로 ‘소프트웨어 공급망 보안과 SBOM(소프트웨어 구성 명세서) 생성 유통 검증’과, ‘사이버 물리 보안(CPS)의 현재와 미래’ 발표를 통해 OT·CPS 보안도 다뤘다. 이후 마지막으로 다시 통합 세션으로 ‘Gen AI 데이터 보안 전략’을 소개했다.

조규곤 파수 대표는 "데이터 인프라를 AI 시대에 맞게 업그레이드할 필요가 있다. 거버넌스도 보안(security) 수준을 높이기 위해 고민했다"며 "너무 많은 돈을 들이지 않고도 소형 LLM을 프라이빗하게 구축하도록 했다"고 말했다.