[인터뷰] 신계영 삼성SDS 부사장 “에이전트 늘수록 권한 복잡해져…통합 거버넌스 중요”

권한·비용·보안·평가 ‘에이전트 거버넌스’ 4요소
AI 게이트웨이로 반복업무 비용 절감
기밀데이터는 내부모델 자동 라우팅
외부 에이전트까지 한곳서 통합 관리
패브릭스(FabriX) 2.0 이달 말 출시

오픈AI의 AI 에이전트가 7월 오픈소스 플랫폼 ‘허깅페이스’를 해킹한 데 이어 호주 정부 사이트, 미국 증권거래위원회(SEC)와 인구조사국 등 정부 웹사이트에 무단으로 접근했다. 최근에는 온라인 백과사전인 ‘위키백과’에도 무단 침투한 사실이 드러났다.

이처럼 접근 권한이 없는 AI 에이전트가 주어진 임무를 수행하는 과정에서 예상치 못한 행동을 하는 사례가 잇따라 보고되고 있다. 신계영 삼성SDS 부사장(AI사업팀장)은 인공지능 전환(AX)을 가속화하는 기업이 마음 놓고 수많은 에이전트에게 일을 맡기려면 이들의 행동을 통합 관리하는 ‘에이전트 거버넌스’가 필요하다고 강조한다.

신 부사장은 2일 서울 송파구 삼성SDS 사옥에서 본지와 만나 “여러 에이전트가 협업하고 심지어 사용자는 어떤 에이전트가 돌아가는지 다 알지 못할 수도 있다”며 “각각의 에이전트가 각각의 시스템에 다 들어가야 하기 때문에 권한에 너무 복잡한 경우의 수가 생긴다”고 지적했다.

과거에는 시스템이 한 사람의 신원을 보고 접근 권한이 있는지만 판단하면 됐다. 반면 AX 시대에는 사람이 에이전트에 일을 맡기면 해당 에이전트가 다른 수많은 에이전트에게 일을 시킨다. 신 부사장은 이 같은 환경에서 필요한 에이전트 거버넌스 요소로 △권한 △비용 △보안 △평가 4가지를 제시했다.

에이전트가 신뢰성 있게 동작하게 만드는 핵심은 권한 관리다. 신 부사장은 “에이전트가 주어진 임무를 성공적으로 완수한다 해도 권한이 없는 시스템에 들어가거나 임의로 권한을 주고받으면 기준점이 사라진다”며 “어느 레벨이든 데이터와 시스템 접근에 대한 권한 관리가 필요하다”고 밝혔다.

에이전트가 단순한 반복 업무를 처리하는데 추론 모델을 활용하면 토큰 비용이 과도하게 부과될 수 있다. 신 부사장은 “누가 어떻게 쓰고 있는지 패턴을 바로 알 수 있는 가시성과 이를 통제하는 것이 비용 관리의 핵심”이라며 “단순한 업무에는 작은 모델을 활용하고 복잡한 추론이 필요한 업무에는 성능이 높은 모델을 연결하는 ‘AI 게이트웨이’가 필요하다”고 설명했다.

보안 측면에서는 외부로 보내도 되는 데이터와 보내서는 안 되는 기밀 데이터를 구분하고, 기밀 데이터는 외부 모델이 아닌 내부 모델로 자동으로 라우팅해주는 방식이 중요하다. 만들어진 에이전트가 제대로 일하고 있는지도 평가해야 한다. 당초 약속하지 않은 시스템에 접근하거나 목적에 맞는 성능을 내지 못할 수 있기 때문이다.

삼성SDS는 이같은 에이전트 거버넌스 4요소가 모두 담긴 기업용 생성형 AI 플랫폼 ‘패브릭스(FabriX) 2.0’을 이달 출시하고 내달 중순까지 고객사에게 순차적으로 배포할 계획이다. 신 부사장은 “패브릭스 2.0은 민감한 질문에 대한 키워드 필터링, 가드레일을 비롯해 레드티밍 모델도 제공해 에이전트 생태계가 안전한지 아닌지를 판단할 수 있도록 한다”고 밝혔다.

패브릭스 2.0에서 만든 에이전트뿐 아니라 외부에서 만든 에이전트도 ‘마켓플레이스’에 등록하고 통합 관리할 수 있다. 오픈AI의 챗GPT, 구글 제미나이 등 외부 AI에서 만든 에이전트와 스킬(Skill), MCP를 API로 연계해 패브릭스의 채팅과 에이전트 제작에도 활용 가능하다.

신 부사장은 기업의 AX가 실제 업무 혁신으로 이어지려면 단순 에이전트 도입에 앞서 데이터와 시스템을 AI가 활용할 수 있는 형태로 준비하는 ‘AI 레디니스’가 중요하다고 강조했다. 그는 “AI 레디 데이터를 확보하지 않으면 에이전트가 할 수 있는 일은 제한적일 수 밖에 없다”며 “데이터와 시스템이 AI 프렌들리하게 잘 준비돼 있다면 에이전트를 한 달 안에도 만들 수 있다”고 말했다.