‘IT 윤리팀’ 세운 삼성SDS…AI 위험 식별ㆍ방지 총력전

유네스코 가이드라인 기반 AI 윤리헌장도 수립
클라우드 및 AI 핵심 사업 성장성과 맞물려 주목

삼성SDS가 ‘인공지능(AI) 윤리’를 전사 전략으로 끌어올렸다. AI 거버넌스 담당 조직인 ‘IT 윤리팀’을 세우고, AI 위험을 식별·방지하는 기술의 연구개발에도 나섰다. 이를 통해 삼성SDS의 미래 성장동력인 ‘AI 및 클라우드’ 사업의 신뢰성을 선제적으로 확보한다는 전략이다.

30일 삼성SDS 지속가능경영보고서에 따르면, 사내에 AI 거버넌스 담당 조직인 ‘IT 윤리팀’을 운영하고 있다. IT 윤리팀은 AI가 초래할 수 있는 위험을 식별, 평가, 개선하는 방안을 마련한다. 삼성SDS 관계자는 “IT 윤리팀은 삼성SDS 연구소 산하 조직으로 운영되고 있다”고 말했다.

또한 AI 위험에 대응하기 위한 기술도 지속해서 개발하고 있다. 삼성SDS는 지난해부터 AI 유해 답변을 방지하는 AI-어시스티드 레드 티밍 프레임워크(AI-assisted Red Teaming Framework)를 확보했다. 해당 프레임워크는 프로그래밍 및 금융 등 분야에서 발생할 수 있는 유해 응답 유형을 가정해 공격 프롬프트를 생성하고, 이에 대한 AI의 반응을 자동으로 테스트하는 시스템이다. 유해 답변 유형으로는 △폭력 범죄 △성적 콘텐츠 △명예훼손 △혐오 등이 있다.

세이프티 필터(Safety Filter)는 해로운 AI 답변을 유도하는 사용자의 질문 및 의도를 탐지하는 기술이다. 이를 통해 AI 위험성을 사전에 방지한다는 전략이다. 삼성SDS는 이 같은 기술적 위험 완화 방안뿐 아니라, 사용자 약관 및 매뉴얼을 제공하는 등 관리적 방안도 함께 고려 중이다.

이를 위해 유네스코(UNESCO)의 AI 윤리 가이드라인을 토대로 AI 윤리헌장을 수립했다. 윤리헌장은 △인권 존중 △다양성과 포용성 △데이터와 프라이버시 보호 △환경과 생태계 보전 △커뮤니케이션 등 5개 과제를 제시한다. 지난해에는 AI 국제 표준인 ‘AI 경영시스템 인증(ISO·IEC 42001)’을 획득하기도 했다.

삼성SDS가 AI 윤리를 전사적 전략으로 내세우는 이유는, AI가 삼성SDS의 핵심 사업 기반으로 자리 잡고 있기 때문이다. 삼성SDS는 생성형 AI 플랫폼 ’패브릭스‘와 협업 AI 솔루션 ’브리티 코파일럿‘ 등을 핵심 사업으로 추진하고 있다. 지난달 미디어데이에선 이들 솔루션의 ’AI 에이전트’ 출시를 예고했다. 기존 고정된 업무만을 자동화하는 것에서, 변화하는 상황에 맞춰 스스로 문제를 해결하는 AI 에이전트로 나아가겠다는 포부다. 개인 맞춤형 AI 업무 비서 ‘퍼스널 에이전트’는 올 9월, 생성형 AI 기반 초자동화 솔루션 브리티 오토메이션의 ‘에이전틱 봇’은 10월에 출시한다.

실제 경영 성과도 이를 뒷받침한다. 삼성SDS의 올해 1분기 매출 중 ’클라우드(AI 사업 포함)‘ 부문의 성장세가 가장 컸다. 클라우드 사업 매출은 전년 동기 대비 23% 증가한 6529억 원을 기록했다. 같은 기간 시스템 통합(SI) 부문과 IT 아웃소싱 부문이 각각 18.2%, 3.1% 하락한 것과 비교하면 대조적이다.

삼성SDS는 AI 윤리와 더불어 개인정보보호, 오픈소스 등 디지털 책임 영역을 중대 이슈로 지정했다. 이를 위해 개인정보보호책임자(CPO)를 지정하고, 개인정보와 관련된 준법활동을 수행하고 있다. CPO 산하엔 법무팀장을 의장으로 하는 개인정보보호협의회를 뒀다. 또한, 오픈소스 생태계와 개발자가 동반 성장할 수 있도록 오픈소스 정책을 수립하고, 보안 체계를 강화했다.