삼정KPMG, “기업들 AI 거버넌스 구축해야”...챗GPT 보고서 발간

(출처=삼정KPMG)

최근 챗GPT가 전 세계적인 파장을 가져온 가운데 기업들이 AI(인공지능) 활용을 위해 AI를 관리하는 ‘AI 거버넌스(지배구조)’를 구축해야 한다는 제언이 나왔다. AI 모델이 내놓은 결과값을 바탕으로 의사결정을 할 때 조직 내 역할·책임 범위 등을 명확히 해야 한다는 것이다.

19일 삼정KPMG는 '챗GPT가 촉발한 초거대 AI 비즈니스 혁신' 보고서에서 이같은 분석을 내놨다.

챗GPT는 오픈AI(인공지능)가 만든 대화형 인공지능 모델이다. GPT는 사전 훈련된 생성 변환기(Generative Pre-trained Transformer)의 약자로 대규모 텍스트 데이터를 기반으로 사전 학습된 인공지능 모델이다.

인공지능을 활용한 비즈니스 모델이 커짐에 따라 빅테크 기업들은 대규모 투자를 기반으로 텍스트, 이미지, 음성, 영상 등 여러 분야의 생성형 AI를 앞다투어 개발·출시 중이다. 국내의 경우 네이버, 카카오 등 주요 기업과 통신사가 자체 파운데이션(기반) 모델을 구축해 이를 기반으로 생성형 AI 서비스를 적극 개발하고 있다.

보고서에는 생성형 AI의 영향력이 거세게 미치는 부서로 △마케팅·영업 △고객 서비스 △인사(HR) △법률·컴플라이언스 △연구·개발(R&D) △물류·유통을 꼽았다.

삼정KPMG는 챗GPT와 초거대 AI, 생성형 AI의 발전사, AI 기술 도입에 따른 기업 부서별 변화 방향성을 분석했다. 기업 C레벨(C-Level)이 주안점을 둬야 할 AI 관리 방안인 'AI 거버넌스 프레임워크'에 대해 제언했다.

보고서에선 기업 C-Level(임원진)이 편향된 데이터로 인해 부정확한 결과가 도출되는 부작용 등을 예측해 이를 선제적으로 관리해야 한다고 강조했다. AI 모델이 도출한 결과값의 신뢰 가능성부터, 사고 발생 시 대응 프로세스와AI 판단 결과를 어떻게 고객이나 규제 당국에 이해시킬 수 있는지 등 AI 도입에 따른 주요 질문을 만들 필요가 있다는 설명이다.

이후 기업의 고유한 상황을 고려해 조직과 R&R(역할·책임), 프로세스와 모형 검증 측면에서 AI를 관리하는 'AI 거버넌스' 방안을 수립해야 한다는 것이다. 또한 AI 거버넌스 원칙에 기반해 신뢰할 수 있는 AI 운영을 위한 프레임워크도 설계해야 한다고 덧붙였다.

조재박 삼정KPMG 부대표(디지털본부장)는 “데이터 및 AI·초거대 AI에 대한 관심 및 적극적인 활용 모색과 함께, AI 거버넌스 수립을 통해 적시 도입 의사결정을 지원하면서 리스크를 줄이기 위한 검증 체계를 마련해야 한다”고 강조했다.