에이아이트릭스, KISDI와 협력해 인공지능 윤리점검표 발표

▲에이아이트릭스 CI. (사진=에이아이트릭스)

에이아이트릭스는 정보통신정책연구원(KISDI)과 협업해 인공지능(AI) 헬스케어 분야 최초로 인공지능 윤리점검표를 도출했다고 16일 밝혔다.

이번 윤리점검표는 AI 기반 디지털 의료기기의 개발부터 운영, 사후관리까지 전 과정에서 윤리적 기준 준수 여부를 점검하기 위해 마련된 것으로 총 10가지 핵심 요건과 세부 점검 항목으로 구성됐다.

해당 점검표는 KISDI가 추진한 인공지능 윤리 점검체계 개발 사업의 일환으로 도출됐다. 에이아이트릭스는 지난해 말 진행된 프로젝트에 AI 헬스케어 분야 대표 기업으로 참여해 의료 AI의 특성을 반영한 점검 기준을 공동으로 마련했다.

인공지능 기술이 의료 현장 전반으로 빠르게 확산되면서 환자 안전과 데이터 보호, 의료진의 판단권 보장 등 윤리적 책임의 중요성이 강조되고 있다. 특히 이러한 기술은 환자의 생명과 직결되는 만큼 기술의 성능을 넘어 신뢰할 수 있는 활용 기준 마련이 필수적이라는 요구가 확대되고 있는 상황이다.

이러한 배경에서 마련된 이번 윤리점검표는 인권 보장, 프라이버시 보호, 다양성 존중, 침해금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성 등 AI 헬스케어 전반을 포괄하는 10가지 핵심 요소를 중심으로 구성됐다. 이를 통해 의료 AI 개발 및 활용 과정에서 발생할 수 있는 다양한 윤리적 이슈를 체계적으로 점검할 수 있도록 했다.

에이아이트릭스는 이를 바탕으로 자사 AI 솔루션의 개발 및 운영 과정 전반에서 윤리 기준 준수 여부를 점검하고임상 현장에서 의료 AI가 안정적으로 활용될 수 있도록 내부 관리 체계를 지속해서 강화해 나갈 계획이다. 또 이번 점검표가 의료 AI의 윤리적 활용 기준을 구체화함으로써 기술에 대한 신뢰도를 높이고 의료 현장에서의 안정적인 도입과 활용 확산에도 기여할 수 있을 것으로 기대하고 있다.

김광준 에이아이트릭스 대표는 “인공지능 윤리점검표는 환자 안전과 의료진의 자율성, 의료 데이터의 보안 등 핵심 요소를 반영한 것으로 자사의 기술이 윤리적, 사회적 책임을 이행하고 있음을 보여주는 기준이라는 점에서 의미가 크다”며 “앞으로도 기술 혁신과 윤리 기준 정립을 함께 이어가며 업계를 선도해 나가겠다”고 밝혔다.