AI 병원 확산의 문턱⋯임상 검증·책임·보상 풀어야[AI가 바꾸는 병원③]

알고리즘 정확도 넘어 환자 안전·업무 개선 효과 확인해야

▲(사진=AI 생성)

병원 인공지능 전환(AX) 과정에서 중요한 요소로 효율적인 운영 체계 구축이 꼽힌다. AI 도입 후 진료 효과를 검증하고 오류 발생 시 책임과 데이터 보호기준 마련 등이 대표적이다. 특히 초기 구축 비용은 물론 유지·관리 비용을 감당할 보상 체계 마련도 필수다.

26일 의료계 등에 따르면 의료 AI의 활용이 영상 판독에서 진료기록 작성, 환자 상태 예측 등으로 넓어지면서 평가 항목도 다양해지고 있다. 질환을 정확하게 찾아내는지에 더해 의료진의 업무를 줄이고 진료 대응과 환자 안전을 개선하는지 확인해야 한다는 것이다.

개발 단계에서 확인한 성능이 실제 의료기관에서도 유지되는지 검증하는 것이 우선이다. 학습 데이터와 도입 병원의 환자군이 다르거나 검사 장비·진료 절차가 달라지면 결과에도 영향을 줄 수 있다. 한 병원의 성과를 다른 기관에 그대로 적용하기 어려운 만큼 도입 이후에도 진료 환경 변화에 따른 성능을 점검해야 한다.

기존 업무와의 연계 방식도 성과를 좌우한다. 환자 위험을 경고하더라도 확인·대응할 담당자가 불분명하면 적절한 조치로 이어지기 어렵다. 부정확하거나 잦은 경고는 확인 업무를 늘리고 중요한 알림을 놓치는 ‘알림 피로’를 유발할 수 있다. 경고 확인과 환자 재평가, 담당 의료진에게 전달하는 절차를 구체적으로 정해야 한다.

책임 기준도 구체화해야 한다. 의료진은 AI 결과를 다른 임상 정보와 함께 판단해야 하지만 오류의 원인이 언제나 의료진에게 있는 것은 아니다. 알고리즘 결함이나 데이터 입력, 병원정보시스템 연계 과정에서도 문제가 생길 수 있다. 개발사·제조사·의료기관·의료진의 정보 제공과 점검 의무를 명확히 할 필요가 있다.

데이터 연계와 보안도 AX의 기반이다. 진료기록과 검사 결과, 영상 등을 함께 활용하려면 시스템 간 데이터 형식과 용어·단위를 맞춰야 한다. 연계가 원활하지 않으면 반복 입력과 별도 확인이 필요해 자동화 효과가 줄어든다. 데이터가 특정 연령이나 질환에 치우치지 않고 적용 대상 환자를 충분히 반영하는지도 살펴야 한다.

건강정보 보호를 위해 데이터 접근 권한과 저장·처리 범위를 정하고, 외부 시스템으로 전달되는 경로도 관리해야 한다. 진료 대화와 의무기록을 분석하는 AI가 늘어나는 만큼 활용 목적과 보관·삭제 절차를 명확히 하는 일도 중요하다.

비용과 보상 구조 역시 지속 운영의 관건이다. 병원은 AI 구매·사용료 외에도 전자의무기록 연동, 보안 관리, 의료진 교육, 성능 점검에 인력과 예산을 투입해야 한다. 초기 도입을 지원받더라도 유지·관리와 재평가 비용을 감당하지 못하면 활용을 이어가기 어렵다.

AI를 활용하는 한 의료진은 “초기비용 부담이 크고 AI 활용에 대한 적절한 보상이 미비한 상황”이라면서 “대다수 AI 솔루션이 건강보험을 적용받지 못하는 상황이라 현장 도입과 확산이 쉽지는 않다”고 말했다.