“사내 업무용 AI 규제 명확히 해야”…한경협, AI 기본법 개선과제 19건 건의

개발·이용기업 간 책임 구분 요구…고영향 AI 판단 기준·안전관리 의무 구체화 촉구

▲한국경제인협회 표지석. (사진제공=한경협)

한국경제인협회가 기업 내부에서 사용하는 AI와 외부에 제공하는 AI 서비스를 구분해 규제할 것을 정부에 건의했다. 올해 시행된 AI 기본법의 적용 대상과 기업별 책임 범위가 불분명해 현장에서 혼선이 발생하고 있다는 이유에서다. AI 활용을 확대하기 위해서는 실제 위험 수준과 기업의 역할에 맞춰 규제를 구체화해야 한다는 주장이다.

한경협은 1월 22일부터 시행된 AI 기본법과 관련해 회원사 의견을 수렴한 개선과제 19건을 과학기술정보통신부에 제출했다고 29일 밝혔다.

건의안은 △AI 규제 대상과 적용 범위 명확화 △AI 사용 사실 고지·표시 의무 합리화 △고성능·고영향 AI 규제 구체화 △학습 데이터 활용기준 정비 △규제 확대의 예측가능성 확보 등 5개 분야로 구성됐다.

우선 사내 업무용 AI를 외부 고객에게 제공하는 상용 서비스와 구분해야 한다고 주장했다. 현행법상 기업이 자체 개발한 AI를 임직원이나 계열사와 공동으로 사용하는 경우에도 인공지능사업자의 의무가 적용되는지 명확하지 않다는 지적이다.

한경협은 고영향 AI에 해당하지 않는 일반 사내 업무용 AI는 외부 서비스와 구분하고, 일정한 보안·관리 요건을 충족한 계열사 간 공동 활용도 내부 업무로 인정해 줄 것을 요청했다.

AI 개발기업과 이용기업의 책임 범위도 명확히 할 필요가 있다고 강조했다. 현행법은 양측 모두에 고지·표시와 위험관리 등의 의무를 부과하고 있지만, 실제 관리할 수 있는 범위에 따라 책임을 나눠야 한다는 것이다.

가령 일반 업무용 AI를 다른 기업이 고영향 AI로 용도를 변경해 서비스를 제공한다면 추가 위험에 대한 관리 책임은 용도를 바꾼 기업이 부담해야 한다고 제안했다.

제약·바이오 분야에서 연구개발(R&D)에 활용하는 AI의 규제 기준도 구체화해야 한다고 주장했다. 현행 지침은 연구개발 단계에서 도구로 사용하는 AI를 고영향 AI 의무 대상에서 제외하고 있지만, 개별 기술의 해당 여부를 판단하기 어렵다는 설명이다.

이에 따라 전임상 단계의 독성 예측과 의료기기 개발을 위한 코딩 지원, 연구 데이터 분석 등을 고영향 AI 제외 사례로 명시할 것을 건의했다. 관계기관의 판단을 한곳에서 확인할 수 있는 원스톱 창구 설치도 제안했다.

안전관리 의무에 관한 세부 기준도 조속히 확정할 것을 요구했다. 고영향 AI의 위험관리와 이용자 보호, 고성능 AI의 안전성 확보 방법 등을 규정하는 고시가 아직 확정되지 않아 기업의 준비에 어려움이 있다는 이유다.

권혁민 한경협 성장전략실장은 “AI 기본법의 성과는 기업 현장에서 AI를 믿고 활용하는 사례가 얼마나 늘어나는지에 달려 있다”며 “AI의 실제 위험과 기업의 역할에 맞게 의무를 구체화해 기업이 안전한 AI 활용과 혁신에 집중할 수 있도록 해야 한다”고 말했다.