구글·MS·메타·오픈AI 빅테크 뭉친 이유…책임 있는 오픈소스 구축 방안 논의

▲라파엘라 니콜라찌 오픈AI 글로벌 데이터·프라이버시 총괄이 15일 서울 용산구 그랜드 하얏트 호텔에서 열린 ‘오픈소스 데이’에서 발표를 하고 있다. (김나리 기자 )

인공지능(AI) 시대 핵심 기반인 오픈소스를 안전하게 활용하기 위한 국제적 연대의 필요성이 강조됐다.

김휘강 개인정보위원회 비상임위원은 15일 서울 하얏트 호텔에서 열린 ‘오픈소스 데이’에서 “오픈소스의 개방·공유 문화가 최신 기술 확산과 혁신의 원동력이 되는 동시에, 개인정보 측면에서 새로운 위험을 낳기도 한다”며 “투명성과 접근성이 높아질수록 민감 정보가 의도치 않게 노출되거나 오남용될 수 있어 리스크 최소화 논의가 필요하다”고 말했다.

오픈소스 생태계가 빠르게 확산하면서 개인정보 보호의 중요성도 부각되고 있다. 코드·데이터·모델을 누구나 공유·활용할 수 있는 장점이 혁신 속도를 높이는 동시에 민감 정보 노출이라는 양날의 검이 되고 있기 때문이다. 특히 국경을 넘어 확산되는 특성상 국가별 규제 수준 차이로 법적 공백이 발생할 수 있어 글로벌 차원의 개인정보 보호 원칙과 국제 협력이 불가피하다는 지적이 제기된다.

라파엘라 니콜라찌 오픈AI 글로벌 데이터·프라이버시 총괄은 “개발자들이 더 많이 기여할수록 오픈소스 생태계는 강력하고 안전해지고 혁신도 전 세계로 확산될 것”이라며 “AGI(범용 인공지능)는 인류 모두에게 혜택을 줘야 하며 첨단 AI 모델 접근권이 스타트업과 신흥국에도 보장돼야 한다”고 강조했다.

니콜라찌 총괄은 오픈소스가 연구자·개발자·정부 협력을 촉진해 안정성과 혁신을 동시에 높이는 기반이라고 평가했다. 다만 “개방성은 책임감 없이 오지 않는다”며 생물학·사이버보안 등 민감 분야에서의 오용 위험을 경고했다. 오픈AI 역시 외부 전문가와 협력해 최악의 오용 시나리오를 시뮬레이션하고 적대적 미세조정 평가를 진행 중이라고 설명했다. 그는 “오픈모델은 민주적 AI 발전의 핵심 축으로 정부와 규제당국, 개발자 간 협력과 데이터 거버넌스 전략이 뒷받침될 때 각국 AI 전략을 강화하는 유용한 도구가 될 것”이라고 말했다.

▲최장혁 개인정보보호위원회 부위원장이 15일 서울 용산구 그랜드 하얏트 서울에서 개최된 '오픈소스 데이'에서 환영사를 하고 있다. (사진제공=개인정보위)

각국 개인정보 감독기구들도 국제 협력과 규제 역할의 중요성을 잇따라 강조하고 나섰다. 크리스 타일러 영국 정보위원회(ICO) 국제규제협력담당국장은 “정부는 중재자 역할을 해 국민이 피해로부터 보호받도록 개입하는 동시 시장이 번영할 수 있도록 명확한 지침을 제공하고 공정환 경쟁 환경을 보장해야 한다”며 “AI는 매우 빠른 속도로 발전하고 있어 판례를 기다릴 시간도, 시장 붕괴를 기다릴 시간도 없다. 규제 당국으로서 직접 실무에 참여해야 한다"고 제언했다.

이번 오픈소스 데이는 글로벌 프라이버시 총회(GPA) 개막에 앞서 마련됐으며 구글·메타·마이크로소프트·오픈AI 등 글로벌 빅테크와 국내 AI 기업·연구자, 해외 감독기구 등 120여 명이 참석했다. 참석자들은 오픈소스 AI 도입 과정에서 △개인·민감정보 필터링 및 검증 절차 △미세조정 시 고려사항 △레드팀 테스트 설계 방안 등을 집중 논의하며 ‘책임 있는 오픈소스 AI 생태계’ 필요성에 공감대를 모았다.

최장혁 개인정보위 부위원장은 “이번 논의는 에이전트 AI와 같은 혁신 서비스의 기반이 되는 오픈소스 AI 생태계와 개인정보 보호를 함께 고민한 첫 공개 논의라는 점에서 의미가 크다”며 “기업과 연구자가 안심하고 오픈소스를 활용할 수 있도록 현장의 목소리를 정책에 적극 반영하겠다”고 밝혔다.