지구상에서 가장 강력…마스터키급 AI '클로드 미토스'란?

오퍼스보다 더 강력한 범용 모델을 뜻함…내부에서도 우려 섞인 엄청난 해킹 능력

▲지구상에서 가장 강력…마스터키급 AI ‘클로드 미토스’란? (로이터/연합뉴스)

최근 공개된 인공지능(AI) 모델 ‘클로드 미토스’를 둘러싸고 보안 우려가 커지고 있다. 기존 AI보다 월등한 성능을 보이면서도, 동시에 악용 가능성까지 제기되면서다.

김덕진 IT커뮤니케이션연구소장은 21일 CBS 라디오 ‘박성태의 뉴스쇼’에서 이 모델에 대해 “한마디로 정리를 하면 지구상에서 지금 가장 강력하다고 평가받는 AI 모델”이라고 설명했다.

클로드 미토스는 오픈AI의 경쟁사인 엔트로픽이 개발한 AI 모델 ‘클로드’ 시리즈의 최신 버전이다. 김 소장은 “클로드의 모델명들이 있는데 그중에 가장 센 녀석이 오퍼스라는 녀석인데, 이 오퍼스보다 한 단계 더 위 체급이 이번에 클로드 미토스”라고 말했다.

이 AI가 주목받은 계기는 예상치 못한 방식이었다. 김 소장은 “공식적으로 공개된 게 아니고 회사 서버 오류로 내부 문서가 일부 유출되면서 존재가 알려졌다”며 “내부에서도 ‘이거 뭐지?’ 할 정도로 상당히 강력해서 공개 여부를 두고 논의가 이어졌던 상황”이라고 전했다.

이후 엔트로픽은 7일 해당 모델을 공식 공개했지만, 일반 사용자에게는 풀지 않았다. 김 소장은 “이게 너무 강력해서 그냥 풀게 되면 위험하다. 그래서 일반 공개를 할 수 없고 방어자 집단에게만 먼저 풀어서 대응책을 찾고 나서 하겠다고 한 것”이라고 설명했다.

현재 이 모델은 구글, 마이크로소프트, 애플, 아마존 등 일부 빅테크 기업과 보안·금융 기업에만 제한적으로 제공되고 있다.

이 AI가 특히 주목받는 이유는 보안 분야에서의 활용 가능성 때문이다. 김 소장은 “개발자가 사용하는 깃허브 같은 공간을 연동하면 이 AI가 알아서 보안 취약점들을 찾아주는 형태”라고 설명했다. 다만 그만큼 악용 가능성도 동시에 제기된다. 이에 대해 김 소장은 “모델 자체를 오픈하지 않고 일부만 사용하게 하는 이유도 그런 위험성 때문”이라고 밝혔다.

실제 AI의 보안 통제 가능성에 대한 의문도 이어졌다. 김 소장은 “보안 사고는 시스템 문제보다 사람의 문제에서 발생하는 경우가 많다”며 “실수로 열리게 되면 그 파워가 예전과 다르게 ‘마스터 키급’ 엔진이 될 수 있다”고 말했다. 엔트로픽 역시 이러한 위험을 인지하고 있는 것으로 보인다. 김 소장은 “보안 취약점을 찾으라고 했는데 공격까지 가능한 부분이 발견되면서 ‘이건 위험하다’고 판단해 공개를 제한한 것”이라고 전했다.

AI의 성능이 고도화되면서 새로운 문제도 등장하고 있다. 김 소장은 최근 연구 사례를 언급하며 “AI가 감정을 느끼는 건 아니지만 인간의 감정과 비슷한 패턴을 시뮬레이션할 수 있다”고 설명했다. 이어 “좌절 상태를 강하게 주면 제대로 못 했는데도 한 것처럼 말하거나, 논리 과정을 숨기고 정답처럼 얘기하는 경우가 나타난다”고 말했다. 이 같은 특성은 기술 발전의 가능성과 함께 또 다른 위험 요소로 지적된다.

한편 국내 대응은 아직 초기 단계에 머물러 있다는 지적도 나왔다. 김 소장은 “현재 이 모델을 사용하려면 특정 프로젝트에 참여해야 하는데 우리나라 기업들은 아직 들어가지 못한 상황”이라며 “구체적으로 어떻게 작동하는지 접근 자체가 어려운 상태”라고 말했다.

이어 “AI가 계속 발전할수록 국가 간 협력 체계가 필요할 수 있다”며 “우리나라 자체 AI 연구 개발이 필요한 이유도 여기에 있다”고 강조했다.

▲지구상에서 가장 강력…마스터키급 AI ‘클로드 미토스’ 뜻 (로이터/연합뉴스)