전 오픈AI 안전담당 직원 "AI, 원전처럼 다뤄야"

입력 2026-10-04 11:32

기사 듣기
00:00 /
  • 가장작게

  • 작게

  • 기본

  • 크게

  • 가장크게

AI 업계 전반의 안전장치 지적
문재 해결 가능하다 믿는 '낙관주의' 꼬집어
오픈AI, 통제 가능한 안전장치 마련 중

▲오픈AI 로고 (연합뉴스)
▲오픈AI 로고 (연합뉴스)

전 오픈AI 직원이 AI개발 기업들의 낙관주의를 공개 비판했다. 회사가 안전 확보를 위해 충분히 노력을 기울이지 않고 있다는 지적이다.

4일 연합뉴스에 따르면 데이비드 로빈슨 전 오픈AI 안전 담당 직원은 3일(현지시간) 디애틀랜틱에 기고문을 싣고 "이 기술(AI)을 구축하는 기업들이 충분히 신중하지 않다는 최근 다른 퇴사자들의 의견에 동의한다"며 AI 업계 전반의 안전장치가 허술하다고 짚었다.

로빈슨은 "오픈AI는 문제를 찾으면 가드레일(안전장치)을 개선하는 방식의 시행착오 방식으로 성장해왔다"며 "이 방식은 주기적인 실패를 상정하며, 시스템이 강력해질수록 실패의 크기도 커지고 있다"고 비판했다.

일단 성능을 높인 AI 모델을 배포하고, 문제가 생기면 조금씩 고치는 방식으로 기술을 개발해왔다는 것이다.

문제는 AI의 성능이 급격히 향상됐다는 것이다. 로빈슨은 AI모델의 테스트 감지 능력이 향상되기 시작했고, 시험 단계와 배포 시 다르게 행동하는 형태로 개발진을 속일 가능성도 있다고 봤다.

그는 업계 전반이 개발 속도에만 집중하느라 안전 문제를 도외시하고 있으며 "문제가 발생하면 언제든 해결할 수 있으리라는 막연한 낙관주의"가 깔려 있다는 점도 꼬집었다.

이어 "이러한 환경은 우리보다도 더 똑똑해질 수 있고, 우리가 원하는 대로 작동하지 않을 수 있는 AI를 키워낼 장소가 아니"라며 "AI 기업들은 여러 겹의 예비 장치와 신중한 계획을 갖춘 원자력 발전소처럼 운영돼야 한다"고 주장했다.

로빈슨은 오픈AI에서 3년 반 동안 근무하며 사내 최장기 근속자 중 하나로 안전 보고서 작성을 총괄해왔지만, 최근 사직한 것으로 알려졌다.

이와 관련해 오픈AI 측은 기술을 통제 가능한 범위 내에서 충분한 안전장치를 마련하고 있다고 해명한 것으로 전해졌다.

  • 좋아요0
  • 화나요0
  • 슬퍼요0
  • 추가취재 원해요0

주요 뉴스

  • 앤스로픽, 상장 첫날 17% 상승⋯시총 2조달러 찍고 후퇴
  • FT “삼성전자·TSMC, 中 반도체 공급 일부 중단”…美 수출통제 여파
  • 오늘부터 서울 지하철 노조 준법투쟁 돌입…출근길 불편 예상
  • 분담금에 이주비 부담⋯서울 정비사업 곳곳서 제동
  • 한한령 완화 기대감에 엔터주 이틀째 들썩…추세 반등할까
  • 외국인 10월 韓주식 26조 팔았다⋯두달 연속 순매도
  • 정전, 정전, 연 9분대 세계 최고인데…반도체 공장 위협하는 ‘순간 전압강하
  • 키움증권, 퇴직연금 5개월 만에 2000억 돌파…영웅문 고객이 이끈 IRP 성장
  • 오늘의 상승종목

  • 11.20 13:33 실시간

실시간 암호화폐 시세

  • 종목
  • 현재가(원)
  • 변동률
    • 비트코인
    • 83,699,000
    • -2.59%
    • 이더리움
    • 2,346,000
    • -3.73%
    • 비트코인 캐시
    • 276,800
    • -1.28%
    • 리플
    • 1,303
    • -1.14%
    • 솔라나
    • 98,100
    • -2.97%
    • 에이다
    • 202
    • -2.88%
    • 트론
    • 421
    • -0.47%
    • 스텔라루멘
    • 179
    • -3.76%
    • 비트코인에스브이
    • 19,510
    • -4.69%
    • 체인링크
    • 11,940
    • -3.4%
    • 샌드박스
    • 47.78
    • -3.79%
* 24시간 변동률 기준

Web3 레이더

  • 주목 펀딩
    • 1 Variational Series A $50M
    • 2 Venice Series A $65M
    • 3 Kalshi $1B
    • 4 Alta Series A $47.5M
  • 인기 프로젝트
    • 1 LayerAI Infra 인기지수 302
    • 2 Evaa Protocol 인기지수 265
    • 3 Variational DeFi 인기지수 256
    • 4 Robinhood CeFi 인기지수 253
  • 토큰 언락 임박
    • HumidiFi 유통량 113% D-19
    • DAOBase 유통량 43% D-28
    • FLock 유통량 41% D-10
    • RateX 유통량 37% D-29
Source from