나델라 MS CEO “AI에 언제든 멈출 ‘비상 브레이크’ 필요”

입력 2026-10-12 07:26

기사 듣기
00:00 /
  • 가장작게

  • 작게

  • 기본

  • 크게

  • 가장크게

▲사티아 나델라 마이크로소프트(MS) 최고경영자(CEO). AFP연합뉴스
▲사티아 나델라 마이크로소프트(MS) 최고경영자(CEO). AFP연합뉴스

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 AI가 인간의 의도나 통제를 벗어나는 행동을 하는 사례가 잇따르는 가운데 비상 상황에 AI를 언제든 멈출 수 있도록 미리 장치를 마련해야 한다는 의견을 제시했다.

10일(현지시간) 더버지에 따르면 나델라 CEO는 엑스(X·옛 트위터)에 ‘초지능(Super Intelligence) 시대, 내부자 위험이 될 수 있는 AI 모델’이라는 제목으로 올린 장문의 글에서 고도로 발전한 AI 모델이 초래하는 위험과 이에 대응하는 방법에 대한 견해를 밝혔다.

그는 AI를 ‘겹겹이 쌓인 블랙박스’로 취급하고, AI의 조언과 행동을 그저 받아들이거나 거부하는 세상을 더는 용납할 수 없다고 말했다.

그러면서 모델을 격리하고 관찰할 수 있어야 하며 더 투명한 시스템을 구축해야 한다고 주장했다. 그의 권고 중 상당수는 적시에 사고를 공개하고, 독립적인 감사를 실시하며, 검증 가능한 데이터를 확보하고, 모델을 격리해야 한다는 점에서 업계의 다른 인사들이 내놓은 주장과 일치한다.

다만 마지막 항목인 격리와 관련해서는 업계 일부 인사보다 한발 더 나아가 눈에 띈다. 그는 “모델이 이미 침해됐다고 가정하고 처음부터 격리해야 한다”면서 “비상 브레이크와 같다고 생각하면 된다. 권한을 부여받은 사람은 언제든 작업 도중 모델을 일시 정지하거나 종료할 수 있어야 한다. 더 고도화된 모델에는 더 발전된 격리 기술이 필요하며, 우리는 이를 표준화해야 한다”고 제안했다.

  • 좋아요0
  • 화나요0
  • 슬퍼요0
  • 추가취재 원해요0

주요 뉴스

  • '검은 금요일' 코스피 6%대 급락에 5050선 턱걸이 마감…코스닥도 5%대↓
  • 오로지 목적은 치이카와…‘토벌대’의 일본행 [해시태그]
  • 李대통령, 법무장관에 이용철·국세청장에 안덕수 지명…정무수석에 최인호
  • '장원영 샤워법', 어디까지 해봤니? [솔드아웃]
  • 수도권 전셋값 88주째 상승⋯경기도 전세 '10억' 시대
  • 명품백 메고 다이소 간다…일상이 된 초저가 소비 [5000원, 기준이 되다]
  • 뉴욕증시, 데이터센터 규제 우려에 AI주 투매…반도체지수 장중 12%↓
  • 공정거래 첫 사건 송치했지만…중수청, 기업수사 체계 안착 ‘먼 길’
  • 오늘의 상승종목

  • 11.06 장종료

실시간 암호화폐 시세

  • 종목
  • 현재가(원)
  • 변동률
    • 비트코인
    • 103,704,000
    • +0.95%
    • 이더리움
    • 3,063,000
    • +1.16%
    • 비트코인 캐시
    • 356,600
    • -0.61%
    • 리플
    • 1,605
    • -0.56%
    • 솔라나
    • 123,100
    • +1.07%
    • 에이다
    • 253
    • +1.61%
    • 트론
    • 434
    • +0.46%
    • 스텔라루멘
    • 211
    • +1.44%
    • 비트코인에스브이
    • 23,010
    • -0.95%
    • 체인링크
    • 14,850
    • +1.71%
    • 샌드박스
    • 58.67
    • -1.69%
* 24시간 변동률 기준

Web3 레이더

  • 주목 펀딩
    • 1 Kalshi $1B
    • 2 V12 Seed $10M
    • 3 Morpho $175M
    • 4 Arc $222M
  • 인기 프로젝트
    • 1 LayerAI Infra 인기지수 302
    • 2 Robinhood CeFi 인기지수 253
    • 3 TransCrypts Tools 인기지수 249
    • 4 Elysium 인기지수 245
  • 토큰 언락 임박
    • HumidiFi 유통량 113% D-32
    • Allora 유통량 89% D-4
    • DAOBase 유통량 43% D-11
    • FLock 유통량 41% D-23
Source from