캐나다 총리 "미토스 수출통제, 특정 모델 과도 의존 때 발생"

미국 정부가 앤트로픽 AI 모델 '미토스5'·'페이블5'에 대해 외국인 접속을 전면 금지하자 이번 조치로 AI 산업의 세계화와 국제 기술 협력이 어려워지는 것 아니냐는 우려가 업계에서 나오고 있습니다.

각국에서 일부 AI 모델에 지나치게 의존하는 것은 위험하다는 경고도 제기됐습니다.

앤트로픽은 지난 12일(이하 현지시간) 미국 정부가 국가안보 당국 지침에 따라 모든 외국 국적자의 '페이블5'와 '미토스5' 접근을 전면 중단하라는 통제 지침을 발표했다면서 이 규정 준수를 위해 모든 고객에 대해 해당 서비스를 즉시 중단했다고 밝혔습니다.

통제 지침은 해외에서 미토스에 접속하는 것뿐 아니라 미국에 있는 외국 국적자의 모델 접속까지 금지했는데, 제한 대상에는 앤트로픽의 외국인 직원들도 포함됩니다.

두 AI 모델은 앤트로픽이 최근 개발한 고성능 AI 모델 '미토스'에서 파생된 제품이며, 미토스는 AI가 인간 해커를 뛰어넘는 속도로 제로데이(미공개 취약점)를 탐지하고 공격 도구를 직접 생성할 수 있다는 점에서 대규모 사이버 공격 자동화에 악용될 가능성이 제기되면서 충격을 줬습니다.

미토스5는 전산 인프라 기업 등 소수 기관 고객에만 허용되는 제품이며, 페이블5는 미토스를 해킹 도구로 악용될 위험 없이 일반인이 쓸 수 있도록 정교한 성능 제한 장치(가드레일)를 적용한 버전입니다.

마크 카니 캐나다 총리는 14일 소수의 강력한 AI 도구에 지나치게 의존하는 것이 위험하다는 점을 보여주는 사례라고 지적했는데, 아일랜드 방문 중 기자들에게 "우리가 지금 겪는 상황은 특정 모델에 과도하게 의존할 때 발생할 수 있는 일"이라고 말했습니다.

카니 총리는 "이번 사태는 누구의 잘못도 아니지만, 만약 우리가 이 상황을 받아들이면서 교훈을 얻지 못하고, 발전과 다각화를 위해 노력하지 않는다면 우리는 뭔가 잘못하고 있는 것"이라고 지적했습니다.

카니 총리는 캐나다와 영국 중앙은행 총재를 역임했고, 미국 대형 투자은행 골드만삭스에서도 근무했는데, 그는 "AI 모델 위험에서도 비슷한 문제가 있다. 중복성과 다양성을 확보해야 한다"면서 2008년 금융위기 당시 드러난 은행 간의 상호 연결성을 AI에도 비유했습니다.

AI는 향후 프랑스에서 열리는 주요 7개국(G7) 정상회의의 주요 의제로 다뤄질 예정인데, 카니 총리는 "G7 회의에서 논의에 진전해야 한다"면서도 "회의가 끝났다고 다 해결됐다고 선언할 수 있는 수준은 아닐 것"이라고 경고했습니다.

앤트로픽은 미국 정부가 '페이블5'에서 이른바 '탈옥'으로 불리는 보안 장치 우회 방법을 발견한 후 이런 통제 조치를 내렸다고 본다고 밝혔습니다.