"앤트로픽, 알리바바가 클로드 베끼기 시도"

[앤트로픽 (AFP=연합뉴스)]

앤트로픽은 중국 알리바바가 수만 개 허위 계정을 동원해 자사의 인공지능(AI) 모델 클로드에 불법적으로 접근하려는 시도를 벌였다고 비난했다고 블룸버그 통신이 24일(현지시간) 보도했습니다.

블룸버그통신에 따르면 앤트로픽은 상원의원들과 백악관 관계자들에게 보낸 서한에서 알리바바의 AI 모델 '큐원'을 개발한 연구소와 연계된 운영자들이 지난 4월부터 2만5천개의 허위 계정을 통해 클로드와 2천880만 건의 대화를 주고받았다고 주장했습니다.

이들이 소프트웨어 엔지니어링과 에이전트 추론을 포함한 클로드의 핵심 역량을 노렸다고 앤트로픽은 덧붙였습니다.

앤트로픽은 알리바바 등 중국 기업들이 이러한 '적대적 증류' 공격을 통해 매우 적은 비용으로 미국의 주요 AI 모델을 훔쳐 자사의 AI 모델을 개발하고 있다고 주장했습니다.

'증류'란 개발자가 다른 AI 모델의 결과물을 활용해 자사 시스템을 훈련함으로써 훨씬 적은 비용으로 유사한 성능을 구현하는 기술로 더 작고 덜 발전된 시스템을 훈련할 때는 어느 정도 용인되지만, 허가 없이 최첨단 AI 모델을 모방하는데 사용될 경우 AI 기업들의 이용 약관을 위반하게 됩니다.

앤트로픽은 "불법적이고 체계적이며 산업적인 규모로 수행되고 있다"고 했습니다.

앞서 지난 4월 마이클 크라치오스 백악관 과학기술정책실(OSTP) 실장은 중국 기업들이 미국 AI 모델의 출력물을 악용하려는 시도를 단속하는 데 정부가 협력할 것임을 시사하는 메모를 발표했습니다.

메모는 이러한 행위가 "산업적 규모"(industrial scale)로 이뤄지고 수천 개의 허위 계정에 의존한다는 점에서 합법적인 연구 관행과는 다르다고 규정했습니다.

미국 연방 상원에서는 빌 해거티(공화·테네시) 의원과 앤디 김(민주·뉴저지) 의원이 국방수권법(NDAA) 개정안을 발의할 계획입니다.

개정안은 경쟁 모델을 훈련하기 위해 미국 AI 모델의 출력물에 부적절하게 접근하는 중국 기업을 블랙리스트에 올리거나 제재하는 내용입니다.

하원에서도 빌 하이징거(공화·미시간) 의원과 시드니 카믈라거-도브(민주·캘리포니아) 의원이 주도하는 초당적 법안이 국방수권법안에 포함되도록 검토 중입니다.