미국, 중국 AI 기업 6곳을 산업적 규모의 모델 복제 혐의로 지목

미국 국가안보국(NSA), 사이버보안 및 기반시설 보안청(CISA), FBI는 공동 경보를 발표해 중국 AI 기업 6곳이 미국 최상위 AI 모델의 능력을 복제하는 산업적 규모의 캠페인을 벌였다고 주장했습니다. 지목된 기업은 DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun, Z.AI입니다. 해당 기관들은 이러한 활동이 늦어도 2024년 말부터 이어져 왔으며, Anthropic의 Claude, OpenAI의 GPT, Google의 Gemini, xAI의 Grok의 변형 모델들을 표적으로 삼았다고 밝혔습니다.

이번 고발의 핵심에 있는 관행은 증류(distillation)라고 불리는 기법으로, 더 새롭고 저렴한 모델을 더 발전된 모델의 출력 결과를 학습해 훈련시키는 방식입니다. 해당 기관들은 이 기법이 AI 업계 전반에서 흔히 쓰인다고 인정하면서도, 중국 측 캠페인의 규모와 조직적 성격은 정당한 연구나 개발 목적의 사용 범위를 훨씬 넘어선다고 주장했습니다. 이들의 평가에 따르면 증류는 이들 기업이 모델을 구축하는 방식의 보조 수단이 아니라 전략의 핵심입니다. 또한 이 기업들이 중국 정부가 인지한 상태에서 활동했을 가능성이 크다고 밝혔지만, 중국 정보기관이 직접 관여했다고까지 주장하지는 않았습니다.

이는 트럼프 행정부가 그동안 개별 기업들이 산발적으로 제기해 온 주장들을 뒤이어, 이 문제에 대해 지금까지 내놓은 것 중 가장 구체적인 고발로 평가됩니다. 앞서 OpenAI는 DeepSeek이 ChatGPT 데이터를 부적절하게 사용했다고 고발한 바 있고, Google은 특정 용의자를 지목하지는 않은 채 Gemini를 복제하려는 시도가 쇄도했다고 밝혔으며, Anthropic은 Alibaba가 Claude에 대해 지금까지 있었던 것 중 가장 큰 규모의 복제 공격을 벌였다며 형사 처벌을 받아야 한다고 주장했습니다. 지난 4월에는 백악관 과학기술정책실(Office of Science and Technology Policy)이 이미 내부 메모에서 증류를 중대한 문제로 지적한 바 있습니다.

해당 기관들에 따르면, 흔히 쓰이는 방법 중 하나는 실제 사용자와 연결되지 않은 가짜 계정들을 대량으로 만들어 미국 모델의 구독 서비스 접근권을 대량 구매하는 것입니다. 이 계정들은 이후 같은 주제에 대해 거의 동일한 프롬프트를 대량으로 쏟아내는데, 그 규모는 수천 건에서 수백만 건에 이르며, 그 패턴은 정당한 연구팀이라면 필요로 할 수준을 훨씬 넘어선다고 해당 기관들은 밝혔습니다. 지역별 접근 제한을 우회하기 위해, 이러한 캠페인은 프록시 서버 네트워크—일종의 회색 시장으로 묘사됨—를 통해 요청을 우회시켜 트래픽의 실제 출처를 숨기는 것으로 알려졌습니다.

두 번째 방법은 프롬프트 인젝션(prompt injection)으로, 공격자가 특정 지시문을 만들어 모델이 평소라면 공개하지 않을 정보를 드러내도록 유도하는 방식입니다. 해당 기관들은 구체적인 사례를 하나 제시했습니다. DeepSeek이 모델에게 이미 완료한 답변의 내부 추론 과정을 단계별로 상상해서 써내도록 지시하는 프롬프트를 사용했다는 것입니다. 이는 사실상 모델의 숨겨진 추론 과정을 끌어내는 것으로, 기업들은 이것이 모델 가치의 일부를 이루기 때문에 노출되기를 원하지 않습니다.

각 기업은 서로 다른 능력을 표적으로 삼았다는 혐의를 받았습니다. DeepSeek은 에이전트 기능, 작문 및 질의응답 최적화, 사고 사슬(chain-of-thought) 추론 등 폭넓은 영역을 노린 것으로 알려졌으며, 해당 기관들은 이것이 자체 컴퓨팅 및 연구 비용을 줄이려는 시도였다고 평가했습니다. Moonshot AI는 여러 미국 모델을 오가며 미세조정 기법, 강화학습, 소프트웨어 엔지니어링, 수학 능력을 증류한 것으로 알려졌습니다. Alibaba, MiniMax, StepFun, Z.AI는 Anthropic과 OpenAI의 특정 모델을 복제하는 데 좀 더 좁게 집중한 것으로 묘사되었습니다.

이번 고발과 함께 해당 기관들은 미국 AI 기업들을 위한 권고안도 내놓았는데, 그중 하나는 실제로 어떻게 작동할지가 눈에 띕니다. 이들은 기업들이 증류 캠페인을 벌이는 것으로 의심되는 계정을 탐지한 뒤, 해당 계정이 받는 답변을 은근히 저하시킬 것을 제안했습니다. 예를 들어 정확한 정보를 주되 추론 방식을 다르게 하거나, 문체상 일관성을 흐트러뜨리거나, 모델이 문제를 추론하는 정도를 줄이는 방식입니다. 기업들은 또한 표시된 계정을 아예 더 약하고 능력이 떨어지는 모델로 조용히 전환할 수도 있습니다. 결정적으로, 해당 기관들은 사용자에게 어떤 변화가 있었는지 전혀 알리지 말고 이렇게 할 것을 권고했습니다.

다른 권고 사항들은 기만보다는 탐지에 초점을 맞추고 있습니다. 해당 기관들은 기업들이 비정상적인 사용 패턴을 보이는 구독 계정을 감시하기를 원하는데, 예를 들어 새로 만들어진 계정이 곧바로 최대 사용량에 도달하는 경우로, 이는 개인 사용자가 시험 삼아 써보는 것이 아니라 미리 만들어진 템플릿을 이용한 대량 배치를 시사한다고 밝혔습니다. 또한 더 강력한 신원 확인과 기업용 구독에 대한 더 밀착된 추적, 그리고 기업들과 동맹국 정부 간의 정보 공유 강화를 요청했는데, 이는 한 기업이 발견한 패턴을 개별 사건으로 조사하기보다는 업계 전체가 인식할 수 있도록 하기 위해서입니다.

해당 기관들은 이 접근법이 실질적인 장애물에 직면해 있음을 인정했습니다. 일부 중국 기업들은 더 성능이 뛰어난 모델이 나오면 하루 안에 이를 감지해 전환할 수 있다고 알려져 있으며, 실제 서비스 문제와 의도적인 출력 저하를 구별할 수 있는 자동화 시스템을 갖추고 있다고 합니다. 정당한 사용자들도 같은 그물에 걸려 경고 없이 더 짧은 응답, 약화된 성능, 혹은 출력에 추가된 잡음을 받을 수 있습니다. 해당 기관들은 지난해 OpenAI 자체의 경험을 예로 들었는데, 당시 자동 라우팅 시스템이 사용자가 프롬프트에 'think harder' 같은 문구를 추가하지 않는 한 기본적으로 성능이 낮은 모델 변형으로 전환된다는 사실이 드러났고, 사용자들의 반발 이후 신속하게 철회된 바 있습니다.

중국의 대응은 신속했으며 여러 공식 채널을 통해 이루어졌습니다. 외교부 대변인 Mao Ning은 중국의 AI 발전은 높은 수준의 과학기술 자립의 결과라며, 미국이 근거 없는 고발을 하기보다는 중국과의 협력을 강화해야 한다고 말했습니다. 중국 상무부는 별도로 이러한 주장을 일축하며 미국이 AI 산업에 대한 독점을 추구하고 있다고 비판했고, 만약 미국이 증류를 표적으로 삼는다는 구실 아래 중국 AI 기업들을 억압한다면 중국은 단호한 대응 조치를 취할 것이라고 경고했습니다.

중국 대사관 대변인은 한발 더 나아가, 트럼프 행정부가 편견에 뿌리를 둔 비방 캠페인을 벌이고 있다고 비난하며, 미국 당국자들에게 사실을 존중하고 중국의 AI 성과를 폄훼하는 일을 멈추라고 요구했습니다. 국영 매체 인민일보(People's Daily)는 또 다른 외교부 대변인의 발언을 인용해, 많은 미국 AI 기업들이 자체 연구와 훈련 과정에서 중국 모델을 증류에 활용해 왔으며, 많은 미국 스타트업들이 중국 모델에 접근하려 하는 이유는 이 모델들이 더 저렴하면서도 많은 작업에 충분한 성능을 갖추고 있기 때문이라고 주장했습니다. 그 대변인은 중국의 이익에 실질적인 피해를 초래하는 어떤 조치에 대해서도 필요한 모든 조치를 취할 것이라고 경고했습니다.

이번 논쟁은 중국 국가주석 시진핑이 9월 24일 트럼프 대통령과의 회담을 위해 미국을 방문하기 몇 주 전에 불거졌으며, 이 회담에서는 AI를 포함한 여러 의제가 다뤄질 것으로 예상됩니다. 미국 재무장관 Scott Bessent는 Dallas에서 중국은 미국 모델을 증류할 뿐 결코 미국을 앞서갈 수 없다고 말했습니다. 지목된 중국 기업 6곳 중 어느 곳도 이 사안을 보도한 언론사들의 논평 요청에 응답하지 않았습니다.