sayzardAnthropic (@AnthropicAI)
합법적인 증류는 모델을 작고 저렴하게 만드는 데 사용되지만, 외국 연구소가 미국 모델을 불법적으로 증류하면 보안 장치를 제거하고, 이를 군사·정보·감시 시스템에 활용할 수 있다는 경고가 제기되었다. 이는 AI 기술의 국제적 이용과 윤리 문제에 대한 중요한 정책적 논의를 촉발할 수 있다.
Anthropic (@AnthropicAI) on X
Distillation can be legitimate: AI labs use it to create smaller, cheaper models for their customers. But foreign labs that illicitly distill American models can remove safeguards, feeding model capabilities into their own military, intelligence, and surveillance systems.