Anthropic ha acusado a tres empresas chinas de inteligencia artificial (DeepSeek, Moonshot y MiniMax) de realizar “campañas a escala industrial” para hacer un mal uso de su chatbot Claude. En un comunicado en su sitio web, la empresa alegó que estas empresas utilizaron la plataforma para “extraer ilícitamente las capacidades de Claude para mejorar sus propios modelos”.
Según Anthropic, las empresas acusadas utilizaron aproximadamente 24.000 cuentas fraudulentas para generar más de 16 millones de intercambios con Claude. Este proceso, conocido como destilación, implica utilizar los resultados de un potente modelo de IA para entrenar uno menos capaz. Si bien la práctica es común, Anthropic afirma que estas acciones específicas tenían como objetivo eludir las salvaguardias de seguridad y acelerar el desarrollo del modelo.
Anthropic afirmó que vinculó los ataques a empresas específicas con “alta confianza”. La identificación se basó en la correlación de direcciones IP, solicitudes de metadatos, indicadores de infraestructura y la corroboración de otros en la industria de la IA. En respuesta a la actividad, Anthropic anunció planes para actualizar sus sistemas para hacer que los ataques de destilación sean más difíciles de ejecutar y más fáciles de detectar.
Estas acusaciones reflejan las acciones tomadas por OpenAI a principios del año pasado, cuando la compañía hizo afirmaciones similares sobre empresas rivales que destilaban sus modelos y posteriormente prohibió cuentas sospechosas. Por otra parte, Anthropic se enfrenta actualmente a una demanda de editores de música que alegan que la empresa utilizó copias ilegales de canciones para entrenar a Claude.
