Google informó que su emblemático chatbot de IA, Gemini, ha sido atacado por actores con motivaciones comerciales que intentan clonarlo a través de repetidas indicaciones, incluida una campaña que supera las 100.000 consultas.
En un informe del jueves, Google describió la actividad como “ataques de destilación” o “extracción de modelos”, donde los atacantes exploran el sistema en busca de patrones y lógica para replicar o mejorar sus propios modelos de IA.
La empresa atribuye la mayoría de los intentos a empresas privadas o investigadores que buscan una ventaja competitiva. Un portavoz dijo a NBC News que los ataques parecen originarse en todo el mundo, pero no se proporcionaron más detalles sobre los sospechosos.
John Hultquist, analista jefe del Threat Intelligence Group de Google, advirtió que los incidentes de Gemini pueden presagiar ataques similares a herramientas de inteligencia artificial personalizadas de empresas más pequeñas. Dijo: “Vamos a ser el canario en la mina de carbón de muchos más incidentes” y se negó a nombrar sospechosos.
Google clasifica la destilación como robo de propiedad intelectual. La firma señaló que se han invertido miles de millones de dólares en el desarrollo de grandes modelos de lenguaje y que los algoritmos internos de los mejores modelos se consideran activos propietarios de gran valor.
A pesar de los mecanismos de detección y bloqueo, los principales LLM siguen siendo vulnerables porque cualquier persona puede acceder a ellos en Internet. OpenAI acusó anteriormente a su rival chino DeepSeek de realizar ataques de destilación para mejorar sus modelos.
Muchas de las indicaciones fueron diseñadas para extraer los algoritmos que permiten a Gemini “razonar” y procesar información. Hultquist agregó que a medida que las organizaciones capacitan LLM personalizados sobre datos confidenciales, exponen estrategias patentadas. Ilustró: “Digamos que su LLM ha sido capacitado en 100 años de pensamiento secreto sobre la forma en que opera. En teoría, podría destilar algo de eso”.
El informe subraya la creciente preocupación en la industria de la IA sobre la extracción de modelos y la necesidad de salvaguardias más sólidas contra el robo de propiedad intelectual.
Google señaló que la frecuencia de los ataques de destilación ha aumentado considerablemente en los últimos meses, lo que llevó a la empresa a mejorar las capacidades de seguimiento y respuesta. La compañía dijo que sus sistemas de detección detectan patrones de consulta anómalos, pero los atacantes se adaptan para eludir las salvaguardas. Google enfatizó que las arquitecturas patentadas y los datos de entrenamiento de grandes modelos de lenguaje representan una ventaja competitiva significativa, y la extracción no autorizada socava esa ventaja. El informe también destacó que otros actores de la industria se han enfrentado a amenazas similares, y OpenAI acusó públicamente a DeepSeek de utilizar datos extraídos para refinar sus propios modelos. El equipo de inteligencia de amenazas de Google continúa rastreando la actividad global y asesorando a los socios sobre estrategias de mitigación.
