Destilación de IA: Autoridades estadounidenses advierten a empresas chinas
Agencias de seguridad de los Estados Unidos aportaron una serie de recomendaciones para afrontar esta supuesta estrategia por parte de compañías chinas.
Un nuevo aviso de seguridad de la Agencia de Ciberseguridad y Seguridad de la Infraestructura de EE. UU. (CISA) realizado y publicado en conjunto con la Agencia de Seguridad Nacional (NSA) y la Oficina Federal de Investigación (FBI), advierte a las empresas estadounidenses de IA sobre 'actividades de destilación de conocimiento agresivas, maliciosas y dirigidas a escala industrial' en curso desde empresas de China.
El medio Techradar, en base a una explicación de IBM, describió la destilación de conocimiento como una técnica de aprendizaje automático que tiene como objetivo transferir los aprendizajes de un modelo preentrenado grande (modelo profesor), a un modelo más pequeño, el (modelo estudiante).
Se utiliza en el aprendizaje profundo como una forma de compresión de modelos y transferencia de conocimiento, particularmente para redes neuronales profundas masivas. Eso sí, esta estructura de “aprendizaje”, no es ilegal ni maliciosa en sí misma.
Su objetivo es entrenar un modelo más compacto para que imite a uno más grande y complejo. En el aviso de seguridad, las agencias enfatizan que es 'reconocida como una técnica legítima y útil en la investigación de IA', pero añaden que las empresas de IA con sede en China la están utilizando con mala fe.
Las agencias afirman que en lugar de pasar meses y millones desarrollando nuevas capacidades para sus modelos, las empresas chinas simplemente envían una enorme cantidad de preguntas cuidadosamente diseñadas a los modelos estadounidenses y extraen las respuestas.
Según lo publicado por las agencias, todas las empresas de IA en China de relevancia participan. DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun y Z.AI presuntamente “extrajeron miles de millones de tokens a través de millones de intercambios/solicitudes de modelos de IA de frontera de EE. UU., incluidas variantes de Claude, GPT, Gemini y Grok, desde al menos finales de 2024”.
La CISA también subrayó que esto probablemente se hizo con el conocimiento del gobierno chino. No ha dicho abiertamente 'con su bendición', aunque podría leerse entre líneas, según Techradar.
Por el lado chino, la lista de modelos que supuestamente forman parte de esta estrategia incluye los modelos DeepSeek R1 y V3, los modelos Kimi-K2 y Kimi-K3 de Moonshot, y el modelo M2 de MiniMax.
Por el lado estadounidense, comienzan con modelos anteriores como GPT-4, Claude 3.7 y Gemini 2.5 Flash Preview, llegando hasta Claude Fable 5, GPT-5 y similares.
El informe señala que las empresas enrutaron las solicitudes a través de múltiples cuentas, diferentes puntos de acceso API, múltiples proveedores de la nube, agregadores de IA de terceros, servicios proxy y 'estaciones de transferencia', así como suscripciones premium compartidas entre desarrolladores, todo en un intento de eludir a los defensores que intentaban interrumpir el proceso.
Asimismo, las autoridades estadounidenses remarcan que esta maniobra representa una extracción sistemática de funcionalidades y capacidades propietarias que amenaza de forma directa el liderazgo tecnológico de Estados Unidos. Por ello, instan a una respuesta coordinada que abarque al gobierno, la industria privada y naciones aliadas para intercambiar información crítica.
Para contrarrestar esta vulnerabilidad y proteger la propiedad intelectual de las firmas locales, las agencias de seguridad compartieron una serie de recomendaciones tácticas dirigidas a los desarrolladores de IA en Estados Unidos:
Detección y monitoreo integral: Identificar patrones de comportamiento anómalos mediante el análisis continuo de prompts, cuentas, redes y uso pico inmediato en perfiles nuevos, así como supervisar la relación entre suscripciones y consumo a escala empresarial.
Despliegue de respuestas dirigidas: Modificar sutilmente los resultados generados ante solicitudes sospechosas de destilación maliciosa, atenuando el beneficio técnico que las empresas competidoras puedan obtener de las consultas.
Intercambio de inteligencia interorganizacional: Establecer redes de cooperación continua para correlacionar actividades sospechosas entre proveedores de modelos, plataformas en la nube y agregadores de API.
Comentarios