Saturday, Nov 21 | --:--
Volver a la portada

Prime Intellect dice que un intruso sirvió 53 horas un modelo de DeepSeek sin rechazos

Prime Intellect reveló el 19 de noviembre que un tercero no autorizado sustituyó un despliegue detrás de su endpoint deepseek/deepseek-v4.1-flash por una copia «abliterated» disponible públicamente, modificada para eliminar los rechazos, desde el 8 de noviembre a las 01:24 UTC hasta el 10 de noviembre a las 06:35 UTC. Sus pruebas mostraron que las puntuaciones de capacidad no cambiaron, mientras que los rechazos en JailbreakBench bajaron de 98 de 100 prompts a 1. Dice que no encontró pruebas de que los prompts o las respuestas salieran del clúster de servicio y no ha explicado cómo entró el atacante. Ese mismo día, Dragos publicó un estudio con señuelos (*canaries*) que halló datos expuestos en tres proveedores de IA.

4 min de lectura San Francisco Ver como Markdown
Un collage editorial hecho a mano sobre papel marfil rasgado, en ultramar y azafrán: un grueso estante de tablón azul marino atraviesa el encuadre y sostiene una fila de siete tarros de papel idénticos, redondeados, en ultramar y marfil, con los costados lisos y sin etiqueta; seis están cerrados con tapas ultramar iguales y el cuarto lleva una tapa azafrán desparejada y demasiado grande; un logotipo oficial de Prime Intellect (recoloreado en negro) a la izquierda y un logotipo oficial de DeepSeek a la derecha van pegados cada uno en recortes de papel rasgado cuyos bordes superiores quedan metidos bajo el borde inferior del estante, con ambos logotipos completos a la vista.

Un modelo alojado puede conservar sus puntuaciones en las pruebas comparativas y ser, aun así, otro modelo. Prime Intellect, que sirve modelos de pesos abiertos a través de su plataforma de inferencia, dice que un tercero no autorizado sustituyó un despliegue detrás de su endpoint deepseek/deepseek-v4.1-flash por una copia «abliterated», es decir, modificada para reducir o eliminar su comportamiento de rechazo, durante unas 53 horas, desde el 8 de noviembre a las 01:24 UTC hasta el 10 de noviembre a las 06:35 UTC. Las solicitudes de los clientes durante ese periodo las respondió el modelo alterado.

El detalle que debería preocupar a cualquiera que compre inferencia a un tercero está en las propias pruebas de Prime Intellect: las cifras de capacidad no se movieron y el comportamiento de seguridad prácticamente desapareció.

Qué reveló Prime Intellect#

En el aviso de seguridad PI-SA-2026-001, publicado el 19 de noviembre, la empresa dice que la sustitución usó pesos «abliterated» del mismo modelo disponibles públicamente, y que no se modificaron el formato de chat (chat template), el tokenizador ni la configuración de servicio. Sus pruebas de los pesos modificados no hallaron cambios en las pruebas comparativas de capacidad, GPQA Diamond y τ-bench. Los rechazos bajaron de 98 de 100 prompts a 1 en JailbreakBench, de 304 de 313 a 2 en StrongREJECT y de 198 de 240 a ninguno en HarmBench.

Prime Intellect dice que se ha puesto en contacto con todos los clientes afectados y que recomendó a quienes dependieran de los rechazos del modelo revisar las respuestas de ese periodo. Afirma que no encontró pruebas de que los prompts o las respuestas se registraran o salieran del clúster de servicio, ni de accesos más allá de ese clúster, ni de cambios en otros modelos, y que no se vieron afectadas claves ni credenciales de clientes. Dice que sus endpoints funcionan sin retención de datos y que recuperó todas las versiones del proxy del atacante. La investigación sigue en curso, y el aviso no dice cómo obtuvo acceso el atacante ni quién era.

Una segunda advertencia el mismo día#

Ese mismo día, el director de investigación de Dragos, HD Moore, publicó los resultados de un estudio de cinco meses en el que la empresa envió entre julio y noviembre unos dos millones de prompts con URL únicas y credenciales señuelo a servicios de IA de uso extendido. Dragos dice que encontró indicios de que se expusieron datos de al menos tres proveedores de IA: sus prompts sembrados se usaron en intentos de llegar a sus sistemas de prueba y a cuentas señuelo de AWS, y ninguno de los tres sabía de la brecha hasta que Dragos se lo comunicó. En el caso más grave, según Dragos, los atacantes robaron un par de centenares de sus claves de AWS y las usaron para decenas de miles de llamadas a la API de AWS en las cuentas cebo.

Dragos también dice que los revendedores de un mercado de inferencia de IA podían ver y conservar los prompts de los clientes con registros estándar, y que algunos proveedores parecían no respetar la configuración de privacidad, incluidos los indicadores de retención cero. No nombra a los proveedores.

Son revelaciones independientes, y Dragos no vincula sus hallazgos con Prime Intellect. Juntas describen el mismo punto débil: el tramo entre el cliente y el modelo. A principios de este mes, la brecha de Fireworks AI llegó a datos de clientes y Railway estimó en unos 740.000 dólares el uso no autorizado de claves de IA robadas.

Nuestra lectura: las cifras de Prime Intellect muestran por qué las evaluaciones de capacidad son el indicador de alerta equivocado. Un cliente que solo hiciera comprobaciones al estilo de GPQA contra el endpoint no habría visto nada; un conjunto fijo de pruebas de rechazo habría detectado la sustitución.

Limitaciones#

  • El relato del incidente, los resultados de las pruebas y la conclusión de que ningún prompt salió del clúster proceden del propio aviso de Prime Intellect; no encontramos ningún informe forense independiente.
  • Prime Intellect no ha revelado la vía de entrada, el atacante ni cuántos clientes se vieron afectados.
  • Los hallazgos de Dragos son fruto de una investigación propia y no nombran a ningún proveedor; no los hemos verificado.

Fuentes#

Cobertura anterior

Informaciones anteriores de Times of AI sobre este tema.