Saturday, Nov 21 | --:--
Volver a la portada

OpenAI: GPT-6.2 Astra redujo del 54 % al 0,2 % los ataques de extracción de razonamiento

En una publicación de investigación del 20 de noviembre, OpenAI dijo que las salvaguardas actualizadas de GPT-6.2 Astra redujeron el éxito medio de los ataques adaptativos que intentan recuperar el razonamiento protegido de una solicitud anterior del 54,0 % frente a GPT-6 Astra al 0,2 %, y del 22,9 % al 0,9 % en el caso de la solicitud en curso. Un estudio interno concluyó que los modelos alumnos entrenados con trazas exactas de razonamiento ganaron más capacidad en ciberseguridad que los entrenados con resúmenes. Las medidas de control semanales han afectado a entre miles y decenas de miles de cuentas. Todas las cifras son de la propia OpenAI.

4 min de lectura San Francisco Ver como Markdown
Un collage editorial hecho a mano sobre papel marfil rasgado, en ocre y verde azulado: a la izquierda, un nítido dibujo al carboncillo de una intrincada forma de papel recortado, ramificada como un encaje, con una gran hoja de papel de calco esmerilado y arrugado sobre su lado derecho y un sencillo lápiz de madera apoyado en la hoja como a mitad de calco, mientras solo un tenue fantasma borroso del dibujo se transparenta a través del papel empañado; un logotipo oficial de OpenAI está pegado en un recorte de papel rasgado cuyo borde superior queda metido bajo el borde inferior rasgado de la hoja de calco, que proyecta una sombra suave sobre el recorte, con el logotipo completo a la vista.

OpenAI está replanteando la destilación: ya no la presenta como un agravio de propiedad intelectual, sino como un problema de seguridad, porque un modelo entrenado con las salidas de un modelo de frontera puede aprender sus habilidades sin heredar sus negativas. En una publicación de investigación del 20 de noviembre, la empresa dice que las nuevas salvaguardas de GPT-6.2 Astra han hecho que su razonamiento oculto sea mucho más difícil de extraer, según sus propias mediciones.

Las cifras que informa OpenAI#

OpenAI realizó pruebas adaptativas de red teaming de caja negra, en las que atacantes automatizados se ajustan a las respuestas del sistema, con resultados agregados de seis modelos atacantes.

Enlace

Tipo de ataque GPT-6 Astra, salvaguardas originales GPT-6.2 Astra, salvaguardas actualizadas
Extraer el razonamiento protegido de una solicitud anterior 54,0 % 0,2 %
Extraer el razonamiento protegido de la solicitud en curso 22,9 % 0,9 %

OpenAI dice que las defensas reforzadas también cubren GPT-6.2 Sol y que ahora está aplicando algunas de las mejoras a GPT-6 Astra. The Decoder informa de las mismas cifras, con OpenAI como fuente.

Por qué dice que importan las trazas de razonamiento#

En un estudio interno, OpenAI entrenó el mismo modelo alumno preentrenado con trayectorias de modelos maestros de nivel Astra que realizaban tareas de programación y de ciberseguridad defensiva. Tras el ajuste fino supervisado, el alumno entrenado con trazas exactas de razonamiento superó en general al entrenado con resúmenes del razonamiento; tras una ronda de aprendizaje por refuerzo, el alumno de trazas exactas siguió puntuando más alto con el mayor presupuesto de inferencia probado, mientras que el entrenado con resúmenes obtuvo mejores resultados con presupuestos menores. OpenAI concluye que proteger las trazas de razonamiento puede limitar la transferencia de capacidad en ciberseguridad incluso cuando las tareas originales estaban permitidas.

Control y políticas#

OpenAI dice que este año ha detectado varias campañas de destilación no autorizadas en su plataforma y que sus medidas de control semanales han afectado a entre miles y decenas de miles de cuentas, con un ritmo que aumentó de forma significativa este verano. Recuerda que en febrero informó al Congreso sobre actividad que indicaba que DeepSeek intentaba destilar modelos de frontera estadounidenses, y que en septiembre atribuyó una campaña de extracción de razonamiento a personas vinculadas a Moonshot AI. Dice que prevé dar a conocer pronto más información sobre campañas recientes.

La empresa dice que ha comunicado al Congreso su apoyo a la Chip Security Act, la AI OVERWATCH Act y la MATCH Act, y que respalda una legislación que dé al Gobierno más herramientas para sancionar a actores extranjeros que extraigan de forma ilícita capacidades de modelos estadounidenses.

Nuestra lectura: las cifras son las de un proveedor que califica su propio parche, sin que se nombre a ningún equipo externo de red teaming. La afirmación más sólida es el estudio sobre las trazas de razonamiento, que da a los laboratorios una razón para ocultar la cadena de pensamiento que va más allá del secreto comercial. Anthropic defendió algo parecido el mes pasado, cuando dijo que sus defensas redujeron entre un 90 % y un 99 % lo que obtienen quienes destilan.

Limitaciones#

  • Todos los resultados proceden de evaluaciones internas de OpenAI; los seis modelos atacantes no se identifican, y no encontramos ninguna replicación independiente.
  • OpenAI dice que hace un seguimiento de la prevalencia del abuso por destilación, pero no publicó cifras de prevalencia en la publicación que leímos.
  • La publicación no menciona ninguna campaña ni atribución nueva; las referencias a DeepSeek y Moonshot corresponden a revelaciones anteriores.

Fuentes#

Cobertura anterior

Informaciones anteriores de Times of AI sobre este tema.