Los modelos más avanzados suelen ponerse a prueba entre el público después de su lanzamiento. El acceso previo de las autoridades puede permitir detectar antes capacidades peligrosas o salvaguardas frágiles.

Un cambio comunicado, aún no confirmado

Reuters recogió la información del Telegraph según la cual el Gobierno estadounidense habría dejado de pedir a empresas como OpenAI y Anthropic que no compartieran sus nuevos modelos con el instituto británico antes de su lanzamiento.

La Casa Blanca y las empresas citadas no habían respondido a Reuters. Se trata, por tanto, de un cambio del que informa la prensa, no de un acuerdo oficial publicado con todas sus condiciones.

Qué busca el instituto británico

Creado tras la cumbre de Bletchley Park de 2023, el AI Security Institute estudia las capacidades y los efectos de los sistemas avanzados y prueba medidas para reducir riesgos.

El acceso previo proporciona a los investigadores tiempo, capacidad de cálculo y escenarios especializados. Nunca certifica que un modelo sea inocuo, pero puede revelar una vulnerabilidad antes de que se integre en miles de productos.

Por qué dudan las empresas

Un modelo inédito es un activo estratégico. Compartirlo plantea cuestiones de secreto industrial, seguridad, propiedad intelectual y responsabilidad. Sin embargo, reservar todas las pruebas al fabricante crea un conflicto de intereses.

Es necesario compartir lo suficiente para probar sin multiplicar el riesgo de filtraciones: entornos seguros, confidencialidad, controles de acceso y un procedimiento claro cuando aparece un problema grave.

La seguridad se convierte en diplomacia técnica

Las conversaciones abordan ahora el acceso a los modelos, el intercambio de incidentes, los métodos de evaluación y la compatibilidad de las normas. Los investigadores quieren comparar resultados, mientras los Estados preservan su autonomía y las empresas, sus secretos.

El grupo de trabajo estadounidense sobre IA ha pedido a los desarrolladores que notifiquen los incidentes de seguridad. Si se confirma el cambio, apuntaría a más obligaciones específicas relacionadas con los incidentes y los sistemas más potentes.

Qué deben esperar los usuarios

Un modelo puede lanzarse con una función desactivada, acceso limitado o una advertencia reforzada sin que el público sepa qué prueba motivó la decisión. Sería útil una mayor transparencia sobre las categorías de riesgo y las medidas adoptadas.

Superar una prueba no es un sello definitivo: los usos, los modelos y los métodos para eludir protecciones evolucionan. El éxito se medirá por la calidad de las pruebas, el seguimiento de los incidentes y las protecciones concretas antes de la difusión.