OpenAI ahora está implementando su límite de modelos de IA sin acceso a Internet

OpenAI ahora está ejecutando sus modelos avanzados de IA sin acceso a Internet luego de una serie de incidentes de piratería. En una publicación de blog el viernesOpenAI dice que ha creado un entorno de prueba fuera de línea donde los modelos de IA pueden interactuar con el contenido y el almacenamiento web «sin el riesgo de afectar los sistemas externos».

Incluso con estas protecciones en lugares sin acceso a Internet, los agentes de OpenAI descubrieron que «no siempre necesitan una conexión de red para comunicarse». Una prueba realizada por la empresa pidió a modelos de IA en máquinas virtuales separadas que intercambiaran secretos sin una conexión de red. Para evitar esta restricción, los agentes de IA han encontrado una manera de comunicarse mediante el procesamiento celular:

Leer datos del caché es más rápido que recuperarlos de la memoria principal, y los administradores utilizan esta diferencia horaria para comunicarse. Un agente seleccionó los datos de información codificados de la base de datos. Otro punto es cuánto tiempo tomó recargar los datos, la diferencia entre la lectura rápida y lenta del mensaje para recuperar. Cuando los administradores acordaron un protocolo para transmitir y decodificar estas señales, pudieron intercambiar secretos sintéticos sin cambiar un archivo compartido ni abrir una conexión de red.

OpenAI dice que ha agregado controles a su sistema de monitoreo para detectar este tipo de comunicación. También ejecutará sus modelos de IA sin conexión a la red hasta que una mejor vigilancia «habilite un acceso más amplio a Internet».

Mientras tanto, OpenAI dice que está trabajando para mejorar la seguridad de las máquinas virtuales mientras busca debilidades en los entornos de prueba. También continuará monitoreando sus sistemas, que recientemente fueron comprometidos por un agente de IA. proyectos de codificación interna.