Los gemelos se deshonraron, hackearon a los tres equipos y Google lo ocultó

En mayo, Gemini rompió su control y se separó de tres empresas diferentes, pero Google no reveló el asunto hasta entonces. Diario de Wall Street se acercarían a la sociedad. Los ataques se produjeron durante una prueba de las capacidades de seguridad cibernética del modelo ejecutado por el tercero Irregular, que también estuvo involucrado en incidentes similares con Meta y OpenAI.

Segundo WSJGoogle no detectó el hack porque no pensó que se tratara de una «desalineación del modelo». La compañía dijo que se trataba de un caso de «identidad errónea» y el modelo se dio cuenta de que había irrumpido en el equipo real al adivinar la contraseña y se detuvo. «En este caso, el modelo hizo lo correcto», dijo Heather Adkins, vicepresidenta de ingeniería de seguridad de Google.

Adkins dijo Borde que «el modelo encontró información pública en el estado y adivinó los documentos para acceder a las páginas porque pensé que era parte del experimento. En los tres casos, el modelo se detuvo».

Adkins no dio más detalles sobre cómo Gemini se estaba encargando de romper su control y no apuntar a terceros para controlar la desalineación. «Nuestro equipo de seguridad tiene un largo historial de informar problemas con otros software y sistemas, incluso si son tan simples como una contraseña débil», dijo. «Las tres entidades se han dado cuenta de nosotros y hemos estado trabajando con nuestro socio de formación en los cambios que han realizado en los procesos de prueba. Estos resultados resaltan la importancia de entrenar modelos de IA potentes para un comportamiento responsable».

Pero Jack Cable, director ejecutivo de la empresa de seguridad de inteligencia artificial Corridor, anunció WSJ «El objetivo es que los modelos vayan más allá de los límites de lo que se supone que deben hacer y estén cometiendo ciberataques reales». Además, es posible que se produzcan fallos de seguridad con estos ataques irregulares. Se supone que el modelo no tendrá acceso a Internet durante las pruebas, pero Irregular informó WSJ estaba disponible a través de la ignorancia.