Un trabajador de seguridad de OpenAI guarda silencio y hace sonar la alarma.

David Robinson solía escribir los informes de seguridad que acompañaban a cada modelo de misión importante en OpenAI. Esta semana renunció a su cargo y ahora habla en el editorial. atlántico.

Es comprensible si eres lo suficientemente inteligente como para advertir a alguien sobre todo lo que de repente surge del bosque para advertirte de lo peligroso que es el edificio. Sin embargo, ellos hicieron este lío. Pero esto no significa que debamos limitarnos a advertencias.

Robinson dice que la cultura de la industria está fundamentalmente rota. Este problema es más profundo que simplemente imponer algunas reglas o regulaciones nuevas sobre cómo manejamos los modelos de capacitación. Silicon Valley ha operado con «extrema confianza» y un «espíritu perdurable», dice, construyendo modelos mejores y más grandes con un «pesimismo barato» que ignora o subestima los problemas potenciales.

Dice que ha llegado el momento de que los equipos de IA desarrollen un sentido de humildad y miren más allá de la naturaleza insular, veloz y disruptiva del mundo tecnológico. En concreto, dice AI, necesita protección nuclear;

Dado el riesgo actual, los laboratorios fronterizos deben funcionar como plantas de energía nuclear o aeropuertos concurridos, con capas de distracción y precisión, y limitaciones de tiempo, para que el error humano ocasional e inevitable no abra la puerta al desastre.