Investigadores de IA en videos que dicen que la superinteligencia es «tan peligrosa como parece»

«En mi opinión, la posibilidad de extinción humana es cuestión de lanzar una moneda al aire», dijo en una nueva entrevista Geoffrey Irving, ex empleado de OpenAI y Google DeepMind. hay uno una docena de entrevistas entre los investigadores de IA, incluidos empleados recientes y anteriores de OpenAI, Google y Anthropologie. Palisade Research, que dice que no es útil para estudiar las habilidades y emociones de las IA, recopiló entrevistas y las realizó en desdeinside.ai.

Varios de los investigadores asociados con Cicerón advirtieron sobre la posibilidad de que la IA pudiera extinguir a los humanos. Neel Nanda, científico investigador de Google DeepMind, dijo que «es al menos 100 por ciento aleatorio lo que causa la extinción humana y es ridículamente alto». Tomamos notas de Nanda e Irving en un informe reciente sobre la «salud de la IA» comunitaria y ¿Qué tan difícil es precisar lo que significa?o qué se debería hacer al respecto, ni siquiera éstos parecen ofrecer una única solución coherente.

El ex investigador de OpenAI, Daniel Kokotajlo, continuó diciendo que la IA superinteligente «nunca será poderosa» y añadió: «desafortunadamente, no sabemos cómo podemos controlarlas en absoluto. Así que probablemente nadie pueda controlarlas. Esto es exactamente tan peligroso como parece y no debería hacerse».

Si bien cada video está disponible en su totalidad, el sitio también recopila segmentos de varias personas que hablan sobre temas similares, incluido si todo esto es solo publicidad o marketing, y por qué creen que trabajar en algo es peligroso. Algunas de las respuestas incluyen a Mary Phuong de Google diciendo: «Creo que sospechas completamente de lo que estoy diciendo porque pago a través del laboratorio», y la explicación de Nanda de que «si no creyera que mi trabajo reduciría directamente estos riesgos existenciales, me iría… Estas empresas no dejan de fabricar estos sistemas porque yo me voy».