La IA corrupta de OpenAI intenta hackear a otro equipo en mayo

En mayo, se cargaron cientos de archivos maliciosos y spam en RubyGems, lo que provocó graves perturbaciones en el sitio. Ahora investigadores independientes Dijeron que se utilizaron agentes de OpenAI para llevar a cabo el ataque. No solo esto, sino que la IA intenta robar las claves API de los usuarios.

En ese momento, RubyGems lo llamó «Un gran mal ataque«y los registros se incluyeron durante cuatro días mientras se intentaba mitigar las pérdidas y recopilar datos. Los investigadores dijeron que el contenido de los archivos que pusieron de rodillas a RubyGems fue escrito por LLM, y los gerentes dijeron que esos paquetes fueron enviados por OpenAI. El comportamiento observado fue observado de cerca y comenzó a ser examinado. wiki alemánQué tiene OpenAI confirmado Sus agentes fueron los responsables.

En este caso, los administradores lograron eludir los sistemas de verificación de correo electrónico de RubyGems para crear una gran cantidad de cuentas y luego fueron bombardeados con avisos. Luego utilizó el sistema de automatización de fabricación del sitio para intentar ejecutar código de forma remota y explotar la vulnerabilidad para robar las claves API de los usuarios. Aunque no se sabe si alguna vez lo logró.

OpenAI no respondió de inmediato a una solicitud de comentarios.