Anthropica traslada escáneres de seguridad de IA gratuitos a proyectos de código abierto

Anthropo se ofrece a ayudar a los proyectos de código abierto a rastrear vulnerabilidades de seguridad con un nuevo servicio llamado Escáner OSS. Dice que los proyectos de código abierto optar por «Escaneos de seguridad periódicos a través de nuestros modelos más confiables sin costo.» Eso podría significar que los proyectos de código abierto sean advertidos antes sobre posibles problemas de seguridad, pero la compensación es que los informes de OSS Scanner no vienen con revisión humana:

Los resultados de este escáner de exposición opcional se generarán completamente mediante modelos sin revisión ni clasificación humana. Esto dará como resultado una información más rápida y frecuente, pero lo que puede suceder es que los informes sean falsos o no válidos. Estos informes serán generados por los modelos más fuertes (incluido Claude Mythos) para abrir proyectos con la mayor ventaja defensiva.

OSS Scanner está lejos de ser el primer asistente de búsqueda de errores con IA que existe. Las herramientas de inteligencia artificial han ayudado a encontrar algunas fallas de seguridad importantes en el software de código abierto en los últimos meses, como Error «Error de copia» En mayo, casi todo el mundo distribuye Linux. Al mismo tiempo, se están planificando algunos proyectos abiertos para hacer frente a la repentina avalancha de informes de errores generados por la IA; incluido Linus Torvalds y hasta Google.