OpenAI quiere asesorar a los matemáticos de élite sobre cómo no volver a equivocarse

Después de una serie de espectaculares resultados matemáticos, convirtiéndose en un crisis de reputaciónOpenAI tiene como objetivo ayudar a los matemáticos a encontrar un camino menos desastroso a seguir.

El lunes, la empresa reportado Una nueva junta independiente de matemáticos ha intervenido para asesorarla a ella y a otras empresas de inteligencia artificial sobre sus interacciones con la investigación matemática y la comunidad matemática en general, incluso cuando se presentan y publican nuevos resultados. Su llegada tomó por sorpresa a muchos matemáticos. Los investigadores dijeron Borde El grupo es un buen primer paso, pero muchos dijeron que les quedan preguntas básicas sobre qué hará realmente, cuánta influencia tendrá y si OpenAI realmente está escuchando, así como preocupaciones sobre si un grupo tan pequeño de investigadores prominentes puede representar a la comunidad matemática en general.

Se formó un grupo de nueve miembros que fue descrito por los investigadores. Borde como celebridades en el campo, establecidas por las instituciones de Stanford, Harvard, Oxford y Cambridge, con múltiples premios de campo y premios MacArthur. Será organizado en Princeton, el Instituto de Estudios Avanzados (IAS) de Nueva Jersey, uno de los centros de investigación matemática más venerados del mundo y hogar de antiguas figuras intelectuales como Albert Einstein, John von Neumann y J. Robert Oppenheimer.

OpenAI dijo que el grupo, que se llama Matemáticas e Inteligencia Artificial (AGMAI), trabajará de forma independiente, con libertad para prestar asesoramiento no solicitado a la empresa, comentar abiertamente sobre matemáticas y hará pública su decisión, aunque no puede detallar lo que implica. Parece que el grupo tendrá acceso temprano a la investigación de OpenAI para cumplir su función. Los miembros que no pagan y los miembros del grupo de OpenAI pueden cambiar como mejor les parezca, dijo OpenAI. «Su fuerza depende de que sus miembros ejerzan su criterio y sean capaces de desafiar el nuestro», afirmó la empresa. «El grupo asesorará sobre la revisión y comunicación de los resultados emergentes: ayudará a OpenAI a evaluar su importancia, asesorará sobre cómo organizar su difusión y asesorará sobre los estándares académicos y profesionales para la investigación matemática. También asesorará sobre cómo nuestras herramientas pueden apoyar la investigación y la enseñanza matemáticas».

A pesar de todo su énfasis en la independencia, no está claro cuánto poder tendrá realmente el grupo ni por qué se formó en primer lugar. Simon Machado, investigador de ETH Zurich en Suiza, dijo que todo el asunto parecía «misterioso» y preguntó cómo se eligieron los nueve miembros. el grupo sitio web básico dice que «se reunió después de que OpenAI se acercó a algunos de sus miembros para formar un consejo asesor externo», pero luego de conversaciones con la compañía, los matemáticos decidieron actuar como un grupo independiente e invitar a otros a unirse a ellos. No está claro qué miembros fueron reclutados inicialmente por OpenAI o cómo se seleccionaron los miembros restantes.

en un publicación de blog En un comunicado de prensa del martes, el miembro del grupo consultor Martin Hairer explicó los orígenes del grupo y el pensamiento detrás de él, respondiendo a lo que llamó una «tormenta de desinformación» en torno a su formación. «Está claro que la IA ya ha tenido un profundo impacto en la investigación matemática y hay muchas preguntas sobre la correcta atribución de ideas, prioridades, ideas humanas, etc.», escribió, añadiendo que no tiene sentido en la comunidad «adoptar un difícil enfoque de avestruz simplemente ignorando los laboratorios de IA y negándose a hablar con ellos desde el principio».

Si bien reconoció que el grupo se formó en respuesta al acceso de OpenAI, Hairer confirmó que no todos sus miembros habían sido contactados por la compañía y, por lo tanto, la organización es «verdaderamente independiente de OpenAI y de cualquier otro» término llamado laboratorios de IA». Más allá de la «obvia necesidad de confidencialidad», dijo que los miembros no han firmado acuerdos restrictivos que puedan decir públicamente, y agregó que no reciben compensación financiera y dependen de IAS para obtener soporte técnico.

«Otra cosa fundamental es que puede adelantarse a nuestras intenciones y representar los intereses de la comunidad matemática», escribió Hairer, profesor de matemáticas en el Imperial College de Londres y en el Instituto Federal Suizo de Tecnología de Lausana (EPFL). Señalando que el grupo no era una muestra representativa de la comunidad, dijo que estaba «absolutamente seguro de que los nueve nos tomamos esto muy en serio y actuamos de buena fe».

Independientemente de cómo se seleccionen los miembros, el grupo ahora incluye un cuadro de élite de matemáticos académicos. El tamaño más pequeño plantea más preguntas sobre si la amplitud de experiencia que tiene el grupo para evaluar todo lo que han encontrado, dadas las habilidades y conocimientos necesarios para realizar tareas matemáticas.

Francis Fournier-Facio, profesor entrante de matemáticas en la Universidad Heriot-Watt en Escocia, describió la junta como bastante «ambigua» y dijo que un mayor compromiso con los matemáticos «sólo puede mejorar las cosas». Pero preguntó si este grupo representa plenamente a la comunidad cuyo trabajo y vidas están siendo construidos por OpenAI. Búsqueda de trofeos matemáticos. «Se sentía como una torre de marfil», dijo. Borde.

De manera similar se le pregunta a Machado si los miembros del grupo entienden completamente o pueden hablar. de la comunidad matemática en general cuando se convierta en IA «Los matemáticos son maravillosos, pero no sé si la gente quiere representarme en cuestiones políticas», dijo. Para los matemáticos en sus puestos elegidos y en otros similares, Machado dijo: «Creo que las cosas con las que se enfrentan son muy diferentes de lo que la mayoría de los matemáticos están viendo ahora».

Si el grupo de matemáticos puede ganar credibilidad determinará en última instancia qué tan efectivos serán los engaños de OpenAI para informar el reciente desfile de errores en los resultados y, más bien, suavizar el impacto de lo que la compañía planee anunciar a continuación. En su blog, Hairer dijo que los miembros «son muy ingenuos al creer que los laboratorios de IA no están tratando de sacar todo lo que decimos de una manera que se adapte a su máquina de relaciones públicas, porque podríamos llegar a algo».

Sin embargo, Hairer argumentó que sería hipócrita no criticar lo que parecen ser los esfuerzos de OpenAI, especialmente después de tantas críticas al comportamiento y las malas comunicaciones de la empresa. El grupo todavía está consultando sobre lo que pretende ofrecer, dijo, pero el problema es claro cuando él responde: «Es cierto que las compañías de IA producirán algunos resultados matemáticos profanos en los próximos meses y su publicación y difusión serán mucho menos aceptables que la práctica matemática, en cualquier forma definida».

Por ahora, Hairer dijo que las aportaciones del grupo se obtienen a través de conversaciones con colegas del público. formulario de comentariosy discusión Pruebas y preparaciónUn blog que se ha convertido en un foro clave para las matemáticas computacionales desde que la IA llegó al campo.

Pero el mayor desafío del grupo probablemente esté por delante. Al anunciar el grupo asesor, OpenAI casualmente dejó caer la noticia de que su modelo nuevo y resuelto, el que resolvió el problema del Premio del Milenio Navier-Stokes, ya se ha centrado en más de 100 problemas abiertos de larga data en la mayoría de las áreas de las matemáticas. Anteriormente dijo que se enfrentaba a otro problema con el Premio del Milenio. En su sitio web, el grupo dijo sobre este estancamiento su primera prioridad: «Ahora estamos considerando el desafío muy especial para el proyecto OpenAI de componer una solución para los muchos resultados significativos en matemáticas que informan que se produce el modelo interno».

Por un lado, el nuevo esfuerzo por involucrar a las matemáticas es un reconocimiento de los fracasos récord de relaciones públicas de sus proyectos, en los que se encuentra la empresa. Se extiende a los inquisidores para formular acusaciones.no construir modelos de su obra en crédito del hombre, e incluso robar a quienes utilizan sus modelos. Estas controversias hacen que muchos matemáticos se pregunten si la población entendía, o incluso respetaba, la disciplina y la comunidad.

Después de los últimos meses y de tantos escritos sobre temas matemáticos, Kevin Buzzard, profesor de matemáticas en el Imperial College de Londres, se preguntó por qué OpenAI sentía tanta necesidad de un organismo electo para comprender lo que quería la comunidad. «No se trataba del contenido de teoremas difíciles, sino de una mejor comprensión de los nuestros», afirmó. «No tengo del todo claro que necesites el consejo de personajes famosos para llegar a casa».