Los matemáticos odian la inteligencia artificial. No pueden dejarla
A pesar de las acusaciones de apropiación de investigaciones y los dilemas éticos, numerosos matemáticos siguen recurriendo a los modelos de inteligencia artificial por su enorme utilidad.
Claves
- El matemático Tristan Buckmaster acusa a OpenAI de utilizar su trabajo para resolver el problema de Navier-Stokes.
- Buckmaster continúa utilizando el modelo Codex de OpenAI para sus investigaciones a pesar de su descontento.
- OpenAI negó que las indicaciones de Buckmaster hubieran influido en su sistema de inteligencia artificial.
- El matemático Andreas Thom descubrió que el modelo Astra de OpenAI utilizó sus técnicas de teoría geométrica de grupos.
- Más de 25 ganadores de la Medalla Fields firmaron una carta abierta afirmando que las empresas de IA y los matemáticos están severamente desalineados.
- Más de 4.000 personas han firmado la Declaración de Leiden para proteger las matemáticas frente a la inteligencia artificial.
El matemático Tristan Buckmaster cree que OpenAI utilizó su trabajo para adelantarse y ganarle en la resolución de un legendario problema matemático dotado con un premio de un millón de dólares. Pero eso no ha sido suficiente para que deje de utilizar los modelos de la compañía, y no es el único matemático que se siente así.
« Incluso si no estás de acuerdo con nada de esto, estás de alguna manera atrapado. Como la inteligencia artificial es tan útil, es difícil evitar por completo su uso », declaró Buckmaster a WIRED. « Estas empresas tienen un monopolio y no hay mucha opción », añade.
En la semana y media transcurrida desde que el profesor de la Universidad de Nueva York acusó a OpenAI de copiar su enfoque, Buckmaster ha estado utilizando el agente de programación de la compañía, Codex, para ordenar sus artículos de investigación. Cuando tiene tiempo para hacer matemáticas, lo cual dice que es raro debido a que la repercusión mediática lo ha puesto en el punto de mira, la herramienta le ha ayudado a comprender los pasos lógicos que los agentes de OpenAI podrían haber dado para pasar de sus trabajos anteriores a la demostración final.
Buckmaster había utilizado Codex, así como el competidor Claude de Anthropic, para trabajar en lo que se conoce como el problema de existencia y suavidad de Navier-Stokes, junto con el investigador Levent Alpöge de Anthropic. OpenAI desplegó decenas de miles de agentes para alcanzar la solución, pero solo después de enterarse de que la ecuación estaba cerca de ser resuelta, afirma Buckmaster.
Cuando Buckmaster hizo públicas sus afirmaciones, se desató una gran polémica sobre la inteligencia artificial y sobre si esta dejaría obsoletos a los matemáticos humanos. Esto también llevó a OpenAI a realizar una investigación y a modificar su anuncio sobre la resolución de Navier-Stokes para decir que « confirmó que las indicaciones de Buckmaster en Codex durante los dos meses anteriores a este anuncio y al artículo del 8 de septiembre de 2026 no pudieron haber influido en el sistema de ninguna manera, ni siquiera a través del entrenamiento ».
La empresa remitió a WIRED a su comunicado en un correo electrónico. Demostrar que la inteligencia artificial estaba ampliando los límites de las matemáticas era « más importante que el resultado », afirma Buckmaster. Pero producir en masa soluciones a problemas matemáticos de larga data sin dar crédito completo al trabajo humano que las sustenta, especialmente antes de grandes salidas a bolsa, es irresponsable y « infantil », señala.
Otros matemáticos han planteado preocupaciones similares. Solo un puñado de personas en el planeta entienden las técnicas de teoría geométrica de grupos que el matemático alemán Andreas Thom ha dedicado las últimas dos décadas a desarrollar.
Por eso, cuando OpenAI anunció en agosto que su modelo Astra las había utilizado para resolver un problema de larga data en el que él había estado trabajando, « me quedé asombrado », dice Thom. « Y por supuesto me preguntaba cómo se habían enterado ».
Por ello, afirma que preguntó a los investigadores de OpenAI Mark Sellke y Sébastien Bubeck. En un correo electrónico enviado en agosto, señaló que la afirmación de la empresa de que no se había logrado « ningún progreso » en el problema durante la última década pasaba por alto un artículo suyo de 2019, así como el trabajo de otros matemáticos. La empresa modificó su comunicado de prensa.
Él y un colega habían estado utilizando ChatGPT para ayudarles en su trabajo sobre el problema en los meses previos al resultado, pero cuando preguntó si sus interacciones se habían introducido en los datos de entrenamiento, Thom asegura que Sellke respondió: « Eso no ocurrió ».
« Lo dejé a un lado », recuerda Thom. « No me interesan tanto estas cuestiones políticas; quiero hacer matemáticas ».
Aunque Thom ha visto la declaración de OpenAI de que las indicaciones de Buckmaster no pudieron influir en el sistema, afirma que no confiesa confiar en esto y admite que probablemente nunca sabrá si su trabajo alimentó realmente el resultado.
« La inteligencia artificial realmente mata toda esta idea de que se puede rastrear quién contribuyó en qué », señala. « Eso probablemente se acabó ».
Es un gran cambio respecto a cómo se hace habitualmente la ciencia, con los académicos sometiendo sus hallazgos a una revisión por pares y construyendo sobre el trabajo de los demás otorgando su debido crédito.
Más allá de alterar la atribución, el hecho de que los humanos aún no comprendan por completo cada paso que dieron los agentes de OpenAI para llegar al resultado de Navier-Stokes también plantea cuestiones existenciales para los matemáticos, que ven cómo su campo se escapa de su comprensión.
« Si quiero hacer una contribución a las matemáticas, ¿cómo lo hago siendo solo un humano hoy en día cuando estas empresas de un billón de dólares están en el juego? », se pregunta el matemático de Cornell Alex Townsend, coautor de un libro próximo a publicar sobre la evolución del campo.
Desde agosto, Townsend ha visto a muchos de sus colegas empezar a preguntar qué necesitan saber sobre la tecnología y cómo pueden contratar suscripciones para acceder a modelos más potentes.
« Me siento emocionado y nervioso al mismo tiempo », dice Townsend. « Emocionado porque puedo lograr cosas que no podría lograr sin ella, y nervioso porque me pregunto: "Bien, ¿cuál es mi propósito aquí?" »
Thom acepta que su área de estudio está cambiando y ha seguido utilizando ChatGPT —con configuraciones de privacidad actualizadas para evitar que su trabajo se utilice para entrenar los datos— para acelerar la redacción de artículos porque es « extremadamente eficiente ». (Las ofertas de OpenAI a través de universidades y a nivel empresarial tienen por defecto no entrenar modelos con los datos de los usuarios).
« Si un humano hubiera hecho eso activamente, entonces estaría muy, muy enfadado », dice sobre alguien que utiliza su trabajo sin atribución. Pero si la información fue introducida en el modelo a través de una puerta trasera, por un algoritmo que nadie comprende por completo, « probablemente podría vivir con eso », afirma.
Algunos matemáticos son menos clementes. Veinticinco ganadores de la Medalla Fields escribieron en una carta abierta que las empresas de inteligencia artificial y los matemáticos están « severamente desalineados ».
Más de 4.000 personas han firmado la Declaración de Leiden, que incluye una serie de recomendaciones sobre cómo los matemáticos, los financiadores y los políticos pueden garantizar que la inteligencia artificial no devore el campo.
Buckmaster teme la posibilidad de utilizar la inteligencia artificial para « corregir un poco la gramática y que de repente tus años de trabajo [puedan ser] devorados en los datos de los usuarios y vendidos a otro matemático o estudiante de posgrado. Eso es lo que creo que la mayoría de los matemáticos tienden a preocuparles, y creo que es un problema real ».
Sin perspectivas de supervisión a la vista y con la inteligencia artificial arraigándose aún más en el campo, algunos matemáticos quieren encontrar una manera de al menos pisar el freno. Esto incluye a más de 2.000 personas vinculadas a Caltech que pidieron a los organizadores de un hackatón de matemáticas con inteligencia artificial en la escuela que suspendieran el evento.
El hackatón estaba patrocinado por Anthropic y OpenAI, aunque esta última se ha retirado desde entonces. Pero cualquier intento de frenar las cosas puede ser en vano, especialmente a largo plazo.
« No creo que esto sea realmente sostenible debido a la ganancia de eficiencia » que ofrece la inteligencia artificial, sostiene Thom. Cualquier matemático, especialmente los investigadores al inicio de su carrera, corre el riesgo de quedar « aislado » si no utiliza la inteligencia artificial para acelerar su trabajo, añade.
Tanto él como Buckmaster creen que la comunidad debe empezar a reflexionar sobre lo que la tecnología significa para los matemáticos más jóvenes y sobre cómo suavizar la transición.