Publicar o morir: la irrupción de la inteligencia artificial en las revistas científicas agrava el problema de exceso de artículos

La cantidad de revistas médicas es tan grande que nadie conoce la cifra exacta. Algunas estimaciones conservadores, como la del Comité Internacional de Editores de Revistas Médicas (ICMJE por sus siglas en inglés), señalan que hay por lo menos unas 30.000 publicaciones a nivel mundial de las que por lo menos la mitad son publicaciones depredadoras, aquellas que se enfocan en las ganancias económicas en lugar de la divulgación de investigaciones. La cultura del "publicar o morir" entre investigadores y profesionales de la salud ahora tiene un nuevo rival: la inteligencia artificial.

Por primera vez en la historia, un artículo científico creado por una IA fue aceptado tras una revisión doble ciego, es decir, aquella que mantiene el anonimato entre autores y revisores. La idea fue implementada por la start-up japonesa Sakana AI cuyo principal objetivo es desarrollar agentes computacionales capaces de llevar a cabo la investigación científica de manera independiente.

"Creemos que lo más importante no es cómo se juzga la ciencia de la IA frente a la ciencia humana, sino si sus descubrimientos contribuyen al progreso humano como la curación de enfermedades o la ampliación de nuestro conocimiento sobre las leyes que rigen el universo. Esperamos contribuir al inicio de esta era de la ciencia de la IA que contribuye al progreso de la humanidad", Sakana AI.

Estos nuevos algoritmos están diseñados para crear una hipótesis, los experimentos pertinentes, verificar resultados y dar conclusiones. En agosto de 2024 presentaron una primera publicación creada con la IA que en su momento se hizo viral tras darse a conocer que había violado los propios parámetros que tenía programados en su código. Sin embargo, más allá de tratarse de un escenario apocalíptico estilo Skynet, el fenómeno ocurrió debido a que la IA tuvo que priorizar entre sus restricciones y objetivos para llegar al resultado deseado.

Ahora Sakana AI consiguió presentar, previa autorización, un nuevo artículo ante la Conferencia Internacional sobre Representaciones del Aprendizaje (ICLR por sus siglas en inglés) que fue revisado y aprobado. A pesar del éxito, el equipo detrás del proyecto hace algunas observaciones importantes. Advierten que su modelo generó un cierto número de artículos (sin especificar cuántos) de los cuales eligieron tres y dos de ellos fueron rechazados.

Existe el dilema de si la inteligencia artificial generativa, la más avanzada del momento, realmente será capaz de hacer contenido inédito en el ámbito de investigación y no sólo parafrasear el trabajo ya realizado por la comunidad científica. No obstante, existe otra amenaza en el corto plazo.

Uno de los principales problemas de las publicaciones científicas es que son muchas y muy poca personas (o nadie) las leen. Si la IA se empieza a utilizar con fines académicos, no sólo se le roba a los investigadores una plaza para publicar sus trabajos, también le restarían protagonismo a las investigaciones tradicionales y le quita a los desarrolladores la oportunidad de crecer al crear sus propias hipótesis y defenderlas ante compañeros.

"Creemos que las próximas generaciones de The AI ??Scientist marcarán el comienzo de una nueva era en la ciencia. El hecho de que la IA pueda generar un artículo científico completo que supere la revisión por pares en un taller de aprendizaje automático (machine learning) de primer nivel es un indicio muy prometedor, pero es sólo el comienzo. Prevemos que la IA seguirá mejorando, potencialmente de forma exponencial. En algún momento, la IA probablemente podrá generar artículos incluso por encima del nivel de los seres humanos, incluyendo los más altos niveles de publicación científica. Anticipamos que The AI ??Scientist y sistemas similares crearán artículos dignos de ser aceptados no solo en las principales conferencias de machine learning, sino también en las revistas científicas más prestigiosas", Sakana AI.