Los científicos utilizan cada vez más la IA para escribir artículos de investigación • –

Los análisis lingüísticos y estadísticos de artículos científicos sugieren que la IA generativa puede haberse utilizado para escribir una cantidad cada vez mayor de literatura científica.

Dos artículos académicos afirman que el análisis de la elección de palabras en el corpus de publicaciones científicas revela un uso cada vez mayor de la IA para escribir artículos de investigación. Un estudiopublicado en marzo por Andrew Gray del University College London en el Reino Unido, sugiere que al menos el uno por ciento (60.000 o más) de todos los artículos publicados en 2023 fueron escritos, al menos parcialmente, por IA.

A segundo artículo publicado en abril por un equipo de la Universidad de Stanford en EE.UU. afirma que esta cifra podría oscilar entre el 6,3 y el 17,5 por ciento, dependiendo del tema.

Ambos artículos buscaron ciertas palabras que los modelos de lenguaje grande (LLM) usan habitualmente, como “intrincado”, “fundamental” y “meticulosamente”. Al rastrear el uso de esas palabras en la literatura científica y compararlas con palabras que no Aunque la IA es particularmente favorecida, los dos estudios dicen que pueden detectar una creciente dependencia del aprendizaje automático dentro de la comunidad editorial científica.

En el artículo de Gray, el uso de palabras de control como “rojo”, “conclusión” y “después” cambió en un pequeño porcentaje de 2019 a 2023. Lo mismo ocurrió con otros ciertos adjetivos y adverbios hasta 2023 (denominado post-LLM). año por Gray).

En ese año, el uso de las palabras “meticuloso”, “encomiable” e “intrincado” aumentó en un 59, 83 y 117 por ciento respectivamente, mientras que su prevalencia en la literatura científica apenas cambió entre 2019 y 2022. La palabra con mayor El aumento de la prevalencia después de 2022 fue “meticuloso”, de un 137 por ciento.

El artículo de Stanford encontró fenómenos similares, demostrando un aumento repentino de las palabras “reino”, “exhibición”, “intrincado” y “fundamental”. Los dos primeros se utilizaron aproximadamente un 80 por ciento más a menudo que en 2021 y 2022, mientras que los dos últimos se utilizaron alrededor de un 120 y casi un 160 por ciento más frecuentemente, respectivamente.

Los investigadores también consideraron estadísticas del uso de palabras en diversas disciplinas científicas. La informática y la ingeniería eléctrica estaban a la cabeza en lo que respecta al uso del lenguaje preferido de la IA, mientras que las matemáticas, la física y los artículos publicados por la revista Nature sólo experimentaron aumentos de entre el cinco y el 7,5 por ciento.

Los organismos de Stanford también observaron que los autores que publican más preimpresiones, trabajan en campos más concurridos y escriben artículos más breves parecen utilizar la IA con más frecuencia. Su artículo sugiere que la falta general de tiempo y la necesidad de escribir tanto como sea posible fomenta el uso de LLM, lo que puede ayudar a aumentar la producción.

Potencialmente la próxima gran controversia en la comunidad científica

Usando IA para ayudar en el proceso de investigación no es nada nuevo, y muchos expertos están abiertos a utilizar la IA para modificar los experimentos y lograr mejores resultados. Sin embargo, utilizar la IA para escribir resúmenes y otros fragmentos de artículos es muy diferente, porque la expectativa general es que los artículos científicos sean escritos por humanos reales, no por robots, y al menos un par de editores lo consideran usando LLM para escribir artículos ser una mala conducta científica.

El uso de modelos de IA puede ser muy arriesgado, ya que a menudo producen textos inexactos, algo que se supone que la literatura científica no debe hacer. Los modelos de IA pueden incluso fabricar citas y citas, un hecho que afectó infamemente a dos abogados de Nueva York. en problemas por citar casos que ChatGPT había ideado.

“Se debe presionar a los autores que utilizan textos generados por LLM para que revelen esto o para que piensen dos veces si hacerlo es apropiado en primer lugar, como una cuestión de integridad de la investigación básica”, opinó Gray, del University College London.

Los investigadores de Stanford también plantearon preocupaciones similares y escribieron que el uso de IA generativa en la literatura científica podría crear “riesgos para la seguridad y la independencia de la práctica científica”. ®