Límites y desafíos de los grandes modelos de lenguaje para la escritura académica y científica: una revisión crítica en función del “uso experto”

Resumen

Desde 2022 el mundo científico ha acusado recibo del impacto que representó la masificación del ChatGPT. Su utilización, tanto en contextos científicos como académicos, ha despertado cuestionamientos acerca de problemas teóricos como la autoría de los trabajos escritos al menos parcialmente con esta tecnología, o desafíos prácticos, como la falta de adecuación a registros académicos que esta herramienta ofrece. El presente trabajo es una presentación ordenada de los problemas y límites del uso de grandes modelos de lenguaje en contextos académicos y científicos. Se sostiene sobre el análisis de veinte artículos científicos que reportan análisis sistemáticos de datos aportados por encuestas o bien por revisiones sistémicas de bibliografía. Optamos por dividir los contextos de uso en función del criterio del uso experto, que se define por la coincidencia de una alfabetización académica completa y el amplio dominio del campo acerca del cual se indaga al chatbot. Se referirá el problema del uso inexperto y algunos de sus alcances y se abordarán desafíos que presentan los textos producidos por chatbots que aparecen incluso en el uso experto: la falta de trazabilidad y los sesgos, las alucinaciones, el parroting, el plagio, el desarrollo argumentativo endeble y las exposiciones inconsistentes, incoherentes y contradictorias.