El uso de los LMM para crear ensayos perjudica la capacidad crítica

 

Se está popularizando el uso de los grandes modeles de lenguaje (LMM) para escribir ensayos, dado que permiten reducir el tiempo de trabajo al generar grandes cantidades de texto correcto en poco tiempo.

Neurólogos y especialista en IA del MIT's Media Lab han estudiado los efectos en el cerebro de escribir los ensayos o artículos técnicos usando o sin usar LMM como ayuda. Los resultados, que no parecen sorprendentes, indican que el uso de estas herramientas deteriora el razonamiento crítico y hacen que lo escrito tenga menos rigor y menos profundidad. 

En el experimento, se contó con 54 voluntarios distribuidos en 3 equipos de 18 personas cada uno. Los participantes debían escribir ensayos sobre filantropía lo suficientemente largos como para hablar durante 20 minutos. A los individuos se les conectaron casos de electroencefalografía para registrar su actividad cerebral. El primer grupo debía usar ChatGPT para escribir los ensayos, el segundo sólo Google para recopilar información y el tercero debía crearlos sin ayuda externa.

Los resultados muestran claramente que las personas que usaron solo su cerebro para escribir los ensayos tuvieron una mucho más alta actividad mental y, en el otro extremo, los que usaron ChatGPT usaron poco su cerebro. También, los que no usaron herramientas LLM supieron defender y explicar mejor su ensayo que los otros.

Es más, tras algún tiempo, las personas que habían usado LMM durante los primeros experimentos fueron requeridas para escribir textos sin usarlos ahora. Sus resultados fueron peores, como si sus mentes ya se hubieran acostumbrado a la comodidad de utilizar los modelos de lenguaje. Una peligrosa espiral negativa.

El artículo puede leerse en este enlace.