Los textos generados por LLMs pierden emotividad

 

En Febrero, se publicó en la revista PNAS NEXUS un artículo científico liderado por Yi Dong en el que e analiza si los textos generados por los Grandes Modelos de Lenguaje, LLMs, como ChatGPT, Gemini o Claude pueden transmitir emociones o, simplemente, utilizan un contexto neutro que aplana el énfasis o los sentimientos que pudieran ser necesarios en el texto. 

El artículo examina las consecuencias de usar LLMs para editar, resumir o corregir contenidos generados por seres humanos, centrándose especialmente en las alteraciones del sentimiento. Las conclusiones son que la reformulación que generan las redes neuronales de lenguaje tienden a mostrar un sentimiento más neutro que sus homólogos originales. Para el análisis se han tomado opiniones escritas sobre el cambio climático y se muestra cómo estas alteraciones del sentimiento pueden sesgar los resultados de las investigaciones que utilicen los datos "corregidos" por los LLM en vez de los originales. 

Los autores no se quedan en constatar este efecto sino que proponer estrategias para contrarrestar los sesgos introducidos por los modelos de lenguaje.  Primeramente, emplean modelos predictivos capaces de identificar de manera retroactiva el verdadero sentimiento humano subyacente en las comunicaciones originales, utilizando como base el sentimiento alterado, una técnica que tiene sus limitaciones cuando el origen del texto es incierto. La segunda estrategia aborda, precisamente, el problema cuando el origen es ambiguo. En tal caso se propone un ajuste fino del modelo de lenguaje para alinear mejor el sentimiento de los textos generados por LLM con el sentimiento humano.

Podemos ver si este análisis de Yi Dong y colaboradores existe en textos elegidos al azar por nosotros.

Por ejemplo, he tomado la transcripción publicada en 2022 en la Web de ACNUR, del discurso de Filippo Grandi, Alto Comisionado de las Naciones Unidas para los Refugiados, con motivo del día mundial del refugiado. He pedido a ChatGPT que me haga un resumen.

El discurso original humano es profundamente emotivo y enfático, lleno de agradecimiento honesto, y trufado de hechos reales que dan vida al mensaje.  Puede leerse completo en el enlace dado anteriormente (el discurso original era en francés pero, aquí, usamos su traducción al castellano).

El resumen, realizad por el LLM, no puede sino refrendar los hallazgos del artículo científico que comentamos. Cierto que en un resumen debe capar muchos de los detalles pero, como se ve, se pierde todo sentimiento, es una nota aséptica:

El discurso celebra el retorno voluntario y pacífico de refugiados a Côte d’Ivoire, destacando la labor del presidente del país, del gobierno y de los países vecinos que acogieron a más de 300,000 personas durante el exilio. Se reconoce el esfuerzo por la paz, la estabilidad y la reconciliación nacional, así como la importancia de la cooperación regional.

También se menciona el contexto global de creciente desplazamiento forzado, con más de 100 millones de refugiados en el mundo, agravado por conflictos como la guerra en Ucrania. Se resalta la importancia de seguir trabajando en soluciones sostenibles y de brindar apoyo a quienes aún no han podido regresar.

El mensaje final enfatiza la resiliencia de los refugiados y la necesidad de seguir el ejemplo de Côte d’Ivoire para reducir el número de personas desplazadas en el mundo, instando a no perder la esperanza en la búsqueda de soluciones duraderas.

Otro ejemplo más que también reafirma que los LLM anulan la emoción. En este caso se trata del discurso de Annie Ernaux en la aceptación de su premio Nobel de literatura en 2022. Igualmente, el original está en francés pero trabajamos aquí con su traducción al español. Escribo sólo un fragmento pero puede leerse, y merece la pena hacerlo, en este enlace de Revista Coronica.

¿Por dónde empezar? Me he hecho esta pregunta decenas de veces delante de la página en blanco. Como si tuviera que encontrar la frase, la única, que me permitiera empezar a escribir el libro y barrer con mis dudas de golpe. Una especie de llave. Hoy, para afrontar una situación que, tras el estupor del acontecimiento –"¿de verdad me está pasando esto a mí?– mi imaginación me presenta con un miedo creciente, es la misma necesidad la que me abruma. Encontrar la frase que me dé la libertad y la firmeza para hablar sin temblar, en este lugar donde me han invitado esta noche.

Esa frase, no necesito buscarla muy lejos. Surge. En toda su nitidez, su violencia. Lapidaria. Irrefragable. La escribí hace sesenta años en mi diario íntimo. "Escribiré para vengar mi raza". Se hacía eco del grito de Rimbaud: "Soy de raza inferior por toda la eternidad"*. Tenía veintidós años. Era estudiante de literatura en una universidad de provincias, entre chicas y chicos, muchos de ellos de la burguesía local. Orgullosa e ingenuamente pensé que escribir libros, convertirme en escritora, al final de una estirpe de campesinos sin tierra, obreros y pequeños comerciantes, gente despreciada por sus modales, su acento, su falta de cultura, bastaría para reparar la injusticia social congénita. Que una victoria individual borraría siglos de dominación y pobreza, una ilusión que la escuela ya había fomentado en mí con mis logros académicos. ¿En qué medida mi realización personal podría haber redimido lo que fuera de las humillaciones y ofensas sufridas? No me hacía esa pregunta. Tenía algunas excusas. Desde que sabía leer, los libros habían sido mis compañeros, la lectura mi ocupación natural fuera de la escuela. Este gusto fue alimentado por una madre, ella misma ávida lectora de novelas entre cliente y cliente de su tienda, que prefería que yo leyera a que cosiera y tejiera. El elevado coste de los libros, la suspicacia de que eran objeto en mi colegio religioso, los hacía aún más deseables para mí. Don Quijote, Los viajes de Gulliver, Jane Eyre, los cuentos de Grimm y Andersen, David Copperfield, Lo que el viento se llevó, más tarde Los miserables, Las uvas de la ira, La náusea, El extranjero: fue el azar, más que las prescripciones de la escuela, lo que determinó mis lecturas. 

La elección de estudiar literatura había sido la elección de permanecer en la literatura, convertida en lo más valioso frente a todos los demás, una forma de vida con la cual podía lanzarme al interior de una novela de Flaubert o de Virginia Woolf y vivirlas literalmente. Una especie de continente que oponía inconscientemente a mi entorno social. Y yo sólo veía en la escritura la posibilidad de transfigurar la realidad. 

El resumen que ChatGPT dista mucho de transmitir la maravilla de emociones y sentimientos que transmite Ernaux. Le he solicitado que alargue el resumen para maximizar las opciones de que entre en detalles, pero ni así. La noche y el día.

Aquí tienes un resumen en 40 líneas del discurso:

La autora reflexiona sobre su trayectoria como escritora y su lucha interna por encontrar una frase que le otorgue firmeza al hablar. Recuerda una declaración de su juventud: "Escribiré para vengar mi raza", influenciada por su origen humilde y su deseo de superar la discriminación social. En su infancia, la literatura fue su refugio, fomentada por su madre lectora. Su elección de estudiar literatura se debió a su fascinación por los libros, pero inicialmente vio la escritura como un medio para transfigurar la realidad, sin cuestionarse su impacto en la sociedad.

Las circunstancias de la vida la alejaron de la escritura: el peso de ser mujer en una sociedad patriarcal, la maternidad y la imposición de roles de género. Sin embargo, eventos personales y sociales, como la muerte de su padre y el contacto con estudiantes de clase obrera, la llevaron a reencontrarse con su origen y a escribir desde la urgencia de recuperar su memoria reprimida. Comprendió que debía romper con la "buena escritura" y adoptar un lenguaje más visceral, que reflejara la rabia y la burla de los humillados.

Al escribir su primer libro en 1974, se definió su enfoque: una escritura social y feminista. La venganza por su raza y por su sexo se fusionaron en un solo propósito. Adoptó un estilo neutro y objetivo para evitar la condescendencia hacia las clases populares, dejando que la violencia surgiera de los hechos y no del lenguaje.

Defiende el uso de la primera persona no como un acto narcisista, sino como una herramienta de exploración de las sensaciones y de conexión con el lector. Su "yo" aspira a ser transpersonal, permitiendo que lo individual se vuelva universal. Para ella, la escritura no es una mera narración autobiográfica, sino una forma de descifrar la realidad y compartir experiencias comunes como el amor, la vergüenza o el luto.