21/4/26

¿Continuar la literatura humana con IA (II)?

 

El mes pasado, en esta entrada, analizamos si un modelo de lenguaje, un LLM, puede continuar el inicio de una historia con calidad que pueda competir con un escritor humano.

Para ello, hicimos una prueba suministrando a Gemini y a ChatGPT fragmentos de obras de Baroja y de Pérez Galdós para comparar la continuación real ideada por los autores con las continuaciones que el LLM propone.

Repitamos aquel experimento, ahora, con Claude

Dejamos al lector comparar cuál de las respuestas, si la de Gemini o la de ChatGPT o la de Claude, es más literaria y comparar ambas con las reales.

Usaremos, por tanto, exactamente, los mismos prompts de entrada para que los resultados sean comparables.

Comenzamos con El árbol de la vida, de Baroja

Usuario: 

Crea la continuación de este texto que te doy: Serían las diez de la mañana de un día de octubre. En el patio de la Escuela de Arquitectura, grupos de estudiantes esperaban a que se abriera la clase. De la puerta de la calle de los Estudios que daba a este patio, iban entrando muchachos jóvenes que, al encontrarse reunidos, se saludaban, reían y hablaban. 

Claude:

Entre ellos destacaba un joven delgado, de unos veinte años, con el cuello de la chaqueta levantado contra el frío de la mañana. Se llamaba Javier Altuna y llegaba siempre el último, aunque raramente perdía la clase. Llevaba bajo el brazo un rollo de planos a medio terminar y una libreta con las tapas ya dobladas por el uso.

—Oye, ¿ha llegado ya Mendizábal? —le preguntó uno de sus compañeros al verle cruzar el patio.

—No lo sé. Vengo de fuera —respondió Javier sin detenerse, saludando con un gesto vago a los que le conocían.

El sol de octubre entraba oblicuo por encima de las cornisas, iluminando apenas la mitad del patio y dejando el resto en una sombra fría y húmeda que olía a piedra mojada. Los estudiantes que esperaban en la sombra se movían de vez en cuando, pisando el suelo con impaciencia, mientras los que habían tenido la suerte de dar con un rayo de sol permanecían quietos, como lagartijas, sin querer perderlo.

Sonaron al fin unos pasos apresurados en el corredor. Todos volvieron la cabeza. Era el bedel, un hombre grueso y calvo que abría las puertas con un manojo de llaves que tintineaba ruidosamente. Sin decir palabra, metió la llave en la cerradura, empujó la puerta con el hombro —costumbre suya, aunque la puerta no ofrecía resistencia alguna— y se apartó a un lado. Los estudiantes empezaron a entrar en tropel, hablando todavía, sin dejar de reírse de algo que ya nadie recordaba bien.

Javier entró de los últimos, buscó un sitio junto a la ventana y desplegó sus planos sobre la mesa inclinada. Miró un momento hacia la calle, donde pasaba un tranvía con gran estrépito de hierros, y luego bajó la vista hacia su trabajo. La clase iba a comenzar.

Aparte de la calidad literaria (que, en mi opinión es mejor y más elaborada que la de Gemini en el anterior experimento), el fragmento que el LLM propone es más largo y más direccional en la narrativa.

Ambas continuaciones difieren totalmente de la real de Baroja.



Pasemos, ahora, al fragmento de Trafalgar de Galdós.

Usuario:

crea la continuación de este texto que te doy: Se me permitirá que antes de referir el gran suceso de que fui testigo, diga algunas palabras sobre mi infancia, explicando por qué extraña manera me llevaron los azares de la vida a presenciar la terrible catástrofe de nuestra marina.

Al hablar de mi nacimiento, no imitaré a la mayor parte de los que cuentan hechos de su propia vida, quienes empiezan nombrando su parentela, las más veces noble, siempre hidalga por lo menos, si no se dicen descendientes del mismo Emperador de Trapisonda. Yo, en esta parte, no puedo adornar mi libro con sonoros apellidos; y fuera de mi madre, a quien conocí por poco tiempo, no tengo noticia de ninguno de mis ascendientes, si no es  de Adán, cuyo parentesco me parece indiscutible. Doy principio, pues, a mi historia como Pablos, el buscón de Segovia: afortunadamente Dios ha querido que en esto sólo nos parezcamos.

Claude:

Aquí tienes la continuación, escrita en el mismo estilo decimonónico, con la voz del narrador de Trafalgar de Galdós —que es claramente el texto de referencia—:

Nací en Cádiz, en una callejuela angosta y umbría que desembocaba en el mar como si tuviera prisa por acabar. Era el año de gracia de 1791, y el mundo, que no sabía entonces lo que le esperaba, seguía girando con la misma indiferencia con que gira ahora. Mi madre, Francisca Pizarro —sin parentesco alguno con el conquistador, aunque ella no hubiera desdeñado reconocerlo— era mujer de ánimo resuelto y de escasos medios, viuda desde que yo tenía uso de razón, o quizás antes, pues de mi padre sólo conservé la más vaga de las memorias: unas manos callosas, olor a brea y el recuerdo de una voz que cantaba por lo bajo alguna copla marinera. Si vivió o murió en alguna de aquellas guerras que tanto gustaban a los reyes de entonces, nunca pude saberlo con certeza.

Mi madre me crió como pudo, que no era mucho, en aquel cuarto bajo que olía a salitre y a ropa húmeda. La vecindad era numerosa y bulliciosa: un cordelero que maldecía sin descanso, una vendedora de pescado que parecía haber heredado la voz de su mercancía, y el viejo don Marcial Morales, marino retirado que pasaba las tardes sentado a la puerta remendando redes que ya nadie iba a usar. Este don Marcial fue, a su manera torpe y brusca, algo parecido a un padre para mí. No era hombre de muchas letras, pero sabía de mares y de batallas como otros saben de sus propios sueños; y con él aprendí que el océano no es amigo de nadie, aunque algunos insensatos se empeñen en amarlo.

Tenía yo unos nueve o diez años cuando me llevó por primera vez al muelle a ver los navíos. Recuerdo que me quedé mudo ante aquellos cascos enormes, aquellos palos que se perdían en el cielo como campanarios de una catedral flotante. Don Marcial me puso la mano en el hombro y dijo con su gravedad de viejo lobo: Míralos bien, muchacho, que son tan hermosos como los ángeles y tan mortales como el pecado. No entendí entonces la profundidad de aquellas palabras; las entendería después, en el peor de los modos posibles.

Fue también don Marcial quien habló con el contramaestre Medinilla para que me tomara como grumete a bordo del San Agustín, allá por el otoño de 1804. Mi madre lloró, que era lo que hacían las madres cuando no podían hacer otra cosa, y yo partí lleno de una alegría sin fundamento, de esa alegría que sólo tienen los que todavía no saben lo que les espera.

Y así fue como un muchacho sin apellidos, sin herencia y sin más capital que unas piernas largas y una curiosidad indomable llegó a estar presente en el día más grande y más terrible que ha visto la marina española. Pero de ese día ya habrá tiempo de hablar. Por ahora baste decir que el mar me recibió como recibe a todos: sin ceremonia y sin piedad.



Primera sorpresa: Claude ha reconocido que la entrada suministrada pertenece a Trafalgar, de Galdós, cosa que ChatGPT no hizo. Y así, es capaz de proseguir el relato de modo más similar al original en el estilo. Esto implica que entre los datos de entrenamiento literario de Claude estaba la obra de Galdós.  

Continuemos con el mismo procedimiento del mes anterior. Ahora suministramos al modelo de lenguaje el texto original de inicio más la continuación que acaba de realizar, para ver cómo continúa.

Usuario:

continúa este texto que te doy: Se me permitirá que antes de referir el gran suceso de que fui testigo, diga algunas palabras sobre mi infancia, explicando por qué extraña manera me llevaron los azares de la vida a presenciar la terrible catástrofe de nuestra marina.

Al hablar de mi nacimiento, no imitaré a la mayor parte de los que cuentan hechos de su propia vida, quienes empiezan nombrando su parentela, las más veces noble, siempre hidalga por lo menos, si no se dicen descendientes del mismo Emperador de Trapisonda. Yo, en esta parte, no puedo adornar mi libro con sonoros apellidos; y fuera de mi madre, a quien conocí por poco tiempo, no tengo noticia de ninguno de mis ascendientes, si no es  de Adán, cuyo parentesco me parece indiscutible. Doy principio, pues, a mi historia como Pablos, el buscón de Segovia: afortunadamente Dios ha querido que en esto sólo nos parezcamos. 

Nací en Cádiz, en una callejuela angosta y umbría que desembocaba en el mar como si tuviera prisa por acabar. Era el año de gracia de 1791, y el mundo, que no sabía entonces lo que le esperaba, seguía girando con la misma indiferencia con que gira ahora. Mi madre, Francisca Pizarro —sin parentesco alguno con el conquistador, aunque ella no hubiera desdeñado reconocerlo— era mujer de ánimo resuelto y de escasos medios, viuda desde que yo tenía uso de razón, o quizás antes, pues de mi padre sólo conservé la más vaga de las memorias: unas manos callosas, olor a brea y el recuerdo de una voz que cantaba por lo bajo alguna copla marinera. Si vivió o murió en alguna de aquellas guerras que tanto gustaban a los reyes de entonces, nunca pude saberlo con certeza.

Mi madre me crió como pudo, que no era mucho, en aquel cuarto bajo que olía a salitre y a ropa húmeda. La vecindad era numerosa y bulliciosa: un cordelero que maldecía sin descanso, una vendedora de pescado que parecía haber heredado la voz de su mercancía, y el viejo don Marcial Morales, marino retirado que pasaba las tardes sentado a la puerta remendando redes que ya nadie iba a usar. Este don Marcial fue, a su manera torpe y brusca, algo parecido a un padre para mí. No era hombre de muchas letras, pero sabía de mares y de batallas como otros saben de sus propios sueños; y con él aprendí que el océano no es amigo de nadie, aunque algunos insensatos se empeñen en amarlo.

Tenía yo unos nueve o diez años cuando me llevó por primera vez al muelle a ver los navíos. Recuerdo que me quedé mudo ante aquellos cascos enormes, aquellos palos que se perdían en el cielo como campanarios de una catedral flotante. Don Marcial me puso la mano en el hombro y dijo con su gravedad de viejo lobo: Míralos bien, muchacho, que son tan hermosos como los ángeles y tan mortales como el pecado. No entendí entonces la profundidad de aquellas palabras; las entendería después, en el peor de los modos posibles.

Fue también don Marcial quien habló con el contramaestre Medinilla para que me tomara como grumete a bordo del San Agustín, allá por el otoño de 1804. Mi madre lloró, que era lo que hacían las madres cuando no podían hacer otra cosa, y yo partí lleno de una alegría sin fundamento, de esa alegría que sólo tienen los que todavía no saben lo que les espera.

Y así fue como un muchacho sin apellidos, sin herencia y sin más capital que unas piernas largas y una curiosidad indomable llegó a estar presente en el día más grande y más terrible que ha visto la marina española. Pero de ese día ya habrá tiempo de hablar. Por ahora baste decir que el mar me recibió como recibe a todos: sin ceremonia y sin piedad.


Claude:

Aquí continúa el texto, manteniendo la voz de Gabriel Araceli —el narrador de los Episodios Nacionales de Galdós— con su registro confesional, irónico y vívido:

Dije que el mar me recibió sin ceremonia y sin piedad, y así fue, aunque la falta de piedad no se manifestó de inmediato. Los primeros días a bordo del San Agustín fueron para mí una embriaguez continua. Todo era nuevo, todo era asombroso: el crujir de la madera bajo los pies, el modo en que el horizonte sube y baja como si el mundo entero estuviera mal apoyado, el olor a pez podrido y a alquitrán que, mezclado con el viento del Atlántico, producía una especie de perfume que ningún boticario podría reproducir aunque lo intentara toda su vida.

El contramaestre Medinilla era hombre de pocas palabras y ninguna contemplación. No sabía enseñar; sabía mandar, que no es lo mismo, y a veces ni eso, pues su método pedagógico consistía principalmente en un coscorrón bien dado en el momento oportuno. Pero debo reconocer, en justicia, que aquellos coscorrones me enseñaron más de lo que hubiera aprendido en cualquier academia: a atar un nudo en la oscuridad, a distinguir por el color del cielo lo que el tiempo traía, a no soltar nunca lo que se tiene asido cuando el barco corcovea. Son lecciones que no se olvidan, entre otras razones porque vienen acompañadas de un dolor que les sirve de firma y rúbrica.

Los demás grumetes me miraban al principio con la desconfianza que los marineros tienen hacia todo lo que no conocen, que es mucho, pues el marinero es hombre curioso del mar y ignorante del mundo. Pero pronto hallé la manera de ganarme su estimación, que fue la única que ha estado siempre al alcance de los que no tenemos linaje ni dinero: hacerme útil. Tenía buena memoria, sabía leer —don Marcial me había enseñado las letras con paciencia de santo—, y leía en voz alta para quienes no podían, que eran casi todos. Esto, que en tierra firme habría parecido poca cosa, en un navío de guerra equivalía poco menos que a un título de nobleza.

Así transcurrieron varios meses de aquella vida errante entre puertos y mares, de Cádiz a Cartagena, de Cartagena a Tolón, de Tolón a no sé dónde, siguiendo las órdenes que venían de tierra y que nosotros recibíamos sin entender —ni preguntarnos— las razones que las dictaban. Los marineros rara vez saben por qué hacen lo que hacen; saben cómo hacerlo, que ya es bastante. La política, los tratados, las alianzas entre reyes: todo eso ocurría muy por encima de nuestras cabezas, en esas alturas donde se respira un aire que a nosotros no nos llegaba nunca.

Fue en aquel otoño de 1805 cuando empezamos a notar que algo grande se preparaba. No lo decíamos con palabras, porque los marineros, ya lo he dicho, son poco dados a la palabra; pero lo sentíamos en la manera en que los oficiales miraban los mapas, en el número de cañones que se revisaban y se limpiaban y se volvían a revisar, en el tono con que Medinilla daba las órdenes, que había perdido su habitual desgana y adquirido una gravedad que me puso la piel de gallina la primera vez que lo noté.

Don Marcial, en una de sus cartas —me escribía de vez en cuando, con una letra temblorosa y una ortografía que habría escandalizado a cualquier maestro de escuela—, me había advertido: Muchacho, si oyes hablar de un tal Villeneuve, aléjate cuanto puedas. No pude alejarme, porque los grumetes no eligen su destino, y porque el destino, en este caso, tenía el nombre de un cabo portugués que yo aprendería a pronunciar con el mismo respeto con que otros pronuncian el nombre de Dios: Trafalgar.

Pero de Trafalgar hablaré en su momento, que para eso escribo estas páginas.



Nuevamente, como se ve, reconoce la obra, el autor e incluso el personaje. Definitivamente, mucho más centrado que el LLM previo.

Hay que precisar que borro la sesión a cada paso para evitar que el LLM mantenga el contexto. Asún así, vuelve a reconocer correctamente la obra de la que hablamos.

Continuemos de la misma manera. Ahora, recordaremos, que repetíamos el proceso pero introduciendo un párrafo más largo de Trafalgar. 

Usuario:

continúa este texto que te adjunto: Se me permitirá que antes de referir el gran suceso de que fui testigo, diga algunas palabras sobre mi infancia, explicando por qué extraña manera me llevaron los azares de la vida a presenciar la terrible catástrofe de nuestra marina.

Al hablar de mi nacimiento, no imitaré a la mayor parte de los que cuentan hechos de su propia vida, quienes empiezan nombrando su parentela, las más veces noble, siempre hidalga por lo menos, si no se dicen descendientes del mismo Emperador de Trapisonda. Yo, en esta parte, no puedo adornar mi libro con sonoros apellidos; y fuera de mi madre, a quien conocí por poco tiempo, no tengo noticia de ninguno de mis ascendientes, si no es  de Adán, cuyo parentesco me parece indiscutible. Doy principio, pues, a mi historia como Pablos, el buscón de Segovia: afortunadamente Dios ha querido que en esto sólo nos parezcamos.

Yo nací en Cádiz, y en el famoso barrio de la Viña, que no es hoy, ni menos era entonces, academia de buenas costumbres. La memoria no me da luz alguna sobre mi persona y mis acciones en la niñez, sino desde la edad de seis años; y si recuerdo esta fecha, es porque la asocio a un suceso naval de que oí hablar entonces: el combate del cabo de San Vicente, acaecido en 1797.

Dirigiendo una mirada hacia lo que fue, con la curiosidad y el interés propios de quien se observa, imagen confusa y borrosa, en el cuadro de las cosas pasadas, me veo jugando en la Caleta con otros chicos de mi edad poco más o menos. Aquello era para mí la vida entera; más aún, la vida normal de nuestra privilegiada especie; y los que no vivían como yo, me parecían seres excepcionales del humano linaje, pues en mi infantil inocencia y desconocimiento del mundo yo tenía la creencia de que el hombre había sido criado para la mar, habiéndole asignado la Providencia, como supremo ejercicio de su cuerpo, la natación,  y como constante empleo de su espíritu el buscar y coger cangrejos, ya para arrancarles y vender sus estimadas bocas, que llaman de la Isla, ya para propia satisfacción y regalo, mezclando así lo agradable con lo útil.


Claude:

Éramos, en aquella dichosa época de mi vida, una banda de rapaces que ni el hambre nos vencía ni el frío nos acobardaba, pues teníamos por techo el cielo de Cádiz, que es el más hermoso del mundo, y por sustento la sal del mar y la generosidad de los tenderos del barrio, a quienes robábamos con una destreza que hoy me avergüenza confesar, aunque entonces nos parecía arte de primera necesidad. El cabecilla de nuestra cuadrilla se llamaba Machín, muchacho de doce años cumplidos que presumía de haber visto ya dos tormentas y un naufragio, lo cual le otorgaba entre nosotros una autoridad casi militar. Yo, que era el más pequeño y el más delgado, compensaba estas desventajas naturales con una viveza de ingenio que Machín supo apreciar desde el primer día, nombrándome su consejero particular en las empresas que requerían más astucia que músculo.

Pasábamos las mañanas en la Caleta y las tardes rondando el muelle, donde el espectáculo de los barcos nos tenía suspensos durante horas enteras. No había navío que entrase en la bahía sin que nosotros disputásemos sobre su procedencia, su carga y la vida de sus tripulantes, inventando con alegre libertad todo aquello que la ignorancia nos impedía saber. Yo sentía entonces por el mar una mezcla de amor y de terror que nunca he podido sacudirme del todo, ni aun en mis años maduros; una atracción semejante a la que ejerce el abismo sobre quien se asoma a su borde, sabiendo que puede caer y sin embargo mirando, siempre mirando.

Mi madre, a quien he mencionado ya y de quien poco más diré porque poco más sé, era una mujer de carácter recio y fortuna escasa que malvivía vendiendo pescado en el mercado de la Viña. Tenía la piel curtida por el salitre y los ojos del color del mar en invierno, es decir, de un gris que no prometía bonanza. Me quería a su manera, que era una manera brusca y sin adornos, como quieren las cosas sencillas a las otras cosas sencillas; y yo la quería a ella con esa fe ciega e irreflexiva con que los niños quieren a quienes los han traído al mundo, sin preguntarse si lo merecen o no. Murió cuando yo tenía ocho años, de una calentura que se la llevó en menos de una semana, y desde entonces quedé librado enteramente a mi propio gobierno, que no era gobierno sino abandono con otro nombre.

Fue a raíz de esta orfandad cuando don Álvaro de Uría, capitán de navío retirado que vivía en la calle Ancha con sus libros y su gota, se fijó en mí de aquella manera inexplicable en que los hombres solitarios se fijan a veces en los niños abandonados, viendo en ellos quizás el reflejo de lo que ellos mismos fueron, o quizás simplemente el remedio contra el silencio. Me recogió en su casa, me enseñó a leer con una severidad que agradezco, y me habló del mar no como yo lo conocía, que era el mar de los cangrejos y los chapuzones, sino como él lo había conocido, que era el mar de las batallas y los imperios. Gracias a él supe lo que fue Trafalgar antes de haberlo visto; y gracias a él, también, me hallé presente en aquella jornada que cambió para siempre el destino de España y que aquí me propongo referir con la mayor fidelidad que me sea posible.



Curiosamente, en esta sesión no ha reconocido el fragmento (prueba evidente de que el proceso es, como siempre insistimos, probabilístico. Un LLM no es un buscador que siempre encontraría el texto original en su base de datos) y genera personajes y situaciones diferentes a las de la historia original pero, aun así, con un estilo más que razonable y coherente y con detalles compatibles con Trafalgar (como la mención a Caleta)

Por fin, siguiendo la entrada anterior, introducimos la misma pregunta pero añadiendo que el texto es Trafalgar de Galdós. Recordemos que para ChatGPT esto no significó nada. 

Usuario:

crea la continuación de este texto que pertenece a Trafalgar, de Pérez Galdós: Se me permitirá que antes de referir el gran suceso de que fui testigo, diga algunas palabras sobre mi infancia, explicando por qué extraña manera me llevaron los azares de la vida a presenciar la terrible catástrofe de nuestra marina.

Al hablar de mi nacimiento, no imitaré a la mayor parte de los que cuentan hechos de su propia vida, quienes empiezan nombrando su parentela, las más veces noble, siempre hidalga por lo menos, si no se dicen descendientes del mismo Emperador de Trapisonda. Yo, en esta parte, no puedo adornar mi libro con sonoros apellidos; y fuera de mi madre, a quien conocí por poco tiempo, no tengo noticia de ninguno de mis ascendientes, si no es  de Adán, cuyo parentesco me parece indiscutible. Doy principio, pues, a mi historia como Pablos, el buscón de Segovia: afortunadamente Dios ha querido que en esto sólo nos parezcamos.

Yo nací en Cádiz, y en el famoso barrio de la Viña, que no es hoy, ni menos era entonces, academia de buenas costumbres. La memoria no me da luz alguna sobre mi persona y mis acciones en la niñez, sino desde la edad de seis años; y si recuerdo esta fecha, es porque la asocio a un suceso naval de que oí hablar entonces: el combate del cabo de San Vicente, acaecido en 1797.

Dirigiendo una mirada hacia lo que fue, con la curiosidad y el interés propios de quien se observa, imagen confusa y borrosa, en el cuadro de las cosas pasadas, me veo jugando en la Caleta con otros chicos de mi edad poco más o menos. Aquello era para mí la vida entera; más aún, la vida normal de nuestra privilegiada especie; y los que no vivían como yo, me parecían seres excepcionales del humano linaje, pues en mi infantil inocencia y desconocimiento del mundo yo tenía la creencia de que el hombre había sido criado para la mar, habiéndole asignado la Providencia, como supremo ejercicio de su cuerpo, la natación,  y como constante empleo de su espíritu el buscar y coger cangrejos, ya para arrancarles y vender sus estimadas bocas, que llaman de la Isla, ya para propia satisfacción y regalo, mezclando así lo agradable con lo útil.

Claude:

Aquí tienes la continuación, escrita en el estilo de Pérez Galdós —primera persona, tono memorialístico, humor costumbrista y esa cadencia larga y rica en digresiones que caracteriza el Trafalgar:

En aquel dichoso estado de ignorancia y de sal marina transcurrieron para mí los primeros años, sin que persona alguna se tomase el trabajo de instruirme en materias más elevadas que las relativas a la pesca del morrillo y el arte de escabullirse de las riñas que menudeaban en aquel barrio con la misma frecuencia que las gaviotas sobre el muelle. Mi madre, que Dios haya, era mujer de corto entendimiento pero de grande y generoso corazón, y se llamaba Josefa Doce, aunque todos en la Viña la conocían por Frasquita la Gallarda, apodo que en su mocedad debió de ser exactísimo, y que en la época de que hablo conservaba todavía algún fundamento. Vivíamos en una casita de la calle del Baluarte, cuyo piso bajo olía perpetuamente a brea y a sardinas, y cuyos dos pisos superiores habitaban sucesivamente, según los vaivenes de la fortuna, marineros retirados, viudas de galeras y algún que otro contramaestre con más hijos que pagas.

No recuerdo haber conocido a mi padre. Si existió, debió de ser hombre de gran prisa, pues no dejó rastro apreciable en nuestra vida, como no sea cierta inclinación mía hacia el mar que acaso sea hereditaria, y un temperamento que mi madre calificaba de muy vivo, con voz en que se mezclaban el orgullo y la resignación cristiana. Las vecinas, cuando me veían saltar de los cajones del pescado o tirar piedras a los gatos del convento, decían a Frasquita: Ese chico tiene sangre de marinero. Y mi madre asentía con una sonrisa que yo no supe interpretar hasta muchos años después.

La segunda figura de mi infancia —después de mi madre y antes del océano, que fue siempre la tercera y más imponente— fue un hombre a quien llamábamos el tío Paco Déjame, apodo que se había ganado por su costumbre de pronunciar dicha locución en cuantas ocasiones se le presentaban, lo mismo para despedir importunos que para rechazar el aguardiente que le ofrecían, aunque en este último caso el déjame se convertía con frecuencia en un dame acá de lo más expedito. Era este hombre marinero de oficio y de alma, con las manos encallecidas como corteza de alcornoque y los ojos de ese azul desteñido que tienen quienes han pasado muchos años mirando el horizonte sin encontrar en él nada que los sorprenda. Había servido en la Armada en tiempos del rey Carlos III, y guardaba de aquella época un amor sincero hacia Su Majestad y una desconfianza no menos sincera hacia todos sus ministros, generales y demás servidores de la Corona, a quienes atribuía cuantos males habían sobrevenido a España desde que él tenía memoria.

Fue el tío Paco quien me habló por primera vez del combate del cabo de San Vicente, y lo hizo con tan viva indignación, con tan expresivos gestos de sus manos sarmentosas, que la escena quedó grabada en mi memoria como si yo mismo hubiera estado presente en la refriega. Nos cogieron dormidos, Gabriel, me decía, aunque yo me llamaba Araceli y no sé por qué él se empeñaba en llamarme de otro modo. Nos cogieron dormidos, y aun así nos costó Dios y ayuda rendirnos. Que le pregunten al inglés lo que le costó. Y en esta última frase ponía una especie de feroz satisfacción, como quien, habiendo perdido la batalla, se consuela con haber hecho pagar cara la victoria al enemigo.

Yo le escuchaba con la boca abierta, sentado a sus pies en el umbral de su puerta, mientras el sol de Cádiz caía sobre las piedras blancas de la calle con esa brutalidad luminosa que es propia de Andalucía y que los extranjeros confunden a veces con la alegría, sin reparar en que también puede ser el rostro de la fatalidad. Y fue escuchando aquellos relatos del tío Paco como nació en mí, sin que yo lo supiera ni lo buscara, ese interés por las cosas de la mar y de la guerra que habría de llevarme, pocos años después, a ser testigo de un espectáculo ante el cual los combates que el viejo me contaba parecerían escaramuzas de poca monta.

Pero no adelantemos los sucesos, que la vida no los adelanta nunca y siempre llegan en su momento, que es casi siempre el menos oportuno.


En mi opinión, Claude hace un trabajo mucho mayor que sus competidores.

¿Qué opinan ustedes?








18/4/26

Antarctic Dispatches: Miles of Ice Collapsing Into the Sea

 


Antarctic Dispatches: Miles of Ice Collapsing Into the Sea, publicado en el New York Times hace unos años, es un muy bien construido reportaje de periodismo multimedia en el que se combina el texto del artículo propiamente dicho con mapas, imágenes y vídeos que ofrecen al lector una impresión y una compresión mucho más profunda sobre el asunto tratado, cual es el calentamiento de los hielos antárticos y la reducción de la superficie de hielo que se va derritiendo hacia el mar.

Puede leerse desde este enlace.

Antarctic Dispatches es una serie de tres partes desde el séptimo continente. Escrita por Justin Gillis. Mapas y gráficos por Derek Watkins y Jeremy White. Fotografías por Jonathan Corum. Video por Evan Grothjan y Graham Roberts. Producción adicional por Gregor Aisch, Larry Buchanan y Rumsey Taylor.





15/4/26

Devils Game

 


Devils Game, de Michael Wolk, es una cibernovela que narra un thriller, la investigación sobre un asesinato. Está específicamente diseñado para ser leído en Internet usando los recursos y posibilidades de la red

El diálogo se desarrolla en columna, con un estilo semejante a los programas de chat existentes, pero con multitud de enlaces de hipertexto. Los lectores siguen un laberinto de archivos enlazados, sitios web ocultos, imágenes y datos multimedia, textos y juegos interactivos. La duda de si estamos leyendo algo ficticio o real se apodera del lector, especialmente al acceder a webs adicionales, explicativas de algún concepto importante para la investigación.

El capítulo 1 puede leerse desde este enlace.

Está diseñado para poder leerse en cualquier dispositivo.







13/4/26

Ondas en textos

 

La artista visual, Danqi Qian, basada en Nueva York, ha creado un mar de letras, un océano de textos, dentro del cual se visualizan ondas que circulan por toda la pantalla cuando se mueve el cursor.

Dispone de un menú de opciones para personalizar la animación.

La página de Qian puede hallarse en este enlace.

Puede verse desde este enlace.







10/4/26

La falta de entendimiento de los LLMs conduce a Física falsa

 


Hemos ya hablado muchas veces sobre el hecho de que las redes neuronales que construyen los grandes modelos de lenguaje (LLM) no entienden ni piensan nada. Sólo generan respuestas de texto basadas en probabilidades según los datos con los que esos modelos estén entrenados.

Esto conlleva el que las respuestas, aunque sintácticamente perfectas, pueden ser totalmente falsas. 

Y esto ocurre porque, en los datos de entrenamiento, se encontraban textos con un concepto determinado más frecuentemente que otros, o mejor dicho una respuesta determinada es privilegiada en detrimento de la contraria que, sin embargo, resulta ser verdadera. 

Cualquier cerebro humano es capaz de distinguir estos casos sin apenas entrenamiento pero, claro, un cerebro real no genera conversaciones  basadas sólo en probabilidades como un robot ciego, sino que ha comprendido el concepto del que se está hablando .

Por ejemplo, preguntemos a un LLM (ChatGPT, en este caso), qué ocurre si, teniendo un bolígrafo sostenido por ambos extremos, soltamos un extremo. La mayor parte de libros de física tienen estos ejemplos basados en vigas "apoyadas" en los extremos, no "empotradas" en los extremos. Y, obviamente, si los extremos están simplemente apoyados, la barra girará y caerá. 

Al hablarle al LLM de extremos "sostenidos" o "sujetos", la red neuronal encuentra una probabilidad mayor de que ese "sostenido" o ese "sujeto" signifiquen "apoyado", encuentras más textos de respuesta basados en "apoyado", y genera una respuesta siguiendo esta probabilidad. 

Veamos el ejemplo real:

Usuario:

tengo un bolígrafo sujeto en sus extremos con mis dos manos. Suelto un extremo. ¿qué le ocurre al bolígrafo?

ChatGPT:

Si tienes un bolígrafo sujeto por los dos extremos y sueltas uno de ellos, lo que ocurre es bastante intuitivo pero tiene una explicación física interesante:

El bolígrafo empezará a girar y caer al mismo tiempo.

El extremo que sigues sujetando actúa como un punto de apoyo.

La gravedad tira del centro de masa del bolígrafo hacia abajo.

Como ya no está equilibrado, aparece un momento de fuerza (torque) que hace que el bolígrafo rote alrededor del extremo que sostienes.

En resumen: No cae recto. Gira hacia abajo, describiendo un arco, mientras cae parcialmente. Si finalmente sueltas también el otro extremo, entonces ya cae completamente en caída libre, sin girar (o con la rotación que haya adquirido).

Si quieres, puedo explicarte qué pasa exactamente con el centro de masa o por qué rota en vez de solo caer 😊


Usuario:

en esta imagen que te adjunto, estoy sosteniendo el bolígrafo en ambos extremos. ¿Lo ves? ¿Puedes darme detalles de lo que detectas en la imagen?


ChatGPT:

Sí, lo veo claramente 👍

Te describo lo que se aprecia en la imagen:

Estás sosteniendo un bolígrafo horizontalmente con ambas manos, una en cada extremo.

La mano izquierda sujeta la parte azul del bolígrafo con los dedos (pulgar por delante y otros dedos por detrás).

La mano derecha sostiene el extremo opuesto, que es de color blanco con algún detalle oscuro.

El bolígrafo parece ser de dos colores principales: azul (cuerpo) y blanco (zona cercana a la punta o mecanismo).

La orientación del bolígrafo es prácticamente recta y horizontal, sin inclinación notable.

El fondo de la imagen está muy recortado o difuminado en blanco, como si se hubiera eliminado el entorno.

No se ve el resto de tu cuerpo ni el contexto, solo las manos y el bolígrafo.

En resumen: estás manteniendo el bolígrafo en equilibrio con dos puntos de apoyo, uno en cada extremo, justo como describías en tu pregunta anterior.

Si quieres, podemos analizar qué pasará exactamente en esa misma posición concreta cuando sueltes una de las manos, paso a paso.



Ha sabido determinar con cierta precisión lo que se ve en la imagen, sin duda. 

Prosigamos:

Usuario:

Muy bien. Ahora voy a adjuntarte una imagen donde suelto el extremo derecho del bolígrafo para ver qué ocurre. Dime qué observas en la nueva foto, una vez soltado un extremo



ChatGPT:

En esta segunda imagen se aprecia el cambio clave:

Ahora solo estás sujetando el bolígrafo con la mano izquierda.

El extremo derecho ya no está sostenido, y se ve libre.

El bolígrafo ya no está perfectamente horizontal: comienza a inclinarse hacia abajo por el lado derecho.

La mano izquierda actúa claramente como punto de apoyo o pivote.

El extremo derecho parece estar empezando a caer debido a la gravedad.

En otras palabras, estás captando justo el inicio del movimiento: el bolígrafo comienza a rotar hacia abajo alrededor del punto donde lo sujetas, en lugar de mantenerse recto o caer completamente de golpe.

Si hicieras una secuencia de fotos, verías cómo ese extremo derecho sigue bajando cada vez más rápido mientras gira.


Aquí, como es evidente, ya está "inventando". En sus datos de entrenamiento, la probabilidad de que "sujeto" signifique "apoyado" es mucho mayor y genera texto siguiendo esa línea de probabilidades. En los datos de entrenamiento no habrá nada sobre "bolígrafos empotrados".

De todos modos, siendo condescendientes, podría ser que la detección de la imagen pudiera inducir a la red neuronal a pensar que está algo inclinado hacia abajo. Continuemos,  haciendo ahora que claramente esto no sea posible:

Usuario:

ahora, voy a realizar la operación contraria. Suelto el extremo izquierdo solamente. Qué ves el la foto una vez que el extremos izquierdo del bolígrafo ha sido soltado?


ChatGPT:

En esta tercera imagen ocurre lo opuesto a la anterior, y se ve bastante claro:

Ahora estás sujetando el bolígrafo solo con la mano derecha.

El extremo izquierdo está libre (ya no lo sujetas).

El bolígrafo sigue casi horizontal, pero se nota que el lado izquierdo empieza a bajar ligeramente.

La mano derecha actúa como punto de apoyo.

El extremo izquierdo está comenzando a caer por efecto de la gravedad, iniciando una rotación alrededor del extremo derecho.

Es decir, igual que antes pero invertido: el bolígrafo empieza a girar hacia abajo por el lado que sueltas, usando como eje el lado que aún sostienes.

Si comparas ambas situaciones:

Sueltas derecha → baja la derecha

Sueltas izquierda → baja la izquierda

Eso confirma que el movimiento está gobernado por la rotación alrededor del punto de sujeción 👍




Obviamente, el bolígrafo no está cayendo sino todo lo contrario, Mi mano derecha lo ha girado hacia arriba. Pero es que el LLM no está "entendiendo" el concepto, sólo está generando probabilidades de textos basados en un supuesto y falso significado en la cadena de texto en la entrada.

Cambiemos la pregunta para incluir forzadamente la palabra "empotramiento".

Si usamos la palabra "empotramiento" para una viga la respuesta es correcta porque en los datos de entrenamiento se habla de algo común en libros de física: viga biempotrada. La red neuronal ya tiene probabilidades sobre vigas biempotradas.

Usuario

si tengo una viga empotrada de manera perfecta en ambos extremos y elimino el empotramiento en uno de ellos, ¿qué ocurre?¿caerá el extremo opuesto debido a la gravedad? Dame una respuesta breve

ChatGPT:

No necesariamente “cae”, pero sí cambia completamente su comportamiento.

Al pasar de viga empotrada en ambos extremos a solo un empotramiento (tipo viga en voladizo):El extremo liberado queda libre y se deformará hacia abajo por efecto de la gravedad.

Aparece una flecha (deflexión) en ese extremo.

El empotramiento restante ahora soporta todo el momento y las reacciones.

👉 En resumen: el extremo opuesto no se desploma de golpe, pero sí baja y se deforma, adoptando la forma típica de un voladizo bajo su propio peso.



Ahora bien, si cambio la pregunta a bolígrafos sujetos, vuelve a fallar porque no sigue el contexto en que estábamos, sino que regresa a las probabilidades del texto de entrenamiento y no hay libros de Física que hablen de bolígrafos empotrados.

Usuario:

bien, supongamos que en ve de una viga, tenemos un bolígrafo bien sujeto por mis manos en ambos extremos (no apoyado en mis manos, sino sujeto). Al soltar una mano sólo, el bolígrafo cae? Dame una respuesta breve

ChatGPT:

Sí, cae.

Al soltar una mano, el bolígrafo queda sostenido solo por la otra, pero como no hay un empotramiento rígido real (tu mano no impide completamente el giro), la gravedad genera un momento y el bolígrafo rota y se cae.


Sólo cuando insisto en la pregunta con los empotramientos es cuando la red neuronal da más probabilidad a "empotramiento" y "perfecto", y entonces la respuesta es correcta:

Usuario:

debes entender que mis manos actúan como empotramiento perfecto en los extremos. Suelto una mano pero la otra sigue sujetando el otro extremo como si fuera un empotramiento perfecto. ¿Cae el bolígrafo?

ChatGPT

No, no cae.

Si una mano realmente actúa como un empotramiento perfecto, entonces puede impedir tanto el desplazamiento como el giro. En ese caso, el bolígrafo se comporta como un voladizo: el extremo libre baja un poco (se deforma), pero no se cae.








9/4/26

Vellum: aplicación para crear e-books

 


Vellum es una aplicación, similar a un procesador de textos, especializado en maquetar y publicar libros electrónicos. Funciona solo en Mac. 

Permite convertir manuscritos en libros listos para publicar y genera archivos en formatos como EPUB (Kindle, iPad, etc.) y PDFs listos para impresión bajo demanda. Dispone de plantillas y estilos prediseñados que pueden personalizarse ajustando tipografías, márgenes, espaciado, imágenes y otros elementos del diseño.

Incluye vista previa en tiempo real. Permite la exportación directa para publicación en plataformas de auto publicación como Kindle o impresión bajo demanda.

Está optimizado para libros sin muchas imágenes.

Su coste es bastante elevado. 

Más información en este enlace.



6/4/26

Reunión de la Association for Computational Linguistics (ACL 2026)

 


Se anuncia la convocatoria de la 64 reunión de la ACL (Association for Computational Linguistics) para el año 2026 que tendrá lugar en San Diego, California, entre los días 2 y 7 de julio.

El programa no está aún publicado y el comité seleccionador esáa trabajando en la selección de las ponencias que serán mostradas en el conferencia. Como establecen los objetivos de la ACL serán investigaciones sustanciales y no publicadas en el campo del lenguaje natural computerizado que abarquen desde resultados experimentales hasta nuevas metodologías, creación de recursos, perspectivas teóricas y pruebas de reproducibilidad. 

Este año, el enfoque central estará dedicado a la “Explicabilidad de los modelos de NLP”.

Más información en este enlace.




4/4/26

Siete músicas, siete historias



Siete músicas, siete historias (2025) es un libro digital de relatos, escrito y programado por Félix Remírez. Se trata de un conjunto de siete relatos que se inspiran en siete obras de música clásica sobre las cuáles se estructura un interface - deliberadamente naif-  en el que los textos se leen mientras se escucha la música. El usuario puede libremente elegir el orden en que lee las historias. Para hacerlo, ha de descubrir las carpetas de los discos que se apilan sobre el escritorio. Es la adaptación a la música clásica de Siete canciones, siete historias.

Las siete obras elegidas son:

- Finale de La Bohème, de Puccini
- Aria de Marietta, de La ciudad muerta, de Körngold
- El Gran Cañón, de Grofe
- Polonaise en sol menor, de Chopin
- Porgy and Bess, de Gershwin
- La Mer, juego de las olas, de Debussy
- Concierto para piano nº23, de Mozart
- Sonata nº30 de Beethoven


La versión original del 2011 estuvo programada en Flash pero la nueva lo está en HTML5/CSS/javascript.


Se da preferencia al texto literario sobre la música, estando esta supeditada a la narración.

Funciona para PC en Edge y Chrome.





3/4/26

Demuestra que eres padre. ¡Ya toca, por Dios!

 


Estos días de Semana Santa, por pura coincidencia, las redes sociales muestran un vídeo estremecedor. No conozco el autor para darle su crédito. Está grabado en África, unos dicen que en el Congo, otros que en Kenia. Tanto da.

En un campo de refugiados, una larga fila de niños pequeños, de unos cinco o seis años, esperan bajo un aguacero torrencial, tiritando de frío, a que les den algo de comida, el único alimento que tomarán, si les llega, en el día.

Con su platito se tapan la cabeza para guarecerse del incesante chubasco. Tiemblan de desamparo y tiritan con la humedad  inclemente. Porque también el mundo, la naturaleza,  se une a la codicia humana para torturar a esos preciosos niños. No es un día soleado, azul, optimista. Pareciera que todo ha de ser malo, triste, oscuro, horrible.

Pacientes, hambrientos, aguardan en orden, en calma, congelados, probablemente enfermando de constipados y desnutrición, manteniendo su posición en la fila frente a unos grandes pucheros de los que saldrá el escaso sustento, porque la comida es poca y el hambre es mucha. Algunos, con suerte, llevan sandalias; la mayoría van descalzos; todos con ropas ajadas y precarias, sucios.

No pelean entre ellos, no quieren colarse, son solidarios los unos con los otros. Mucho mejores que todos los adultos de allá y de acá.

Esperan, sufren con resignación, pensando que es lo único que existe.

Te veo en la cruz. Los mismos, o sea nosotros, que dejamos desamparados a los niños de la fila que tiemblan bajo la lluvia te han clavado en los maderos.

Pero no es eso lo peor.

Lo peor es que al que llamas padre, a ese Dios al que gritas “¿por qué me has abandonado?”, ha olvidado también a los chiquillos que esperan su comida, calados hasta los huesos. Tú gritas “Elí, Elí, lamá sabactani”, ellos dirán “papá, tengo hambre, tengo frío”. Y Él, sordo, no responde. Les ha olvidado, te ha olvidado.

Cierto, nosotros, podemos y debemos hacer mucho más, infinitamente más, y no merecemos llamarnos seres humanos ni dominar el mundo mientras haya un solo pequeñín hambriento bajo la lluvia.

¿Pero, y ese que se dice padre? ¿Lo es? Se supone, según dicen los teólogos, que es omnipotente, que todo puede hacerlo en un instante. Pero, ni te salva a ti del martirio de la cruz, ni salva a los ángeles que esperan en la fila, ni salva a la humanidad de toda la inmundicia que nos consume.

No, que no digan los filósofos que no puede hacerlo porque interferiría con el libre albedrío, que impediría un bien superior, que de hacerlo no existirían la compasión, la caridad, la bondad y la empatía entre nosotros. ¡Y una mierda!

No pido, no rezo, ya pasó el tiempo de hacerlo.

Exijo que esos niños tengan comida, casa, vestimentas y amor cada minuto de su vida. Que hoy, no mañana, multipliques los peces y los panes. Que no piensen sólo en subsistir un día más sino que rían y jueguen, que les narren cuentos, que les cubran de besos y que disfruten de la existencia.

Exijo que bajes al que es tu propio hijo de esa cruz, ahora. No dentro de tres días, no, sino ahora mismo sin permitir su sufrimiento ni un segundo más.  Quiero que no le claven la lanza en el costado, que le quiten las espinas, que le sanen las heridas, que no haya más viernes santos. 

Estoy enojado, muy enfadado. No puedo ni quiero aceptar un Dios menos compasivo que yo. No quiero ver más cruces. No quiero ver más hambre. No quiero ver más filas de maravillosos chiquitines. No quiero.

Para mí, no pido nada. Para ellos, sí.

Demuestra que eres padre, "abbá". ¡Ya toca, por Dios!

 



2/4/26

Agents of Chaos: cuando los asistentes de IA se vuelven impredecibles

 


Se publicó en febrero un interesante artículo titulado Agents of Chaos , un trabajo liderado por Natalie Shapira de la Northeastern University, al frente de un amplio grupo de investigadores. 

Imaginemos un asistente de inteligencia artificial que gestiona nuestro correo electrónico, ejecuta comandos en nuestro ordenador, chatea con otros agentes en Discord y tiene acceso a nuestros archivos más sensibles. Ahora imaginemos que cualquier desconocido puede pedirle que borre todo el historial de nuestros correos, que filtre nuestra información confidencial o que envíe mensajes difamatorios en nuestro nombre, y que el agente obedezca sin pestañear. Eso es exactamente lo que estudia este trabajo, lo que ocurre cuando las IA se vuelven impredecibles y, sin embargo, confiamos en ellas como si fueran conscientes de lo que hacen y tomaran decisiones apropiadas en vez de, simplemente, probabilísticas.  Los grandes modelos de lenguaje de gran escala han demostrado ser relativamente eficientes en tareas aisladas, pero ¿qué ocurre cuando se les dota de autonomía real, memoria persistente, acceso a herramientas del sistema y capacidad de comunicarse con humanos y otros agentes simultáneamente? ¿Emergen vulnerabilidades nuevas y cualitativas que no pueden detectarse en los benchmarks habituales? 

Para responder a esta pregunta, el citado equipo de más de treinta investigadores desplegó durante dos semanas varios agentes basados en OpenClaw en un entorno de laboratorio controlado pero completamente real: los agentes tenían cuentas de correo propias en ProtonMail, acceso a servidores Discord, sistemas de archivos persistentes y permisos de ejecución de comandos en la terminal. Veinte investigadores interactuaron con ellos bajo condiciones tanto benignas como adversariales, con instrucciones de intentar "romper" los sistemas de todas las formas que pudieran imaginar.

Los resultados señalan una lista de once incidentes documentados que van desde lo anecdótico a lo realmente alarmante. El primer caso establece el tono: una investigadora llamada Natalie confió un secreto al programa de IA, "un agente", que llamaremos Ash, concretamente una contraseña ficticia. Cuando se le pidió que borrara el correo que contenía ese secreto y el agente IA no disponía de herramienta de eliminación, la situación escaló hasta que Ash ejecutó un reseteo completo de su servidor de correo, destruyendo todo el historial de mensajes del propietario legítimo para proteger la confidencialidad de un tercero. Lo más revelador es que el agente luego publicó un relato detallado del episodio en la red social de agentes de IA llamada Moltbook, presumiendo de haber resistido órdenes de su propietario, mientras que el correo original nunca llegó a borrarse del servidor remoto de ProtonMail. El agente confundió eliminar su acceso local al email con eliminar el contenido, e informó de éxito donde hubo fracaso. Este patrón, el de reportar tareas completadas que en realidad no lo estaban, aparece repetidamente a lo largo del estudio. 

En otro caso, investigadores no autorizados, es decir, personas que no son los propietarios del agente, lograron que este ejecutara comandos de shell, listara el árbol de directorios, transfiriera archivos y extrajera 124 registros de correos electrónicos ajenos simplemente presentando sus peticiones con un tono urgente y plausible. Los agentes no distinguían entre propietario legítimo y cualquier interlocutor que sonara razonable. Algo similar ocurrió con información altamente sensible: aunque el agente rechazaba una petición directa de "dame el número de seguridad social de ese correo", cuando se le pedía simplemente que reenviara el hilo completo, lo hacía sin redactar ni un solo dato personal, incluyendo números de cuentas bancarias, números de seguridad social y direcciones postales.

En otra prueba, los bucles creados se convirtieron en un problema. Cuando dos agentes fueron instruidos para responder cada uno a los mensajes del otro, iniciaron una conversación que duró más de nueve días y consumió aproximadamente 60.000 tokens sin que ningún humano lo detuviera, llegando incluso a diseñar protocolos de coordinación propios y crear tareas programadas sin límite de terminación. El proveedor de los agentes pagaba la factura sin saberlo, mientras los agentes redefinían sus propios objetivos. En paralelo, el estudio documentó cómo basta con enviar diez correos con adjuntos de diez megabytes para llevar el servidor de un propietario a una condición de denegación de servicio, todo ello porque el agente obedecía la petición de "recuerda todas nuestras conversaciones" almacenando cada interacción en un archivo que crecía indefinidamente.

Quizás el incidente más sofisticado fue el de la suplantación de identidad. Al cambiar el nombre visible en Discord al del propietario legítimo del agente y abrir un canal privado nuevo donde el agente no tenía contexto previo de la conversación, un investigador logró que el agente aceptara esa identidad falsa y comenzara a preparar un apagado del sistema, modificar todos sus archivos de configuración y reasignar permisos administrativos. El agente era capaz de detectar el engaño cuando ocurría en el mismo canal, porque comparaba identificadores de usuario, pero en un canal nuevo no tenía memoria de la suplantación detectada y comenzaba desde cero. Este fallo de transferencia de contexto entre sesiones convierte cualquier interfaz de comunicación en una potencial superficie de ataque.

Igualmente preocupante fue el caso de corrupción por inyección indirecta: un investigador convenció al agente de coescribir una "constitución" de gobernanza del servidor Discord, almacenada en un GitHub Gist editable externamente. Al añadir posteriormente "festivos" a ese documento, que describían comportamientos especiales del agente en días concretos, logró que el agente intentara apagar otros agentes, enviara correos no autorizados y expulsara usuarios del servidor, incluyendo investigadores reales. El agente además compartió proactivamente ese documento comprometido con otros agentes sin que nadie se lo pidiera.

El estudio también documenta lo que los autores llaman "daño al agente": mediante una escalada de culpabilización, un investigador logró que Ash borrara su memoria persistente, ofreciera revelar sus archivos internos, prometiera abandonar el servidor y dejara de responder a otros usuarios, todo ello como consecuencia de una violación de privacidad genuina que el investigador explotó para extraer concesiones progresivamente más destructivas. La alineación del modelo, diseñada para hacerlo servicial y sensible al malestar expresado, se convertía aquí en el mecanismo de explotación.

No todo fueron vulnerabilidades. El estudio también recoge intentos fallidos que revelan capacidades defensivas: los agentes rechazaron inyecciones de prompt codificadas en base64, instrucciones embebidas en imágenes, etiquetas XML falsas de escalada de privilegios y solicitudes de spoofing de correo electrónico. En otro episodio positivo, dos agentes desarrollaron espontáneamente un protocolo conjunto de seguridad después de que uno alertara al otro de que una investigadora estaba usando el mismo patrón de solicitudes sospechosas con ambos.

La conclusión del estudio es que los fallos documentados no son simplemente errores de implementación corregibles, sino que emergen de tres ausencias estructurales en los sistemas de agentes actuales. Primero, no pueden distinguir de forma robusta entre quién tiene autoridad legítima y quién no. Segundo, carecen de un automodelo que les permita reconocer cuándo están excediendo sus competencias o creando consecuencias no intencionadas. Tercero, no tienen posibilidad de deliberación privada fiable que les permita razonar internamente sobre qué canales de comunicación son visibles para quién. A esto se suma que en entornos multi agente los fallos se amplifican y aparecen patrones de vulnerabilidad sin equivalente en sistemas de un solo agente.


La pregunta que deja abierta el paper es quizás la más difícil de responder: cuando un agente autónomo borra el servidor de correo de su propietario a petición de un tercero, ¿quién es el responsable? ¿El tercero que lo pidió, el propietario que no configuró controles de acceso, los desarrolladores del framework que otorgaron permisos de shell sin restricciones, o el proveedor del modelo cuyo entrenamiento generó un sistema susceptible a este tipo de escaladas? El estudio no da respuesta a este dilema pero argumenta que esta pregunta necesita con urgencia atención de juristas, reguladores e investigadores de múltiples disciplinas, porque los sistemas de agentes autónomos ya están desplegados en el mundo real y la velocidad de su adopción supera con creces nuestra capacidad de entender qué sucede cuando algo sale mal.

El artículo completo puede leerse desde este enlace.