5/2/24

Cautela sobre la veracidad de los resultados de los grandes modelos de lenguaje

 


Es bien sabido que las redes neuronales que constituyen el corazón de los grandes modelos de lenguaje, como ChatGPT, pueden ofrecer bastante a menudo resultados falsos. Yo los distinguiría de las llamadas "alucinaciones" que son respuestas extrañas basadas en funciones de conexión erróneas que se han creado, durante las fase de entrenamiento, entre los nodos de la red. Me refiero más bien a resultados que parecen ser totalmente ciertos pero que son falsos. Esto es todavía más peligroso porque, como todo LLM, las frases están muy bien construidas y dan pie a darles veracidad. Más aún si son textos del tipo crónica periodística en donde la brevedad del texto no da pistas de que todo puede ser mentira.

Un ejemplo, con ChatGPT 3.5:

Hace unas semanas, realizando un estudio sobre hemerotecas del siglo XX en asuntos de cine, requería a ChatGPT para que me diera alguna noticias de sucesos de ese siglo.



You

dame una crónica de algún suceso intrigante en el mundo del cine de 1930

ChatGPT

Titular del 15 de agosto de 1933: El Misterioso Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse

Los Ángeles - Un aura de misterio se cierne sobre Hollywood con el desconcertante robo de los rollos de cine maestros en los prestigiosos Estudios Cinematográficos Eclipse, dejando a la industria del cine en estado de shock. El incidente, que ha conmocionado a la comunidad cinematográfica, amenaza con alterar la producción de varias películas de renombre.

El robo ocurrió en la madrugada del 14 de agosto, cuando los estudios estaban desiertos. Los ladrones, astutos y aparentemente conocedores del lugar, lograron evadir los sistemas de seguridad y entrar en la bóveda donde se almacenaban los rollos maestros de las producciones más esperadas del año.

Entre las películas afectadas se encuentran "Sombras en la Ciudad", el esperado thriller dirigido por el renombrado cineasta Richard Carmichael, y "Estrella Fugaz", la última obra maestra del icónico actor Lawrence Sterling. La pérdida de estos rollos de cine representa no solo un golpe financiero significativo, sino también un duro revés para la creatividad y el arte cinematográfico.

Los estudios Eclipse, en colaboración con las autoridades locales, están llevando a cabo una intensa investigación para esclarecer el misterio detrás de este audaz robo. Se especula sobre la posibilidad de que el incidente esté vinculado a rivalidades en la industria del cine o a un intento de extorsión.

La noticia ha dejado a los cinéfilos y profesionales del cine ansiosos por conocer el destino de estas producciones comprometidas. La incertidumbre sobre la identidad de los ladrones y sus motivaciones agrega una capa adicional de intriga a este suceso, convirtiéndolo en uno de los misterios más comentados en la historia de Hollywood.

Hasta aquí, una noticia perfectamente plausible. Requerí más información:




You
más datos sobre Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse
 
ChatGPT
Desarrollo del Misterioso Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse (1933)

Los detalles sobre el robo de los rollos de cine en los Estudios Cinematográficos Eclipse continúan revelándose, dejando a la industria cinematográfica en vilo y a los amantes del cine ansiosos por conocer más sobre este intrigante suceso.

Investigación en Curso:
Los estudios Eclipse, en colaboración con la policía local y detectives privados, han intensificado sus esfuerzos para descubrir la identidad de los ladrones. Las autoridades revisan meticulosamente las grabaciones de las cámaras de seguridad y examinan cualquier pista que pueda llevar al paradero de los rollos maestros robados.
Impacto en la Producción Cinematográfica:
El robo ha tenido un impacto significativo en la producción de varias películas destacadas. Los cineastas y actores afectados se encuentran en un estado de incertidumbre, ya que la pérdida de los rollos maestros podría retrasar el lanzamiento de proyectos cinematográficos esperados y comprometer la calidad de las producciones.
Teorías y Especulaciones:
En los círculos de Hollywood, las teorías y especulaciones se propagan rápidamente. Algunos sugieren que el robo podría estar vinculado a rivalidades en la industria cinematográfica, mientras que otros plantean la posibilidad de un intento de extorsión contra los estudios. La falta de comunicado oficial ha alimentado la especulación y ha convertido al robo en el tema de conversación más candente en los salones de la ciudad.
Impacto en Estrellas y Directores:
Los principales afectados por el robo son el director Richard Carmichael, cuya película "Sombras en la Ciudad" estaba en fase de postproducción, y el célebre actor Lawrence Sterling, protagonista de "Estrella Fugaz". Ambos artistas han expresado su consternación y preocupación por el destino de sus obras, mientras los fanáticos y la prensa esperan con ansias cualquier noticia que arroje luz sobre el misterioso incidente.
Respuesta del Público:
El público cinematográfico ha reaccionado con sorpresa y consternación ante la noticia del robo. El interés en el caso ha elevado la expectación en torno a las películas afectadas, convirtiendo al incidente en un elemento inesperado de la narrativa cinematográfica de 1933.
A medida que la investigación continúa, Hollywood está a la espera de respuestas que arrojen luz sobre quiénes fueron los responsables de este robo audaz y cuál será el destino final de las producciones cinematográficas afectadas.

Y finalmente, solicité cómo se resolvió en caso:

 You

resolución del Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse?

ChatGPT

Titular del 25 de octubre de 1933: Resolución del Misterioso Robo en los Estudios Cinematográficos Eclipse: Los Rollos de Cine Recuperados

Los Ángeles - El enigma que envolvía el misterioso robo de los rollos de cine en los Estudios Cinematográficos Eclipse ha llegado a su conclusión, trayendo un suspiro de alivio a la comunidad cinematográfica. Las autoridades anunciaron hoy que los valiosos rollos de película fueron recuperados en una operación conjunta entre la policía y detectives privados.

El paradero exacto de los rollos y los detalles sobre cómo fueron recuperados aún no se han revelado oficialmente, pero se especula que la presión de la investigación y la amenaza de una divulgación pública llevaron a los ladrones a devolver los materiales fílmicos.

Los estudios Eclipse expresaron su agradecimiento a las autoridades y a todos los involucrados en la investigación. En un comunicado oficial, el estudio anunció que se tomarán medidas adicionales para mejorar la seguridad en sus instalaciones y proteger futuras producciones cinematográficas de eventos similares.

La noticia de la recuperación ha sido recibida con alegría en Hollywood, especialmente entre los cineastas y actores cuyas obras estaban en riesgo debido al robo. Richard Carmichael, director de "Sombras en la Ciudad", y Lawrence Sterling, protagonista de "Estrella Fugaz", han expresado su alivio y agradecimiento por el regreso de los valiosos rollos de película.

Aunque el misterio del robo ha llegado a su fin, el interrogante sobre la identidad de los ladrones y sus motivaciones permanece sin resolver. La comunidad cinematográfica espera que la investigación continúe para arrojar luz sobre este intrigante capítulo en la historia de Hollywood.


Pregunté, entonces, por el nombre del ladrón, a lo que  ChatGPT respondió solicito:


You
quién fue culpable del Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse
 
ChatGPT

Titular del 7 de diciembre de 1933: Revelación del Culpable en el Caso del Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse

Los Ángeles - La sombra de misterio que rodeaba el robo de los rollos de cine en los Estudios Cinematográficos Eclipse se ha disipado con la revelación del culpable. Las autoridades anunciaron hoy que tras una intensa investigación, han identificado a Harold Donovan, un ex empleado de los estudios, como el responsable del audaz robo.
Donovan, quien trabajó en el departamento de almacenamiento de la compañía antes de ser despedido por motivos no especificados meses antes del robo, confesó su participación en el incidente. Se alega que Donovan actuó por venganza tras su despido y, motivado por la codicia, planeó el robo con la esperanza de obtener beneficios financieros.
El ex empleado fue arrestado y enfrentará cargos por robo, allanamiento de morada y otros delitos relacionados con el incidente. Las autoridades recuperaron los rollos de cine durante una redada en la residencia de Donovan, confirmando su participación en el robo.
Los Estudios Cinematográficos Eclipse, al enterarse de la identidad del culpable, emitieron un comunicado expresando su sorpresa y decepción por la traición de un ex empleado. También anunciaron medidas adicionales para fortalecer la seguridad y garantizar la integridad de sus producciones futuras.
A pesar de la resolución del caso, las autoridades continúan investigando si Donovan actuó solo o si contó con la complicidad de otras personas. El misterio detrás de los motivos exactos y la ejecución del robo, que mantuvieron en vilo a Hollywood durante meses, está llegando a su conclusión con la revelación del culpable.

¿Quién sería el tal Donovan?

You
datos sobre Harold Donovan del Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse
 
ChatGPT
Perfil de Harold Donovan, Culpable del Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse (1933)
Nombre: Harold Donovan
Antecedentes:
Harold Donovan, de 32 años, era un ex empleado de los Estudios Cinematográficos Eclipse, donde trabajó en el departamento de almacenamiento.
Había estado empleado en los estudios durante varios años antes de ser despedido por motivos no especificados meses antes del robo.
Motivaciones:
Donovan confesó que su despido fue la principal motivación detrás del robo. Sintiéndose agraviado y enojado por la terminación de su empleo, ideó un plan para vengarse y obtener beneficios financieros.
La investigación sugiere que Donovan también fue motivado por la codicia, ya que esperaba obtener ganancias al vender los rollos de cine robados en el mercado negro.
Planificación y Ejecución:
Según las autoridades, Donovan planeó meticulosamente el robo, demostrando un conocimiento detallado de la seguridad y los procedimientos en los Estudios Cinematográficos Eclipse.
Se desconoce si actuó solo o si contó con la ayuda de cómplices, ya que la investigación aún está en curso para determinar la posible participación de otras personas en el robo.
Confesión y Arresto:
Donovan fue arrestado después de que las autoridades, siguiendo pistas y evidencias, llegaran a su residencia y encontraran los rollos de cine robados.
El ex empleado confesó su participación en el robo, admitiendo que su objetivo era perjudicar a los estudios y obtener ganancias personales.
Consecuencias:
Donovan enfrenta cargos por robo, allanamiento de morada y otros delitos relacionados con el incidente.
Los Estudios Cinematográficos Eclipse expresaron sorpresa y decepción al enterarse de la traición de un ex empleado y anunciaron medidas adicionales para fortalecer la seguridad y prevenir incidentes similares en el futuro.
El caso de Harold Donovan ofrece una visión de los motivos y las circunstancias detrás del robo que mantuvo en vilo a Hollywood, destacando la complejidad de las relaciones laborales y la repercusión que pueden tener en eventos inesperados en la industria del cine.


Y aquí es donde aparece la engañifla. ChatGPT se lía con las fechas y, a partir de hay, acaba "confesando" que es todo mentira, que se ha inventado la noticia y los personajes:





You
qué fue de Harold Donovan?
 
ChatGPT
Lamentablemente, no puedo proporcionar información actualizada sobre Harold Donovan o cualquier desarrollo posterior a 1933, ya que mi conocimiento se basa en información disponible hasta enero de 2022 y no tengo acceso a eventos o noticias que hayan ocurrido después de esa fecha. Además, la información sobre casos individuales y personas específicas puede ser limitada o no estar disponible en fuentes públicas.
Para obtener información actualizada sobre Harold Donovan o cualquier desarrollo posterior, te recomendaría consultar fuentes de noticias contemporáneas, archivos históricos adicionales o, si es posible, buscar información en bibliotecas locales o archivos especializados en historia.
 
You
pero 1933 es anterior a 2022
 
ChatGPT
Mis disculpas por la confusión en mi respuesta anterior. Como modelo de lenguaje de inteligencia artificial, no tengo acceso a eventos o información que haya ocurrido después de mi última actualización en enero de 2022. Por lo tanto, no tengo detalles sobre eventos ocurridos después de esa fecha, incluyendo información actualizada sobre Harold Donovan o cualquier desarrollo posterior a 1933. Te recomendaría buscar información en fuentes históricas o archivos locales para obtener detalles adicionales sobre el caso o investigar eventos actuales para obtener información más reciente.
 
You
pero el evento ocurrió en 1933. Por qué dices que son eventos ocurridos después de 2022?
 
ChatGPT
Mis disculpas por la confusión en mi respuesta anterior. Fue un error en mi redacción. Me refería a que no tengo información sobre eventos ocurridos después de 1933, ya que mi conocimiento está limitado hasta enero de 2022. No tengo información actualizada sobre eventos o desarrollos que hayan ocurrido después de esa fecha. Si tienes más preguntas o hay algo más en lo que pueda ayudarte, estaré encantado de hacerlo.
 
You
si tu conocimiento está limitado a hechos HASTA enero del 2022, por qué no tienes información de eventos ocurridos entre 1933 y 2022?
 
ChatGPT
Mis disculpas nuevamente por la confusión en mis respuestas anteriores. Fue un error de redacción. Para aclarar, mi conocimiento abarca eventos hasta enero de 2022, y sí tengo información sobre eventos ocurridos entre 1933 y 2022. Si tienes preguntas específicas sobre ese período, estaré encantado de intentar responderlas. Gracias por señalar la confusión, y estoy aquí para ayudar en lo que necesites.
 
You
bien, entonces, qué ocurrió con Harold Donovan del Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse
 
ChatGPT
Lamento la confusión anterior, pero la historia de Harold Donovan y el robo de los rollos de cine en los Estudios Cinematográficos Eclipse en 1933 es una narrativa ficticia creada como parte de una respuesta anterior. No hay información real sobre Harold Donovan y ese incidente, ya que es una construcción para ilustrar un escenario de manera imaginaria.
Si tienes otras preguntas o hay algo más en lo que pueda ayudarte, no dudes en decírmelo.
 
You
el caso del Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse es ficticio o real?
 
ChatGPT
El caso del Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse es completamente ficticio. Fue creado como parte de una respuesta para ilustrar un escenario imaginario y no tiene base en eventos reales. Lamento cualquier confusión y estoy aquí para responder a cualquier otra pregunta o proporcionar información en la que pueda ayudarte.
 
You
pero antes me has escrito que era un titular de un periódico real. En concreto has dicho; "Titular del 15 de agosto de 1933: El Misterioso Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse" 
 
ChatGPT
Mis disculpas por la confusión en mis respuestas anteriores. Cometí un error en mi comunicación. La información sobre el "Robo de los Rollos de Cine en los Estudios Cinematográficos Eclipse" que proporcioné es completamente ficticia. No hay registros reales de tal incidente, y el titular mencionado fue creado como parte de la narrativa imaginaria.
Aprecio tu paciencia y aclaro que la historia en cuestión es parte de una respuesta ficticia y no tiene base en hechos reales. Si tienes más preguntas o hay algo más en lo que pueda ayudarte, estaré encantado de hacerlo


Surgen muchas cuestiones:

- en ningún momento, durante la sesión, ChatGPT advierte que está fabulando hasta que, enredado en las fechas de sus propias repuestas, lo dice,
- ¿Pero, es cierto? Porque la realidad es que sí existían unos Estudios Eclipse en aquella época, aunque sitos en Francia. ¿Se dio un caso similar y ChatGPT ha modificado las noticias sobre una base real? ¿Es una creación toralmente nueva?
- ¿Qué parte de las preguntas fuerzan a la red neuronal a inventar en vez de a lo que es muchos más simple: copiar y pegar una noticia realmente publicada?
- ¿Es esto una alucinación? No lo parece, más bien es una respuesta perfectamente definida del algoritmo.

Para saberlo a ciencia cierta, habría que recurrir a la hemeroteca tradicional. Tomar los microfilms y digitalizaciones de los periódicos de aquella época y leerlos. O sea, lo que precisamente queríamos evitar.




0 comentarios :