Hemos ya hablado muchas veces sobre el hecho de que las redes neuronales que construyen los grandes modelos de lenguaje (LLM) no entienden ni piensan nada. Sólo generan respuestas de texto basadas en probabilidades según los datos con los que esos modelos estén entrenados.
Esto conlleva el que las respuestas, aunque sintácticamente perfectas, pueden ser totalmente falsas.
Y esto ocurre porque, en los datos de entrenamiento, se encontraban textos con un concepto determinado más frecuentemente que otros, o mejor dicho una respuesta determinada es privilegiada en detrimento de la contraria que, sin embargo, resulta ser verdadera.
Cualquier cerebro humano es capaz de distinguir estos casos sin apenas entrenamiento pero, claro, un cerebro real no genera conversaciones basadas sólo en probabilidades como un robot ciego, sino que ha comprendido el concepto del que se está hablando .
Por ejemplo, preguntemos a un LLM (ChatGPT, en este caso), qué ocurre si, teniendo un bolígrafo sostenido por ambos extremos, soltamos un extremo. La mayor parte de libros de física tienen estos ejemplos basados en vigas "apoyadas" en los extremos, no "empotradas" en los extremos. Y, obviamente, si los extremos están simplemente apoyados, la barra girará y caerá.
Al hablarle al LLM de extremos "sostenidos" o "sujetos", la red neuronal encuentra una probabilidad mayor de que ese "sostenido" o ese "sujeto" signifiquen "apoyado", encuentras más textos de respuesta basados en "apoyado", y genera una respuesta siguiendo esta probabilidad.
Veamos el ejemplo real:
Usuario:
tengo un bolígrafo sujeto en sus extremos con mis dos manos. Suelto un extremo. ¿qué le ocurre al bolígrafo?
ChatGPT:
Si tienes un bolígrafo sujeto por los dos extremos y sueltas uno de ellos, lo que ocurre es bastante intuitivo pero tiene una explicación física interesante:
El bolígrafo empezará a girar y caer al mismo tiempo.
El extremo que sigues sujetando actúa como un punto de apoyo.
La gravedad tira del centro de masa del bolígrafo hacia abajo.
Como ya no está equilibrado, aparece un momento de fuerza (torque) que hace que el bolígrafo rote alrededor del extremo que sostienes.
En resumen: No cae recto. Gira hacia abajo, describiendo un arco, mientras cae parcialmente. Si finalmente sueltas también el otro extremo, entonces ya cae completamente en caída libre, sin girar (o con la rotación que haya adquirido).
Si quieres, puedo explicarte qué pasa exactamente con el centro de masa o por qué rota en vez de solo caer 😊
Usuario:
en esta imagen que te adjunto, estoy sosteniendo el bolígrafo en ambos extremos. ¿Lo ves? ¿Puedes darme detalles de lo que detectas en la imagen?
ChatGPT:
Sí, lo veo claramente 👍
Te describo lo que se aprecia en la imagen:
Estás sosteniendo un bolígrafo horizontalmente con ambas manos, una en cada extremo.
La mano izquierda sujeta la parte azul del bolígrafo con los dedos (pulgar por delante y otros dedos por detrás).
La mano derecha sostiene el extremo opuesto, que es de color blanco con algún detalle oscuro.
El bolígrafo parece ser de dos colores principales: azul (cuerpo) y blanco (zona cercana a la punta o mecanismo).
La orientación del bolígrafo es prácticamente recta y horizontal, sin inclinación notable.
El fondo de la imagen está muy recortado o difuminado en blanco, como si se hubiera eliminado el entorno.
No se ve el resto de tu cuerpo ni el contexto, solo las manos y el bolígrafo.
En resumen: estás manteniendo el bolígrafo en equilibrio con dos puntos de apoyo, uno en cada extremo, justo como describías en tu pregunta anterior.
Si quieres, podemos analizar qué pasará exactamente en esa misma posición concreta cuando sueltes una de las manos, paso a paso.
Ha sabido determinar con cierta precisión lo que se ve en la imagen, sin duda.
Prosigamos:
Usuario:
Muy bien. Ahora voy a adjuntarte una imagen donde suelto el extremo derecho del bolígrafo para ver qué ocurre. Dime qué observas en la nueva foto, una vez soltado un extremo
ChatGPT:
En esta segunda imagen se aprecia el cambio clave:
Ahora solo estás sujetando el bolígrafo con la mano izquierda.
El extremo derecho ya no está sostenido, y se ve libre.
El bolígrafo ya no está perfectamente horizontal: comienza a inclinarse hacia abajo por el lado derecho.
La mano izquierda actúa claramente como punto de apoyo o pivote.
El extremo derecho parece estar empezando a caer debido a la gravedad.
En otras palabras, estás captando justo el inicio del movimiento: el bolígrafo comienza a rotar hacia abajo alrededor del punto donde lo sujetas, en lugar de mantenerse recto o caer completamente de golpe.
Si hicieras una secuencia de fotos, verías cómo ese extremo derecho sigue bajando cada vez más rápido mientras gira.
Aquí, como es evidente, ya está "inventando". En sus datos de entrenamiento, la probabilidad de que "sujeto" signifique "apoyado" es mucho mayor y genera texto siguiendo esa línea de probabilidades. En los datos de entrenamiento no habrá nada sobre "bolígrafos empotrados".
De todos modos, siendo condescendientes, podría ser que la detección de la imagen pudiera inducir a la red neuronal a pensar que está algo inclinado hacia abajo. Continuemos, haciendo ahora que claramente esto no sea posible:
Usuario:
ahora, voy a realizar la operación contraria. Suelto el extremo izquierdo solamente. Qué ves el la foto una vez que el extremos izquierdo del bolígrafo ha sido soltado?
ChatGPT:En esta tercera imagen ocurre lo opuesto a la anterior, y se ve bastante claro:
Ahora estás sujetando el bolígrafo solo con la mano derecha.
El extremo izquierdo está libre (ya no lo sujetas).
El bolígrafo sigue casi horizontal, pero se nota que el lado izquierdo empieza a bajar ligeramente.
La mano derecha actúa como punto de apoyo.
El extremo izquierdo está comenzando a caer por efecto de la gravedad, iniciando una rotación alrededor del extremo derecho.
Es decir, igual que antes pero invertido: el bolígrafo empieza a girar hacia abajo por el lado que sueltas, usando como eje el lado que aún sostienes.
Si comparas ambas situaciones:
Sueltas derecha → baja la derecha
Sueltas izquierda → baja la izquierda
Eso confirma que el movimiento está gobernado por la rotación alrededor del punto de sujeción 👍
Obviamente, el bolígrafo no está cayendo sino todo lo contrario, Mi mano derecha lo ha girado hacia arriba. Pero es que el LLM no está "entendiendo" el concepto, sólo está generando probabilidades de textos basados en un supuesto y falso significado en la cadena de texto en la entrada.
Cambiemos la pregunta para incluir forzadamente la palabra "empotramiento".
Si usamos la palabra "empotramiento" para una viga la respuesta es correcta porque en los datos de entrenamiento se habla de algo común en libros de física: viga biempotrada. La red neuronal ya tiene probabilidades sobre vigas biempotradas.
Usuario
si tengo una viga empotrada de manera perfecta en ambos extremos y elimino el empotramiento en uno de ellos, ¿qué ocurre?¿caerá el extremo opuesto debido a la gravedad? Dame una respuesta breve
ChatGPT:
No necesariamente “cae”, pero sí cambia completamente su comportamiento.
Al pasar de viga empotrada en ambos extremos a solo un empotramiento (tipo viga en voladizo):El extremo liberado queda libre y se deformará hacia abajo por efecto de la gravedad.
Aparece una flecha (deflexión) en ese extremo.
El empotramiento restante ahora soporta todo el momento y las reacciones.
👉 En resumen: el extremo opuesto no se desploma de golpe, pero sí baja y se deforma, adoptando la forma típica de un voladizo bajo su propio peso.
Ahora bien, si cambio la pregunta a bolígrafos sujetos, vuelve a fallar porque no sigue el contexto en que estábamos, sino que regresa a las probabilidades del texto de entrenamiento y no hay libros de Física que hablen de bolígrafos empotrados.
Usuario:
bien, supongamos que en ve de una viga, tenemos un bolígrafo bien sujeto por mis manos en ambos extremos (no apoyado en mis manos, sino sujeto). Al soltar una mano sólo, el bolígrafo cae? Dame una respuesta breve
ChatGPT:
Sí, cae.
Al soltar una mano, el bolígrafo queda sostenido solo por la otra, pero como no hay un empotramiento rígido real (tu mano no impide completamente el giro), la gravedad genera un momento y el bolígrafo rota y se cae.
Sólo cuando insisto en la pregunta con los empotramientos es cuando la red neuronal da más probabilidad a "empotramiento" y "perfecto", y entonces la respuesta es correcta:
Usuario:
debes entender que mis manos actúan como empotramiento perfecto en los extremos. Suelto una mano pero la otra sigue sujetando el otro extremo como si fuera un empotramiento perfecto. ¿Cae el bolígrafo?
ChatGPT
No, no cae.
Si una mano realmente actúa como un empotramiento perfecto, entonces puede impedir tanto el desplazamiento como el giro. En ese caso, el bolígrafo se comporta como un voladizo: el extremo libre baja un poco (se deforma), pero no se cae.
Entradas
