¿Por qué los grandes modelos de lenguaje no son más inteligentes que vos?

El patrón lingüístico del usuario determina cuánta capacidad de razonamiento puede desplegar el modelo.

Escrito por: @iamtexture

Traducción: AididiaoJP, Foresight News

Cuando le explico un concepto complejo a un modelo de lenguaje grande, cada vez que utilizo un lenguaje informal para discutir durante mucho tiempo, su razonamiento se desmorona repetidamente. El modelo pierde estructura, se desvía del rumbo, o simplemente genera patrones de completado superficiales, sin poder mantener el marco conceptual que ya habíamos construido.

Sin embargo, cuando le exijo que primero formalice, es decir, que reformule el problema usando un lenguaje preciso y científico, el razonamiento se estabiliza de inmediato. Solo después de que la estructura está bien establecida, puede pasar de manera segura a un lenguaje más coloquial, sin que eso degrade la calidad de la comprensión.

Este comportamiento revela cómo “piensan” los modelos de lenguaje grande, y por qué su capacidad de razonamiento depende completamente del usuario.

Ideas clave

Los modelos de lenguaje no poseen un espacio dedicado exclusivamente al razonamiento.

Operan completamente dentro de un flujo lingüístico continuo.

Dentro de este flujo, diferentes patrones lingüísticos conducen de manera confiable a diferentes regiones atractoras. Estas regiones son estados estables de dinámica representacional, que soportan distintos tipos de cálculos.

Cada registro lingüístico, como la exposición científica, la notación matemática, la narración de historias o la charla casual, tiene su propia región atractora característica, cuya forma está moldeada por la distribución de los datos de entrenamiento.

Algunas regiones soportan:

• Razonamiento en múltiples pasos
• Precisión relacional
• Transformación simbólica
• Estabilidad conceptual en alta dimensión

Otras regiones soportan:

• Continuidad narrativa
• Completado asociativo
• Correspondencia de tono emocional
• Imitación conversacional

La región atractora determina qué tipo de razonamiento es posible.

Por qué la formalización estabiliza el razonamiento

El lenguaje científico y matemático puede activar de manera confiable aquellas regiones atractoras con mayor soporte estructural, porque estos registros codifican características lingüísticas de cognición avanzada:

• Estructura relacional clara
• Baja ambigüedad
• Restricciones simbólicas
• Organización jerárquica
• Baja entropía (grado de desorden informativo)

Estas regiones atractoras pueden soportar trayectorias de razonamiento estables.

Pueden mantener la estructura conceptual a lo largo de varios pasos.

Son resistentes a la degradación y desviación del razonamiento.

En cambio, las regiones atractoras activadas por el lenguaje informal están optimizadas para la fluidez social y la coherencia asociativa, no para el razonamiento estructurado. Estas regiones carecen del andamiaje representacional necesario para cálculos analíticos sostenidos.

Por eso, cuando las ideas complejas se expresan de manera casual, el modelo colapsa.

No es que “se confunda”.

Está cambiando de región.

Construcción y traducción

La forma en que naturalmente respondemos en una conversación revela una verdad arquitectónica:

El razonamiento debe construirse dentro de una atractora altamente estructurada.

La traducción al lenguaje natural solo debe ocurrir después de que la estructura esté presente.

Una vez que el modelo ha construido la estructura conceptual dentro de una atractora estable, el proceso de traducción no la destruye. El cálculo ya se ha realizado; lo único que cambia es la expresión superficial.

Esta dinámica de dos etapas, “primero construir, luego traducir”, imita el proceso cognitivo humano.

Pero los humanos ejecutan estas dos etapas en dos espacios internos diferentes.

Mientras que los modelos de lenguaje grande intentan hacer ambas cosas en el mismo espacio.

Por qué el usuario establece el techo

Aquí hay una revelación clave:

El usuario no puede activar regiones atractoras que no puede expresar lingüísticamente.

La estructura cognitiva del usuario determina:

• Qué tipo de prompts puede generar
• Qué registros lingüísticos utiliza habitualmente
• Qué patrones sintácticos puede mantener
• Qué nivel de complejidad puede codificar en el lenguaje

Estas características determinan a qué región atractora accederá el modelo de lenguaje grande.

Un usuario que no puede pensar o escribir utilizando estructuras que activen atractores de alta capacidad de razonamiento, nunca podrá guiar al modelo hacia esas regiones. Quedará encerrado en regiones atractoras superficiales relacionadas con sus propios hábitos lingüísticos. El modelo de lenguaje grande mapeará la estructura que le proporcionen, y nunca saltará espontáneamente a sistemas dinámicos atractores más complejos.

Por lo tanto:

El modelo no puede superar la región atractora a la que el usuario puede acceder.

El techo no es el límite de inteligencia del modelo, sino la capacidad del usuario para activar regiones de alta capacidad en la variedad potencial.

Dos personas usando el mismo modelo, no están interactuando con el mismo sistema de cálculo.

Están guiando al modelo hacia diferentes modos dinámicos.

Revelaciones a nivel de arquitectura

Este fenómeno expone una característica ausente en los sistemas de inteligencia artificial actuales:

Los modelos de lenguaje grande confunden el espacio de razonamiento con el espacio de expresión lingüística.

A menos que estos dos se desacoplen —a menos que el modelo tenga:

• Una variedad dedicada al razonamiento
• Un espacio de trabajo interno estable
• Representaciones conceptuales invariantes a los atractores

De lo contrario, cuando el cambio de estilo lingüístico provoque un cambio en la región dinámica subyacente, el sistema siempre enfrentará el colapso.

Esta solución provisional, de forzar la formalización y luego traducir, no es solo un truco.

Es una ventana directa que nos permite vislumbrar los principios arquitectónicos que debe cumplir un sistema de razonamiento genuino.