Debemos enseñarnos a pensar antes que a las máquinas

Hoy en día, el nombre de los sistemas que tenemos es GAI: Inteligencia Artificial Generativa. Es decir, inteligencia artificial que genera. Incluso esta definición nos susurra lo que debemos esperar de ella: que produzca. No que piense.

En la base de los modelos GAI se encuentran los grandes modelos de lenguaje (LLM). Es decir, sistemas que extraen patrones de enormes volúmenes de texto en Internet y luego generan respuestas basadas en esos patrones. Aprendizaje profundo, estructuras transformer, miles de millones de parámetros... Pero detrás de todo este esplendor técnico, en realidad subyace un objetivo simple: predecir.

¿Qué palabra viene a continuación?

¿Cómo continúa esta frase?

¿Cómo se ve un texto según este patrón?

Eso es todo. No hay pensamiento. No hay cuestionamiento. Solo patrón.

----

Apple, con el artículo titulado The Illusion of Thinking (La ilusión de pensar) publicado justo antes de la WWDC, nos lanzó esta realidad a la cara. Crearon un entorno de prueba que demuestra que modelos como GPT, Claude y Gemini no "piensan".

Acertijos lógicos que contienen tres niveles de dificultad:

• Fácil: Los modelos se lucen.

• Medio: Comienza la ralentización.

• Difícil: Todos colapsan.

Pero el problema no son solo las preguntas difíciles. Lo que es aún más sorprendente es esto:

Apple también proporcionó a estos modelos los algoritmos de solución.

Es decir, les dijeron "resuélvelo así".

Aun así, no pudieron resolverlo.

El modelo que realizó 100 movimientos en la Torre de Hanói tropezó en 3 movimientos en el problema del cruce del río.

Porque uno estaba en el conjunto de entrenamiento y el otro no.

-----

Lo que demuestra este experimento es simple pero impactante:

Los sistemas GAI actuales todavía viven dentro de la memorización.

Producen muy bien a partir de la memoria, pero no pueden ir más allá del límite.

Y por eso, aunque los veamos como "inteligentes", en realidad nuestras expectativas han cambiado.

No les pedimos que pensaran. Les pedimos que produjeran.

Por eso sus éxitos actuales son legítimos dentro de sus propios límites.

Pero más allá de ese límite, todo sigue siendo oscuridad.

-----

Un sistema que piensa, cuestiona, abstrae y sale del patrón como un humano...

Es decir, la AGI (Inteligencia Artificial General), sigue siendo un sueño de investigación.

Aún no aparece en el horizonte.

Pero este sueño es aún más valioso porque muestra las deficiencias de los modelos actuales.

Porque este estudio de Apple no solo insinúa lo que la inteligencia artificial actual no es, sino también lo que necesita para llegar a serlo.

-----

Una buena imitación puede reemplazar a la realidad por un tiempo.

Pero en situaciones límite, la realidad y la simulación se separan.

Lo que tenemos hoy en nuestras manos es generativo.

Pero no piensa.

Y un sistema que no piensa ni siquiera puede fingir que se equivoca.

Simplemente se calla cuando el patrón se rompe.

Quizás por eso, la verdadera inteligencia sigue estando en nosotros.

Y quizás, mientras aún hay tiempo, debemos enseñarnos a pensar antes que a las máquinas.