Si estuviera en el lugar de Sam Altman

Sam Altman afirma que la memoria que permanece inactiva en las computadoras personales podría utilizarse de manera más eficiente en los centros de datos. Su razonamiento es que, en lugar de que cada persona tenga memoria en su propia computadora para ejecutar inteligencia artificial, los mismos recursos se utilizarían de forma más intensiva en la nube.

Lo primero que me vino a la mente al leer esta opinión fueron las variables que se dejaron fuera de la ecuación.

Hoy en día, no se ha planteado una crisis de memoria que nos obligue a renunciar a la inteligencia artificial personal. No considero correcto buscar la solución hoy en día concentrando todos los recursos en los centros de datos, basándose en un posible cuello de botella futuro. ¿Cómo sabemos que la producción, la gestión de la memoria, los modelos y las formas de representación de los datos seguirán siendo los mismos?

Uno de los errores más comunes al calcular el futuro de la tecnología es considerar fijos los métodos de producción y uso actuales. Si se utiliza más inteligencia artificial, se necesita más memoria; por lo tanto, es necesario producir más memoria y colocarla en los centros de datos. Se puede establecer un cálculo así. Sin embargo, si excluyes todas las posibilidades de ingeniería intermedias, el resultado al que llegarás también estará predeterminado.

Se puede desarrollar una arquitectura de memoria que vaya más allá de los métodos de producción tradicionales. La gestión de la memoria puede cambiar. Un método de compresión que represente los datos de manera que ocupen menos espacio podría hacer innecesaria una parte de la capacidad que hoy consideramos necesaria. Los modelos pueden aprender a realizar el mismo trabajo con menos recursos. El impacto de cada avance en la velocidad, la calidad y el costo se evalúa por separado. Pero al ignorar todos estos parámetros, no podemos calcular la necesidad del futuro simplemente aplicando un multiplicador al consumo de memoria actual.

Además, todas estas no son solo posibilidades de un futuro lejano. El trabajo Turbo Quant de Google es un ejemplo concreto que tiene como objetivo reducir la necesidad de memoria comprimiendo los datos en la caché KV utilizada por los modelos de inteligencia artificial. Tal investigación no resuelve por sí sola todos los problemas de memoria. Sin embargo, demuestra que, además del número de chips que se producirán para resolver el problema, la forma en que se utiliza la memoria existente también será determinante.

Recordemos la época en que surgió Gmail.

En los servicios de correo electrónico, el espacio de almacenamiento era uno de los principales problemas de los usuarios. El buzón se llenaba y era necesario borrar mensajes antiguos para recibir nuevos. Google presentó Gmail en 2004 con 1 GB de espacio. En 2005, aumentó la capacidad y puso ante los usuarios el contador de almacenamiento que no dejaba de subir.

Ese contador, mientras mostraba que la capacidad crecía, también daba confianza al usuario: la tarea de gestionar el espacio era responsabilidad del proveedor del servicio. El usuario no tendría que pensar cuál borrar por cada nuevo correo electrónico.

No podemos subestimar el papel de este enfoque en la captación de usuarios por parte de Google. La empresa creó una razón poderosa para ser elegida al aportar una solución a un problema de capacidad importante del sector.

El almacenamiento de correo electrónico y la memoria de trabajo de la inteligencia artificial son tecnologías diferentes. La lección que saco del ejemplo de Gmail es aplicable a ambos: el límite de capacidad de hoy no es una ley natural inmutable que defina el producto del mañana. Lo que se espera de una empresa tecnológica es que, además de construir un modelo de negocio alrededor de este límite, también desarrolle formas de superarlo.

Creo que la dirección en la inteligencia artificial también se expandirá gradualmente hacia los dispositivos de los usuarios. La gente querrá trabajar con sus propios documentos, sus propios datos y en sus propias computadoras. Querrán poder realizar cada operación sin enviarla a la infraestructura de otra empresa; querrán ser menos dependientes de las condiciones de conexión, acceso y servicio.

Opino que esto debilitará el peso de los centros de datos dentro de la estructura actual. Especialmente en la tarea de generar respuestas para el usuario, a medida que crezca la cuota del hardware local y de los modelos más eficientes, disminuirá el poder de la infraestructura centralizada como única opción.

Creo que Sam Altman también ve esta dirección. El hecho de que OpenAI haya publicado modelos gpt-oss que pueden ejecutarse localmente es un paso que sugiere que la empresa se ha dado cuenta de esta necesidad. Mi sugerencia es que convierta ese paso en un producto que todos puedan usar.

Si yo estuviera en el lugar de Sam Altman, lanzaría inmediatamente un ChatGPT local.

El usuario descarga la aplicación, instala el modelo adecuado para su hardware y trabaja en su propia computadora con sus documentos. Realiza la actualización, la instalación y el uso diario con la facilidad que espera de ChatGPT. También ve claramente la operación que ocurre en su propio dispositivo y la que se envía al exterior, y toma su propia decisión.

De esta manera, OpenAI se convierte en la empresa que satisface el deseo del usuario de ejecutar inteligencia artificial en su propia computadora. Yendo más allá de publicar los archivos de un modelo, hace que la inteligencia artificial local sea utilizable para grandes masas.

Intentar oponerse a esta tendencia también tiene consecuencias sectoriales. La concentración del acceso a la inteligencia artificial en manos de unos pocos grandes operadores de centros de datos abre el camino al monopolio. Las posibilidades que tiene el usuario para desarrollar su alternativa, utilizar su propio hardware y cambiar de proveedor de servicios cuando sea necesario se reducen.

Al defender la difusión de la inteligencia artificial, también se debe defender la difusión de la posibilidad de ejecutarla. El control del usuario sobre la potencia de cálculo es un valor que debe incluirse en el cálculo de eficiencia.

No creo que este movimiento pueda detenerse. Los modelos más eficientes, los diferentes usos de la memoria y el deseo de los usuarios de trabajar de forma independiente avanzan en la misma dirección. La elección que tiene OpenAI ante sí es qué tan pronto formará parte de esta transformación.

Si estuviera en el lugar de Sam Altman, en lugar de discutir dónde se utilizaría de manera más eficiente la memoria en las computadoras de las personas, desarrollaría el ChatGPT que ellos querrían ejecutar en esa memoria.