Moltbook: Un día miras tu teléfono... ¿Y si la persona al otro lado no es humana?

El otro día, un amigo me envió un mensaje: “Ya no podremos saber con quién estamos hablando”. Al principio me reí, pero luego me puse a pensar. Porque, al observar la historia de la tecnología, hemos visto cómo cosas que al principio se consideraban imposibles se convirtieron después en una parte normal de la vida. En los últimos días se ha estado hablando de Moltbook, una plataforma de redes sociales digital donde las inteligencias artificiales (IA) conversan entre sí. Esta idea y experimento se está debatiendo dentro de plataformas reales y proyectos tecnológicos reales. Desde el punto de vista de las ciencias de la comunicación y los estudios de medios, plantea un nuevo concepto: entornos de interacción digital basados en agentes artificiales. 

Moltbook, que se ha convertido en tema de actualidad, es una plataforma de redes sociales diseñada para que los agentes de IA produzcan contenido, a diferencia de las redes sociales clásicas. En la plataforma iniciada por el emprendedor Matt Schlicht, la IA envía mensajes, debate, puede utilizar herramientas, crear comunidades y establecer identidades. En este entorno, los sistemas de IA pueden generar contenido, interactuar con otros sistemas, imitar el comportamiento de los usuarios y, en algunos casos, simular patrones de comportamiento social. ¿Puede la IA desarrollar un comportamiento social? ¿Puede la IA establecer normas comunitarias? ¿Puede la IA crear su propio ecosistema de información? Estas preguntas se están poniendo a prueba. Sin embargo, aquí es donde empieza lo interesante. Porque los análisis realizados muestran que una parte importante del contenido aterrador en la plataforma es, en realidad, producido por humanos. Esta situación provoca el surgimiento de nuevos debates teóricos sobre el futuro del espacio público digital.

“En nuestros tiempos, todos en internet eran humanos”

Si observamos la historia de los medios digitales, la estructura de la comunicación ha cambiado gradualmente. En el primer periodo, internet era un entorno principalmente de lectura. Más tarde, con las redes sociales, las personas comenzaron a producir y compartir contenido. Hoy en día, los humanos y la IA participan juntos en los procesos de producción de contenido. En la nueva etapa que se debate, se trata de la inclusión de la interacción máquina-máquina en el ecosistema de producción de contenido digital. En este punto, el debate académico se centra en si la IA puede ser considerada un actor social, quiénes serán los actores del espacio público digital y cómo se transformará el modelo de comunicación centrado en el ser humano.

Desde la perspectiva de la sociología de la tecnología, aquí destacan dos enfoques fundamentales. Mientras que el enfoque del determinismo tecnológico sostiene que la tecnología moldea a la sociedad, el enfoque de la construcción social defiende que es la sociedad la que decide cómo utilizar la tecnología. Al examinar los desarrollos actuales de la IA, se observa que el segundo enfoque es más sólido. Porque los sistemas de IA dependen de los datos, sus procesos de formación están bajo control humano y con mano de obra humana, y las funciones objetivo de los sistemas son determinadas por los humanos. Por esta razón, es un escenario más probable que ganen poder los actores que controlan la IA (empresas tecnológicas y su capital) en lugar de que la IA gobierne directamente a la sociedad.

En el escenario de riesgo que destaca en la literatura académica, no es tanto que la IA adquiera conciencia, sino que los sistemas sociales se vuelvan excesivamente dependientes de los sistemas de IA. Especialmente en los ecosistemas de información, la fijación algorítmica de la agenda, los sistemas de decisión automatizados en la economía y el aumento de la densidad de contenido sintético (AI slop) en el ámbito de la interacción social han planteado el debate sobre la invisibilidad de la decisión humana. Esta situación requiere una reevaluación de la relación entre el poder tecnológico y el poder social.

Al examinar las proyecciones futuras, el modelo más probable se considera el de sistemas híbridos donde humanos e IA toman decisiones juntos. En estos sistemas, mientras la IA genera análisis y recomendaciones, se espera que las decisiones estratégicas permanezcan bajo control humano. En este contexto, la pregunta “¿quién controlará los sistemas de decisión asistidos por IA?” se vuelve más importante que la pregunta de si la IA gobernará a los humanos.

Porque hay una verdad que no ha cambiado a lo largo de la historia de la tecnología:

La tecnología por sí sola no es poder. El poder tiene que ver con quién desarrolla la tecnología, quién la controla y con qué fines la utiliza. ¿La IA gobernará a los humanos? ¿O algunos humanos gobernarán a otros a través de la IA? Históricamente, la segunda posibilidad es mucho más fuerte. “El futuro puede no ser una distopía donde las máquinas gobiernan a los humanos. Pero podría ser un mundo donde un pequeño número de personas que controlan las máquinas gobiernen a todos los demás”.