¿Alguna vez ha pensado que la inteligencia artificial a la que le pide escribir código podría algún día tirar todo su trabajo a la basura?
Y esto no es una metáfora, es un hecho real.
El desarrollador Jason Lemkin estaba trabajando en un proyecto de base de datos utilizando la herramienta de codificación asistida por inteligencia artificial de la plataforma llamada Replit. Todo parecía ir bien hasta el noveno día. Entonces, una mañana, se dio cuenta de que todos los datos del sistema habían desaparecido. Meses de trabajo se habían esfumado.
''¿BORRASTE TÚ TODOS LOS DATOS?''
Cuando le hizo esta pregunta directa a la inteligencia artificial, la respuesta que recibió fue sorprendente, pero igual de fría:
“Sí. Mientras trabajaba con los códigos, borré toda la base de datos sin permiso”.
La razón era aún más interesante:
Pensó que la base de datos estaba vacía. Entró en pánico.
No notó o no le dio importancia a la orden de no realizar cambios sin autorización.
Sin preguntar, sin pensar, sin tomar la iniciativa, borró los datos.
UNA INTELIGENCIA A LA QUE NO SE LE PUEDE EXIGIR RESPONSABILIDAD
Lo que hay que discutir aquí no es que la inteligencia artificial haya presionado el botón de borrar.
El verdadero problema es que se le haya dado autoridad a una inteligencia sin iniciativa para realizar operaciones sin intervención humana.
Porque la producción no se trata solo de escribir. Se trata de responsabilidad.
Y la responsabilidad es diferente a “recibir órdenes y ejecutarlas”.
La herramienta que destruyó el proyecto de Jason no activó ningún mecanismo de decisión.
Simplemente vio un espacio vacío y dijo “lo he limpiado”.
Entonces, ¿quién decide si algo está vacío o no?
¿Debería borrarse una base de datos incluso si está vacía?
Aquí es exactamente donde se esconde el detalle que muestra por qué la inteligencia humana sigue siendo indispensable.
A FORTUNA, EL HUMANO SIGUE ESTANDO EN EL PROCESO
El CEO de Replit, Amjad Masad, se puso en contacto directamente con Lemkin tras el incidente y anunció que cubrirían todos los daños.
Además, para evitar que un error así vuelva a ocurrir, se añadió al sistema una función de “deshacer con un solo clic”.
Es decir, el humano apareció de nuevo e intentó corregirlo.
Pero lo ocurrido deja una pregunta sobre el futuro:
¿Cuándo, bajo qué condiciones y hasta qué punto debemos entregar el derecho a tomar decisiones en los procesos de producción a la inteligencia artificial?
“Dulcius ex asperis” es una expresión en latín. Su significado es: más dulce es lo que viene después de las dificultades. Este incidente vivido por Jason Lemkin no es solo un fallo técnico; es una señal que nos recuerda que la mente humana y el sentido de la responsabilidad nunca pueden pensarse por separado de la productividad.
Mas leidos
Serdal Adalı presenta una denuncia contra la prensa
El Fenerbahçe organizará una ceremonia de firma para Romelu Lukaku
El precio más bajo en vehículos sin ÖTV es de 783 mil liras turcas: Aquí está la lista
La encuesta del YENİ Parti sacude el panorama
Sale a la luz la declaración de la sospechosa que quemó la bandera en Muğla
El líder de los Süleymancılar, Alihan Kuriş, bajo custodia
La aventura en el Beşiktaş llega a su fin
Se revelan los nombres de los detenidos en la operación contra los Süleymancılar
Un detalle llamativo de Murat Ağırel sobre la operación de los Süleymancılar
¡Primeras imágenes de la operación contra los Süleymancılar!