La inteligencia artificial se utilizó intensamente en el genocidio de Gaza: confundió a estudiantes con 'posibles terroristas'
El ejército israelí aumentó 200 veces el uso de inteligencia artificial en sus operaciones en Gaza. Las tecnologías de Microsoft y OpenAI se utilizan para identificar objetivos civiles.
AA
Associated Press (AP) reveló en una investigación que el ejército israelí ha utilizado intensamente tecnologías de inteligencia artificial en sus operaciones en Gaza. La plataforma en la nube Azure de Microsoft y los modelos de OpenAI desempeñaron un papel importante en los procesos de análisis de datos y detección de objetivos del ejército israelí. Según la investigación, el ejército israelí aumentó 200 veces el uso de inteligencia artificial tras los ataques del 7 de octubre de 2023. Para marzo de 2024, la cantidad de datos almacenados en los servidores de Microsoft superó los 13,6 petabytes.
En los documentos examinados por AP, se señala que en 2021 se firmó un contrato de tres años por valor de 133 millones de dólares entre Microsoft y el Ministerio de Defensa de Israel. Este acuerdo convirtió a Israel en el segundo mayor cliente militar de Microsoft después de Estados Unidos.
Un funcionario de inteligencia israelí, al afirmar que el ejército analiza los datos recopilados mediante vigilancia masiva utilizando Microsoft Azure, declaró lo siguiente:
'Azure escanea rápidamente términos dentro de enormes volúmenes de texto. Gracias a esto, incluso se pueden detectar las ubicaciones de personas que se dan indicaciones de ruta entre sí.'
La posibilidad de que los sistemas de inteligencia artificial cometan errores también se abordó en la investigación. Un funcionario israelí puso como ejemplo un error ocurrido en las traducciones al árabe. La relación de Microsoft con el ejército israelí se fortaleció aún más después del 7 de octubre. Según AP, Microsoft Azure respondió a 130 solicitudes de soporte técnico del ejército israelí en los últimos 10 meses. La empresa opera un campus de 46 mil metros cuadrados en la ciudad de Herzliya, cerca de Tel Aviv.
LOS CIVILES EN EL PUNTO DE MIRA DE LA INTELIGENCIA ARTIFICIAL
La investigación también reveló que los sistemas de inteligencia artificial identificaron a unos 1000 estudiantes de secundaria como 'posibles militantes'. Las autoridades advirtieron que este tipo de errores podrían provocar bajas civiles.
El funcionario, que habló bajo condición de anonimato, subrayó que el uso de inteligencia artificial también convierte a los civiles en objetivos, y expresó lo siguiente:
'La palabra árabe que define la empuñadura de un lanzagranadas propulsado por cohete es la misma que la expresión 'pago'. La inteligencia artificial tradujo esto incorrectamente y el personal que supervisaba tampoco pudo detectar este error al principio.'
Heidy Khlaaf, una de las ex altas ejecutivas de OpenAI, comentó sobre los resultados de la investigación: 'Esta es la primera confirmación que recibimos de que los modelos comerciales de inteligencia artificial se están utilizando directamente en la guerra'.