Informe de Anthropic: Claude fue utilizado indebidamente para software de armamento, ciberoperaciones y desinformación

La empresa de inteligencia artificial Anthropic informó que los modelos Claude fueron utilizados indebidamente por diversos actores en áreas que van desde procesos de desarrollo de armas convencionales hasta ciberoperaciones, vigilancia y fraude.

El informe publicado por la empresa para detectar y prevenir el uso indebido de sus modelos abarca el periodo de diciembre de 2025 a agosto de 2026. En el informe se señala que grupos sospechosos de contar con respaldo estatal, actores criminales con fines de lucro e instituciones vinculadas a actividades de propaganda se aprovecharon de modelos como Claude Haiku, Sonnet y Opus.

Anthropic anunció que, en los casos detectados, las cuentas fueron cerradas y, en algunas situaciones, la información obtenida fue compartida con instituciones públicas y organizaciones del sector privado.

SOFTWARE DE ARMAMENTO Y CIBEROPERACIONES

Una de las secciones más llamativas del informe fueron las detecciones sobre el uso de Claude en procesos de desarrollo de software relacionados con armas convencionales. Según Anthropic, se identificaron intentos relacionados con armas de fuego, misiles, vehículos aéreos no tripulados armados, bombas y otras municiones, así como con el software de puntería y control que opera estos sistemas.

El equipo de inteligencia de amenazas de la empresa investigó a numerosos actores que utilizaron Claude el año pasado para producir software destinado al diseño y desarrollo de armas, o para apoyar actividades de recopilación de inteligencia y adquisición que preparan el terreno para programas armamentísticos. En el informe se registró que tres de ellos se encontraban en China, dos en Rusia y uno en Yemen.

Anthropic comunicó que detectó que un grupo que opera en el norte de Yemen utilizó Claude Code en tres programas diferentes de desarrollo de armas que incluían cohetes guiados y diversos misiles. Según el informe, el grupo utilizó el modelo para software de guía, navegación y estabilización de vehículos, así como para procesos de simulación y prueba. No obstante, la empresa subrayó que no encontró pruebas de que el grupo haya desarrollado con éxito un arma operativa.

En otro caso, se informó que un actor con sede en China utilizó Claude con el objetivo de desarrollar un sistema de armas antitorpedo. Se indicó que el actor aprovechó el modelo para desarrollar algunas partes del software de control de tiro, preparar un plan de pruebas y comparar el sistema con los programas de defensa submarina y antitorpedo de Estados Unidos. Anthropic evaluó que la actividad estaba vinculada a un fabricante de la industria de defensa china.

El informe también incluyó ejemplos relacionados con ciberoperaciones. Se señaló que las actividades de espionaje vinculadas a Rusia apuntaban principalmente a la inteligencia militar de los gobiernos de Ucrania y Europa. Por otro lado, se registró que actores que se cree residen en China llevaron a cabo intentos de infiltración en sistemas de producción y actividades de reconocimiento dirigidas a redes gubernamentales extranjeras en Oriente Medio, Europa y el Sudeste Asiático.

VIGILANCIA, FRAUDE Y DENUNCIAS DE COPIA DE MODELOS

Las actividades de vigilancia también fueron examinadas bajo un título separado en el informe de Anthropic. Se indicó que una cuenta que apuntaba a Irán y a la región del Golfo Pérsico en junio de 2026 estableció una plataforma de vigilancia con el fin de analizar, clasificar y perfilar las actividades en redes sociales de los usuarios de la región. Se anunció que dicha cuenta fue bloqueada.

La empresa declaró que, en la investigación realizada, se reveló que la cuenta era operada por o en nombre de una organización llamada “S2T Unlocking Cyberspace”. Se informó que las investigaciones de fuentes abiertas apuntan a que la organización es un proveedor de inteligencia de origen israelí-singapurense.

En otro ejemplo de vigilancia con sede en China, se expresó que Claude fue utilizado como una herramienta automatizada de “monitoreo de la opinión pública”. Según el informe, el usuario utilizó el modelo para preparar informes gubernamentales que clasificaban a disidentes, activistas, minorías étnicas, la diáspora china y medios extranjeros como amenazas a la estabilidad política.

En el apartado de fraude, se informó que un estudio de aplicaciones con sede en China estableció una red compuesta por más de 20 aplicaciones de citas con la ayuda de Claude. En el informe se señaló que, a pesar de que se afirmaba que los servicios eran ofrecidos totalmente por humanos, se desarrollaron personajes de inteligencia artificial que conversaban con los usuarios. Se registró que se detectaron más de 4 mil 700 personajes de inteligencia artificial que conversaron con al menos 25 mil personas en un periodo de dos semanas.

El informe también incluyó ejemplos sobre el método de “destilación”, que significa entrenar un modelo de menor capacidad aprovechando los resultados de modelos de inteligencia artificial más avanzados. Anthropic señaló que el método es una técnica de entrenamiento común en el campo de la inteligencia artificial, pero que se vuelve ilegal cuando tiene como objetivo copiar otros modelos sin autorización.

La empresa sostuvo que actores vinculados a Alibaba intentaron copiar ilegalmente las capacidades de los modelos y que esta actividad es el “ataque de destilación ilegal” más grande registrado hasta la fecha. En el informe se alegó que se realizaron aproximadamente 3 millones de transacciones diarias desde más de 3 mil 500 cuentas falsas.

Anthropic también compartió ejemplos relacionados con Moonshot AI, DeepSeek y Xiaomi. Mientras se indicaba que Moonshot enviaba algunas solicitudes de los usuarios a Claude en lugar de a su propio modelo Kimi, en el informe aparecía la frase: “Los usuarios pensaban que estaban usando el modelo Kimi, pero en realidad estaban recibiendo respuestas de Claude”. Se alegó que DeepSeek, de manera similar, redirigía la comunicación a Claude sin informar a sus clientes, y que Xiaomi transfería los chats de los usuarios obtenidos de sus modelos MiMo a Claude.

En la sección de operaciones de influencia, se llamó la atención sobre las redes que producen contenido engañoso a través de perfiles falsos en redes sociales y sitios de noticias. Anthropic anunció que se detectó y eliminó una operación de manipulación de información vinculada a Rusia en la República Centroafricana y una red de desinformación comercial dirigida por una empresa de publicidad digital con sede en Francia.

Fuente de la noticia: 12punto