Demanda contra un usuario que generaba imágenes obscenas con Grok

La empresa de inteligencia artificial xAI, propiedad de Elon Musk, ha presentado una demanda en Estados Unidos contra un usuario bajo la acusación de utilizar el sistema Grok para generar contenido sexual ilegal.

En la demanda presentada ante un tribunal federal de Texas, la empresa alegó que una persona llamada Terry Harwood intentó crear deepfakes obscenos cargando imágenes no sexuales de adultos y menores en Grok. Se señaló que Harwood fue detenido a principios de este año en Carolina del Sur bajo cargos de abuso sexual relacionado con menores.

xAI argumentó que las acciones de Harwood violaron los términos de servicio de la compañía. El caso se considera una de las primeras demandas presentadas por una empresa de inteligencia artificial contra un usuario por supuestamente utilizar su sistema para producir material obsceno e ilegal.

La solicitud de la empresa se produce tras las acusaciones de que Grok permite la creación de imágenes deepfake sexualizadas o vídeos realistas generados por inteligencia artificial sin el consentimiento de los usuarios. En la demanda, xAI afirmó que toma medidas contra las cuentas que violan sus normas, tales como la suspensión, el cierre de cuentas y la notificación de sospechas de material de abuso sexual infantil al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC).

En el documento se indicó que, en 2026, xAI suspendió 52.222 cuentas y presentó 73.604 notificaciones al NCMEC; estas notificaciones resultaron en la detención de "al menos" 244 personas.

La empresa también alegó que Harwood no solo intentó producir material ilegal dirigido a niños, sino que también intentó convertir imágenes de adultos en contenido sexualizado sin su consentimiento.

Fuente de la noticia: 12punto