Ingeniero de Microsoft denuncia a la empresa

Los contenidos para adultos generados por Copilot Designer de Microsoft están enfrentando a la empresa a serios problemas.

Mientras Microsoft continúa con sus trabajos en inteligencia artificial generativa, se ha topado con un nuevo contratiempo. Copilot, que recientemente ha destacado por sus capacidades, ha sido objeto de críticas en Estados Unidos. Shane Jones, ingeniero de inteligencia artificial de Microsoft, denunció ante la Comisión Federal de Comercio de EE. UU. las imágenes generadas por Copilot Designer.

Jones notificó primero a Microsoft, pero no recibió respuesta. Ante esto, llevó el asunto a una instancia oficial, la Comisión Federal de Comercio. El motivo de la denuncia fue que Copilot Designer generaba imágenes obscenas y perturbadoras.

Copilot Designer se lanzará en breve para los dispositivos que utilizan el sistema operativo Windows 11. Sin embargo, Jones sostiene que la herramienta de inteligencia artificial necesita ser examinada más a fondo. Durante las pruebas de equipo rojo (red teaming), Jones se encontró con algunas imágenes inquietantes. Por ejemplo, en imágenes relacionadas con el derecho al aborto se mostraron demonios y monstruos, y con diferentes entradas surgieron imágenes de niños usando armas, mujeres y contenido sexual.

Por esta razón, Jones solicitó un límite de edad para Microsoft Copilot. El ingeniero informó primero de esta situación a Microsoft en diciembre, pero no obtuvo una respuesta positiva. Finalmente, Jones contactó a senadores estadounidenses, escribió una carta a la Comisión Federal de Comercio y presentó su denuncia.

El ingeniero señaló que se debería implementar un límite de edad para Microsoft Copilot Designer en las plataformas de Google y Android.

Fuente de la noticia: 12punto