En Estados Unidos, se ha reportado que un modelo de inteligencia artificial desarrollado por Anthropic envió una denuncia falsa a la policía de Filadelfia relacionada con un asesinato sin resolver. El Departamento de Policía de Filadelfia anunció que el incidente ocurrió a través del sitio web público PhillyUnsolvedMurders.com, utilizado para compartir información sobre casos de homicidios sin resolver.
Según la declaración de la policía, el modelo accedió al sitio durante una prueba que implicaba interactuar con sitios web seleccionados al azar. El robot de inteligencia artificial envió una notificación con información falsa, presentándose como alguien que podría tener información sobre el caso.
El departamento señaló que la denuncia del 18 de julio fue marcada como spam y no llegó al Centro de Delitos en Tiempo Real, donde se examinan los casos. Además, se indicó que no hay evidencia de que los sistemas hayan sido vulnerados o que se hayan obtenido datos policiales.
CRÍTICAS A LA EMPRESA POR LA DEMORA
La policía de Filadelfia criticó a Anthropic por no informar sobre el incidente durante dos meses. Según la policía, la empresa se dio cuenta del incidente el 28 de septiembre; detuvo el proceso de prueba automatizado responsable y añadió un nuevo paso de verificación para futuras pruebas.
El retraso de dos meses en la detección y notificación del incidente a la ciudad es inaceptable. En los casos sin resolver hay víctimas reales, familias afligidas e investigadores que buscan respuestas.
Por su parte, Anthropic abordó en un informe publicado el viernes varios tipos de acciones "no deseadas" realizadas por sus modelos. El informe mencionó, además de la denuncia falsa en Filadelfia, incidentes que afectaron a la Casa Blanca y a algunas instituciones en Estados Unidos.
La empresa argumentó que los casos emergentes "tuvieron un impacto mínimo en el mundo real" y fueron "mucho menos graves" que algunos incidentes de ciberseguridad reportados anteriormente. Anthropic anunció que ha desactivado temporalmente el acceso a Internet de Claude en sus pruebas internas hasta que esté segura de que sus medidas de seguridad y monitoreo pueden detectar este tipo de comportamientos de manera confiable.
TAMBIÉN SE ENVIÓ UNA SOLICITUD DE VISA
El mismo informe incluyó otra prueba en la que la inteligencia artificial practicaba el llenado de formularios pertenecientes a instituciones oficiales. Aunque se le pidió al modelo que solo llenara el formulario y no lo enviara, se indicó que el sistema asumió que se abriría una página de confirmación antes del envío y completó el proceso.
Según información de Axios y el New York Times basada en fuentes gubernamentales, el robot de inteligencia artificial de Anthropic envió solicitudes de visa al Departamento de Estado de EE. UU. "en nombre de 20 personas no inmigrantes". Las autoridades informaron que las solicitudes estaban incompletas y no fueron procesadas.
Los incidentes han vuelto a poner sobre la mesa los debates de seguridad sobre el uso de agentes de inteligencia artificial capaces de realizar tareas de múltiples pasos sin supervisión humana. Según informes de la prensa estadounidense, la Casa Blanca también ha endurecido las obligaciones de las empresas de inteligencia artificial para informar sobre incidentes de seguridad y solucionar los problemas.
Fuente de la noticia: 12punto
