Policía de EE. UU. usa IA para espiar a activistas y estudiantes universitarios
Departamentos policiales de Estados Unidos, en estados fronterizos con México; actualmente pagan cientos de miles de dólares para usar el sistema Overwatch de la compañía, Massive Blue, el cual crea usuarios falsos de redes sociales basados en inteligencia artificial (IA), destinados a interactuar y recolectar información de estudiantes universitarios que protestan contra el genocidio israelí en Gaza, activistas políticos y supuestos traficantes de drogas y personas.
La compañía publicita su producto como un «multiplicador de fuerzas basado en IA para la seguridad pública» el cual «despliega agentes virtuales como personales reales, los cuales se infiltraten e interactúan con redes criminales a través de numerosos canales». Seguidamente, Massive Blue indica que los propósitos de Overwatch incluyen «seguridad fronteriza», «seguridad escolar» y la prevención del «tráfico de personas». Esta tecnología no ha conllevado a ningún arresto que se conozca hasta la actualidad.
Entre las personas falsas, las cuales son representadas por imágenes generadas por IA, se incluyen a una manifestante política de 36 años de edad, la cual se describe como solitaria y sin hijos; una adulta joven de 25 años proveniente del estado Michigan, y cuyos padres emigraron de Yemen; un adolescente de 14 años como señuelo para traficantes de personas; un proxeneta, entre otros.
Los agentes policiales esperan desplegar estos bots para que generen evidencia en contra de personas que se sospechan son potenciales agresores sexuales, o disidentes políticos; a través de conversaciones. «El problema con todas estas cosas es que son problemas pobremente definidos. ¿Cuál problema realmente intentan resolver?», cuestionó el especialista en tecnología de vigilancia fronteriza, Dave Maass. «¿En qué es efectivo? ¿En violar los derechos que la primera enmienda concede a manifestantes políticos?», acotó.
Massive Blue selló un contrato valuado en 360 mil dólares con el condado Pinal, estado Arizona. Un reporte de esta jurisdicción detalla que esta adquisición incluye «monitoreo 24/7 de numerosas plataformas de redes sociales» y «desarrollo, despliegue, monitoreo, y reporteo de una fuerza de trabajo virtual de hasta 50 personas IA a través de tres categorías investigativas». Por su parte, el condado de Yuma, también en Arizona, concretó un pacto de 10 mil dólares en 2023, pero las autoridades se mostraron insatisfechas por sus resultados y no renovaron el contrato.
Una presentación de Massive Blue demostró un ejemplo de un «reporte de reconocimiento de Overwatch», basado «24 horas de actividad en Dallas, Houston y Austin», ciudades de Texas. El documento afirma que Overwatch identificó 3 mil 266 traficantes de personas únicos, 25% afiliados a «organizaciones de tráfico humano de mayor envergadura y sofisticación», y el 15% fue designado como «potenciales traficantes juveniles». No obstante, la compañía no compartió detalles sobre cuales cuentas identificó como traficantes y mediante cual procedimiento.
