En una región donde las retóricas de “el que nada debe, nada teme” y “no soy nadie, a quién le podría interesar mi información” son el pan de cada día, el impacto del reconocimiento facial en espacios públicos podría parecer lejano, abstracto o improbable. Sin embargo, las consecuencias de exponerse a este tipo de tecnologías son muy reales.
En los casos donde una persona es identificada erróneamente como otro individuo –usualmente prófugo de la justicia– se desencadenan una serie de eventos que ponen en riesgo su integridad y la de sus seres queridos.
Los falsos positivos, o personas identificadas erróneamente por tecnologías de reconocimiento biométrico, son un desenlace común de los sesgos discriminatorios de este tipo de sistemas. Rasgos como el tono de piel oscuro, ser de género femenino o no binario y ser de la tercera edad, hacen a estas tecnologías menos precisas en los resultados que arrojan.
Los sesgos de los sistemas de reconocimiento facial provienen en parte de la mala calidad de los datos con los que se les entrena, los cuales muchas veces carecen de diversidad suficiente. Esto se traduce en que por lo general representan mejor a ciertos grupos demográficos sobre otros: por ejemplo, al entrenar a los sistemas con imágenes de hombres blancos, hay un mayor porcentaje de error reconociendo correctamente a una persona con otras características.
Se han reportado múltiples incidentes de reconocimientos erróneos que conducen a detenciones. Se puede citar el caso de una mujer afrodescendiente con ocho meses de embarazo que fue detenida por el supuesto robo de un carro, el de un hombre afrodescendiente detenido por supuesto robo a una joyería, o el de un hombre blanco detenido por el supuesto robo en una tienda. En este último caso, el hombre resultó ser un “objetivo fácil” por contar con récord criminal por hechos no relacionados. La víctima indicó que durante su detención errónea fue sometido a una violación sexual en grupo.
Qué hacer si soy víctima de un falso positivo de reconocimiento facial
Las detenciones erróneas son peligrosas y pueden ser engorrosas desde el aspecto administrativo-legal. En América Latina, el Manual del Pequeñx Vigiladx, realizado por Access Now, en colaboración con la Coordinadora contra la Represión Policial e Institucional en Argentina (CORREPI), orienta a quienes son víctimas de falsos positivos por reconocimiento facial y a sus seres queridos para navegar el sistema judicial. Además, es una guía para quienes buscan justicia y reparación tras la detención.
El Manual también facilita recursos útiles como modelos de habeas corpus y habeas data, argumentos contra este tipo de tecnología, así como a dónde acudir en caso de que tu información haya sido vulnerada durante la detención.
El Manual del Pequeñx Vigiladx toma como punto de referencia el Manual del Pequeño Detenido, material que surgió tras la dictadura cívico militar para contrarrestar las detenciones arbitrarias en Argentina, mismas que lamentablemente continúan ocurriendo en el presente a lo largo y ancho de nuestra región.
Es siempre necesario recalcar que incluso si una tecnología de reconocimiento facial llega a calibrarse de manera tal que logra eliminar o reducir considerablemente los sesgos discriminatorios, no por ello será respetuosa de los derechos humanos. La falta de consentimiento del titular de los datos para recabar sus biométricos de manera remota, la vulneración al principio de inocencia al vigilar a cualquier persona que transita por cierto espacio público y el potencial cambio de comportamiento perfectamente legal debido al efecto inhibitorio de saberse bajo vigilancia, son razones suficientes para hacer un llamado a prohibir esta tecnología.
Mientras las organizaciones de la sociedad civil continuamos luchando por lograr este objetivo, ofrecemos el Manual como una herramienta para reducir el impacto negativo de las peligrosas tecnologías de reconocimiento facial.