¿Qué vamos a hacer con todas las cámaras? La pregunta me quita el sueño por las noches, con un sentimiento que se asemeja al terror.
Las cámaras están definiendo el avance tecnológico de nuestra era. Son la clave de nuestros teléfonos celulares, los ojos de los drones autónomos del mañana y los motores del FOMO (Fear of Missing Out, en inglés; el miedo a perderse algo, la ansiedad que nos provoca perdernos un evento u oferta) que impulsan Facebook, Instagram, TikTok, Snapchat y Pornhub. La fotografía viral, barata y omnipresente ha dado lugar a movimientos sociales como Black Lives Matter, pero las cámaras ya están dando lugar a más problemas de los que podemos manejar: la pornovenganza, el terrorismo transmitido en tiempo real, los reaccionarios de YouTube y otros males fotográficos.
Además, las cámaras no se quedan ahí. Siguen abaratándose y volviéndose más inteligentes, de maneras que resultan sorprendentes y alarmantes a la vez. Los avances en la visión computarizada les están dando a las máquinas la capacidad de distinguir y rastrear rostros, adivinar el comportamiento y las intenciones de la gente y aprehender y sortear amenazas en el entorno físico. En China, las cámaras inteligentes son la base de un totalitarismo de vigilancia que lo abarca todo y que no tiene precedentes en la historia de la humanidad. En Occidente, las cámaras inteligentes ahora se venden como soluciones baratas para casi cada infortunio público y privado, desde atrapar a cónyuges infieles y ladrones de paquetes, hasta evitar tiroteos en las escuelas y violaciones a la ley migratoria. Sospecho que estos usos y otros más tomarán vuelo, porque en los años que llevo cubriendo el tema de la tecnología, he observado un axioma invulnerable de la sociedad: “si le pones una cámara, se vende”.
Por ello me preocupa que estemos cayendo a tropezones y a ciegas en un Estado que nos vigila, razón por la cual me parece que lo único razonable que podemos hacer ahora al respecto es ponerles un alto a las cámaras inteligentes.
La semana pasada, el Consejo de Supervisores de San Francisco, mediante una votación, prohibió el uso de tecnología de reconocimiento facial en la policía y otras agencias de la ciudad. Oakland y Berkeley, en California, también están considerando prohibiciones, al igual que la ciudad de Somerville, Massachusetts. Estoy esperando que estas medidas se dispersen por doquier. Estados, ciudades y el gobierno federal deberían imponer una moratoria inmediata al reconocimiento facial, en especial en lo que respecta a su uso por parte de las autoridades que hacen cumplir la ley.
¿Cuáles son los riesgos? Dos nuevos informes de Clare Garvie, una investigadora que estudia el reconocimiento facial en Georgetown Law, me hicieron ver los peligros de esta tecnología. En un informe —escrito junto con Laura Moy, directora ejecutiva del Centro de Privacidad y Tecnología de Georgetown Law— Garvie sacó a la luz los contratos municipales que indican que las agencias de procuración de justicia en Chicago, Detroit y otras ciudades más se están movilizando rápidamente y con poca información al público en general, para instalar sistemas de reconocimiento facial “en tiempo real” al estilo de China.
En Detroit, los investigadores descubrieron que la ciudad firmó un contrato de un millón de dólares con DataWorks Plus, un proveedor de reconocimiento facial, para adquirir un programa que permite un monitoreo continuo de cientos de cámaras públicas y privadas instaladas en toda la ciudad —en gasolineras, restaurantes de comida rápida, iglesias, hoteles, clínicas, centros de tratamiento a las adicciones, complejos de departamentos de interés social y escuelas—. Los rostros captados por las cámaras pueden buscarse en la base de datos de las fotografías de las licencias para conducir de Míchigan. Los investigadores también obtuvieron las normas del Departamento de Policía de Detroit que regulan el uso del sistema. Las normas son laxas, ya que permiten a los policías escanear rostros “en video en vivo o grabado” por una gran variedad de razones, incluyendo “investigar o corroborar información y pistas de informantes”. En una carta para Garvie, James E. Craig, jefe de policía de Detroit, negó que se estuvieran ejecutando “actividades orwellianas”, y agregó que se “ofendió enormemente” ante la sugerencia de que la policía “violaría los derechos de los ciudadanos que cumplen la ley”.
Soy menos optimista, al igual que Garvie. “El reconocimiento facial les da a las autoridades una capacidad única que nunca habían tenido antes”, me dijo Garvie. “Me refiero a la capacidad de llevar a cabo vigilancia biométrica: la capacidad de ver no solo qué está ocurriendo en el terreno, sino quién lo está llevando a cabo. Esto no había sido posible antes. Nunca habíamos podido hacer secretamente un escaneo masivo de las huellas digitales de un grupo de personas. Nunca hemos podido hacer eso con el ADN. Ahora podemos hacerlo con el escaneo de los rostros”.
A principios de 2017, una cámara de seguridad captó a un hombre robando cerveza de una tienda CVS en Nueva York, pero la cámara no obtuvo una buena imagen del hombre y el sistema de escaneo facial de la ciudad no encontró ninguna coincidencia. Sin embargo, eso no detuvo a la policía. Un detective del Departamento de Reconocimiento Facial del Departamento de Policía de Nueva York pensó que el hombre en el video pixelado de CVS se parecía al actor Woody Harrelson. Así que obtuvo una imagen del actor en Google Imágenes y escaneó su rostro. Eso produjo una coincidencia y las autoridades actuaron. Un hombre fue arrestado por un delito no porque se parecía al hombre captado en la cinta sino porque Woody Harrelson se parecía al delincuente.
Este tipo de búsqueda superficial es cosa de rutina en el negocio del rostro. El software de escaneo de rostros que se vende a la policía permite editar fácilmente fotografías de entrada. Para aumentar las coincidencias que hay en una fotografía, se aconseja a la policía que remplace las bocas, ojos y otros rasgos faciales de la gente con imágenes modelo de Google. El software también permite hacer “modelos en 3D”, básicamente con ayuda de animación computarizada para girar o cambiar de alguna otra forma un rostro de tal modo que se asemeje a una fotografía estándar de las que se toman en los cuarteles de policía.
En un giro inesperado, algunos departamentos de policía incluso están utilizando el reconocimiento facial en los dibujos forenses: buscan rostros de gente de carne y hueso con base en representaciones de artistas a partir de la declaración de un testigo ocular, un proceso plagado del tipo de subjetividad humana que el reconocimiento facial se proponía evitar.
Lo más preocupante de todo esto es que casi no hay normas que regulen su uso. “Si descubriéramos que un analista de huellas digitales estuviera dibujando las líneas faltantes como pensara que continúan, habría fundamentos para un juicio nulo”, afirmó Garvie.
No obstante, se está arrestando, acusando y sentenciando a personas con base en prácticas similares en las búsquedas faciales. Y debido a que no hay mandatos sobre la obligación para que a los acusados y sus abogados se les informe acerca de estas búsquedas, a la policía se le permite actuar con impunidad.
En resumen: ¿quién tiene el derecho de vigilar a los demás y en qué circunstancias puedes rechazarlo?
Tomará tiempo y un cuidadoso estudio responder estas preguntas. Pero tenemos tiempo. No hay necesidad de apresurarse a entrar en terreno desconocido. Vamos a dejar de usar el reconocimiento facial de inmediato, al menos hasta que podamos vislumbrar qué está pasando.
