En medio de la oleada de protestas tras la muerte de George Floyd durante un arresto en Minneapolis, el CEO de IBM, Arvind Krishna, anunciaba en una carta abierta al Congreso de los Estados Unidos que la compañía dejará de comercializar software propio de reconocimiento facial por su rechazo al uso de una tecnología que puede contribuir a la promoción del “racismo y la injusticia social”.
Menos de 24 horas después, Amazon comunicaba que durante un año no dejaría a la policía usar Rekognition, su plataforma de reconocimiento de imágenes -aunque no concretaba nada sobre su polémico uso por parte del servicio de inmigración en fronteras y aduanas-. El jueves por la tarde era el presidente de Microsoft el que anunciaba que no venderá su tecnología de vigilancia a la policía, a la vez que confirmaba que nunca se le había vendido. Pero estas contradicciones o anuncios, que parecen tener al menos tanto de marketing como de verdadero compromiso, no son nuevas en este ámbito.
El reconocimiento facial es un sistema que permite identificar a una persona analizando características biométricas de su rostro como la distancia entre los ojos o el tamaño de la nariz. Existen diferentes tecnologías que hacen uso de parámetros distintos y con precisión muy dispar. Aunque nació hace casi 60 años, en los últimos 10 la utilización de inteligencia artificial y aprendizaje automático ha mejorado exponencialmente las capacidades de identificación tanto en fotografías como en vídeos en tiempo real. Estas tecnologías están presentes en el desbloqueo de muchos móviles y en multitud de apps que ponen filtros o ayudan a etiquetar nuestras fotos, pero su uso por las fuerzas de seguridad es el más polémico por el poder sin precedentes que les otorga para vigilar y seguir el rastro de cada ciudadano.
A principios de semana, en una entrevista en The New York Times, Timnit Gebru que lidera el equipo de ética en inteligencia artificial de Google pedía detener temporalmente el uso de estas tecnologías. Una declaración sorprendente, sobre todo porque hace casi 10 años que el entonces presidente del gigante del buscador anunció que la compañía había desechado la investigación sobre reconocimiento facial por considerarla perversa y peligrosa. Pese al anuncio, Google ha seguido invirtiendo en su desarrollo, como seguramente lo harán todos los que esta semana se rasgan las vestiduras. Y es que los gigantes de la tecnología llevan años en una guerra por un negocio millonario con demasiadas preguntas abiertas sobre derechos civiles, injusticia social y justificación de la violencia. Su uso por las fuerzas de seguridad, al que ahora algunos dicen querer renunciar, es una ínfima parte de una ingente tarta: llevar la identificación facial a las empresas y el consumo; al enorme mercado de la vigilancia facial de todos y cada uno de nosotros. Hagamos un poco de historia.
31 de Mayo de 2011. Muchos de los multimillonarios de Silicon Valley se reúnen en AllThingsD’s D9, un encuentro organizado por Wall Street Journal en Rancho Palos Verdes en California. En el escenario principal, Eric Schmidt, presidente ejecutivo de Google. El hombre más poderoso de la compañía más poderosa del capitalismo digital abre un debate que perdura años después. Schmidt alerta de los desafíos de la tecnología de reconocimiento facial y las implicaciones “perversas” que puede tener su combinación con la localización móvil. Advierte del riesgo que podría suponer una herramienta como ésta en manos de dictadores que la usaran contra la población. Por todo esto, afirma, “es la única tecnología que Google ha desarrollado pero luego ha desechado”.El reconocimiento facial es el santo grial que permitiría a los gigantes de Internet saltar al mundo físico
Nueve años después, Eric Schmidt no es presidente de Google, AllthingsD ya no existe -aunque los multimillonarios siguen reuniéndose en ranchos-, y Google, como todos los gigantes de Internet, invierte millones de dólares en esa “cuestionable” tecnología. Estas inversiones, las de gobiernos de medio mundo y las de decenas de startups respaldadas por grandes fondos de inversión, han hecho que las capacidades de reconocimiento facial hayan mejorado espectacularmente en los últimos años. El motivo parece evidente. Aúna los dos intereses más poderosos de la industria tecnológica. Por un lado el interés militar y de seguridad —el Gobierno chino ha desplegado Dragon Fly Eye capaz de identificar en la calle a más de 2.000 millones de personas—, por otro lado el interés económico al ser el santo grial que permitiría a los gigantes de Internet saltar al mundo físico. Si ya son capaces de conocer todo lo que hacemos en el entorno digital esta podría ser el arma definitiva para hacerlo en el entorno real. Nunca más seremos ciudadanos anónimos.
Meses antes de las afirmaciones de Schmidt, Facebook había empezado a usar reconocimiento facial para sugerir el nombre de las personas que aparecían en las fotos y poder etiquetarlas. En 2012 se vio obligada a dejar de usar está tecnología en la Unión Europea por problemas con la regulación pero en 2018 volvió a implantarla. Durante 8 años la usó por defecto en otras zonas del mundo hasta que en diciembre de 2019, presionado por las críticas a su gestión de la privacidad, añadió la posibilidad de que el usuario pueda quitar el permiso para que la red use estos algoritmos con sus fotos (por defecto la plataforma tiene permiso y es el usuario el que puede prohibirlo entrando en los ajustes de privacidad de su perfil).
Pero los experimentos de Facebook, que nació como un repositorio online de fotos de las caras de estudiantes universitarios, con el reconocimiento facial han ido mucho más allá. Entre 2015 y 2016 desarrolló una app que permitía identificar personas con la cámara del móvil y asociarlas a su perfil en la red social. Según Business Insider, la compañía de Zuckerberg desarrolló y probó una aplicación para smartphones que permitía identificar personas en la vida real, para así mostrar su perfil en Facebook y parte de su información. Esta aplicación hacía uso de reconocimiento facial basándose en las millones de fotografías de sus usuarios almacenadas en sus servidores (en los que si usted tuvo perfiles esa red entre 2010 y 2012, o a partir de 2018, también está su rostro). La compañía asegura que la app fue una prueba dentro de su programa de innovación y que solo funcionaba para identificar a los empleados pero pone de manifiesto que Facebook tiene las mismas capacidades de ligar personas en el mundo físico a sus datos digitales que tiene ClearView, la herramienta cuyo uso por las fuerzas de seguridad del Estado en EEUU ha desatado la polémica. Estos experimentos le pueden salir muy caros. En enero de 2020, la compañía de Zuckerberg llegó a un acuerdo para evitar llegar a juicio por una demanda por 35.000 millones de dólares por parte del Estado de Illinois y un grupo de usuarios que reclamaban que nunca otorgaron consentimiento para que Facebook usará sus datos biométricos.
La muerte del anonimato
Google también se enfrenta a una demanda similar en el mismo Estado. Y es que, pese a lo que afirmaba Eric Schmidt, la compañía lleva años trabajando con reconocimiento facial. Meses después de las declaraciones de Schmidt, introducía en su difunta red social Google+ capacidades similares a las de Facebook. El servicio se llamaba Find my face y escaneaba fotos de los usuarios y sus amigos para identificar caras conocidas. Los esfuerzos de la compañía de Mountain View en esta área no han cesado. Su nueva pantalla inteligente, Google Nest Hub Max, incluye una característica controvertida: siempre está mirando. Face Match, el nombre que Google da a esta tecnología, identifica a las personas que pasan por delante de la pantalla. Cuando reconoce a un usuario registrado, muestra contenido personalizado solo para él: fotos, mensajes, citas. La utilización de pantallas similares en entornos como calles o centros comerciales podría lograr un efecto muy similar al que veíamos en la distopía futurista de Minority Report. Publicidad exterior, lineales del supermercado u ofertas en tiendas físicas personalizadas como hoy se hacen en Internet. Un millonario negocio que sin embargo amenaza de muerte nuestro anonimato.
Amazon, por supuesto, tampoco es ajena a esta batalla tecnológica. Desde 2016 incluye entre su oferta de servicios en la nube, Rekognition, que “democratiza” el uso de la inteligencia artificial permitiendo a cualquier usuario utilizar esta tecnología. La polémica ha acompañado al servicio desde el principio,pero en el último año y medio ha recibido una oleada de protestas, incluso de sus empleados, al conocerse que el gobierno de Trump podría utilizar los servicios de Amazon en distintas agencias gubernamentales como el ICE, el servicio de inmigración y control de aduanas de EE UU que utilizaría Rekognition para identificar inmigrantes ilegales. EL ICE ha sido protagonista de numerosos escándalos en los últimos años y acusado de vulnerar los derechos de menores y migrantes. En una carta, empleados de Amazon comparaban el negocio que tiene su compañía con esta agencia con las ventas de tecnología a la Alemania nazi que realizó IBM en los años 40 del pasado siglo.
¿Y Apple? El gigante de la telefonía móvil que completa la tetraquía de los imperios digitales también ha invertido en reconocimiento facial. Pero con una tecnología muy diferente a la del resto, que no se basa solo en análisis de imágenes sino que usa también infrarrojos. La solución de los de Cupertino se llama Face ID y se estrenó con el iPhone X en 2017 ( de hecho durante la presentación del teléfono la tecnología falló y en el escenario, con miles de personas siguiendo el evento en directo,el presentador fue incapaz de desbloquear el nuevo y flamante iPhone). Face ID combina el uso de la cámara frontal, una cámara infrarroja, una luz de apoyo y un proyector de infrarrojos para conseguir que el escaneo no sea en dos, sino en tres dimensiones. Emite 30.000 puntos infrarrojos, invisibles, que ayudan a reconstruir el modelo matemático final de la cara, un mapa tridimensional que se coteja en tiempo real mediante algoritmos basados en redes neuronales y aprendizaje artificial capaz procesar la variaciones faciales. Todo esto permite reconocer rostros en situaciones de ausencia de luz. Si Face Match de Google no deja de mirar, Face ID de Apple es capaz de ver en la oscuridad.
Ante estos avances, su potencial económico y los enormes desafíos que suponen para la privacidad, no existe una legislación que proteja los derechos de los ciudadanos frente estos gigantes y otros jugadores que están entrando rápidamente en este mercado. La Comisión Europea que se había planteado una moratoria que prohibiera el uso del reconocimiento facial en los próximos cinco años, ha dado marcha atrás y suavizado su posición. Dejará que sean los Estados miembros los que decidan como reforzar esa cada vez más delgada línea que protege los derechos civiles. Mientras tanto, puede que alguien en Silicon Valley se haya quedado con su cara.
