Aumentan los límites al reconocimiento facial en EEUU mientras Europa permanece en la autorregulación

Primero fueron las moratorias a su uso por parte de las fuerzas de seguridad. Después, los vetos en espacios e instituciones públicas. Ahora, la prohibición de su uso también por parte de empresas privadas. Poco a poco, el reconocimiento facial va perdiendo batallas en EEUU, donde la discriminación racial y sexista derivada de su uso está en la primera línea del debate político.

Portland, la principal ciudad del estado de Oregón (EEUU), no ha sido la primera en limitar el uso de reconocimiento facial, pero sí la que ha ido más lejos hasta ahora. En una nueva regulación aprobada esta semana por unanimidad, el gobierno de la ciudad ha ilegalizado que las empresas lo empleen para identificar clientes o empleados por ser “una tecnología con sesgos raciales y de género demostrados y que pone en peligro la privacidad personal”, ha declarado el alcalde, Ted Wheeler.

Toda California –el estado más poblado del país, que engloba algunas de las ciudades más importantes de la costa oeste como Los Ángeles o San Francisco– ha prohibido el uso del reconocimiento facial por parte de la policía en todo su territorio hasta 2023. Seguía el ejemplo de la propia San Francisco, una de las primeras ciudades en tomar esta decisión en 2019. Antes de Portland, la última en sumarse al veto había sido Boston, capital de Massachussets, estado donde otras cinco ciudades menores ya habían limitado el reconocimiento facial.

Portland es la primera ciudad que eleva la prohibición a los negocios privados, un movimiento importante porque impide que la policía use las cámaras que disponen de esta tecnología instaladas en las fachadas de los comercios. La policía de San Francisco utilizó este truco para sortear su incapacidad de usar reconocimiento facial el pasado julio, con el objetivo de monitorizar las protestas del movimiento Black Lives Matter, tal y como documentó la Electronic Frontier Foundation (EFF).

Han sido precisamente estas protestas raciales de EEUU las que han puesto en jaque una tecnología que ya venía siendo muy cuestionada por su mayor propensión al fallo en mujeres o en personas racializadas, como han demostrado varios estudios y experimentos (incluso los realizados por agencias oficiales del Gobierno). Acosados por las críticas, los principales proveedores de soluciones de reconocimiento facial, como Amazon, Microsoft o IBM, elevaron moratorias temporales al uso de sus propios productos por parte de las policías y agencias de seguridad del país, pidiendo una regulación federal que detalle cómo y dónde puede emplearse el reconocimiento facial.

Sin embargo, su actuación en este caso ha sido diferente. Amazon, por ejemplo, gastó 24.000 dólares en lobby para presionar al gobierno de Portland para que adoptara medidas menos restrictivas. En Washington, solo esta multinacional lleva invertidos más de 14 millones de dólares para intentar conseguir que el negocio del reconocimiento facial no caiga por completo debido a una ley nacional del estilo de la aprobada por Portland.

El debate está en auge porque más allá de sus sesgos discriminatorios, el reconocimiento puede ser muy propenso al error en determinados ámbitos. “Puede funcionar con 'niveles aceptables' en entornos cerrados (y con 'niveles aceptables' quiero decir con tasas de error del 30%) pero en entornos abiertos estábamos viendo tasas superiores al 90%, por lo cual básicamente es una tecnología inútil”, explicó a elDiario.es Gemma Galdón, consultora tecnológica.

Europa (y España) sigue sin normas específicas

Mientras EEUU avanza en las restricciones al reconocimiento facial, Europa sigue sin normas específicas en este campo. Las empresas que quieran implantar esta tecnología tienen que respetar el resto de leyes, especialmente la de protección de datos. Sin embargo, iniciativas como la de Mercadona, que está probando un sistema de reconocimiento facial para impedir la entrada en sus establecimientos de personas a las que la justicia haya impuesto órdenes de alejamiento contra sus tiendas o empleados, dejarían de ser posibles con una regulación asimilable a la adoptada por Portland esta semana.

La ciudad estadounidense tampoco permitirá el uso de reconocimiento facial en aeropuertos, por ejemplo, donde también está siendo probada en España. Aena tiene un proyecto piloto en el aeropuerto Adolfo Suárez Madrid-Barajas para que los pasajeros que vuelen a Bruselas o Asturias se identifiquen mediante su cara en el proceso de embarque. Requiere instalar una app y está activo desde finales de 2019 para “embarcar más rápido”.

De hecho, el reconocimiento facial lleva años avanzando de manera silenciosa en España, incluso en lugares públicos. Tan en silencio, que ni siquiera los dueños de los establecimientos interiores de la estación de autobuses Méndez Álvaro, en Madrid, sabían que esta dispone de un sistema de identificación de este tipo desde 2016. La organización alemana AlgorithmWatch realizó en agosto una investigación especial sobre las cámaras de reconocimiento presentes en esta infraestructura, revelando que tanto la Policía como la empresa privada adjudicataria de la seguridad tienen la capacidad de introducir una cara nueva en el sistema para que este detecte y siga a esa persona en cuanto entre en la estación, la más grande de España.

La Guardia Civil está investigando el potencial de esta tecnología de identificación para vigilar fiestas populares festivales y otros eventos multitudinarios, mientras que la Empresa Municipal de Transportes de Madrid pretendía poner en marcha un proyecto para probar el reconocimiento facial en el proceso de pago en autobuses públicos, pero ha tenido que detenerlo por el uso obligatorio de mascarillas.

Tanto en España como en la UE, el paradigma sigue siendo la autorregulación del sector bajo un modelo de “desarrollo ético”. Por el momento, los intentos de ir más allá han fracasado: el pasado mes de febrero, voces diversas criticaron la decisión de Bruselas de dejar morir su proyecto de imponer una prohibición de cinco años al uso de reconocimiento artificial, dando manga ancha a su implantación en el continente. “Hay tecnología que no está suficientemente madura para poderla regular y es prudente definir períodos de moratoria, no eliminar la innovación alrededor de la IA”, manifestó por su parte Carme Artigas, secretaria de Estado de Digitalización e Inteligencia Artificial, en una entrevista con elDiario.es. “El reconocimiento facial es una tecnología que está en fase de desarrollo inminente. Está claro que a nivel público hay que evitar su uso hasta que se pueda definir un marco normativo mucho más garantista”, opinó.