Daniel Murias
Cada vez son más las ideas de la serie distópica 'Black Mirror' que se vuelven realidad. Joel Feder es director de contenidos de The Drive, y ha terminado un domingo cualquiera encañonado por cuatro agentes de policía porque las cámaras de videovigilancia del país y un algoritmo le han señalado como sospechoso de robo de coche.
Estados Unidos lleva una década construyendo, casi sin debate público, la mayor red de vigilancia de su historia. Y está en manos de una empresa privada, sin apenas control.
Cuando el algoritmo dice que eres un delincuente
Miles de cámaras de lectura de matrículas, instaladas por empresas privadas y compartidas con departamentos de policía de medio país, registran cada coche que pasa y lo cruzan contra bases de datos de vehículos robados. El sistema funciona razonablemente bien cuando los datos que alimentan el algoritmo son correctos. El problema aparece cuando no lo son, y entonces la maquinaria se vuelve contra un inocente.
Eso es lo que le ocurrió a Joel Feder, director de contenidos de The Drive, mientras probaba un Range Rover, un SUV de lujo de más de 155.000 dólares. Un domingo cualquiera, después de hacer una devolución en un centro comercial de un suburbio de Minnesota, cuatro coches patrulla lo bloquearon en el aparcamiento. Los agentes, arma en mano, le ordenaron salir del vehículo. Su mujer, sentada en el asiento del copiloto, recibió el mismo trato.
En ese momento Feder no lo sabía, pero el origen de todo fue un error de transcripción cometido a más de 2.500 kilómetros de distancia. Un concesionario de Jaguar Land Rover en Los Ángeles había extraviado la matrícula de un coche de su flota durante una sesión de fotos y la denunció como extraviada ante la policía local.
La matrícula era “34 03 DTM”, con el número intermedio en un tamaño de fuente muy reducido, un formato no estándar que usa Nueva Jersey para las matrículas a nombre de un fabricante de coches (y por razones fiscales son muchos en Nueva Jersey). Al introducir la denuncia en el sistema, alguien simplificó la combinación a “34 DTM”, sin el “03” pequeño.
Ese dato, ya corrompido, llegó a Flock Safety, la empresa que opera buena parte de las cámaras lectoras de matrícula usadas por policías municipales en Estados Unidos. Su software de reconocimiento óptico tampoco leyó los números diminutos intercalados, así que cualquier vehículo con una matrícula que empezara por 34 y terminara por DTM saltaba como coincidencia positiva.
La policía de Plymouth, en Minnesota, llevaba varios días siguiendo el rastro del Range Rover de Feder a través de la red de cámaras, perdiéndolo cada vez que el coche entraba en su garaje. Cuando una cámara lo detectó girando hacia el aparcamiento del centro comercial, montaron una emboscada con dron incluido. Tras una tensa discusión, accedieron a hablar con alguien de Jaguar Land Rover. Y no fue fácil dar con una persona un domingo por la tarde para corroborar que no era un coche robado mientras le apuntaban con las armas.
Lo revelador no es el error puntual, sino su alcance. Según el propio agente, otros cuatro vehículos con la misma estructura de matrícula estaban siendo rastreados esa semana solo en Minnesota. La única forma de frenar la cascada de falsos positivos era que el departamento de policía de Los Ángeles corrigiera el atestado original y Flock actualizara su base de datos.
Flock Safety opera ya en miles de municipios estadounidenses mediante contratos con ayuntamientos y policías locales, sin apenas supervisión judicial sobre cómo se generan, corrigen o eliminan las alertas. El caso de Feder no es una anomalía del sistema. Es una demostración de cómo funciona cuando todo sale mal: sin un ser humano verificando el dato antes de enviar patrullas armadas, un error de tecleo en California puede acabar con una familia rodeada a punta de pistola en Minnesota.
¿Podría pasar algo así en España?
Existen en España precedentes de errores parecidos, pero menos espectaculares, como las matrículas mal registradas en el fichero FIVA de seguros. En ese caso, es como ir sin seguro, lo que puede suponer una multa de hasta 1.500 euros. Por otra parte, el Sistema de Información Schengen puede propagar una alerta de coche robado de un país a todo el espacio Schengen sin que el agente que te pare pueda corregirla en el sitio.
La diferencia con el caso de Feder, más allá de que en Europa no nos encañonan por la mínima, es que en España el sistema lo opera la DGT de forma centralizada, no una empresa privada vendiendo su red a miles de policías municipales descoordinados con un sólo objetivo, la rentabilidad, como sí hace Flock en Estados Unidos.
Lo que más protege al conductor aquí es el Reglamente General de Protección de Datos (RGPD) que obliga a mantener los datos exactos y da derecho a rectificación inmediata, algo que en Flock depende de la voluntad contractual entre la empresa y de cada policía local. El fallo de origen es igual de posible en Europa, pero lo más probable es que derive antes en una multa injusta y recurrible que en una encerrona con las armas desenfunda.
Imágenes | Joel Feder - The Drive, Range Rover
En Motorpasión | Menos fábricas, menos modelos y menos empleados, así es el plan con el que Volkswagen quiere salir de la crisis
Ver 2 comentarios