Si por algo se caracterizan las «ciudades inteligentes» es porque muchos de sus sistemas informativos, de recogida de datos y de servicios están perfectamente organizados gracias a los algoritmos: métodos paso a paso de «hacer las cosas». Pero esos algoritmos muchas veces son como cajas negras que alguien puso allí, simplemente funcionan, dicen lo que hay que hacer y se hace. Para que eso «que hacen» sea más claro y transparente, algunas ciudades se están comprometiendo con crear un registro explicativos de los algoritmos utilizados por la ciudad.
La forma en que afectan estos algoritmos a los ciudadanos es clara y directa: se utilizan para calcular las predicciones de los atascos de tráfico, regular los aparcamientos, tomar medidas de seguridad en zonas conflictivas, regular los precios de los alquileres, las recogidas de basura y muchos otros. Si algo va mal pueden fallar la detección de los pisos de alquiler ilegales, las multas a los coches mal aparcados o incluso no saber que hay calles en las que se acumula basura… porque no identifican ciertos objetos como «bolsas de basura».
En el caso de Amsterdam, en los Países Bajos, han creado el llamado ‘Registro de Algoritmos‘, una web que explica de forma muy detallada los algoritmos de inteligencia artificial que emplea la ciudad. Además de resultar informativo, la gente puede aportar ideas y mejoras, señalar ineficiencias o informar sobre errores para mejorarlos.
La web contiene una explicación breve de qué pretende el algoritmo y qué factores tiene, junto con un enlace al servicio en cuestión. Esto se complementa con los datasets o conjuntos de datos utilizados, un esquema del procesamiento de esos datos, los posibles factores de discriminación, una indicación acerca de si hay supervisión humana o no y otros riesgos asociados (el más típico: sesgos de aprendizaje de los métodos empleados en los algoritmos).
Un ejemplo es el sistema inteligente de multas de aparcamiento: si una cámara detecta un vehículo aparcado en una zona restringida, realiza una lectura automática de la matrícula y luego comprueba si el propietario tiene la licencia apropiada para aparcar allí o no (ciertos residentes lo tienen); para esto se manejan las bases de datos de matrículas y de licencias. Si la matrícula no puede leerse correctamente un operador humano puede ir en persona al lugar en cuestión, o resolver otras dudas a partir de fotos si acaso hay alguna razón válida para que el coche esté aparcado (por ejemplo, que esté realizando una carga o descarga). Un potencial riesgo es que la matrícula se lea mal, el operador humano no detecte el fallo y por pura casualidad reciba una multa un vehículo que ni siquiera estaba allí. Para esto el algoritmo proporciona un periodo de reclamaciones.
Mediante otro algoritmo la ciudad de Amsterdam comprueba las quejas de los vecinos acerca de los pisos de alquiler turístico, que están limitados por ley (máximo 30 días al año, 4 personas por piso). El algoritmo ayuda a priorizar en este caso qué denuncias de los vecinos tienen mayor relevancia. Aquí el algoritmo sólo prioriza, pero la decisión última siempre recibe supervisión humana.
Un último ejemplo muy actual es un sistema de monitorización de distanciamiento social: mediante cámaras y un software de visión artificial llamado YOLO, se identifica la presencia y se calcula la distancia entre personas, asegurándose de que se cumple la regla del «metro y medio». El algoritmo es automático y no toma fotos ni vídeo por privacidad; sólo realiza los cálculos y borra los fotogramas sobre la marcha. Entre los posibles riesgos de «discriminación» que se señalan está que el algoritmo de aprendizaje automático no distinga bien a todas las personas, ya sea por su raza, edad, vestimenta u otras características físicas. En este caso no hay supervisión humana; los resultados numéricos calculados por el algoritmo para ciertas zonas públicas simplemente ayudan a las entidades responsables del control de la pandemia a tomar sus decisiones; tan pronto como decaigan las restricciones el sistema será desactivado.
Foto | Amsterdam (CC) Oleksandr Zhabin @ Unsplash; Amsterdam Algorithm Register
