Nace un registro de algoritmos
usados en los servicios públicos

Desde hace ya algún tiempo las decisiones de los algoritmos condicionan muchos aspectos de la vida diaria. También en las ciudades, donde cada vez es más necesario mejorar la accesibilidad y la experiencia de los ciudadanos con los servicios públicos municipales.

El algoritmo es un conjunto de instrucciones predeterminadas, que serán ejecutadas por el ordenador. A estos efectos, se puede considerar que el algoritmo es como una receta de cocina, en la que los datos son los ingredientes. Sin embargo, su característica es que pueden llegar a aprender de forma autónoma. Por ejemplo, cuando se programa un algoritmo para que reconozca la basura que se deposita en la calle, es previamente entrenado. Mostrándosele imágenes de bolsas de basura. Cuantas más imágenes procese, mejor será el algoritmo. De este modo, y a través de tecnología de visión artificial, habrá aprendido a reconocer qué se considera basura, y, por tanto, a diferenciarla de otro tipo de objetos. Una vez logrado ese objetivo, ya puede implementarse esa capacidad en otro tipo de dispositivos, por ejemplo, en camiones de basura o robots basureros, al objeto de que pueda prestarse el servicio público de recogida de residuos urbanos de una manera más eficiente.

En este caso, la ciudad holandesa de Ámsterdam considera que todos sus vecinos deben poder tener acceso a información completa y comprensible sobre cómo el uso de algoritmos afecta a sus vidas. Por eso ha optado por ser transparente en el uso que hace de dicha tecnología, y poner a disposición de los vecinos información completa y detallada, a través de un registro, donde poder acceder a tal información, así como acceder a información de los servicios que se prestan basados en aquellos.

El objetivo que se persigue es el de que, a la vez que los ciudadanos que acceden a la información contenida en el Registro pueden opinar y compartir su experiencia, ayudan a construir una inteligencia artificial que debe priorizar la protección de la persona por encima de otros intereses, lo que en el argot se conoce comúnmente como human centric. Sin embargo, una iniciativa tan novedosa no está exenta de cuestiones legales y éticas, que siempre deben ser tenidas en cuenta durante el diseño de proyectos que empleen algoritmos.

Francisco Pérez Bes, socio de Derecho Digital de Ecix, afirma que “los algoritmos que se usan por parte del sector público deben estar sometidos a la mismas normas y principios que el resto de los servicios prestados por la Administración. Eso implica que sus decisiones no deben discriminar a nadie, han de ser transparentes, deben estar sometidas a control humano, y siempre deben respetar los derechos de las personas”.

Otro caso de uso de algoritmos tiene que ver con el alquiler de vivienda, pues la ciudad tiene un espacio habitable limitado. Si un ciudadano quiere alquilar su vivienda o su barco a turistas, debe cumplir con una serie de requisitos, entre los que están los que limitan el plazo máximo de duración del alquiler a 30 noches por año, y a un máximo de cuatro personas a la vez. En el caso de que la municipalidad reciba alguna queja por parte de otros vecinos, que haga sospechar que dichas condiciones se están incumpliendo, el Ayuntamiento inicia una investigación, en la que un algoritmo analiza un histórico de casos de fraude y calcula la probabilidad de que se esté produciendo una situación de alquiler vacacional ilegal en ese domicilio.

Los ciudadanos de Ámsterdam también pueden poner en conocimiento del Ayuntamiento, a través de canales digitales, si hay alguna incidencia que afecte al mantenimiento del mobiliario urbano. En este caso, a través de un algoritmo, el sistema interpreta el mensaje reportado por el usuario, lo clasifica en virtud de su naturaleza y gravedad, y lo remite al departamento competente para su resolución. De este modo, se agiliza la burocracia en el reporte, y se gana rapidez en la resolución del incidente.

“En España, el derecho público ya recoge, desde hace tiempo, la posibilidad de la toma de decisiones automatizadas en el proceso administrativo”, recuerda Pérez Bes. “E, incluso, existen precedentes de situaciones en las que ciudadanos han ejercido su derecho a obtener información sobre el funcionamiento de este tipo de tecnología, y se les ha facilitado. El crecimiento en el uso de algoritmos por parte de la Administración es una gran oportunidad para mejorar la eficacia de la Administración, aunque jamás debe perseguirse este objetivo a costa de sacrificar los derechos de los ciudadanos. Son los algoritmos los que están a servicio de los ciudadanos, y no a la inversa”, concluye.