Pasar al contenido principal

Estás en:

Barcelona y ocho ciudades europeas establecen estándares para la creación de registros de algoritmos locales

Las ciudades de Barcelona, Rotterdam, Eindhoven, Mannheim, Bolonia, Bruselas y Sofía han cooperado en la creación de un modelo común de registro de algoritmos, basando su trabajo en las experiencias de Ámsterdam y Helsinki. Se trata de una de las acciones principales contempladas en la Estrategia municipal para el impulso de una IA ética que se ha desarrollado en el marco de la Eurocities Digital Forum Lab, órgano de cooperación estable que tiene como objetivo desarrollar soluciones digitales interoperables para las ciudades.

Eurocities
20/01/2023 - 13:08 h - Derechos Digitales Jorge Luis Fuentealba Diez

Barcelona es una de las nueve ciudades que colaboran a través de la red Eurocities y que han desarrollado un «esquema de datos» de código abierto gratuito para los registros de algoritmos de las ciudades. El esquema de datos, que establece pautas comunes sobre la información que debe publicarse sobre algoritmos y su uso por parte de una ciudad, apoya el uso responsable de la IA y sitúa a las personas al centro de los futuros desarrollos de la transformación digital.

Si bien la mayoría de ciudades utilizan principalmente sólo algoritmos simples, no IA avanzada con aprendizaje automático, el trabajo conjunto de las ciudades de Barcelona, Bolonia, Bruselas, Eindhoven, Mannheim, Rotterdam y Sofía a partir de las experiencias de Ámsterdam y Helsinki, pretende establecer garantías para evitar cualquier futuro uso indebido de datos y crear un modelo interoperable que pueda ser compartido y replicado por otras ciudades.

“Una vez más, demostramos que las ciudades estamos liderando la transformación digital poniendo a las personas y sus derechos en el centro. Con este estándar común hacemos realidad los principios éticos de la estrategia de algoritmos y datos de Barcelona, como la transparencia y la responsabilidad y el control democrático de los algoritmos, y nos adaptamos de forma proactiva a la propuesta de regulación de la IA a nivel europeo”, señala Laia Bonet, teniente de alcaldía de Transición Digital del Ayuntamiento de Barcelona.

“La inteligencia artificial puede ser un facilitador importante para mejorar los servicios públicos y apoyar la elaboración de políticas. Sin embargo, su uso también comporta preocupaciones éticas”, ha dicho André Sobczak, secretario general de Eurocities. “Los esfuerzos realizados por estas ciudades tienen como objetivo establecer un estándar para el uso transparente y ético de los algoritmos, mientras que su uso todavía está en su relativa infancia en las administraciones de las ciudades de Europa. De este modo, pretenden ofrecer una salvaguarda para las personas cuyos datos puedan ser utilizados por algoritmos, y han creado un modelo validado que otras ciudades pueden utilizar de inmediato, sin tener que invertir más recursos.”

Durante 2023 el Ayuntamiento de Barcelona implementará un registro de algoritmos municipal basado en este esquema de datos, que pondrá a disposición de la ciudadanía información sobre los sistemas algorítmicos que se utilizan en los servicios municipales. Así, cualquier persona que lo desee podrá acceder a información relacionada con los datos que se han utilizado para entrenar el sistema, su proporcionalidad y base legal, la supervisión humana o los procedimientos de reparo, entre otros.