ODS número 10: Reducció de les desigualtats, ODS número 11: Ciutats i Comunitats sostenibles i ODS número 16: Pau, Justícia i Institucions Sòlides

A mesura que el procés de digitalització va avançant en les administracions municipals, els algoritmes esdevenen una eina cada vegada més habitual per distribuir recursos/ajudes, per millorar l’eficiència en la gestió de serveis o, fins i tot, per ajudar a la presa de decisions. Aquesta evolució pot aportar moltes avantatges però també implica alguns riscos






06/03/2023

Exemples com els de la ciutat de Fuengirola, que utilitza la intel·ligència artificial per gestionar l'afluència a les seves platges i evitar l'amuntegament; de Florida que disposa d’un assistent telefònic virtual en el servei d'emergències (i que, per exemple, durant el pas de l'huracà Michael va alliberar a 211 agents de les trucades més senzilles); de Delaware, que està millorant l’efectivitat dels tractaments mèdics a partir de l'anàlisi de bases de dades del sistema de salut; del Regne Unit on s’han començat a utilitzar les tecnologies wereables per poder monitoritzar de manera automàtica l’activitat de persones dependents; i d’Stara Gora (Bulgària) que estan experimentant amb la introducció de sistemes semafòrics intel·ligents per evitar congestions i reduir la contaminació, mostren les enormes possibilitats que ofereix aquesta tecnologia.

Però tenint en compte que parlem de solucions que poden afectar drets bàsics i a serveis públics cal evitar caure en visions naïf. I és que malgrat que pugui semblar que la utilització de solucions automàtiques és una garantia d'objectivitat, els algoritmes amb que treballen no deixen d'estar dissenyats per persones que hi poden reflectir els seus valors i la seva visió del món (sobre qüestions socials, de gènere, racials, culturals, religioses, etc.).

És per això que, en el procés de disseny dels algoritmes, els governs han de preveure l'establiment de sistemes de transparència, de control i de participació ciutadana per evitar el risc que, en lloc d'esdevenir un mitjà per afavorir la justícia social i la imparcialitat en la presa de decisions, acabin introduint esbiaixos ocults que agreugin les desigualtats o les discriminacions.