ODS número 11: Ciutats i Comunitats sostenibles i ODS número 16: Pau, Justícia i Institucions Sòlides

Així com ho van ser l'electricitat o la xarxa Internet en el seu moment tot fa preveure que la IA esdevindrà una de les forces transformadores del nostre temps

Una tecnologia amb enorme potencial per fer més eficient el funcionament de totes les organitzacions, tant del sector públic com privat, però que no està exempta de riscos






28/06/2024

La intel·ligència artificial (IA) ha passat en poc temps d’aparèixer com una tecnologia de ciència ficció a ser una realitat en la nostra quotidianitat. De fet, els no experts en qüestions tecnològiques ens comencem a adonar ara del potencial que pot tenir aquesta tecnologia aplicada a la gestió pública: presa de decisions algorítmiques, tractament massiu de grans volums de dades, sistemes de processament de llenguatge natural i de veu, predicció de situacions de risc, o fins i tot, el controvertit reconeixement biomètric. Aplicacions que ja es fan servir de manera recurrent en serveis públics tan diversos com els de l'administració de justícia, la gestió de recursos humans, els serveis financers, la mobilitat, la sanitat o la provisió de serveis públics.

En aquest "inici del camí” és essencial que els governs creïn les condicions idònies per aprofitar al màxim els avantatges de la nova tecnologia (formant als treballadors/es públics, explorant les possibles aplicacions pràctiques, adaptant els processos administratius a la nova tecnologia, invertint en les infraestructures necessàries, etc.) i per prevenir-ne els riscos (com els relacionats amb la seguretat, la imparcialitat, la transparència, la igualtat d’oportunitats d’accés als serveis públics o la legalitat).

D'aquesta manera, a la carrera per desenvolupar la IA se li ha de sumar la carrera per regula-la, on ser el primer a actuar pot donar un avantatge competitiu gens menyspreable. Un nou terreny de joc en el que, a més dels governs nacionals, i davant la seva lentitud, el món local –una vegada més– s'està posicionant com a actor indispensable per al desenvolupament d'una transformació tecnològica ètica i responsable.

En l'actuació de les ciutats en aquesta matèria és referència obligada el treball que desenvolupa la Coalició de Ciutats pels Drets Digitals (Cities Coalition for Digital Rights [CC4DR]), una iniciativa llançada el novembre de 2018 per les ciutats de Barcelona, Amsterdam i Nova York, que compta amb el suport d'ONU-Hàbitat i que té com a missió la promoció i la defensa dels drets digitals en entorns urbans. Concebuda com una aliança pragmàtica, les ciutats membres (actualment al voltant de 50) comparteixen bones pràctiques i coneixement expert per abordar desafiaments comuns vinculats a la formulació de polítiques basades en drets digitals. És una coalició, a més, que treballa per elaborar marcs legals, ètics i operatius que ajudin les ciutats a protegir els drets de la ciutadania en els entorns digitals.

Altres iniciatives que mereixen menció específica són els municipis que estan començant a desenvolupar marcs normatius per incorporar la IA a les institucions municipals de manera ètica i ordenada, com són:

1.- Barcelona amb l"Estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial", que recull mesures com la creació d'un registre públic d'algorismes o l'establiment de clàusules a la compra pública per assegurar que les licitacions municipals de sistemes d'IA siguin respectuoses amb els drets humans.

2.- Nova York, l"Estratègia d'IA" (d'octubre 2021) que defineix les àrees en què la IA té el potencial d'aportar més beneficis amb el menor risc possible, així com les formes en què l'administració pot fer servir la IA internament per millorar el servei a la ciutadania.

3.- A banda d'aquestes estratègies genèriques algunes ciutats estan també impulsant reglaments per establir límits en l'ús de la IA en àmbits específics, especialment en els casos on hi ha el risc que l'ús de sistemes automatitzats pugui conduir a discriminacions i vulneracions de drets fonamentals . És el cas de la Llei de Nova York sobre els sistemes de contractació automatitzats, que estipula que qualsevol d'aquests sistemes usat a la ciutat a partir de l'abril del 2023 s'ha de sotmetre a una auditoria de biaix per avaluar-ne la imparcialitat Un altre exemple són els reglaments impulsats per ciutats nord-americanes, com ara Boston, Minneapolis, San Francisco, Oakland o Portland, que prohibeixen a les agències governamentals –inclosa la policia– l'ús de tecnologies de reconeixement facial. Finalment esmentar els casos d'Amsterdam i de Hèlsinki que han establert l'obligació de publicar als seus portals web la informació sobre els sistemes algorítmics usats per prestar serveis públics com a mesura per garantir la transparència i la rendició de comptes.