“IA i drets fonamentals: el model FRIA català i la transparència algorísmica”

L’ús de la intel·ligència artificial en els serveis públics obre noves oportunitats, però també comporta riscos que poden afectar drets fonamentals com la protecció de dades, la dignitat, la igualtat, la llibertat d’expressió o el dret d’assistència social. Com podem garantir un ús ètic i responsable de la IA a l’administració pública? Com podem generar confiança en aquests sistemes?

En aquesta sessió, presentarem dues metodologies complementàries per abordar aquestes qüestions:

– El model FRIA català, un marc metodològic rigorós per avaluar l’impacte de la IA sobre els drets fonamentals, especialment en sistemes d’alt risc. Aquest model, recentment presentat per l’Autoritat Catalana de Protecció de Dades (28/1/2025), proposa una metodologia per complir amb l’obligació establerta a l’art. 27 del RIA i ho exemplifica en 4 casos d’ús reals. Veurem, en concret, la seva aplicació en el projecte Atenea de l’Ajuntament de Sant Feliu de Llobregat, un assistent de veu amb IA dissenyat per donar suport a persones grans
– Els informes de transparència algorísmica de l’AOC, una iniciativa que garanteix els drets de transparència i explicabilitat. Aquests informes faciliten que ciutadania i administracions comprenguin com funcionen els algorismes i els seus impactes, fomentant la confiança en els serveis públics que utilitzen IA i dades.

Combinades, aquestes eines contribueixen a un ús més just i responsable de la IA en els serveis públics i podrien esdevenir un estàndard de referència en la governança algorísmica, i la garantia de l’estricte compliment de la normativa europea en matèria d’IA en benefici dels drets i llibertats de la ciutadania.