Come utilizzare l'Artificial Intelligence Act per indagare su bias e discriminazioni dell'IA: una guida per gli organismi per la parità

Il documento, pubblicato da Equinet e scritto dal Professor Brent Mittelstadt (Oxford Internet Institute), è un manuale pratico che spiega come utilizzare il nuovo Regolamento europeo sull’Intelligenza Artificiale (Artificial Intelligence Act, AIA) per indagare e contrastare bias e discriminazioni generate dai sistemi di IA.

Il documento illustra i rischi di discriminazione algoritmica, il ruolo delle metriche di equità e fornisce strumenti operativi per identificare, documentare e segnalare casi di discriminazione, con particolare attenzione alle nuove prerogative delle Equality Bodies previste dall’AIA, come l’accesso alla documentazione tecnica e i diritti di testing dei sistemi IA.

Il manuale affronta anche la collaborazione con le autorità di sorveglianza di mercato e suggerisce strategie per evitare l’“ethics-washing” e garantire che le misure di equità siano coerenti con gli standard legali europei.

Indice del documento

1. Introduzione all’AIA e ai rischi di discriminazione algoritmica
2. Ruolo e poteri delle Equality Bodies secondo l’AIA
3. Come accedere alla documentazione tecnica e richiedere test sui sistemi IA
4. Metodologie per identificare e documentare il bias algoritmico
5. Collaborazione con le autorità di sorveglianza di mercato (MSA)
6. Strategie contro l’ethics-washing e per l’allineamento tra standard tecnici e diritto antidiscriminatorio
7. Raccomandazioni operative e conclusioni

• Un quadro aggiornato sulle novità normative introdotte dall’AIA e sulle responsabilità degli attori pubblici nella prevenzione delle discriminazioni algoritmiche.
• Strumenti pratici per accedere e analizzare la documentazione tecnica dei sistemi IA, richiedere test indipendenti e collaborare con le autorità di sorveglianza.
• Indicazioni su come documentare e segnalare casi di bias, promuovere l’allineamento tra standard tecnici e diritto antidiscriminatorio, e contribuire all’evoluzione delle policy pubbliche sull’IA.
• Spunti per rafforzare la tutela dei diritti fondamentali nell’adozione di IA nei servizi pubblici e nei processi decisionali automatizzati

Il documento è stato sviluppato anche come contributo al processo di standardizzazione tecnica europea sull’IA (JTC-21, CEN/CENELEC), con l’obiettivo di garantire che i futuri standard di misurazione e mitigazione del bias siano coerenti con la normativa antidiscriminatoria europea.

Tipologia documentale:

MANUALE

Data di pubblicazione:

10 ottobre, 2024

Link al documento:

https://equineteurope.org/publications/how-to-use-the-artificial-intelligence-act-to-investigate-ai-bias-and-discrimination-a-guide-for-equality-bodies/

Classificazione:

Autore: Prof. Brent Mittelstadt (Oxford Internet Institute)
Coautore: Promosso da: Equinet, European Network of Equality Bodies
Lingua: INGLESE