This contribution focuses on Regulation (EU) 2024/1689, better known as «AI Act», in order to address a specific research question: whether, and to what extent, the AI Act attempts to promote strategies to counter algorithmic discrimination, with particular reference to that occurring in states of emergency. To this end, the paper preliminarily outlines the issue of algorithmic discrimination in general, identifying in brief the most affected categories, the reasons why AI systems can produce discriminatory effects, and the resulting consequences. Then, it analyses the specific matter of algorithmic discrimination in states of emergency, explaining why such phenomenon raises particular concerns: for this purpose, it considers two of the main categories of digitalised and AI-based solutions most frequently employed during crises – i.e., mass surveillance and registration measures, and decision-support tools – assessing their potential to produce discriminatory effects. At that point, the contribution turns to the AI Act, examining the presence of provisions aimed at countering not only algorithmic discrimination in general, but also that which can occur in states of emergency. Finally, some concluding remarks are offered, highlighting not only the positive aspects, but also the limitations and margins for improvement of the current EU legal framework.

Il presente contributo si concentra sul Regolamento (UE) 2024/1689, meglio noto come «AI Act», al fine di rispondere a una specifica domanda di ricerca: se, e in quale misura, l’AI Act tenti di promuovere strategie per contrastare la discriminazione algoritmica, con particolare riferimento a quella che si manifesta negli stati di emergenza. A tal fine, l’articolo delinea preliminarmente il tema della discriminazione algoritmica in generale, individuando in breve le categorie più colpite, le ragioni per cui i sistemi di IA possono produrre effetti discriminatori e le conseguenze che ne derivano. Poi, viene analizzato il problema specifico della discriminazione algoritmica negli stati di emergenza, illustrando le ragioni per cui tale fenomeno solleva particolari preoccupazioni: a tal fine, vengono considerate due delle principali categorie di soluzioni digitalizzate e basate sull’IA più frequentemente impiegate durante le crisi – cioè le misure di sorveglianza e registrazione di massa e gli strumenti di supporto decisionale – valutandone l’idoneità a produrre effetti discriminatori. A questo punto, il contributo si dedica all’AI Act, esaminando la presenza di disposizioni volte a contrastare non solo la discriminazione algoritmica in generale, ma anche quella che può verificarsi negli stati di emergenza. Infine, vengono formulate alcune considerazioni conclusive, che evidenziano non solo gli aspetti positivi, ma anche i limiti e i margini di miglioramento dell’attuale disciplina giuridica UE.