AI ACT: accordo in Unione Europea su come regolare lintelligenza artificiale. La ricaduta sul sistema formativo

Dopo una “maratona” di 3 giorni, la presidenza del Consiglio e i negoziatori del Parlamento europeo hanno raggiunto un accordo provvisorio sulla proposta di norme armonizzate sull’intelligenza artificiale (AI), la cosiddetta legge sull’intelligenza artificiale . Il progetto di regolamento mira a garantire che i sistemi di IA immessi sul mercato europeo e utilizzati nell’UE siano sicuri e rispettino i diritti fondamentali e i valori dell’UE. Questa proposta storica mira anche a stimolare gli investimenti e l’innovazione sull’intelligenza artificiale in Europa.

La proposta segue un approccio basato sul rischio e stabilisce un quadro giuridico uniforme e orizzontale per l’IA che mira a garantire la certezza del diritto. Il progetto di regolamento mira a promuovere gli investimenti e l’innovazione nell’IA, a migliorare la governance e l’efficace applicazione della normativa esistente sui diritti fondamentali e sulla sicurezza e a facilitare lo sviluppo di un mercato unico per le applicazioni dell’IA. Va di pari passo con altre iniziative, tra cui il piano coordinato sull’intelligenza artificiale che mira ad accelerare gli investimenti nell’IA in Europa.

Un anno fa, il 6 dicembre 2022, il Consiglio aveva raggiunto un accordo su un orientamento generale (mandato negoziale) su questo fascicolo e aveva colloqui interistituzionali con il Parlamento europeo (“triloghi”) a metà giugno 2023 dopo che il Parlamento aveva approvato la propria proposta.

I livelli di rischio

Il percorso normativo che dà il via all’AI ACT (percorso seguito sempre con attenzione da Tecnica della Scuola) si fonda sulla suddivisione dei rischi derivanti dall’ AI in 4 diverse tipologie (da insostenibile a trascurabile) e per ogni livello di rischio vengono definite regole specifiche. Per il rischio più alto, ad esempio, vi è il divieto assoluto di utilizzo.

Uno degli elementi cruciali è quello della responsabilità  delle società tecnologiche alle quali sarà richiesta una certificazione sugli algoritmi, che dovranno essere il più possibile ripuliti dai pregiudizi , e sui dati che dovranno avere una conformità ambientale e di sicurezza.

Sono considerati i sistemi di IA che potrebbero causare gravi violazioni dei diritti fondamentali. I sistemi di intelligenza artificiale che presentano solo rischi limitati sarebbero soggetti a obblighi di trasparenza più leggeri , ad esempio sarà obbligatorio indicare che un contenuto è stato generato dall’intelligenza artificiale in modo che gli utenti possano prendere decisioni informate sull’ulteriore utilizzo.

Che conseguenze per il sistema formativo?

Alcuni dei usi dell’IA ritenuti inaccettabili e, pertanto banditi dall’UE, toiccano molto da vicino questioni connesse all’educazione. L’accordo vieta, ad esempio, la manipolazione cognitivo comportamentale , la cancellazione non mirata di immagini facciali da Internet o filmati di telecamere a circuito chiuso, il riconoscimento delle emozioni sul posto di lavoro e nelle istituzioni educative, il social scoring , la categorizzazione biometrica per dedurre dati sensibili, come l’orientamento sessuale o religioso. convinzioni personali e alcuni casi di polizia predittiva per gli individui.

Non è (e non sarà) così possibile in Europa realizzare le sperimentazioni effettuate in Cina e di cui parlano Rivoltella e Panciroli nel volume Pedagogia Algoritmica ed a cui ha dedicato un puntata del suo podcast Francesco Pira.

Entrata in vigore

L’accordo del 9 dicembre 2023 prevede che la legge sull’AI si applichi due anni dopo la sua entrata in vigore, con alcune eccezioni per disposizioni specifiche. Nelle prossime settimane proseguiranno i lavori a livello tecnico per finalizzare i dettagli del nuovo regolamento cui seguirà la presentazione del testo ai rappresentanti degli Stati membri (Coreper) per approvazione una volta conclusi i lavori. L’intero testo dovrà essere confermato da entrambe le istituzioni e sottoposto a revisione giuridico-linguistica prima dell’adozione formale da parte dei colegislatori che, ricordiamo, sono il Consiglio Europeo e il Parlamento Europeo

Maggiori informazioni sull’accordo del 9 dicembre 2023 sono ritrovabili qui:

Consiglio Europeo

Parlamento Europeo