Durante la seduta plenaria sono stati bocciati gli emendamenti, presentati dal Ppe, per autorizzare il riconoscimento facciale con l’AI in luoghi pubblici "in diretta" per le indagini autorizzate dalla magistratura. Il riconoscimento potrà avvenire solo su filmati registrati previa autorizzazione del giudice per reati già commessi. "Siamo riusciti a mentenere un chiaro divieto al riconoscimento facciale in tempo reale. C'era stato un tentativo di politicizzarlo, di trasformarlo in un mezzo di propaganda, ma abbiamo vinto al Parlamento e siamo riusciti a mantenere una chiara salvaguardia per evitare ogni rischio di sorveglianza di massa", ha detto l'eurodeputato del Pd, Brando Benifei, correlatore al Parlamento europeo per il regolamento sull'Intelligenza artificiale.
L’AI Act, come la legge è stata battezzata, cercherà di stabilire uno standard globale per una tecnologia utilizzata in tutti i settori: dalle fabbriche automatizzate alle auto a guida autonoma ai chatbot come ChatGpt. I legislatori dovranno ora definire i dettagli con i Paesi dell'UE prima che la bozza di regole diventi legge.
Il 12 maggio l’Eurocamera aveva approvato in prima battuta l’AI Act. È di fatto il primo testo di legge al mondo per regolamentare l’uso dell’intelligenza artificiale. Bruxelles è decisa a porre così le basi per un ventaglio di regole che mirano a garantire che i sistemi di intelligenza artificiale siano "supervisionati dalle persone". Che siano sicuri, trasparenti, tracciabili e non discriminatori. Il sì definitivo al pacchetto di norme dovrebbe arrivare entro la fine dell’anno.
In dettaglio, le norme seguono un approccio basato sul rischio e stabiliscono obblighi per fornitori e operatori dei sistemi di IA a seconda del livello di rischio che può generare. Saranno quindi vietati i sistemi di IA che presentano un livello di rischio inaccettabile per la sicurezza delle persone, come quelli utilizzati per il punteggio sociale (classificare le persone in base al loro comportamento sociale o alle loro caratteristiche personali).
Rispetto al testo iniziale durante la plenaria i deputati hanno ampliato l'elenco per includere divieti sugli usi intrusivi e discriminatori dell'IA.
Tra questi: l'uso di sistemi di identificazione biometrica remota "in tempo reale" e "a posteriori" in spazi accessibili al pubblico; i sistemi di categorizzazione biometrica basati su caratteristiche sensibili (ad esempio genere, razza, etnia, cittadinanza, religione, orientamento politico); i sistemi di polizia predittiva (basati su profilazione, ubicazione o comportamenti criminali passati); i sistemi di riconoscimento delle emozioni utilizzati dalle forze dell'ordine, nella gestione delle frontiere, nel luogo di lavoro e negli istituti d'istruzione; e l'estrazione non mirata di dati biometrici da Internet o da filmati di telecamere a circuito chiuso per creare database di riconoscimento facciale (in violazione dei diritti umani e del diritto alla privacy).
