Intelligenza artificiale, gli eurodeputati chiedono regole severe sulle applicazioni in ambito penale

Telecamera per il riconoscimento facciale presso la stazione Suedkreuz di Berlino. [EPA-EFE/CARSTEN KOALL]

Buona parte dei parlamentari di Strasburgo chiedono che il fenomeno sia governato e regolamentato, in particolare per quel che riguarda l’uso da parte delle autorità di polizia e nel sistema giudiziario che deve essere soggetto a controlli rigorosi.

In vista del regolamento sull’intelligenza artificiale gli eurodeputati hanno insistito, lunedì 4 ottobre a Strasburgo, che l’uso da parte delle autorità di polizia e nel sistema giudiziario sia soggetto a controlli rigorosi. “L’idea alla base di questa relazione non è solo quella di recuperare, ma di creare un quadro”, ha detto ad Euractiv.com il relatore Petar Vitanov deputato S&D.

Anche se non è vincolante, il nuovo rapporto sull’intelligenza artificiale (AI) in materia penale potrebbe aprire la strada al Parlamento europeo per sostenere un approccio basato sul rischio, mentre i deputati dovranno presto prendere in esame il quadro normativo proposto dalla Commissione in aprile. Il testo stabilisce i “principi di equità, minimizzazione dei dati, responsabilità, trasparenza, non discriminazione e spiegabilità” per proteggere i diritti fondamentali.

“L’AI può essere molto utile”, ha detto Vitanov, ma “stiamo cercando di separare le aree in cui può essere utile da quelle che portano risultati soggettivi”. “Il riconoscimento facciale negli spazi pubblici può essere facilmente trasformato in sorveglianza di massa”, ha affermato il socialista democratico. “Immaginate di non essere più anonimi, non ci pensereste due volte prima di andare a una manifestazione?”, ha domandato.

Il deputato ha anche sottolineato che bisogna evitare un eccessivo affidamento sui dati forniti dall’AI e che gli esseri umani dovrebbero sempre avere l’ultima parola. “Non si può fare affidamento su una macchina”, ha sottolineato, invitando le autorità a costruire fiducia e conoscenza quando si mettono in discussione i risultati degli algoritmi.

Gli emendamenti del Ppe

Mentre la maggior parte dei gruppi ha lodato la posizione “equilibrata” del rapporto, l’esponente del Partito popolare europeo Tom Vandenkendelaere ha lamentato che il “rapporto è al di sotto delle aspettative della gente”. “Non dovremmo buttare via il bambino con l’acqua sporca”, ha detto l’esponente cristiano-democratico.

Il gruppo del Ppe ha presentato tre emendamenti nel tentativo di ammorbidire il testo sull’uso dell’IA da parte delle forze dell’ordine per applicare delle previsioni comportamentali. Allo stesso modo, gli eurodeputati popolari hanno offerto di scambiare una moratoria sull’impiego del riconoscimento facciale negli spazi pubblici per una promessa di “garantire il rispetto dei diritti fondamentali”.

Intelligenza artificiale, il garante europeo chiede il divieto del riconoscimento facciale

Le agenzie di protezione dei dati europee hanno chiesto lunedì 21 giugno che sia vietato l’uso dell’intelligenza artificiale per riconoscere le persone nei luoghi pubblici, ritenendolo un rischio estremamente alto di violazione della privacy.

In un’opinione non vincolante, il Comitato europeo …

“Stanno minando l’architettura del rapporto”, ha detto Vitanov prima del voto, preoccupandosi che gli emendamenti avrebbero aperto la strada alla sorveglianza di massa e ai compiti di polizia sulle previsioni comportamentali, considerate dal membro S&D una violazione della presunzione di innocenza.

“Il voto di oggi rappresenta un momento storico, poiché il Parlamento europeo ha preso una posizione coraggiosa contro gli usi inaccettabilmente rischiosi dell’IA come la sorveglianza biometrica di massa e la polizia predittiva”, ha detto ad Euractiv.com Ella Jakubowska, consigliere politico dell’European Digital Rights (EDRi).

La sua associazione e altre 39 organizzazioni per i diritti umani avevano invitato i legislatori a respingere gli emendamenti “al fine di garantire il pieno rispetto dei diritti fondamentali e dei valori dell’Ue”. “Se siamo seri, non dobbiamo farci temere vietando alcune applicazioni di IA che si dimostrano inaffidabili”, ha aggiunto Vitanov.

Il pieno potenziale dell’AI

“Questo non significa che vogliamo dare ‘carta bianca’” alla polizia, ha sostenuto Vandenkendelaere considerando che “l’IA è qui per restare” e che i legislatori dovrebbero sfruttare al massimo il suo “pieno potenziale” per proteggere i cittadini europei.

Il collega Ppe Jeroen Lenaers ha sottolineato che i parlamentari devono evitare la situazione in cui “i criminali approfittano dell’IA ma le forze dell’ordine non possono usarla”. Allo stesso modo, Tomislav Sokol ha esortato i suoi colleghi a “evitare la paranoia nel [loro] approccio”. “Tutto ciò che abbiamo è lassismo per i criminali e lezioni ideologiche per le forze dell’ordine”, ha aggiunto il deputato Jean-Lin Lacapelle.

D’altra parte, Brando Benifei (S&D) ha espresso soddisfazione sul rapporto e sul fatto che “dia un messaggio forte e chiaro: l’uso di tecnologie di riconoscimento biometrico in tempo reale in spazi accessibili al pubblico deve essere vietato”. Inoltre l’eurodeputato e presidente del Gruppo Spinelli ha detto ad Euractiv.com che “le tecniche di previsione per le attività di polizia hanno un rischio molto elevato di discriminazione e mettono in discussione uno dei principi fondamentali dei quadri legislativi democratici, la presunzione di innocenza”.

Il commissario UE Breton: la padronanza della tecnologia è fondamentale per il "nuovo ordine geopolitico"

La crisi del Covid-19 ha messo in luce le vulnerabilità strategiche dell’Europa, e ha messo in luce la necessità che l’Unione europea promuova la propria politica industriale e raggiunga la sovranità tecnologica nel “nuovo ordine geopolitico” globale: lo ha detto …

Benifei ha promesso poi di assumere una posizione simile sull’Artificial Intelligence Act, una proposta legislativa di riferimento di cui è relatore nella commissione per il mercato interno e la protezione dei consumatori (Imco). “Il lavoro sull’AI Act si baserà su queste solide basi, per un’AI che metta veramente l’uomo al centro, rispettando i diritti umani e i valori che fanno dell’Europa un grande continente”, ha concluso il deputato.

La Commissione Ue punta alla standardizzazione

Secondo la Commissione europea, la sua proposta di legge sull’intelligenza artificiale lanciata nello scorso aprile dovrebbe diventare un riferimento globale per essere pienamente efficace. L’imminente rapporto sull’intelligenza artificiale, redatto dal Consiglio d’Europa, potrebbe aiutare l’Ue a raggiungere proprio questo obiettivo per poi renderlo uno standard per il resto del mondo.

La proposta sull’AI della Commissione finalizzata ad una legge sull’intelligenza artificiale (AIA), prevede un regolamento che, strutturato intorno a un approccio basato sul rischio, introduce obblighi più stretti in proporzione al potenziale impatto delle applicazioni AI.

A metà settembre il commissario europeo Thierry Breton ha detto che “non si dovrebbe sottovalutare il vantaggio dell’Ue di essere il primo a muoversi”, evidenziando che l’Unione è il principale “pacemaker” nella regolamentazione dell’uso dell’AI sulla scala globale.

Su una simile lunghezza d’onda Roberto Viola, direttore generale della Commissione per le reti di comunicazione, i contenuti e la tecnologia, ha affermato come “l’equilibrio” sia “la chiave per avere un approccio orizzontale basato sul rischio in cui molte voci sono ascoltate per evitare estremismi e creare regole che durano”. “La standardizzazione dell’AI ha bisogno del contributo di paesi che la pensano allo stesso modo – ha detto l’altro dirigente -. Sono sicuro che poi l’AI Act diventerà uno standard globale”.