Chiara Rossi

Intelligenza artificiale, che cosa prevedono le regole di Bruxelles

Con l’obiettivo di stabilire degli standard comuni, ieri la Commissione europea ha presentato le nuove regole per l’utilizzo dell’Intelligenza artificiale. Le aziende che non si conformeranno alle norme rischieranno sanzioni fino al 6% del fatturato

22 Aprile 2021 15:56

Chiara Rossi

Intelligenza artificiale deve far rima con fiducia per l’Ue.

Ieri la Commissione europea ha presentato un pacchetto di regole sull’uso dell’intelligenza artificiale (sostanzialmente in linea con quanto anticipato dai media la settimana scorsa), incluso il divieto della maggior parte dei sistemi di sorveglianza.

Si tratta del tentativo di Bruxelles di stabilire standard globali per l’Ai, una tecnologia chiave dominata da Cina e Stati Uniti.

Saranno vietati tutti i sistemi ritenuti “una chiara minaccia per la sicurezza, i mezzi di sussistenza e i diritti delle persone”, come i sistemi di “punteggio sociale”. L’uso dei sistemi di identificazione biometrica, come il riconoscimento facciale, negli spazi pubblici “è vietato in linea di principio”. Le eccezioni ammesse riguardano la lotta contro il terrorismo, la tutela della sicurezza o le ricerche di un minore scomparso. Si legge nella proposta di legge sull’AI presentata dalla Commissione Ue.

Le applicazioni ad alto rischio “saranno soggette a severi requisiti prima di poter essere immessi sul mercato”. In caso di deroga, l’utilizzo “è subordinato all’autorizzazione di un organo giudiziario o indipendente e ad opportuni limiti di tempo e spazio”.

Secondo il documento, le aziende che non si conformeranno alle norme Ue potrebbero incorrere in sanzioni fino al 6% del loro fatturato.

Le proposte sono l’ultima mossa dell’Ue per mantenere il suo ruolo di portabandiera mondiale per la regolamentazione tecnologica, anticipando Stati Uniti e Cina.

Il commissario europeo per il mercato interno Thierry Breton ha dichiarato infatti che l’Europa diventerà il primo continente a fornire linee guida sull’uso dell’intelligenza artificiale.

Tutti i dettagli.

LA CLASSIFICAZIONE DELLE APPLICAZIONI DELL’AI

Nel pacchetto di regole proposte dalla Commissione europea per introdurre un quadro giuridico che metta ordine nel mondo dell’AI, l’esecutivo Ue classifica le nuove tecnologie per livelli di rischio: inaccettabile, alto, limitato, minimo.

I SISTEMI AD ALTO RISCHIO

Tra i sistemi ritenuti ad alto rischio, e per questo soggetti a requisiti e controlli periodici, ci sono le tecnologie usate nel settore dei trasporti “che potrebbero mettere a rischio la vita e la salute dei cittadini” e meccanismi di assistenza nella formazione scolastica o professionale “che possono determinare l’accesso all’istruzione e al percorso professionale”. Ma anche programmi di gestione dei lavoratori e accesso al lavoro (ad esempio i software di smistamento dei Cv dei candidati a un posto di lavoro).

Tra questi rientrano le macchine “che manipolano il comportamento umano per eludere il libero arbitrio degli utenti”, come i giochi per minori che utilizzano l’assistenza vocale e capaci di incoraggiare comportamenti pericolosi, ma anche i programmi che assegnano un punteggio sociale ai cittadini in funzione dei loro comportamenti.

E QUELLI A RISCHIO MINIMO

Videogiochi abilitati per l’intelligenza artificiale e filtri antispam rientrano invece sotto la categoria del rischio minimo. Su questi la Commissione ha scelto di non intervenire con nuove regole poiché “questi sistemi di AI rappresentano solo un rischio minimo o nullo per i diritti o la sicurezza dei cittadini”.

RIGUARDO IL RICONOSCIMENTO FACCIALE

Tutti i sistemi di identificazione biometrica sono considerati ad alto rischio e dunque, pur non venendo vietati tout court, saranno soggetti a una serie di requisiti a tutela della privacy.

Ma il loro utilizzo in tempo reale in spazi pubblici per il contrasto della criminalità sarà — in linea di principio — vietato.

(Qui il parere negativo del Garante della Privacy italiano sull’utilizzo del sistema di riconoscimento facciale Sari Real Time proposto dal Viminale)

L’Ue non diventerà dunque come la Cina, dove i sistemi di riconoscimento facciale, o di identificazione biometrica in remoto, sono utilizzati su scala massiccia.

LE ECCEZIONI PREVISTE

Tuttavia, l’esecutivo europeo ammette l’uso dell’identificazione biometrica solo se “strettamente necessario” in casi eccezionali. Come per cercare un bambino scomparso, per prevenire una minaccia terroristica imminente o per rilevare, individuare, identificare o perseguire un soggetto sospettato di aver compiuto un reato grave.

NECESSARIA L’AUTORIZZAZIONE DELL’AUTORITÀ GUIDIZIARIA

Questo utilizzo delle tecniche di riconoscimento biometrico in remoto deve essere autorizzato dall’autorità giudiziaria, o da un’altra istituzione indipendente, e deve avere limiti appropriati nel tempo, nello spazio e per i database utilizzati.

LE SANZIONI PER LE VIOLAZIONI

Le aziende che violano le regole rischiano multe fino al 6% del loro fatturato globale o 30 milioni di euro, a seconda di quale sia la cifra più alta.

PREVISTA CREAZIONE DI UN COMITATO EUROPERO PER LA AI

In termini di governance, la Commissione propone che le autorità nazionali competenti per la vigilanza del mercato sovrintendano alle nuove norme. Prevista inoltre la creazione di un comitato europeo per l’intelligenza artificiale che faciliterà l’attuazione dei nuovi standard normativi.

VON DER LEYEN: “UN PIANO PER GARANTIRE LA POSIZIONE DI LEADER DELL’UE NELLA AI”

“Oggi presentiamo nuove regole per un’intelligenza artificiale affidabile. Stabiliscono standard elevati in base ai diversi livelli di rischio. L’intelligenza artificiale è una fantastica opportunità per l’Europa. E i cittadini meritano tecnologie di cui possono fidarsi”. Lo ha scritto su Twitter la presidente della Commissione Ue, Ursula von der Leyen, commentando la nuova proposta di regolamento per l’AI presentata da Bruxelles.

“Oggi presentiamo anche un piano coordinato, per delineare le riforme e gli investimenti di cui abbiamo bisogno per garantire la nostra posizione di leader in Ai, a livello mondiale. Con quasi 150 miliardi di euro di investimenti digitali — il 20% del budget — Next Generation Eu contribuirà a rafforzare l’eccellenza nell’Ai dell’Unione europea”, ha aggiunto von der Leyen.

VESTAGER: “SULL’INTELLIGENZA ARTIFICIALE LA FIDUCIA NON È FACOLTATIVA”

“Per quanto riguarda l’intelligenza artificiale, la fiducia non è facoltativa, è indispensabile” ha sottolineato la commissaria Margrethe Vestager, presentando le nuove regole sull’intelligenza artificiale. “Queste regole rappresentano una svolta, che consentirà all’Ue di guidare lo sviluppo di nuove norme globali per garantire che l’IA possa essere considerata affidabile”. “Definendo le norme possiamo spianare la strada a una tecnologia etica in tutto il mondo e garantire che l’Ue rimanga competitiva. Le nostre regole saranno adeguate alle esigenze future e favorevoli all’innovazione e interverranno ove strettamente necessario: quando sono in gioco la sicurezza e i diritti fondamentali dei cittadini dell’Ue”, ha aggiunto la commissaria.

LE CRITICHE DEGLI ATTIVISTI PER I DIRITTI CIVILI

I gruppi per i diritti civili, tuttavia, hanno avvertito che le scappatoie nella proposta, che prevedono pesanti multe per le violazioni e fissano rigide garanzie per le applicazioni ad alto rischio, potrebbero lasciare spazio ad abusi della tecnologia da parte dei governi.

European Digital Rights ha evidenziato lacune preoccupanti nella proposta. “Il disegno di legge non vieta la piena portata degli usi inaccettabili dell’IA e in particolare tutte le forme di sorveglianza biometrica di massa. Ciò lascia una lacuna preoccupante per le tecnologie discriminatorie e di sorveglianza utilizzate da governi e aziende “, ha detto Sarah Chander dell’associazione come riporta Reuters.

I PASSI SUCCESSIVI

La bozza del documento è ancora suscettibile di modifiche.

Il pacchetto normativo dovrà ottenere infatti il via libera da parte dei governi e del Parlamento Ue prima di entrare in vigore.

QUI IL DOCUMENTO INTEGRALE DELLE REGOLE PROPOSTE DALLA COMMISSIONE EUROPEA