Indice
Introduzione
L’AI Act, il nuovo Regolamento Europeo sull’Intelligenza Artificiale, si distingue per la sua tensione volta al bilanciamento tra promozione dell’innovazione e necessità di regolamentazione.
Infatti, mentre stabilisce requisiti rigorosi per i sistemi di AI ad alto rischio, offre al contempo spazi di sperimentazione regolamentati per sostenere la ricerca e lo sviluppo dei sistemi di IA.
Casi in cui l’AI Act non sarà applicabile
L’AI Act mira a sostenere l’innovazione, rispettare la libertà della scienza e non pregiudicare l’attività di ricerca e sviluppo.
L’articolo 2 della versione attuale del regolamento presenta due rilevanti esclusioni che consentono di muoversi senza rispettare i requisiti del regolamento.
In particolare, il regolamento non si applica ai sistemi o modelli di IA sviluppati e messi in servizio specificamente per ricerca e sviluppo scientifici.
Però, non appena tale sistema o modello sarà immesso sul mercato, ritornerà ad essere allo stesso applicabile l’AI Act, con tutte le conseguenze che ne derivano.
Inoltre, l’avverbio “specificatamente” (“specifically“) suggerisce un’interpretazione restrittiva di questa disposizione derogatoria.
Anche il Considerando 25 supporta l’idea che qualsiasi sistema di IA che possa essere utilizzato anche per lo svolgimento non esclusivo di attività di ricerca e sviluppo dovrebbe rimanere pienamente soggetto al regolamento.
Nonostante immaginiamo che l’esclusione in parola sarà maggiormente utilizzata più che altro in ambito accademico, essa potrà essere alquanto utile anche per i reparti di ricerca e sviluppo (R&D) dei settori chimico-farmaceutico, sanitario e medicale.
Inoltre, il regolamento sull’AI non si applica alle attività di ricerca, prova o sviluppo relative a sistemi o modelli di IA prima della loro messa in servizio o immissione sul mercato.
Tuttavia, le prove in condizioni reali, appartenenti alla categorie delle sperimentazioni regolamentate (c.d. Sandbox) ed oggetto di vivo interesse da parte delle imprese e delle professionalità legate all’intelligenza artificiale, non rientrano in questa esclusione.
Ma cosa sono queste Sandbox?
Le sandbox regolamentari sono state introdotte nel 2021 in esclusiva per le FinTech al fine di svolgere sperimentazioni in un’ottica di rinvigorito dialogo con le autorità di vigilanza competenti, chiamate a preservare e verificate la serietà dei test.
Nell’ambito dell’AI Act, gli stati membri, anche congiuntamente, dovranno istituire e rendere accessibili, attraverso le autorità nazionali competenti per l’AI, spazi di sperimentazione virtuale e di veri e propri spazi di prova in condizioni reali.
È previsto che le PMI e le start-up possano accedervi gratuitamente, con possibilità di recupero ragionevole e proporzionato dei costi straordinari sostenuti dalle autorità nazionali competenti.
Questo supporto mira a permettere anche alle imprese con risorse limitate di sviluppare sistemi di IA innovativi e conformi fin dalla fase di ricerca e sviluppo.
Zona libera dall’applicazione di sanzioni amministrative per le violazioni dell’AI Act
Le sandbox normative dell’AI Act offrono una deroga alle sanzioni poste a salvaguardia del Regolamento, ma solo a condizione che i provider rispettino il piano specifico di sperimentazione e le condizioni di partecipazione e seguano in buona fede gli orientamenti forniti dalla competente autorità nazionale.
Durante la sperimentazione, invece, i danni causati ai terzi rimaranno responsabilità dei provider, secondo le normative europee e nazionali applicabili in materia.
Queste sandbox mirano a individuare le best practices per l’attuazione conforme e razionale dell’AI Act, consentendo ai provider di definire la categoria di rischio dei loro prodotti AI con chiarezza e con ragionevole confidenza, dato il monitoraggio e la supervisione delle autorità nazionali competenti.
Per loro natura le sandbox normative sono rivolte principalmente ai provider, ma è comunque previsto che i deployer possano essere coinvolti, e che nei casi di prove in condizioni reali di sistemi ad alto rischio, siano preventivamente e specificatamente informati, istruiti e contrattualizzati.
Le sandbox permetteranno di coinvolgere anche laboratori di ricerca e sperimentazione, poli d’innovazione digitale, ecc…, e saranno utili altresì per facilitare la transizione da deployer a provider nei casi in cui i deployer apportino modifiche e personalizzazioni tanto significative ai sistemi di AI che distribuiscono, da determinare il c.d. “switch” a provider.
Per approfondire i casi in cui si possa determinare questo “switch” rimandiamo al nostro articolo sui Provider e Deployer nell’AI Act.
La sperimentazione in condizioni reali permette alle imprese di perfezionare i processi di acquisizione clienti, valutare la sostenibilità finanziaria del loro modello ed eventualmente correggerne il tiro, ad es. attingendo dall’esperienza del settore FinTech per ricercare partnership con le più consolidate istituzioni bancario-finanziarie.
Principi applicativi delle sandbox già garantiti dall’AI Act
Per evitare l’incoerenza tra le varie sandbox dei singoli stati membri è previsto che la Commissione emani atti esecutivi che precisino modalità uniformi di funzionamento a cui i legislatori nazionali dovranno attenersi.
L’AI Act, dal canto suo, sancisce in prima battuta le seguenti linee di principio generali in materia:
- La procedura di richiesta di partecipazione, selezione e ammissione alle sandbox dovrà consentire un accesso ampio e paritario, al passo con le domande di partecipazione pervenute, attraverso criteri di selezione trasparenti ed equi, comunicati in maniera chiara, semplice e comprensibile per agevolare la partecipazione;
- Una volta selezionato e ammesso a partecipare alla sandbox, il fornitore e l’autorità competente dovranno concordare il “piano dello spazio di sperimentazione” in cui verranno descritti gli obiettivi, le condizioni, il calendario, il territorio, la metodologia e i requisiti delle attività di sperimentazione;
- Le prove in condizioni reali sono autorizzate dalle autorità nazionali competenti solo previo accordo con il richiedente sui termini, sulle condizioni e sulle tutele adeguate al fine di proteggere i diritti fondamentali, la salute e la sicurezza degli interessati;
- Le autorità nazionali competenti potranno sospendere, in via temporanea o permanente, le prove in condizioni reali o la partecipazione agli spazi di sperimentazione, se non è possibile un’attenuazione efficace dei rischi significativi per la salute e la sicurezza degli interessati;
- La sperimentazione si chiuderà con una relazione di uscita fornita dall’autorità competente che illustra le sperimentazioni svolte, i risultati e quanto appreso;
- La relazione di uscita deve essere presa favorevolmente in considerazione al fine di accelerare le procedure di valutazione della conformità e, previa autorizzazione da parte del provider partecipante, potrà essere condivisa con la Commissione e con il comitato europeo per l’intelligenza artificiale, nonché – previo assenso anche dell’autorità nazionale competente – resa pubblica.
- La partecipazione ad una sandbox normativa per l’IA di uno Stato membro è reciprocamente e uniformemente riconosciuta e produce gli stessi effetti giuridici nell’intera Unione.
Quindi l’Italia (in prima battuta) e l’AgID e l’ACN (in seconda battuta, se saranno confermate quali autorità nazionali competenti ai sensi dell’AI Act, come risulta dalla versione circolante del DDL – Intelligenza Artificiale, nel delineare le regole delle sandbox per l’IA made in Italy, dovranno sottostare a tali principi e a quelli ulteriori sanciti dagli atti esecutivi della Commissione.
Inoltre, è auspicabile che venga dato ascolto alle critiche d’eccessiva rigidità dei criteri di ammissibilità alle sandbox previsti in Italia per le FinTech, tenendo sempre in considerazione che gli attori più interessati ad esse sono proprio quelli con meno risorse da investire.
In tal senso l’ammissione alle sandbox presumibilmente agirà da indicatore di qualità consentendo ai partecipanti un migliore accesso a finanziamenti ed investimenti, ma anche a nuovi clienti, sfruttando la fiducia generata da una narrazione trasparente del percorso di sperimentazione.
Il Patto sull’AI per una conformazione normativa anticipata
Abbiamo visto come le sandbox normative favoriscano una competizione equa, riducendo il divario tra piccole e grandi aziende e agevolando l’accesso al mercato dell’AI per le PMI.
In questa direzione, il Patto sull’AI per una conformazione normativa anticipata offre un quadro pionieristico che contribuirà al contempo anche a diffondere un soddisfacente livello di certezza del diritto dell’UE applicabile all’AI a vantaggio di tutti.
Le società aderenti si impegnano volontariamente a conformarsi all’AI Act prima della sua entrata in vigore, delineando azioni specifiche, già in corso oppure anche solo pianificate, per soddisfare i requisiti del Regolamento in modo graduale, dettando in tal modo esse stesse i tempi senza rincorrere termini fissati dal legislatore.
I pilastri della roadmap per l’applicazione dell’AI Pact
L’AI Pact è ancora in fase di lavorazione (bisognerà infatti attendere l’approvazione finale dal Consiglio, la pubblicazione sulla Gazzetta Ufficiale e poi l’entrata in vigore dopo 20 giorni).
Tuttavia, le imprese interessate possono già manifestare il proprio interesse a Bruxelles tramite un apposito modulo sul portale della Commissione UE.
La prima fase dell’AI Pact si concentra sulla raccolta e lo scambio di informazioni, policy interne e best practices per migliorare l’applicazione del Regolamento sull’IA tramite la condivisione di esperienze utili nei percorsi di conformazione all’AI Act.
Gli esempi più virtuosi, previa autorizzazione dei partecipanti, potranno anche essere pubblicati online dall’AI Office.
Nella seconda fase, le imprese aderenti sono incoraggiate a condividere proattivamente i report dei processi, delle pratiche e delle politiche che stanno seguendo per implementare la loro conformità anticipata all’AI Act.
Le imprese impegnate in azioni già in corso oppure anche solo pianificate saranno invitate a riferire regolarmente sui loro impegni (“pledges“).
Gli impegni sono raccolti e pubblicati dall’Ufficio per l’IA per garantire visibilità, per corresponsabilizzar i partecipanti e per rafforzare la credibilità e la fiducia nelle imprese aderenti al Patto.
L’AI Office consentirà alle imprese aderenti al Patto di pubblicizzare la propria compliance proattiva attraverso il portale europeo.
Perchè aderirvi?
Già da questi primi cenni sull’AI Pact, possiamo intuire le molteplici motivazioni che spingeranno le imprese ad aderirvi, come ad esempio:
– Orientare nel verso giusto le decisioni commerciali e di business prima della piena entrata in vigore del Regolamento.
– Prevenire rischi etici e legali attuali, considerando che i sistemi di AI sono già diffusi e il mercato è in un momento di picco innovativo tale per cui l’AI rappresenta ormai un tema da cui non si può più prescindere.
– Identificare il prima possibile i sistemi di AI non utilizzabili per evitare futili investimenti.
– Redigere policy interne precise, utili e comprensibili, calate nel contesto aziendale, per l’utilizzo dei sistemi di IA nel lavoro quotidiano.
– Per le aziende, l’adozione di queste tecnologie e politiche interne diventa un’opportunità per rivedere e rafforzare la propria mission, i propri valori e i propri principi etici.
Il Patto sull’AI permetterà dunque ai pionieri e ai partecipanti più ambiziosi di testare e condividere le loro soluzioni con la comunità in generale.
Già circa 400 aziende, europee e non, hanno dichiarato di non voler attendere l’entrata in vigore dell’AI Act e di volersi unire anticipatamente all’AI Pact.
Codici di condotta e molto altro ancora
Ma non è finita qui.
Oltre a quanto sopra, la Commissione, l’Ufficio AI e/o gli Stati membri incoraggeranno e favoriranno l’adozione anche di codici di condotta volontari.
Questi codici prevedranno soluzioni tecniche personalizzate sulle finalità e sui settori specifici dei singoli sistemi di AI.
Affronteranno temi come la gestione del rischio, la governance dei dati e la supervisione umana, anche e soprattutto nei casi in cui i sistemi non siano considerati tecnicamente e teoricamente ad alto rischio e quindi non siano strettamente obbligatori.
Degne di nota sono anche le iniziative previste per rafforzare il bacino di talenti europei in materia di IA attraverso attività di istruzione, formazione, qualificazione e riqualificazione.
Inoltre, si prevede l’accelerazione dello sviluppo e della diffusione di spazi comuni europei di dati, risorse fondamentali per formare e migliorare i modelli e sistemi di IA.
A ciò si affiancheranno l’istituzione dell’impresa comune per il calcolo ad alte prestazioni europeo (EuroHPC) per creare fabbriche di IA.
L’EuroHPC sarà una joint venture dei supercomputer dell’UE a cui PMI e start-up potranno avere un accesso privilegiato.
Inoltre, l’AI Act prevede la riduzione delle tariffe richieste dalle autorità nazionali competenti, di vigilanza del mercato e dagli organismi notificati, per le valutazioni di conformità.
Tali riduzioni saranno parametrate in base alla fase di sviluppo, alle dimensioni e alla domanda di mercato delle imprese richiedenti la valutazione.
Concludendo…
In un contesto come quello appena delineato, il nostro consiglio principale è di mettere fin dall’inizio la compliance etica e legale al centro della vostra strategia di prodotto di IA.
Siamo qui per offrirvi un supporto completo nell’approfondire come le caratteristiche del vostro prodotto si allineano con le normative vigenti.
Potremo analizzare insieme il livello di controllo e di regolamentazione che dovrete affrontare in base alla classe di rischio in cui il vostro prodotto si potrebbe inserire, considerando anche i cambiamenti futuri previsti.
Lo Studio Legale 4.0 Delli Ponti, con il proprio team multidisciplinare, può fornire la propria collaborazione anche nei vostri gruppi di consulenza etica.
Potremo riesaminare insieme gli algoritmi e i dataset dei vostri sistemi di IA per garantire il rispetto delle linee guida etiche, ridurre i bias e i pregiudizi e migliorare l’equità.
Inoltre, vi potremo supportare nell’organizzazione di workshop coinvolgenti con le principali parti interessate, inclusi potenziali utenti, per raccogliere feedback sulla trasparenza, la comprensibilità delle logiche applicate e l’usabilità.
