Seguito indagine conoscitiva su impatto intelligenza artificiale nel settore della giustizia
Legend
Transcript markers
- text Sentence being played
- text Search result
- text Intervention cited by the link you opened
Click a sentence to play the video from that moment. Select text to quote it with the speaker, timestamp and link.
More options
2ª Commissione permanente (Giustizia) Senato della Repubblica
Follow its sittingsLucilla Gatt
L'output che produce purtroppo è un output impreciso che tra l'altro viene realizzato attraverso un ragionamento di tipo deduttivo, e o meglio attraverso un ragionamento di tipo induttivo, cioè partendo dal particolare, al generale e non deduttivo, cioè dalla legge al particolare, al caso concreto, ma a parte questa metodologia di ragionamento del sistema intelligenza artificiale, la cosa più importante che vorrei sottolineare è che purtroppo CoPilot non opera all'interno di questi database verticali sul... E relativi al mondo giuridico, ma opera, ripeto, sul web con un altissimo pericolo di allucinazione che tra l'altro si sono verificati e che sono stati fatti rilevare anche dal CSM nonché da altri documenti limitrofi. Quindi questo uso ufficiale di CoPilot che presenta queste fortissime criticità, unito purtroppo all'uso sommerso di altri sistemi che possono essere altrettanto generalisti, come può essere un ChatGPT, un cloud, o verticali però non autorizzati, comporta un 1 impatto invece fortissimo dell'intelligenza artificiale sul lavoro dei giudici, così come degli altri operatori del mondo incensolato giustizia, perché ovviamente sono tutte utilizzazioni fortemente individuali, assolutamente non procedimentalizzate. A ciò si aggiunga un altro problema che però è è sicuramente risolvibile nel corso del tempo purché ben indirizzato, cioè quello della formazione che come sappiamo è diventata obbligatoria e anche stata ben indicata soltanto con l'entrata in vigore dell'ultimo decreto legislativo di attuazione della legge, cioè il 179.
Questa formazione anche qui è una formazione che però è stata limitata ad alcune giurisdizioni, quelle ordinarie, non è stata estesa anche ad altre giurisdizioni. Quindi in questo momento ci troviamo di fronte a una... A una giurisdizione che potrà avere una certa tipo di formazione, che tuttavia non è previsto un certificato che attesti questa formazione e quindi la possibilità di accedere a questi strumenti con un certo livello di alfabetizzazione. Questa... Aggiungo quindi la la situazione invece relativa all'impatto auspicato.
Ora, l'impatto auspicato è un impatto che desidera porre l'attenzione su quello che effettivamente si potrebbe fare a dati normativi vigenti, perché dobbiamo dire che l'Italia effettivamente cercato e sta cercando in maniera estremamente interessante e positiva di adeguarsi all'artificio e all'intelligence act. E il quadro normativo che ripeto fa riferimento alla legge sui decreti legislativi di attuazione è un quadro normativo che ci consente, tenendo conto anche poi delle fonti europee, di fare invece dei passi importanti. Quali potrebbero essere questi passi, se mi posso, appunto, se posso dare questa indicazione, questa possibile visione dell'impatto auspicato?
Innanzitutto è necessario che il rapporto tra il Ministero di Giustizia e il Csm sia più strutturato e non sia meramente consultivo, come d'altra parte lentamente sta sta avvenendo, e ci sia anche un forte coinvolgimento dell' avvocatura quindi del CNF. Questo perché? Perché in questo momento le 2... Le intelligenze artificiali, chiamiamole così, in... Nel mondo giudiziario rispetto a quelle che operano nel mondo forense sono diverse.
Essendoci un divieto formale di utilizzazione del sistema intelligenza artificiale diversi Acopilot del mondo giudiziario, questo implica che I giudici rimangono legati a un tipo di utilizzazione che ripeto presenta quegli elementi di forte criticità e quindi di output non affidabile dovute alla... All'essere generalista il sistema, mentre gli avvocati stanno addestrando le loro competenze e la loro preparazione su sistemi prevalentemente verticalizzati, di cui poi più affidabili sarebbero soltanto 3, vale a dire quelli che operano nei database proprietari delle case editrici che già da tempo sono accreditate nel mondo giuridico e parlo di Giuffret e di Voltel Clouver e e di Le Sole 24 Ore. Gli altri sistemi che pure sono importanti, notevoli, ne voglio citare uno significativo che che è Jurimatrix perché ben addestrato, tuttavia operano in banche dati non proprietarie e conseguentemente con delle... Dei rischi di allucinazione non indifferenti. Però quello che vorrei sottolineare è che se non c'è una visione unitaria sul tipo di banche dati sul quale deve girare il sistema di intelligenza artificiale, e ripeto non generalista ma verticalizzato, noi avremo 2 diverse preparazioni e 2 diversi binari, quello dei giudici, quello dei magistrati e quello degli avvocati, che diventeranno in grado di utilizzare strumenti migliori con un livello di affidabilità dell'output, cioè del risultato dello strumento migliore.
Il... Quindi quello che bisognerebbe a mio parere realizzare in tempi rapidi è una cosiddetta suite pubblica che tra l'altro già è stata indicata come esigenza dal consiglio della superiore della magistratura nelle varie raccomandazioni e documenti emessi fino adesso. La suite pubblica dovrebbe essere una piattaforma nella quale... Alla quale accedono I giudici e gli avvocati e che sia strutturata in un modo complementare a livello di visualizzazione dei dati negli atti, quindi ad esempio avesse una struttura simile, se non identica, a quella che oggi già esiste nella giustizia amministrativa dove da poco l'avvocato e il giudice lavorano sulla stessa piattaforma e gli atti vengono caricati con la stessa modalità e con la stessa struttura che si chiama form web, che la possibilità di inserire il testo degli atti all'interno di box predeterminati, il che non significa che il contenuto sia predeterminato. Ovviamente l'inventiva, la capacità e la peculiarità del singolo giurista rimangono assolutamente improgiudicate, però in questo modo il dato giuridico dell'atto e poi del del provvedimento sono strutturati nello stesso modo e in corrispondenza.
È fondamentale comprendere che se I dati da... Se I dati che l'intelligenza artificiale deve valutare e sui quali deve lavorare non sono strutturati in maniera adeguata, questo strumento, cioè quello del sistema di intelligenza artificiale, sarà sempre e comunque inefficiente. La cosa quindi fondamentale che volevo sottolineare era la necessità di dare una direzione unitaria a... All'uso di un sistema artificiale che deve essere creato sulla base di un addestramento che si... Che avviene esclusivamente su banche dati circoscritte, controllate e costruite.
E soprattutto quello che vorrei sottolineare che ciò non può avvenire se non si costituisce un team di giuristi, ricercatori universitari.
Speaker 5
Fermo un momento, professoressa, perché non c'è da chiudere, da attendere un attimo le domande così poi lei può proseguire. In particolare volevano iscriversi per domande a sicuramente il senatore Bazoli intanto... Prego senatore Bazoli. Lei intanto appunti gli scritti così poi può rispondere, professoressa. Prego.
Alfredo Bazoli
Sì, grazie professoressa. Immagino e spero che lei ci manderà anche una memoria perché questo ovviamente sarebbe molto utile per I nostri lavori.
Lucilla Gatt
Allora no, io più che le slide che volevo fare solo la presentazione, sono in grado di inviare se
Speaker 5
Va bene, ci lo dice dopo, per ora per ora finiamo un attimo col senatore Bazoli. Per ora lei è fuori campo. Prego senatore.
Alfredo Bazoli
Sì, no, perché no, appunto, sarebbe molto utile siccome so che appunto lei molto studiato questi questi argomenti e noi siamo in dirittura d'arrivo con la nostra indagine. Io volevo capire, lei diciamo fatto una disamina molto accurata dei rischi connessi all'uso di uno di questi sistemi di intelligenza artificiale che oggi appunto è Copilot nell'ambito magistrale Esattamente. Ordinaria, e altri ci avevano messo in guardia dall'utilizzo di piattaforme, diciamo appunto, che hanno un'origine anche, come dire, non non controllata, diciamo così, quindi piattaforme anche detenute da grandi proprietari che che non non consentono appunto di avere un accesso chiaro alla modalità con la quale funzionano, e a me interessava capire, se lei sa, in altri paesi analoghi ai nostri, come ci si sta organizzando, invece, per garantire che l'utilizzo di questi sistemi di intelligenza artificiale non sia soggetto a quei rischi, quelle, come dire, quelle conseguenze pericolose che lei, insomma, citato, insomma, allucinazioni, le... Il rischio di della inaffidabilità dei sistemi, Cioè, c'è... Ci sono delle delle linee guida che altri paesi stanno utilizzando e che potrebbero essere anche per noi interessanti da, non dico da emulare, ma comunque da da da analizzare e approfondire.
Speaker 5
un momento, dobbiamo dobbiamo finire il giro delle domande. Qualcun altro che si vuole scrivere? Va bene, allora nessuno chiedendo di intervenire, lei può rispondere al professore... Al senatore Bazoli. Prego, E poi eventualmente chiudere il il suo intervento e dirci se e cosa ci manderà.
Lucilla Gatt
Per quanto riguarda gli altri paesi, l'Europa... L'interno dell'Europa quello che sta avvenendo purtroppo è è simile in tutti I paesi europei, quello che avviene da noi è simile a tutti I paesi europei tranne che per la Francia, dove in Francia hanno sviluppato un sistema di intelligenza artificiale cosiddetto nativo, vale a dire che non utilizza ChatGPT, Cloud o il... I motori come CoPilot, che si chiama Mistral. Questo sistema di intelligenza artificiale nativo, cioè sviluppato in Francia attraverso un'infrastruttura francese con dati francesi, chiaramente un livello di attendibilità di sicurezza maggiore rispetto a quelli che noi stiamo utilizzando e sviluppando, I quali partono pur sempre dalla base straniera, cioè quella che viene prevalentemente dall'area statunitense. Tutti I sistemi che noi utilizziamo con Pilot compreso che è di Microsoft e quindi è connesso, deriva da OpenAI, cioè dalla dalla società che realizzato ChatGPT, è una versione sostanzialmente di ChatGPT.
Questo sistema è un sistema nativo statunitense, non è un nativo italiano. Quindi tranne... E e questo sta avvenendo comunque anche negli altri paesi europei, cioè anche gli altri paesi europei sono sprovvisti di un'intelligenza artificiale nativa e quindi come noi cercano di utilizzare quelle di provenienza straniera cercando il più possibile però di indirizzarle nel funzionamento. Quindi le le soluzioni che io potrei dare in questo momento, creare un'intelligenza nativa richiederebbe un tempo che probabilmente non si visse... Visse il calendario che si...
Che in questo momento purtroppo le istituzioni hanno davanti anche per adempiere agli obblighi imposti dall'Unione Europea, dalle AI Act e da tutto il resto. Quindi se non possiamo forse, non abbiamo più il tempo di creare un'intelligenza artificiale nativa, quello che sicuramente possiamo fare però è indirizzare molto bene le intelligenze artificiali straniere attraverso dei team, come vi dicevo, dedicati che non possono non richiedere il coinvolgimento delle università, perché come d'altronde è riportato in tantissimi documenti che fornirò, io fornirò un dossier, se possibile, adesso poi lo dirò alla fine, Come d'altronde riportato, I progetti universitari sull'uso della I nel mondo giudiziario sono numerosissimi, purtroppo pochi tradotti poi in prototipi utili per gli uffici, ma perché manca questo questo collegamento, questo ponte. Comunque le dicevo, senatore, il... Noi noi possiamo utilizzare le intelligenze artificiali straniere, possiamo utilizzarle, ma le dobbiamo far funzionare bene dal punto di vista tecnico. Le dobbiamo agganciare ai database che abbiamo creato noi e farle lavorare solo in quei database con una tecnica che si chiama quella del RAG, la quale tecnica a sua volta deve essere ben pilotata perché c'è un rischio di profilazione dei giudici, esiste, ma anche qui
si può
Lucilla Gatt
Tecnicamente, così come dobbiamo anche adottare una visione unitaria e non più frammentata che riguardi tutte le giurisdizioni, e dobbiamo adottare una strumentazione, un programma, una modalità unitaria di anonimizzazione o pseudonimizzazione dei dati, che allo Stato pure è divisa in 4 modi diversi a 2º del tipo di giustizia che andiamo a guardare, tributaria, amministrativa, contabile e ordinaria. Quindi noi possiamo fare questo, tecnicamente è possibile. In questo momento non è stato fatto. Quindi di fronte al bivio che probabilmente avremmo dovuto imboccare un po' di tempo fa, cioè creare un'intelligenza artificiale italiana, non lo abbiamo fatto, forse non siamo più in tempo, però possiamo migliorare moltissimo l'uso di intelligenza artificiale straniere facendole... Rendendo una suite pubblica unitaria, anonimizzando in maniera uguale, rendendo I sistemi che attualmente esistono, potenziando il data lake che il ministero già costituito nel 2000.25 e soprattutto utilizzando esclusivamente le banche dati italiane e non facendo girare il sistema su internet.
Se si mettono questi paletti, che ovviamente richiedono un team tecnico per realizzarli ma sono possibili, lo strumento è affidabile. Vi manderò un dossier completo di un'analisi totale anche comparativa dell'uso dell'intelligenza artificiale nel mondo giustizia, che tiene conto di tutto quello che è stato fatto sia dal... Dagli organismi, dagli organi ministeriali, dagli organi legislativi, ma anche e soprattutto dalle università. E c'è anche un piccolo piano d'azione su quello che si potrebbe intraprendere. Molto completa, abbiamo apprezzato il suo intervento a nome della commissione, la ringraziamo e attendiamo questo importante dossier.
Senatore Sisler.