Seguito dell'indagine conoscitiva sui livelli e i meccanismi di tutela dei diritti umani

27 October 2026

Commissione straordinaria per la tutela e la promozione dei diritti umani Senato della Repubblica

00:08 - 01:20
LSP-PSd'Az Senatrice | Liguria
Presidente della Commissione straordinaria per la tutela e la promozione dei diritti umani del Senato della Repubblica | Commissione straordinaria per la tutela e la promozione dei diritti umani del Senato della Repubblica
Stefania Pucciarelli
Presenza.  Riprendiamo oggi il nostro percorso sul tema del rapporto tra intelligenza artificiale e I diritti umani.  Oggi è con noi il professor Tonino Cantelli, membro del comitato nazionale per la bioetica, che saluto e ringrazio molto per la sua presenza.  Ci aiuterà ad approfondire il tema dell'intelligenza artificiale sul versante della protezione e del diritto alla salute.  Come ricorderete, sul tema dell'intelligenza artificiale questa commissione ascoltato tra gli altri il professor Paolo Benanti, membro del collegio di esperti sull'intelligenza artificiale delle Nazioni Unite, il dottor Roberto Viola, direttore generale la direzione generale delle reti di comunicazione e delle tecnologie della Commissione Europea. 

Quindi, 1º di iniziare, la solita breve comunicazione di servizio, informo che ai sensi dell'articolo 33, comma 4 del regolamento, è stata richiesta l'attivazione dell'impianto audiovisivo e che la presidenza del senato fatto preventivamente conoscere il proprio assenso.  Se non vi sono osservazioni, tale forma di pubblicità è dunque adottata per il proseguo dei lavori.  Dunque nuovamente il professor Cantelli per aver accettato il nostro invito ad essere con noi oggi e quindi do al professore la parola.  Grazie. 
01:23 - 08:14
Tonino Cantelmi
Professore e membro del Comitato Nazionale per la Bioetica
Grazie.  Inizio dicendo che io sono medico psichiatra e e che entro pochi anni abbiamo una mole di dati che ci dicono questo, I medici saranno facilmente sostituibili, anzi forse una delle professioni piu' sostituibile, e dico questo perche' se in questo momento io dovessi barcollare, sentirmi male e aver di fare una risonanza magnetica cerebrale, io vorrei che la mia risonanza magnetica cerebrale fosse letta dal robot neuroscienziato che ci consegnano con gia' 10000 risonanze magnetiche lette e che e' collegato con I robot neuroscienze di tutto il mondo e che ogni giorno impara molto di piu' del nostro povero primario neuroscienziato.  Però qualora la diagnosi fosse glioblastoma infiltrante e dunque io fossi spacciato, io presidente vorrei che a comunicarmi la diagnosi, a guardarmi negli occhi, a mettermi una mano sulla spalla e a dirmi decidiamo insieme come combattere fosse il mio primario neuroscienziato.  Cosa voglio dire?  Che 2º me in sanità bisogna per quanto riguarda la salute affermare un nuovo diritto e che è il diritto alla riserva umana, cioè alcune operazioni non possono essere appaltate al magnifico e splendido sistema dell'intelligenza artificiale. 

Cioè, non c'è dubbio che la mia risonanza magnetica la leggerebbe con una confidenza e con una capacita' di di errore così bassa, molto meglio il robot neuroscienziato e quindi vorrei che lui la vedesse, ma non c'è dubbio che alcune operazioni debbono rimanere come riserve umane.  Quindi in...  Per quanto riguarda la salute io credo che bisognerebbe cominciare a ragionare su nuovi diritti e il 1º diritto è quello della...  Delle riserve umane, cioè che ci siano delle operazioni che siano tipicamente umane.  Come cambierà il medico? 

Il medico diventerà uno specialista in umanità, cioè poiché la relazione fa parte della cura, tutto l'aspetto relazionale sarà in mano al medico che sarà un bioingegnere nei prossimi anni che avrà la governance del sistema e che sarà human in the loop, cioè questo oramai lo sapete meglio di me perché ve l'hanno detto 1000000000 di volte che cioè farà parte dei flussi, ma soprattutto curerà l'aspetto relazionale, quindi cambierà...  Saremo sostituiti, io sarò sostituito, ma credo che I nuovi medici avranno delle capacità, delle funzioni diverse.  Il tema centrale della intelligenza artificiale oggi, vi lancio 2 provocazioni.  La 1º è il tema relazionale, cioè il...  L'intelligenza artificiale si propone come tuo amico, come tuo compagno, come tuo confidente. 

Il dato ultimo che abbiamo è che un adolescente su 2 in Italia fra I 12.17 anni se un problema ne parla con l'intelligenza artificiale.  Pensate che Lollines, che solitudine c'è nei nostri giovani.  Aurora, la ragazzina di 13 anni che viene precipitata dal...  Non so dal 7º piano, adesso non ricordo, dal suo carnefice quindicenne, un bebe femminicidio incredibilmente precoce, questa ragazzina 2º leggendo le motivazioni della sentenza di condanna del quindicenne, questa ragazzina chattava fino a poco 1º con l'intelligenza artificiale a cui chiedeva da mesi come gestire un amore tossico, come gestire questa violenza, questa crudeltà, questa...  Quindi c'è tutto il tema relazionale che si sta sviluppando. 

In...  Nella salute io credo che il tema relazionale vada preservato fondamentalmente.  L'altra provocazione è che I nostri medici...  Cioè noi diamo molta fiducia all'intelligenza artificiale, c'è 1 1...  1... 

Cioè la fiducia che noi diamo è alta, cioè tendenzialmente tendiamo a credere fortemente in quello che l'intelligenza artificiale ci propone.  La fiducia è talmente alta che per esempio I primi studi che abbiamo a disposizione sul cervello umano, sulla plasticità del cervello umano e in coloro...  Abbiamo degli studi interessantissimi sui giovani studenti ventenni che utilizzano per più di 6 mesi in modo intensivo l'intelligenza artificiale per motivi accademici.  Il cervello comincia a funzionare in un modo diverso.  Il dato più interessante che vi può interessare di più è la progressiva disattivazione delle aree del pensiero critico. 

Quindi noi stiamo preparando una generazione che avrà un pensiero critico sempre meno accurato.  Questo credo che sia un grande problema, cioè l'intelligenza artificiale nella salute genera il problema del del skilling dei nostri medici.  Pensate che c'è un sistema di piattaforme molto interessante nel mondo anglosassone che consente di sostituire il medico di famiglia, per cui questo sarà un sistema sempre più utilizzato perché consente dei risparmi fiscali.  Allora io mi collego con questa piattaforma a h 24, quindi posso collegarmi a qualunque ora del giorno della notte.  Però dall'altra parte del mondo un medico in genere indiano che parla inglese che è disponibile in quell'orario e e questo medico un'interfaccia completamente diversa da quella che il paziente. 

Nell'interfaccia l'intelligenza artificiale gli suggerisce che domande fare, cosa prescrivere, gli dice anche se il paziente è arrabbiato o se capito la domanda e se è il caso di riformularla e come riformularla.  Quindi con una progressiva perdita di di competenze per cui queste interfacce creano sempre fenomeni di deskilling più importanti, ma invece questo è esploso nel mondo significa una riduzione del pensiero critico.  Se voi mettete insieme la riduzione del pensiero critico con il tema della dipendenza, perché I nostri adolescenti sono bombardati, io ho ho firmato il...  La consulenza con la quale in Italia abbiamo messo sotto inchiesta Meta e TikTok.  Meta e TikTok hanno un fatturato che supera il PIL dell'Italia. 

08:15 - 18:31

Tonino Cantelmi

Non lo dico per... Meta e TikTok... Cioè io sostengo che Meta e TikTok disegnino dei dei social che sono dei social profondamente assimilabili a slot machine. Quindi non sono social ideali per I nostri adolescenti e cioè che stimolano la dipendenza. I giudici di Torino hanno accolto questa...

E quindi oggi cioè in questi giorni stiamo facendo le le udienze mentre ti toccano ovviamente risposto con grandiose controperizie, ma insomma stiamo discutendo su questo però se voi immaginate che la la tendenza è quella di stimolare il sistema limbico, noi non proteggiamo I nostri... I nostri bambini, I nostri adolescenti, la pornografia praticamente sfondato gli 11 anni, quindi meno degli 11 anni, quindi accedono a pornografia significativa ragazzini sotto gli 11 anni. Il gioco d'azzardo, noi abbiamo un numero impressionante di giocatori problematici d'azzardo già minorenni, l'accesso all'alcol, al tabacco, alle droghe, cioè tutto il cervello dei nostri bambini adolescenti è spinto verso le forme di dipendenza. Se voi mettete insieme la tenaglia rivoluzione digitale e spinta alla dipendenza, rivoluzione AI e spinta al decrescere il pensiero critico, mettete insieme queste 2 cose faremo cittadini sempre meno capaci di poter esercitare la loro... Con efficacia la loro azione.

Tornando però al tema della salute, abbiamo elaborato e io ve lo consegno, avevo preparato 15...

15 piccoli... Un po' di materiale. Vi consegno questo che appunto c'entra il tema sulla reazione terapeutica nell'era della rivoluzione AI e sotto... E poi c'è un manifesto finale e questo lo stiamo discutendo, è nata una community fatta da centinaia di specialisti con cui stiamo discutendo di questo. Qui troverete tutti tutti le criticità etiche del...

Perché dal punto di vista tecnico è favoloso, cioè nessuno di noi vuole rinunciare ripeto a all'intelligenza artificiale in salute, tutti I problemi etici che ci sono. Io immagino nelle varie audizioni avevano tutti parlato di etics by design, cioè di introdurre già nell'algoritmo I I vincoli etici, salvo poi il problema che si pone siccome oramai le intelligenze artificiali generano altre intelligenze artificiali, quindi non c'è più l'umano che le genera, apprendono, cambiano, bisogna capire poi se nell'evoluzione dell'intelligenza artificiale questi vincoli etici vengono mantenuti, quindi dovremmo fare delle intelligenze artificiali che controllino dal punto di vista etico le altre intelligenze artificiali, però l'Etics by Design significa appunto introdurre già nel... Cioè obbligare gli sviluppatori a introdurre I temi etici, cioè il controllo etico, già nel disegno dell'algoritmo, cioè disegnare nuovi algoritmi quindi e poi generare sistemi di audit e di controllo. Qual è il grande tema nella salute? Non vi porterò via molto tempo, però il tema centrale è l'opacità dell'algoritmo.

Cioè già adesso nessuno sviluppatore sa esattamente come funziona il... L'output finale, cioè qual è stato tutto il processo. Sono talmente miliardi di dati che vengono esaminati e noi non abbiamo più il controllo di questo, se non a monte oppure a post. Ecco perché in questo flusso bisogna introdurre delle riserve umane in cui alcuni passaggi sono assolutamente di diritto umano e di competenza umana. Qui troverete quindi il nostro manifesto che si intitola singolarità tecnologica versus malattia 0.

Faccio quest'ultimo concetto poi vi dico un'altra cosa e vi lascio in pace, ma questo è interessante, cioè la singolarità tecnologica è una visione catastrofica della realtà, cioè come andrà a finire 2º I... Ma non realistica, 2º I visionari della della sicurezza tecnologica noi saremo più o meno paragonabili al pesce rosso rispetto a noi oggi, cioè che conoscenza il pesce rosso della nostra realtà? Ecco, noi saremo come come un pesce rosso di fronte all'intelligenza artificiale. 2º invece l'altro scenario, malattia 0, questo è interessantissimo, l'uso dell'intelligenza artificiale nella salute cambia radicalmente il sistema di salute di di di intervento. Lo cambia in che modo?

In questo modo qua. Noi possiamo passare da una medicina di attesa, cioè tu ti ammali e vai in ospedale, a una medicina proattiva e predittiva perché se io potessi mettere I I dati di ciascuno di voi dal punto di vista genetico, familiare, delle vostre esperienze, le traiettorie di vita che avete fatto, l'ambiente, tutto quanto, posso predire se qualcuno di voi avrà una depressione nei prossimi 2 anni. Posso predire con molto più anticipo altre patologie, quelle oncologiche per esempio quelle cardiovascolari e così via. Quindi la medicina diventa con intelligenza artificiale predittiva e io posso intervenire 1º che tu ti ammali. Quindi cambia il sistema, cambia radicalmente.

Voi capite che questo genera un problema di uguaglianza o di disuguaglianze, di accesso o di non accesso a qualcosa che può cambiare completamente il il il sistema? E soprattutto si introducono temi forse per una commissione come la vostra importantissimi quanto voglio sapere di me stesso che ho diritto a sapere quanto e soprattutto quando voglio sapere di me stesso e quindi il il tema dal punto di vista etico è colossale del mio... 2º me, però certamente è talmente affascinante questo passaggio che è un passaggio che va governato, non va certo ostacolato. Cioè noi potremmo cambiare completamente il sistema della salute in questo modo qua. Chiudo con quest'altro materiale che vi ho portato perché poi da questo manifesto, da questo piccolo affiliato in qualche modo un qualcosa che riguarda la salute mentale.

Ecco questo qua. Che riguarda la salute mentale. Perchè la salute mentale? Perché il... Il...

Sì sì proprio. Sì sì sì. Perché la salute mentale? Perché guardate, a Darmut che dal punto di vista, come posso dire, iconico il il luogo dove nel 1956 un gruppo di visionari coniarono il termine intelligenza artificiale, a Darmut alla... A Darmut University hanno fatto un...

1 studio meraviglioso su Terabot. Terabot è un chatbot conversazionale ancora che interagisce con il paziente, cura depressione e ansia e I suoi risultati sono migliori o comunque sovrapponibili a un terapeuta umano. In Italia c'è una piattaforma che è Therapic, che in realtà è una piattaforma mondiale e anche in Italia dove tu ti colleghi, ti iscrivi, costruisci l'intelligenza artificiale che ti seguirà e e puoi fare una terapia a mezzanotte, all'una, alle 2, di sabato, di domenica. Sapete, ai giovani piace tantissimo intelligenza artificiale perché non si arrabbia mai, non ti giudica, ti ascolta, non si stanca, ed è sempre disponibile. Davvero difficile sostituirla.

La relazione sta sta avendo questo logorio che è interessantissimo dal mio punto di vista. Ma nella psicoterapia questo comincia ad avere I suoi significati, perché la seduta con Therapic costa un 4º della seduta con un umano e e oggi io immagino come potrebbe funzionare invece, poi anche qui dobbiamo governare il processo, come potrebbe funzionare questo processo. Supponiamo che qualcuno di voi abbia un 1 attacco di panico. Prende il telefono e chiama uno psicologo. Non ti risponde uno psicologo, ti risponde un'intelligenza artificiale che analizza già la tua voce.

Questo è già possibile oggi, non è possibile per legge perché c'è un problema di consensi, di cose eccetera, ma è già possibile oggi. Analizza la tua voce e mi dice in che stato stai. Ti fa tutto il resoconto, poi raccoglie la tua anamnesi e la porta ad un umano. Ti fissa l'appuntamento, incontri l'umano ma tutto è supervisionato da una intelligenza artificiale che fa il resoconto della seduta e dice al terapeuta dove sbagliato e e cos'altro poteva fare. Immaginate questo processo, un continuo ping pong tra umano e intelligenza artificiale.

Ecco qui io vorrei affermare un altro diritto che 2º me, come quello della riserva umana, un nuovo diritto che dovremo in qualche modo discutere, e già I giuristi ne stanno un pochino parlando, che è il diritto all'intermediazione umana. Cioè voglio dire nella salute è così, ma in realtà la maggior parte dei servizi saranno affidati ai chatbot. Tu se vorrai comprare una macchina probabilmente dovrai interagire con un chatbot nei prossimi anni. Ecco, c'è un diritto dell'intermediazione umana che a un certo punto in questa trappola con il chatbot tu possa dire basta, io voglio parlare con un umano. Ecco, io credo che dovremmo affermare paradossalmente il diritto all'intermediazione umana in ogni processo governato da chatbot o da intelligenza artificiale.

Mi fermo su quello che potevo dirvi.

18:36 - 19:00

Stefania Pucciarelli

Grazie, professore. Grazie per questi spunti anche di riflessione per per noi e interessanti anche per le varie sfaccettature che che toccato e che effettivamente meritano una riflessione approfondita. Mi chiesto la parola il collega Lombardo.

19:12 - 22:14

Marco Lombardo

Grazie, grazie presidente, grazie al professor Cantelli. Approfittiamo di essere pochi per farle delle domande su un tema. Io condivido la fascinazione per l'argomento, e condivido l'approccio che lei avuto inizialmente, cioè guardiamo ai rischi, ma guardiamo anche alle grandi opportunità. Lei è partito da un'immagine che può sembrare distopica, quella di un ospedale senza medici, ma lei sa meglio di me che questa è già realtà, nel senso che l'Agent Hospital, a Pechino, fatto con la Tsinua University, già realizzato un ospedale interamente fatto all'intelligenza artificiale, con delle analisi accurate per il 93 per 100, in cui I medici, di fatto, stanno facendo gli agent. E quindi questo cambia il

E allora, alcune domande e alcune considerazioni. La 1º, se vogliamo difendere il nostro principio universalistico, che è un unicum, ed è una cosa della quale andiamo tutti orgogliosi, forse l'utilizzo dell'intelligenza artificiale in ambito sanitario sarà l'unico modo per rendere dal punto di vista finanziario sostenibile questo sistema. E quindi, questo deve cambiare il nostro approccio. Come possiamo anticipare, per evitare I malati cronici, e per evitare che, a quel punto, la spesa sanitaria si impegni in un modo che non sarà più sostenibile per la nostra longevità? Il 2º, io non vedo problemi allorquando la cura funziona.

Il problema viene quando la cura non funziona. E allora, come si può risalire nella catena decisionale, per capire la responsabilità dove la mettiamo, quando noi non sappiamo ancora, con precisione, come lei detto, in che modo poi l'algoritmo elabora I dati che noi le mettiamo? E il 3º, appunto, è sull'analisi predittiva dei dati, sanitaria, tema affascinantissimo. Lei dice, ci deve essere il momento in cui io devo decidere fino a quando voglio sapere una cosa. Ma io vedo un problema, cosa succede se qualcuno sa già quando succede una cosa che riguarda me, e io non lo so?

Perché se quei dati, per esempio, vanno in mano dalle agenzie assicurative private, questo vuol dire che io verrò bloccato nella richiesta di mutuo, nella richiesta di avere una casa, comprare una macchina. E allora, come fare a bilanciare il tema per cui, se noi da una parte, come soggetto pubblico, abbiamo la privacy, abbiamo tutto il tema, eccetera, queste stesse regole, se vengono aggirate dal privato, poi creano un problema che non è solo etico, è un problema di accessibilità alle cure e ai servizi. Allora, su questo tema, come da legislatore ci potevamo porre in una maniera prospettiva, entusiastica, propositiva, ma anche consce di quelle che possono essere le criticità.

22:17 - 25:19

Stefania Pucciarelli

Anch'io ho alcune riflessioni da porre a... Alla discussione. Collegandomi un po' a quanto detto il collega che riguarda il discorso legato alla responsabilità laddove una cura, in questo caso nell'ambito della salute, non dovesse funzionare, il risalire alla catena che porta a dove è... Dov'è l'anomalia potrebbe diventare difficile. E vedo proprio qua, lei 1º faceva riferimento al...

In pratica ai modelli, quelli fondati sul deep learning, che alimenta la cosiddetta black box decisionale e che può rendere difficile quelle che sono... E comprensibili le logiche e algoritmi che hanno portato ad un processo e questo può essere difficile anche per I professionisti. Questo, di fatto, è in riferimento a... All'ambito sanitario, ma lo farei a 360 gradi, perché noi andando verso quello che è la digitalizzazione della pubblica amministrazione in generale, faccio un esempio, cittadino riceve un accertamento, va in contenzioso, si trova in in un tribunale, l'elaborazione di quanto ricevuto è stata fatta dall'intelligenza artificiale di per sé il giudice dovrebbe validare, capire il processo come è avvenuto per un conteggio, mentre invece oggi con questo sistema non è detto che possa avere contezza se quel processo è stato fatto in maniera giusta oppure no, e quindi viene meno il principio, per esempio, dell'ecoprocesso per il cittadino. E questo è un esempio che si può ripetere in tanti ambiti.

Quindi quello che lei... Su cui faceva riferimento al diritto alla riserva umana, la riserva umana deve intervenire nei processi dove l'uomo deve avere sempre contezza di come è avvenuto il processo. E allora vi è necessità di nuove... Di nuova formazione. E anche la formazione che riguarda il medico, di fatto, non si può più basare su quello che è la...

L'approfondimento legato alla medicina pura, ma vi dev'essere anche un accompagnamento rispetto a queste nuove tecnologie. E io sono spaventata da ospedali fatti con il controllo dell'intelligenza artificiale, perché vuol dire che già sostituito l'uomo. Noi legislatori come possiamo intervenire proprio a garanzia che vi sia la... Il controllo dei processi? Perché altrimenti se ci sfugge questo poi con nuovi modelli che possono autoalimentarsi, autocorreggersi, effettivamente diventa un rischio molto alto proprio per quello che può essere l'impatto su sull'utente finale.

25:26 - 29:59

Tonino Cantelmi

Proprio nell'ospedale senza umani, come negli alberghi senza umani o in altri... Io reclamo il diritto all'intermediazione umana, cioè nel senso io in qualunque momento dovrei poter chiedere di avere un umano di riferimento. Questo mi sembra un 1 punto centrale. Per quanto riguarda il tema del... È chiaro che...

Della responsabilità, no? È chiaro che potremmo dare una responsabilità a una personalità giuridica all'intelligenza artificiale. Non è una cosa folle, forse c'è qualche giurista, sapete che su questo c'è un dibattito immenso e quindi... Perché poi però se gli diamo... Se le diamo la procedura giuridica poi potrebbe fare testamento, potrebbe anche acquistare qualcosa, cioè voglio dire, no?

Siamo nella... Però qual è il punto centrale? Il punto centrale è che, fatto salvo le responsabilità degli sviluppatori, dei produttori che dovrebbero attenersi ad alcune regole appunto, EDICS BY ZINE, e queste sono... Siete voi che dovete mettere queste regole, perché la... Perché nella salute davvero possa essere equa e distributiva e quindi e quindi questo è molto complicato, ma queste sono regole che andrebbero messe.

E poi delle intelligenze artificiali di controllo, dobbiamo immaginare anche che... Ma come facciamo comunemente? Cioè noi chiunque di noi usa l'intelligenza artificiale fa un lavoro con un'intelligenza artificiale e poi io usi un'altra intelligenza per controllare quello che fatto quell'altra, no? Voglio dire quando scriviamo un articolo, il mio articolo me lo elaboro in intelligenza artificiale e poi vado su Open Evidence e metto tutti I dati e vedo... Quindi così probabilmente dovremmo essere dei...

Avere una governance di questo tipo, ma il punto è che la decisione finale spetterebbe nel... Nella... Human in the loop spetterebbe all'uomo. È qui il punto però, perché tendenzialmente io tendo a dare talmente tanta fiducia all'intelligenza artificiale che alla fine io darò quell'okay automaticamente. Cioè non avrò il coraggio di oppormi ad una decisione frutto di un...

E quindi ci sarà una sorta di dittatura dell'algoritmo. E qui questo è un punto centrale difficilissimo da risolvere, però è chiaro che alla fine... Perché vedete se io al mio robot neuroriabilitatore la decisione se tu dopo quell'incidente colossale che hai avuto ti hanno fatto a pezzettini, vale la pena spendere soldi per gestire una tua ripresa e tutti gli studi dicono che non vale la pena, il robot decide che non vale la pena. A volte noi però decidiamo, io faccio lo stesso un trattamento perché alimenta la speranza, perché alimenta la relazione, perché dà un po' di benessere, perché non non mi... Il mio braccio rimarrà sempre così ma io sto meglio.

Questo non lo può valutare intelligenza artificiale quindi alla fine ci vorrà un umano che decide, ma avremo umani così capaci così generosamente capaci di decidere di fronte a un algoritmo che prende le decisioni? Questo è un grosso problema e poi il problema colossale è quello dei dati. Allora l'intelligenza artificiale è vorace. In questo momento sta... Noi umani stiamo addestrando l'intelligenza artificiale, qualunque gesto voi fate in questo momento in rete quello non serve più per profilarvi dal punto di vista commerciale, valete molto poco da questo punto di vista, ma valiamo tantissimo perché I sistemi di intelligenza artificiale stanno studiando come ci comportiamo in rete.

Stanno distruggendo tutti I libri. Voi sapete che se io adesso ho un... 1 intera biblioteca, la voglio dar via, ci sono le piattaforme e me la comprano, qualunque libro, anche I tipi antichi sono ancora più preziosi, tutto sta voracemente. I dati sono fondamentali. Ma voi pensate davvero che la disponibilità di sanitari non sia una preda, no, ambita di più?

Il vero grande tesoro dell'umanità? Assolutamente sì. Come proteggere questi dati? Perché se io so che lei avrà la depressione fra 2 anni, io farò fatica a darle un incarico. Non...

Anche in politica probabilmente farebbero fatica. Quindi come si fa a proteggere questo? Questo è un problema che si porrà, si

29:59 - 30:00

porrà...

30:00 - 30:42

Tonino Cantelmi

Però il vantaggio è talmente tanto, cioè voglio dire che non potremo... Dobbiamo mettere sull'altro piatto da bilancio il fatto che se io posso curare la tua depressione ti evito il divorzio, il periodo del lavoro, forse smetti di andare all'università, forse se io posso intervenire in anticipo, ti evito tutto quel... Quella cascata di impoverimento sociale che la depressione potrebbe fare con te 1º che io riesca a curarti quando tu ti ammali. E quindi voglio dire non è poco, è un vantaggio enorme a cui io non credo che possiamo rinunciare, quindi saranno da bilanciare tutte queste cose qui. 2º me voi avrete un gran lavoro da questo punto di vista.

Però affascinante.

30:54 - 31:06

Stefania Pucciarelli

Collega Lombardo, se altre domande siamo qua a disposizione. Magico.

31:07 - 31:08

Perché il mio tocco non funziona?

31:14 - 34:08

Marco Lombardo

Ma volentieri, ma perché penso che l'occasione sia veramente utile e quindi cerchiamo di raccogliere il più possibile. Io penso che noi non ne usciremmo se non da un dialogo costante, noi legislatori, noi politici, noi decisori politici, con gli esperti, e cercando di adeguare sempre una realtà che sarà in continuo cambiamento, alla legislazione che abbiamo. Per esempio, ponevo il tema dell'analisi predittiva dei dati sanitari, ma ripeto, io la voglio guardare come lei dal punto di vista delle opportunità, lo dicevo 1º, è l'unica garanzia che noi abbiamo di mantenere negli anni e nel tempo il principio delle cure. Quindi, da questo punto di vista, io la vedo come la possibilità di riorientare la spesa sanitaria in maniera massiva, in maniera decisiva, ma proprio per garantire quel principio universalistico delle cure, perché sennò rimarrà sempre più astratto e sempre meno realistico. Allora, una domanda che le volevo fare è questa, noi spesso ci soffermiamo sulla legislazione di principio.

A me sembra che invece gli operatori abbiano bisogno di decreti attuativi, cioè non abbiano bisogno di passare dal principio all'attuazione, Perché noi l'abbiamo scritto nel PNRR che ci vuole la sanità digitale, che ci vuole analisi predittivo, ma noi ancora non abbiamo neanche il Fascicolo Sanitario Elettronico interoperabile. Cioè, noi avremmo una strumentazione incredibile, ma non abbiamo neanche l'interoperabilità dei dati sanitari all'interno del sistema nazionale. Diviso tra le regioni, diviso tra il ministero, diviso... Allora, forse dobbiamo anche fare pace che non possiamo prendere questo tema dal lato della privacy. Glielo dico da giurista, in questo caso.

Per me, prendere il tema dal lato della privacy, oggi, stante così l'intelligenza artificiale, è finito quel mondo lì. Dobbiamo cercare di guardare con nuovi occhi anche alle tutele rispetto alla tecnologia, perché altrimenti il rischio è che noi non avremo l'interoperabilità dei dati sanitari nel sistema pubblico, e ce l'avremo ahimè, da parte di chi non le nostre stesse regole, ma siccome queste cose operano a livello globale, a livello mondiale, c'avrà I nostri dati sanitari dal punto di vista privato. Quindi, le chiedo, questa era la domanda, 2º lei, dal punto di vista dell'attuazione delle norme, non dei principi, come siamo messi, in questo momento, in Italia, sul tema dell'utilizzo dell'intelligenza artificiale sui dati sanitari?

34:18 - 37:25

Tonino Cantelmi

Perché lei riesce a me no? Perché aveva... Bisogna spingere di più, non è... Non è semplicemente un passaggio. Allora mentre preparavo...

Io ho coordinato il documento del comitato nazionale di bioetica, forse non so se avete già nella vostra disponibilità, ma penso che comunque è disponibilissimo, sul sul cambiamento del consenso informato con l'intelligenza artificiale, capite benissimo che questo è un altro dei temi che si apre eccetera. Mentre preparammo questo documento, ogni volta che lo portavo in discussione, escevano fuori nuove... Cioè non... L'Italia si e' dotata anche di una legge su questo anche, ma non ce la farete, cioe' va troppo veloce, quindi non ce la farete. Il vero problema purtroppo supera anche l'interlocuzione con gli esperti.

Il vero problema è quello che mi spiace fare una citazione diciamo a cui tengo molto ma è quella della magnifica Humanitas di Leone 14 quando dice, farai dice una cosa di una potenza rivoluzionaria incredibile, cioè esplosiva. Cioè lui dice, ma l'ingiustizia è proprio il fatto che l'intelligenza artificiale è nelle mani di poche persone che non rispondono a nessuno perché gli Stati non hanno questa possibilità. Quindi voglio dire, dovremmo avere il coraggio di parlare con queste poche persone, così come è stato fatto in Vaticano, per intanto rallentare un minimo, perché se non rallenti non riesci a fare... E poi renderla giusta l'intelligenza artificiale, perché l'ingiustizia si annida dietro l'angolo. L'onore...

Il senatore lombardo potrebbe scomparire completamente se l'algoritmo decide di di farla sparire. Lei potrebbe sparire completamente, potremmo togliere tutte le immagini che ci sono, potremmo annullare... Cioè noi potremmo veramente annullare... Cioè una potenza senza limiti. Quindi il problema è molto più complesso di quello che io un povero psichiatra posso affrontare diciamo da questo punto di vista.

Ed è un... Ed è di una velocità così straordinaria che è difficile poter... Io cosa penso come anche come comitato nazionale di biblioteca l'abbiamo suggerito, no? Quello di creare dei centri gestiti dallo Stato che in qualche modo possa essere così rapidi nel nel seguire... Quindi il istituto di sanità per esempio lo sta facendo, cioè di di promuovere questo tipo di investimenti, cioè investimenti in centri che gestiscano...

Che abbiano il potere di di gestire un po' di governance, un po' di governance della intelligenza artificiale con una rapidità, con un... Quindi dei centri però che siano governati da dallo stato, fondamentalmente.

37:33 - 39:54

Stefania Pucciarelli

Condivido con lei che forse è necessario avere un'unità di intenti da parte di tutti gli stati, dove effettivamente con una direzione univoca si chieda a questi pochi di rallentare nel frattempo. Trovare una decisione direi globale proprio per perimetrare quello che è il limite di quello che è l'intelligenza artificiale, perché è vero che è giusto strutturare ogni ambito con degli esperti, ma credo che vi sia proprio la difficoltà degli esperti ad andare dietro quella che è la velocità dell'intelligenza artificiale, perché viaggia in una continua evoluzione che di... Penso che sia difficile per tutti poterlo seguire. Quindi anch'io, ripeto, penso che l'unica possibilità concreta è di fare fronte comune. Non so se c'è questa maturità e questa consapevolezza, altrimenti veramente è un rischio per l'umanità non indifferente, perché noi oggi siamo in Italia, mondo occidentale, viviamo comunque con la tecnologia che è pressoché la portata di tutti, ma basta spostarsi in quello che è un continente tipo l'Africa dove effettivamente vi sono delle difficoltà e vuol dire che andrai ad incrementare ulteriormente quelli che sono dei divari che già oggi sono notevoli.

Quindi con poi tutte le implicazioni che possono conseguire con lo sfruttamento dei dati di tutto quello che può essere anche in un territorio o un patrimonio e quindi con altri scenari ancora più inquietanti. Quindi occorrerebbe che l'umanità si interrogasse e agisse su... Agisse proprio su questo per evitare quello che è la violazione dei diritti umani proprio come diritto dell'essere. Quindi grazie. Io se ci...

Non so se ci sono altre domande. Grazie per la sua... Il suo contributo veramente importante. Grazie davvero, professore.

39:54 - 39:55

Buon lavoro.

39:55 - 39:56

Grazie, anche a lei.