Quando una tecnologia può essere considerata sicura, utile e affidabile?

Quando possiamo dire che una tecnologia è sicura, utile e affidabile? Tre aggettivi, che non coincidono. Un sistema può essere tecnicamente sicuro ma inutile. Può essere utilissimo ma poco affidabile. Può essere statisticamente molto accurato ma inaccettabile in un contesto giudiziario perché nessuno riesce a spiegare come abbia prodotto il risultato. In un sistema giudiziario una tecnologia non è “buona” solo perché funziona, né è “sicura” perché rispetta parametri normativi o tecnici: è affidabile quando migliora la capacità della giustizia di decidere bene, in tempi  ragionevoli, senza rendere opachi responsabilità, diritti e possibilità di controllo.

Prima ancora, occorre stabilire che cosa intendiamo per “funzionare”. Per Amazon “funzionare” può voler dire prevedere cosa compreremo. Per un navigatore, trovare il percorso più veloce. Per la giustizia il parametro è molto più esigente, perché entrano in gioco libertà, patrimonio, reputazione, diritti fondamentali e legittimazione democratica. Questo basta a tenerci lontani, fin dall’inizio, da ogni tecno-utopismo.

Estenderei allora alla tecnologia nella giustizia una categoria elaborata dall’AI Act per l’intelligenza artificiale: quella dell’«alto rischio». Non conta soltanto la tecnologia in sé: contano le conseguenze concrete che può produrre nel contesto d’uso.

Parto dal riconoscere ciò che la tecnologia può fare molto bene: la digitalizzazione può alleggerire molte attività: ricerca e gestione documentale, trascrizione, classificazione, anonimizzazione, analisi di grandi quantità di dati, accesso alla giurisprudenza, gestione delle udienze. L’AI generativa compie un passo ulteriore: non si limita a reperire informazioni, ma le riorganizza e produce ipotesi di risposta. Ed è qui che entriamo nel campo più delicato.

È possibile, con un livello di rischio contenuto e controllabile, digitalizzare tutto ciò che nella giustizia è burocratico. Dobbiamo essere molto più prudenti - fino, se necessario, ad arrestarci - quando la tecnologia entra nel giudizio o nelle attività che lo preparano. In altre parole, il digitale è straordinariamente utile quando aumenta le capacità dell’essere umano: trova, ordina, confronta, evidenzia. Diventa problematico quando, da strumento della decisione, vira verso il diventare il soggetto della decisione. La sfida è tenere insieme sicurezza e accessibilità del dato; e, sul piano normativo, la velocità dell’innovazione e i tempi – necessariamente più lenti – delle regole e dell’organizzazione.

Quando si parla di tecnologia sicura si pensa immediatamente a cyber-sicurezza, attacchi, perdita dei dati, errori del software. Sono problemi reali, imponenti, ma nella giustizia non sono gli unici. Non mi soffermo in questa sede sulla cybersecurity, salvo ricordare che nessun presidio tecnico è sufficiente senza una diffusa cultura della sicurezza.

Vorrei, invece, rivolgere l’attenzione alla affidabilità del digitale che, quando entra nell’ordinaria forma processuale, diventa una condizione di esercizio della giurisdizione: tanto che il malfunzionamento non è più un inconveniente amministrativo, ma tocca termini, decadenze, diritti.

Individuerei quattro rischi, molto rapidamente: errore, quando il sistema produce una risposta sbagliata; opacità, quando produce una risposta che non sappiamo ricostruire; bias, quando amplifica distorsioni presenti nei dati o nelle pratiche precedenti; automation bias, forse il più insidioso: quando l’essere umano tende a fidarsi della macchina proprio perché la percepisce come più oggettiva.

Il rischio futuro potrebbe non essere il “giudice robot”. Potrebbe essere qualcosa di molto più sottile: un giudice umano che formalmente decide, ma che nella pratica tende sistematicamente a confermare la proposta della macchina. La presenza di un essere umano nel processo non garantisce, da sola, che esista un controllo umano. Possiamo, cioè, conservare l’essere umano e perdere il controllo umano.

Il vero human oversight richiede competenza, tempo, accesso alle fonti e una possibilità concreta di dissentire dall’output tecnologico.

È a questo punto che possiamo tradurre l’affidabilità in criteri concreti. Da un lato, la risposta ai malfunzionamenti: non si tratta più di inconvenienti amministrativi. Il legislatore ha già riconosciuto questa trasformazione: gli articoli 175-bis c.p.p. e 196-quater disp. att. c.p.c. hanno dato al malfunzionamento uno statuto giuridico. Quanto, invece, ai presupposti per l’impiego di un sistema, prima di introdurre una tecnologia nella giustizia dovremmo sottoporla almeno a cinque test.

1) Test dell’utilità. Quale problema stiamo realmente risolvendo? Riduciamo tempi e costi oppure stiamo semplicemente digitalizzando una procedura inefficiente?

2) Test dell’accuratezza. Quanto spesso sbaglia? E soprattutto: come sbaglia? Nella giustizia non tutti gli errori hanno lo stesso peso.

3) Test della trasparenza. Possiamo ricostruire quali dati, fonti e criteri hanno condotto al risultato? Chi subisce gli effetti della decisione può contestarla?

4). Test della responsabilità. Se la tecnologia sbaglia, chi risponde: il magistrato, l’amministrazione, il fornitore, chi ha addestrato il modello? Se non sappiamo rispondere, il sistema probabilmente non è ancora pronto.

5) Test della contestabilità e della reversibilità. Possiamo contestare il risultato, correggere l’errore o escludere il sistema quando emergono anomalie?

Da ciò l’evoluzione della formula che ho proposto all’inizio: Affidabilità = utilità + accuratezza + trasparenza + responsabilità + contestabilità. Aggiungerei che nella giustizia la contestabilità è decisiva: non basta poter conoscere il risultato; bisogna poterlo mettere in discussione.

C’è poi un secondo equilibrio da governare: quello tra il tempo della norma e il tempo della tecnologia. Il legislatore è stretto fra due tentazioni opposte: rincorrere la tecnologia con norme di dettaglio, che nascono già vecchie; oppure rinunciare a normare, lasciando che sia la tecnica a dettare di fatto la regola. Nessuna delle due è accettabile per un ordinamento. La via che il Ministero persegue è una terza: norme primarie che fissano principi stabili, e una fonte tecnica flessibile che li attua e si aggiorna. Un altro equilibrio riguarda il dato giudiziario, insieme strumento di conoscenza e patrimonio da proteggere: la risposta non può essere la chiusura, ma la crescita parallela di accessibilità e sicurezza, apertura e controllo.

Sul piano amministrativo, mi limito a ricordare due direttrici: la prima è la costruzione di presidii permanenti di sicurezza e resilienza, il cui valore è emerso quest’anno concretamente a Bolzano, dove magistrati e personale hanno potuto riprendere il lavoro su postazioni virtuali dopo l’improvvisa inagibilità degli uffici; la seconda è l’intelligenza artificiale, rispetto alla quale il metodo scelto è quello della sperimentazione governata.

La stessa impostazione ha orientato il contributo del Ministero alla Strategia nazionale per l’intelligenza artificiale 2026-2028: la giustizia non è un settore amministrativo come gli altri, perché l’IA incontra qui una funzione costituzionalmente riservata.

Stiamo quindi ragionando anche su un’intelligenza artificiale specifica per la giustizia, fondata sul patrimonio documentale dell’amministrazione e residente nei sistemi del Ministero. È un tema di affidabilità, ma anche di sovranità tecnologica: non è indifferente chi controlla i dati e gli strumenti attraverso i quali li elaboriamo.

La tecnologia - lo ricorda l’enciclica Magnifica humanitas dedicata dal Papa Leone XIV alla custodia della persona umana nel tempo dell’intelligenza artificiale - «non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa», e i motori dello sviluppo sono oggi attori privati e transnazionali, dotati di risorse superiori a quelle di molti Stati.

In questo scenario complesso non esiste un punto di equilibrio dato una volta per tutte: esiste un metodo per cercarlo. E quel metodo ha tre elementi: il primo è la leale collaborazione istituzionale (Ministero, autogoverno, avvocatura, legislatore, istituzioni europee); il secondo è lo scopo: la tecnologia deve servire la giurisdizione, non orientarla; il terzo è il governo del tempo: la gradualità non è lentezza, è la forma che la prudenza assume quando si amministra un sistema dal quale dipendono i diritti delle persone.

Prima di concludere, una nota critica, rivolta anzitutto a noi stessi: la nostra elaborazione deve accelerare. Non possiamo continuare a usare le stesse parole (anche quelle del nostro seminario caprese dello scorso anno) mentre la tecnologia ci sopravanza. Affrontare l’evoluzione in modo più diretto e tempestivo è una responsabilità anzitutto della nostra amministrazione.

Provo allora a ricondurre tutto a un’idea semplice. Il nostro obiettivo non è una tecnologia che non sbaglia mai - non esiste! - ma un ordinamento che sappia cosa fare quando essa sbaglia. E non è una giustizia automatizzata, ma una giustizia migliorata: una giustizia nella quale la tecnologia ci restituisce tempo per ciò che resta propriamente umano: interpretare, ascoltare, contestualizzare, motivare e assumersi la responsabilità di decidere.

Torno così alla domanda iniziale: quando una tecnologia può essere considerata sicura, utile e affidabile? Non quando elimina l’essere umano dalla decisione, e neppure quando lo lascia soltanto formalmente presente. Lo è quando lo rende più capace di decidere senza renderlo meno responsabile. Per questo la vera sfida della digitalizzazione della giustizia non è decidere quanta tecnologia introdurre: è decidere quali qualità della giustizia non siamo disposti a perdere mentre la introduciamo.

Questo è il nostro presidio di sicurezza. E pure la nostra ricetta contro il tecno-pessimismo.

 

* Antonio Mura è Capo di Gabinetto del Ministero della Giustizia