Che cos’è l’Explainable AI (XAI)?

L’Explainable Artificial Intelligence (XAI), conosciuta anche come IA spiegabile, descrive approcci e metodi che mirano a rendere comprensibili le decisioni e i risultati dell’intelligenza artificiale (IA).

Con la crescente complessità dell’IA e i progressi raggiunti nel campo dell’apprendimento automatico, sta diventando sempre più difficile per gli utenti comprendere i processi alla base dei risultati di un’IA. Ciò rende ancora più importante la massima comprensione delle decisioni e dei risultati dell’intelligenza artificiale.

Allo stesso tempo, rimane un obiettivo centrale della ricerca sviluppare l’IA in modo che apprenda autonomamente e trovi soluzioni a problemi complessi. È proprio qui che entra in gioco l’intelligenza artificiale spiegabile (XAI), che punta alla trasparenza aprendo la “scatola nera” dell’IA e fornendo spunti su come funzionano gli algoritmi. Altrimenti, viene meno la fiducia nei calcoli digitali effettuati. La trasparenza consentita dall’IA spiegabile è quindi di enorme importanza per l’accettazione dell’intelligenza artificiale.

Dovrebbero esserci modelli spiegabili senza dover sacrificare le elevate prestazioni di apprendimento. La trasparenza data dall’Explainable Artificial Intelligence (XAI) è fondamentale per creare fiducia nei sistemi di IA. Ciò consente agli utenti di giudicare meglio il funzionamento dell’IA e di valutare i risultati di conseguenza. Dovrebbe anche consentire agli utenti futuri di comprendere la generazione emergente di partner artificialmente intelligenti, di fidarsi di loro in misura adeguata e di essere in grado di gestirli e lavorare con loro in modo efficiente. Senza questa comprensione, l’uso affidabile e l’accettazione dell’IA rimangono aspetti ostici.

Le aree di applicazione più importanti di XAI

L’intelligenza artificiale non è più solo a uso e consumo dei ricercatori e delle ricercatrici. Al contrario, è già parte integrante della vita quotidiana. È quindi ancora più importante che la modularità dell’intelligenza artificiale non sia nota solo agli specialisti e agli utenti diretti: chi prende decisioni, in particolare, deve essere il più possibile consapevole del funzionamento dell’IA, così da gettare le basi per fidarsi della tecnologia. In questo ambito è quindi particolarmente importante l’obbligo di responsabilità (in inglese “accountability”). Di seguito ti presentiamo le aree di applicazione più importanti.

Guida autonoma

Ci sono diversi progetti che si occupano di sviluppare metodi per integrare la conoscenza e la spiegabilità nei modelli di apprendimento profondo per la guida autonoma. L’obiettivo è migliorare l’efficienza dei dati e la trasparenza di tali sistemi per aumentarne l’affidabilità e la sicurezza.

Diagnostica medica

Nel settore sanitario, l’IA viene sempre più utilizzata per diagnosi e raccomandazioni terapeutiche, ad esempio nell’oncologia per riconoscere schemi in campioni di tessuto che indicano la presenza di un cancro, come il progetto Clinical Artificial Intelligence. L’IA spiegabile consente di comprendere le decisioni prese da un’intelligenza artificiale, come ad esempio il motivo per cui è stata diagnosticata una determinata malattia o è stato suggerito un trattamento specifico. Ciò è essenziale per rafforzare la fiducia dei pazienti e degli operatori sanitari nei sistemi supportati dall’intelligenza artificiale.

Settore finanziario

Nel settore finanziario, ad esempio, l’IA viene utilizzata per decisioni di credito, rilevamento di frodi e valutazioni del rischio. XAI aiuta a rivelare le basi di tali decisioni e a garantire che siano giustificabili dal punto di vista etico e legale. Ciò consente alle parti interessate e alle autorità di vigilanza di capire come e perché un prestito è stato approvato o rifiutato.

Controllo e gestione aziendale

Per i manager è importante comprendere il funzionamento dei sistemi di IA utilizzati, ad esempio, per le decisioni strategiche o le previsioni. XAI permette di comprendere gli algoritmi e di valutarne i risultati in modo fondato.

Imaging di rete neurale

L’intelligenza artificiale spiegabile è utilizzata anche nell’imaging delle reti neurali, in particolare nell’analisi dei dati delle immagini da parte dell’IA. L’obiettivo è capire come le reti neurali elaborano e interpretano le informazioni visive. Le applicazioni spaziano dall’imaging medico, come l’analisi delle radiografie o delle risonanze magnetiche all’ottimizzazione delle tecnologie di sorveglianza. XAI aiuta a decifrare il funzionamento dell’intelligenza artificiale e quali caratteristiche di un’immagine contribuiscono al processo decisionale. Ciò è particolarmente importante nelle applicazioni critiche per la sicurezza o sensibili dal punto di vista etico, poiché le interpretazioni errate possono avere gravi conseguenze.

Formazione di strategie militari

Nel settore militare, l’IA viene utilizzata per sviluppare strategie per decisioni tattiche o simulazioni. XAI svolge un ruolo cruciale in questo contesto: ciò include la spiegazione del motivo per cui vengono raccomandate determinate misure tattiche o il modo in cui l’IA dà priorità a diversi scenari.

In queste e in molte altre aree, l’IA spiegabile garantisce che i sistemi di IA siano percepiti come strumenti affidabili, le cui decisioni e processi sono comprensibili ed eticamente giustificabili.

Come funziona l’IA spiegabile (XAI)?

Esistono diversi metodi o approcci per generare trasparenza e comprensione dell’intelligenza artificiale. Nei seguenti paragrafi abbiamo riassunto quelli principali:

• La tecnologia LRP (Layer-wise Relevance Propagation, letteralmente “trasferimento della rilevanza livello per livello”) è stata descritta per la prima volta nel 2015. Si tratta di una tecnica per determinare le caratteristiche dei vettori in ingresso che influenzano maggiormente l’output di una rete neurale.
• Il Counterfactual Method (“metodo controfattuale”) descrive il modo in cui gli input di dati (testi, immagini, grafici, ecc.) vengono modificati in modo mirato dopo aver ottenuto un risultato. In seguito, si determina in che misura il risultato dell’output è stato modificato.
• Il Local Interpretable Model-Agnostic Explanations (LIME) è un metodo che ha l’obiettivo di spiegare il comportamento di ogni classificatore della macchina e il relativo output. Lo scopo è rendere i dati e le procedure decisionali comprensibili agli utenti non esperti in materia.
• La razionalizzazione è una procedura utilizzata specificamente nei robot basati sull’IA. La macchina è progettata in modo tale da poter spiegare autonomamente le proprie azioni.

Qual è la differenza tra l’IA spiegabile e l’IA generativa?

L’IA spiegabile (XAI) e l’IA generativa (GAI) differiscono fondamentalmente per l’obiettivo e la finalità: l’obiettivo di XAI è quello di rendere i processi decisionali dei modelli di IA comprensibili. Ciò avviene utilizzando metodi quali visualizzazioni, sistemi basati su regole o strumenti come LIME e SHAP. In questo caso ci si concentra sulla trasparenza, soprattutto nelle aree critiche dove la fiducia e la tracciabilità sono essenziali.

L’IA generativa, invece, si concentra sulla creazione di nuovi contenuti come testi, immagini, musica o video. Utilizza reti neurali come le reti generative avversarie (GAN) o modelli trasformatori per generare risultati creativi che simulano il pensiero umano o i processi artistici. Ne sono un esempio i generatori di testo come GPT o di immagini come DALL-E, utilizzati principalmente nell’arte, nell’intrattenimento e nella produzione di contenuti.

Mentre XAI mira a spiegare i modelli di IA esistenti, GAI si concentra sulla generazione di contenuti innovativi. Entrambi gli approcci possono essere combinati tra loro. Ad esempio, i modelli generativi possono essere spiegati da XAI per garantire che i loro risultati siano etici, trasparenti e affidabili. Quindi, XAI e GAI si completano a vicenda promuovendo la trasparenza e l’innovazione nel campo dell’intelligenza artificiale.