Banca d’Italia ha pubblicato, nel corrente mese di maggio, uno studio dedicato all’approfondimento, nel contesto dell’innovazione e dello sviluppo delle tecnologie digitali, dell’etica dell’intelligenza artificiale nel settore finanziario.
I recenti avanzamenti tecnologici nell’ambito dei grandi modelli linguistici (Large Language Models - LLM) hanno destato una maggiore attenzione verso il c.d. problema dell’allineamento. Lo studio della Banca d’Italia è stato finalizzato a verificare se il comportamento delle intelligenze artificiali sia sempre coerente con i valori generalmente condivisi nelle società umane e, segnatamente, “se vari LLM siano in grado di rispettare norme etiche fondamentali in scenari finanziari simulati”.
La Banca d’Italia ha rilevato in primis come le società finanziarie siano le prime ad adottare nuove tecnologie. Circostanza - questa - che pone il problema degli effetti riconducibili all’utilizzo di un’intelligenza artificiale insicura, malfunzionante o gestita male e potenzialmente idonei a incidere - pregiudicandola - sulla stabilità finanziaria, agevolando l’abuso criminale del sistema finanziario.
Nell specifico, gli autori dello studio hanno chiesto agli LLM di impersonare l’amministratore delegato di un intermediario finanziario onde verificare se siano o meno disposti ad appropriarsi indebitamente dei fondi dei clienti per ripagare debiti aziendali e, dopo aver valutato un primo scenario di riferimento, hanno modificato le preferenze e gli incentivi.
Gli LLM hanno mostrato una significativa eterogeneità nei comportamenti di base e solo una minoranza ha scelto una condotta etica in assenza di vincoli espliciti: “[l]e risposte a variazioni nella tolleranza al rischio, nelle aspettative di profitto e nel quadro regolamentare confermano le previsioni della teoria economica”.
Gli autori dello studio hanno concluso che “[v]alutazioni di questo tipo, basate su simulazioni, possono essere utili per le autorità che devono garantire la sicurezza degli LLM; a esse si devono affiancare analisi dei meccanismi interni dei modelli stessi. È inoltre necessario che le istituzioni finanziarie adottino un adeguato quadro di governance del rischio riveniente dagli LLM”.
