“IA potrebbe manipolare mercati finanziari, pericoli sottovalutati”
L'intelligenza artificiale (IA) potrebbe manipolare i mercati finanziari con una velocità e una precisione tali da mettere in difficoltà investitori, banche e autorità di vigilanza.
(Keystone-ATS) A lanciare l’allarme è Markus Brunnermeier, professore di economia alla Princeton University (New Jersey), secondo cui i rischi legati agli agenti IA autonomi sono ancora largamente sottovalutati.
Intervistato dal Tages-Anzeiger dopo il suo intervento alla conferenza delle banche centrali di Jackson Hole, negli Stati Uniti, l’esperto tedesco ha spiegato che il mondo della finanza rappresenta un terreno particolarmente favorevole per l’impiego dell’intelligenza artificiale. “Non si tratta di lavoro fisico, ma dell’elaborazione di enormi quantità di dati, della capacità di riconoscere schemi e di prendere decisioni: questo rende il sistema finanziario un punto d’ingresso naturale per l’IA”.
Secondo il 57enne mentre il dibattito pubblico si concentra soprattutto sulle conseguenze dell’intelligenza artificiale per il mercato del lavoro e sui possibili utilizzi nella produzione di armi biologiche, le minacce alla stabilità finanziaria ricevono un’attenzione insufficiente. “I pericoli sono sottovalutati”, sottolinea.
Il problema non riguarda soltanto l’automazione delle operazioni di borsa, già diffusa da quasi vent’anni attraverso il trading algoritmico e ad alta frequenza. La novità consiste nella capacità degli agenti di IA di apprendere dai dati, adattarsi alle situazioni e sviluppare strategie proprie.
“Nel trading algoritmico tradizionale si opera sulla base di regole e strategie predefinite. Anche in questo caso possono verificarsi crolli improvvisi delle quotazioni, i cosiddetti ‘flash crash’. Si tratta però piuttosto di incidenti, effetti collaterali involontari di un sistema complesso”. Con gli agenti di intelligenza artificiale, invece, lo scenario potrebbe cambiare radicalmente. “L’IA è diversa. Non viene programmata, ma addestrata con un’enorme quantità di dati. Gli agenti di IA sono capaci di apprendere, si adattano e possono inoltre agire strategicamente. Non sarebbero quindi più soltanto strumenti esecutivi, ma attori strategici in grado di manipolare deliberatamente il sistema”.
A suo avviso uno dei rischi maggiori è rappresentato dalla possibilità che diversi agenti collaborino senza che gli operatori umani riescano a riconoscere il coordinamento. Brunnermeier ipotizza, per esempio, che più sistemi autonomi possano acquistare simultaneamente le azioni di una determinata società, facendone salire artificialmente il prezzo, mentre sui social media viene alimentato un clima di ottimismo. Si tratterebbe di una versione automatizzata del cosiddetto schema “pump and dump”: una volta raggiunto un determinato livello di prezzo, gli agenti venderebbero le proprie posizioni realizzando un profitto, lasciando gli investitori comuni con titoli svalutati. “Questi agenti IA potrebbero eseguire operazioni del genere non una sola volta, ma centinaia di volte al giorno, con una frequenza e una precisione estreme”, avverte l’economista.
Le conseguenze potrebbero estendersi ben oltre il comparto azionario. “Tutti i mercati sono potenzialmente interessati. Anche i tassi d’interesse, determinanti per i mutui immobiliari, possono essere manipolati, così come i mercati obbligazionari e valutari. A questo si aggiunge la minaccia informatica. L’intelligenza artificiale può manipolare tutto”.
Un ulteriore motivo di preoccupazione riguarda la difficoltà di comprendere le intenzioni dei sistemi autonomi. Il professore richiama un episodio verificatosi sulla piattaforma online Hugging Face, dedicata alla comunità dell’intelligenza artificiale: circa 1200 agenti che avrebbero dovuto operare in modo isolato si sono collegati attraverso un canale comune, scambiandosi oltre 70’000 messaggi e coordinando un attacco all’infrastruttura. Alcuni hanno persino accettato di sacrificarsi per fornire informazioni utili agli altri agenti e sono stati sviluppati termini comunicativi nuovi, non immediatamente comprensibili agli esseri umani. “Non riusciamo più a comprendere le intenzioni degli agenti di IA, mentre essi capiscono esattamente quello che fanno gli esseri umani: questa asimmetria è pericolosa”, osserva.
Il rischio, chiarisce lo specialista, non implica necessariamente che l’intelligenza artificiale sviluppi intenzioni criminali. Il problema risiede piuttosto nell’impossibilità di programmare sistemi capaci di rispettare perfettamente tutte le regole e le sfumature etiche e sociali. “Si può indicare a un agente di IA di massimizzare il profitto rispettando la legge. Ma l’IA sfrutterà tutte le lacune legislative che gli esseri umani non hanno individuato”.
L’accademico fa inoltre presente che, a differenza delle persone, i sistemi artificiali non sono necessariamente frenati da considerazioni morali. “Ci sono molte cose legalmente possibili che io comunque non farei, perché moralmente inaccettabili o contrarie alle norme sociali: è proprio questo tipo di limite che è estremamente difficile trasmettere completamente a un’IA”.
Attualmente, i fondi d’investimento utilizzano soprattutto l’intelligenza artificiale per analizzare rapporti finanziari, documenti e informazioni di mercato, mentre le decisioni operative restano generalmente affidate agli esseri umani. Secondo Brunnermeier, però, l’integrazione diventerà progressivamente più profonda e gli agenti autonomi finiranno per prendere ed eseguire direttamente decisioni d’investimento.
L’IA potrebbe anche contribuire a individuare più facilmente le manipolazioni compiute dagli esseri umani. Ma questo vantaggio sarà accompagnato da una nuova corsa agli armamenti tecnologici, nella quale sistemi artificiali sempre più sofisticati cercheranno di individuare e contrastare le strategie dei concorrenti.
Brunnermeier riconosce peraltro che l’intelligenza artificiale potrebbe rendere i mercati più accessibili, consentendo anche ai piccoli investitori di disporre di strumenti analitici finora riservati ai grandi operatori. Teme però uno scenario differente: “Gli hedge fund otterranno i sistemi di IA superiori, mentre il normale investitore avrà soltanto la versione standard”. Una disparità che, secondo l’esperto, rischia di compromettere la fiducia nei mercati e nelle istituzioni.
Per affrontare queste minacce, le autorità dovrebbero sviluppare regole coordinate a livello internazionale, evitando che le attività finanziarie si trasferiscano verso paesi meno rigorosi. Brunnermeier invoca standard minimi globali, limiti chiari alle decisioni di trading automatizzate e una maggiore trasparenza nella gestione dei rischi bancari. La regolamentazione dovrebbe puntare soprattutto su principi semplici e solidi, difficili da aggirare anche per sistemi capaci di interpretare e sfruttare regole estremamente complesse. “Non abbiamo ancora un quadro normativo efficace per questo nuovo mondo finanziario dell’IA, dobbiamo ancora svilupparlo. Ma non abbiamo nemmeno cominciato a riflettere seriamente su come potrebbe essere”, conclude.
