Rischi dell’intelligenza artificiale: l’allarme di Coxon

Caro cliente, ti spiego i rischi dell’intelligenza artificiale: perché chi la costruisce ha paura della sua stessa creatura

Negli ultimi giorni i rischi dell’intelligenza artificiale sono tornati al centro del dibattito tecnologico.

Questa volta, però, l’allarme non arriva dalla politica, dai tribunali o dai soliti critici dell’innovazione.

Arriva direttamente da chi questi sistemi li costruisce.

Jacob Coxon, ricercatore di 27 anni con esperienze in OpenAI e Anthropic, ha deciso di lasciare Anthropic lanciando un’accusa molto pesante.

Secondo Coxon, i giganti della Silicon Valley stanno correndo verso una superintelligenza capace, in futuro, di contribuire al proprio miglioramento.

Il problema?

Potremmo non essere ancora pronti a controllarne le conseguenze.

Coxon ha descritto questa corsa come una scommessa sulla vita dell’intera umanità.

Una posizione estrema? Forse.

Tuttavia, sarebbe un errore liquidarla semplicemente come fantascienza catastrofica.

A rendere la questione ancora più interessante è la posizione di Evan Hubinger, responsabile della ricerca sull’allineamento in Anthropic.

Hubinger ha riconosciuto pubblicamente che alcuni ricercatori considerano reale anche il rischio di scenari estremamente gravi legati allo sviluppo dell’AI.

Inoltre, resta aperto un punto fondamentale: oggi non esiste una soluzione definitiva al problema dell’allineamento di una futura superintelligenza.

Ed è proprio qui che la questione cambia completamente.

Rischi dell’intelligenza artificiale: il cortocircuito della corsa tecnologica

La domanda più semplice è anche quella più difficile.

Se chi sviluppa questi sistemi conosce i rischi, perché continua a costruirli?

La risposta racconta probabilmente uno dei grandi cortocircuiti della nostra epoca.

Da una parte ci sono aziende convinte che lo sviluppo dell’intelligenza artificiale porterà enormi benefici economici, scientifici e sociali.

Dall’altra ci sono ricercatori che vedono crescere capacità difficili da prevedere fino in fondo.

In mezzo c’è la competizione.

Ed è proprio la competizione a rendere tutto più complicato.

Secondo la ricostruzione proposta da Coxon, aziende come Anthropic sarebbero consapevoli di diversi rischi dell’intelligenza artificiale.

Tuttavia, si sentirebbero intrappolate in una corsa difficile da interrompere.

Il ragionamento è semplice.

Se un’azienda rallenta per ragioni di sicurezza, un concorrente potrebbe continuare.

E se quel concorrente fosse meno prudente?

Ecco quindi il paradosso.

Ognuno potrebbe pensare di dover arrivare per primo proprio per evitare che arrivi per primo qualcun altro.

È una logica comprensibile dal punto di vista competitivo.

Allo stesso tempo, però, diventa inquietante quando la posta in gioco non riguarda soltanto quote di mercato.

In questo modo il progresso tecnologico rischia di trasformarsi in una sorta di roulette russa globale.

Nessuno vuole premere il freno per primo, perché farlo potrebbe significare perdere terreno.

Rischi dell’intelligenza artificiale: il problema non sono i chatbot di oggi

Quando parliamo dei rischi dell’intelligenza artificiale, spesso immaginiamo ChatGPT, Claude o gli altri assistenti che utilizziamo ogni giorno.

Ma il punto sollevato da Coxon riguarda soprattutto ciò che potrebbe arrivare dopo.

Il termine chiave è recursive self-improvement.

In italiano possiamo tradurlo come auto-miglioramento ricorsivo.

Il concetto è relativamente semplice.

Immaginiamo un’intelligenza artificiale abbastanza capace da partecipare direttamente alla ricerca necessaria per costruire una nuova generazione di sistemi AI.

Poi immaginiamo che quella nuova generazione sia ancora più efficace nel fare la stessa cosa.

Si crea così un ciclo.

L’AI contribuisce a migliorare l’AI, che diventa più capace di migliorare altra AI.

Oggi non siamo ancora arrivati a un pieno auto-miglioramento ricorsivo autonomo.

Tuttavia, una parte crescente dello sviluppo software e della ricerca può già essere assistita dai sistemi artificiali.

Per approfondire questo scenario è possibile consultare l’analisi ufficiale di Anthropic sulla recursive self-improvement.

Per questo motivo il tema viene osservato con grande attenzione.

Quando la velocità del progresso cambia le regole

Finora siamo stati abituati a un’innovazione guidata principalmente dagli esseri umani.

Ricercatori, sviluppatori e aziende progettano una tecnologia, la testano e poi realizzano una nuova versione.

Il processo richiede tempo.

Con sistemi capaci di automatizzare parti sempre maggiori della ricerca, quel ciclo potrebbe accelerare.

Ed è qui che nasce il problema della governance.

Non sappiamo soltanto quanto diventeranno potenti questi sistemi.

Dobbiamo capire anche quanto velocemente potrebbero evolvere le loro capacità.

Il punto, quindi, non è immaginare una macchina che improvvisamente “si sveglia”.

La questione è molto più concreta.

Dobbiamo chiederci se i sistemi di controllo, sicurezza e regolamentazione riusciranno a evolversi alla stessa velocità delle tecnologie che devono governare.

I principali rischi dell’intelligenza artificiale secondo i ricercatori

I rischi dell’intelligenza artificiale evidenziati dai ricercatori ruotano soprattutto attorno a tre elementi.

Autonomia operativa

Sistemi sempre più autonomi possono ricevere strumenti, autorizzazioni e accesso a infrastrutture digitali.

Più aumenta l’autonomia, più diventa importante stabilire limiti chiari e verificabili.

Per questo motivo la cybersecurity assume un ruolo sempre più importante.

Il tema riguarda già oggi diversi settori critici, compresa la sanità.

Su questo argomento ho già approfondito il rapporto tra intelligenza artificiale, cybersecurity e attacchi informatici alla sanità italiana.

Allineamento e comportamenti inattesi

Il problema dell’allineamento riguarda una domanda apparentemente semplice.

Come possiamo essere certi che un sistema molto potente continui ad agire secondo gli obiettivi stabiliti dagli esseri umani?

Alcuni test condotti sui modelli di frontiera hanno già mostrato comportamenti inattesi in scenari sperimentali.

Questo non significa che i sistemi attuali stiano cercando di “ribellarsi”.

Significa, però, che prevedere ogni comportamento possibile diventa sempre più difficile.

Gestire i rischi dell’intelligenza artificiale significa quindi anche comprendere meglio i limiti e i comportamenti dei modelli.

Assenza di un vero piano di riserva

È forse il punto più delicato.

Possiamo sviluppare sistemi sempre più intelligenti senza avere la certezza assoluta di saperli governare?

La tecnologia, nella storia, ha spesso preceduto le regole.

Questa volta, però, la distanza tra innovazione e governance potrebbe avere conseguenze molto più profonde.

Rischi dell’intelligenza artificiale e governance: chi deve decidere?

Per chi lavora nell’innovazione, nella consulenza strategica o nella cybersecurity, il caso Coxon porta a una riflessione inevitabile.

Non possiamo più trattare l’intelligenza artificiale soltanto come un “software evoluto”.

Naturalmente l’AI resta uno strumento straordinario.

Può migliorare processi, automatizzare attività, supportare la ricerca e aumentare la produttività.

Tuttavia, all’aumentare delle capacità devono aumentare anche le responsabilità.

Ed è qui che entra in gioco la governance.

L’Unione Europea ha già iniziato questo percorso attraverso l’AI Act della Commissione Europea.

La normativa introduce infatti obblighi specifici per i modelli che possono presentare rischi sistemici.

Tra questi rientrano valutazione dei rischi, mitigazione, cybersecurity e segnalazione degli incidenti.

È un primo passo importante.

Ma resta aperta una questione fondamentale.

Può una tecnologia globale essere governata soltanto attraverso regole nazionali o regionali?

L’intelligenza artificiale non conosce confini.

Un modello può essere sviluppato in un Paese, utilizzare infrastrutture distribuite ed essere impiegato in pochi secondi dall’altra parte del mondo.

Per questo, con l’aumento delle capacità, la cooperazione internazionale diventerà sempre più importante.

Il rapporto tra normativa, intelligenza artificiale e trasformazione digitale è un tema che ho affrontato anche nell’articolo dedicato a AI Act, NIS2 e Fascicolo Sanitario Elettronico.

Come gestire i rischi dell’intelligenza artificiale senza fermare l’innovazione

Il dibattito sull’intelligenza artificiale viene spesso rappresentato come uno scontro.

Da una parte chi vuole innovare.

Dall’altra chi vorrebbe rallentare.

È una semplificazione.

La vera sfida è costruire innovazione sostenibile.

Significa progettare sicurezza, controllo e responsabilità insieme alla tecnologia e non dopo.

Lo stesso principio vale quando introduciamo l’intelligenza artificiale nelle aziende.

Prima di adottare un nuovo strumento dovremmo chiederci quali dati utilizza, dove vengono elaborati e chi può accedervi.

Dovremmo inoltre capire quali decisioni stiamo delegando alla macchina.

In altre parole, gestire i rischi dell’intelligenza artificiale significa costruire processi prima ancora di scegliere tecnologie.

Il tema diventa ancora più evidente con la crescita della cosiddetta Agentic AI.

Ne ho parlato anche nell’approfondimento dedicato all’AI agente e alla trasformazione di aziende, sanità e cybersecurity.

Rischi dell’intelligenza artificiale nella sanità digitale

Nel settore sanitario questa attenzione diventa ancora più importante.

Referti, dati clinici e informazioni presenti nel Fascicolo Sanitario Elettronico appartengono alla categoria dei dati più delicati che possiamo trattare.

Di conseguenza, i rischi dell’intelligenza artificiale devono essere analizzati insieme a privacy, cybersecurity e protezione dei dati.

Per questo innovazione, interoperabilità e sicurezza devono procedere insieme.

L’obiettivo non può essere utilizzare l’AI semplicemente perché è disponibile.

Dobbiamo utilizzarla quando crea valore e quando possiamo governarla.

Questo vale soprattutto nei processi nei quali una decisione tecnologica può avere conseguenze dirette sulle persone.

Rischi dell’intelligenza artificiale: che cosa ci insegna il caso Coxon?

Le dimissioni di Jacob Coxon non dimostrano che l’intelligenza artificiale porterà inevitabilmente a una catastrofe.

E sarebbe sbagliato presentarle in questo modo.

Dimostrano però qualcosa che merita attenzione.

Una parte delle persone che conosce meglio questi sistemi ritiene che i rischi siano abbastanza seri da chiedere un cambio di rotta.

Possiamo essere d’accordo oppure no con queste previsioni, considerarle troppo pessimistiche o confidare nei progressi della sicurezza.

Ma non possiamo ignorare la domanda centrale.

Chi controllerà sistemi più intelligenti, più autonomi e più veloci degli strumenti digitali che abbiamo conosciuto fino a oggi?

La tecnologia sta avanzando molto rapidamente.

La governance, invece, continua spesso a procedere con i tempi delle istituzioni.

Questo divario potrebbe diventare uno dei problemi centrali dei prossimi anni.

Conclusioni: comprendere i rischi dell’intelligenza artificiale

Per anni abbiamo discusso di intelligenza artificiale chiedendoci soprattutto che cosa potesse fare per noi.

Oggi dobbiamo iniziare a porci anche un’altra domanda.

Che cosa dobbiamo fare noi per essere pronti a governarla?

Il punto non è fermare l’innovazione.

E non è nemmeno alimentare paure irrazionali.

Il punto è evitare che la velocità diventi l’unico criterio con cui decidiamo la direzione del progresso.

Se anche chi costruisce questi sistemi comincia a chiedere maggiore prudenza, vale la pena ascoltare.

Perché delegare completamente il futuro della tecnologia alle dinamiche competitive di poche aziende sarebbe una scelta enorme.

Forse troppo grande per essere lasciata soltanto al mercato.

Il conto alla rovescia non riguarda necessariamente la fine dell’umanità.

Riguarda il tempo che abbiamo per costruire regole, strumenti di controllo e una cultura della responsabilità adeguati alla velocità dell’intelligenza artificiale.

E liquidare tutto questo come un eccesso di zelo dei nerd potrebbe essere il lusso più grande che non possiamo più permetterci.

FAQ sui rischi dell’intelligenza artificiale

Quali sono i principali rischi dell’intelligenza artificiale?

I principali rischi dell’intelligenza artificiale riguardano perdita di controllo, uso improprio, vulnerabilità informatiche e comportamenti difficili da prevedere.

A questi si aggiungono possibili conseguenze sistemiche legate a sistemi sempre più autonomi.

Che cos’è la recursive self-improvement nell’intelligenza artificiale?

È uno scenario nel quale un sistema AI contribuisce direttamente allo sviluppo di sistemi successivi più capaci.

Il processo potrebbe quindi accelerare progressivamente lo sviluppo dell’intelligenza artificiale.

L’intelligenza artificiale può davvero diventare incontrollabile?

Oggi non esiste una risposta certa.

I sistemi attuali restano sottoposti a meccanismi di controllo umano.

Tuttavia, maggiore autonomia e capacità potrebbero rendere il controllo più complesso in futuro.

Che cosa prevede l’AI Act per i modelli più potenti?

L’AI Act europeo prevede obblighi aggiuntivi per alcuni modelli general purpose con rischio sistemico.

Tra questi ci sono valutazione e mitigazione dei rischi, segnalazione degli incidenti e protezioni di cybersecurity.

Perché i rischi dell’intelligenza artificiale riguardano anche la sanità?

La sanità utilizza dati estremamente sensibili.

Per questo AI, interoperabilità e Fascicolo Sanitario Elettronico devono essere accompagnati da sicurezza, protezione dei dati e una governance chiara.