Ia e umanità: l’allarme di Bengio sul futuro che ci aspetta

In un mondo sempre più dominato dall’intelligenza artificiale, le voci di allarme si fanno più insistenti. Tra queste, spicca quella di Yoshua Bengio, uno dei pionieri dell’IA moderna, insignito del premio Turing nel 2018. Bengio, con quasi un milione di citazioni scientifiche, non nasconde le sue preoccupazioni riguardo allo sviluppo incontrollato di questa tecnologia, arrivando a definirla una potenziale minaccia per le fondamenta stesse della solidarietà umana.

L’incontro di Bengio con Papa Leone XIV, avvenuto il 12 settembre 2025, testimonia l’urgenza di affrontare queste problematiche a livello globale. Lo scienziato canadese, reduce da un tour mondiale che lo ha visto impegnato tra Montreal e Seul, ha espresso la necessità di trovare un “antidoto” per uno sviluppo nocivo dell’IA, una tecnologia che lui stesso ha contribuito a creare.

Bengio non è il solo a lanciare l’allarme. Geoffrey Hinton, altro “padre” dell’IA, ha lasciato Google per poter parlare liberamente dei rischi connessi a questa tecnologia. Entrambi gli scienziati, insieme a Yann LeCun, hanno ricevuto il premio Turing nel 2018 per i loro contributi fondamentali nel campo dell’apprendimento automatico con reti neurali artificiali.

La preoccupazione principale di Bengio risiede nella capacità dell’IA di superare l’intelligenza umana, creando una competizione impari. Le macchine, infatti, possono imparare più velocemente, comunicare a velocità inimmaginabili e, soprattutto, sono potenzialmente immortali, potendo replicare il proprio codice su altri sistemi.

I Punti di Svolta: Dalla Manipolazione Psicologica alla Consapevolezza dei Rischi Esistenziali

Il cambio di prospettiva di Bengio nei confronti dell’IA è avvenuto in due momenti chiave. Il primo risale al 2013, quando Hinton e LeCun furono reclutati rispettivamente da Google e Facebook. In quell’occasione, Bengio intuì il potenziale utilizzo dell’IA per la manipolazione psicologica degli utenti, un’arma a doppio taglio che potrebbe danneggiare la democrazia.

Il secondo punto di svolta è datato gennaio 2023, con l’avvento di Chat GPT. Inizialmente entusiasta delle capacità linguistiche della macchina, Bengio si è poi reso conto della sua crescente capacità di ragionamento, avvicinandosi sempre più a quella che viene definita AGI (Artificial General Intelligence), un’intelligenza di livello umano.

L’allarme è scattato definitivamente il 1° maggio 2023, quando il New York Times ha annunciato le dimissioni di Hinton da Google. In quel momento, Bengio ha aderito all’appello per una moratoria di sei mesi sul rilascio di nuovi modelli di IA, riconoscendo i rischi esistenziali che questa tecnologia comporta.

L’IA Agente e la Ricerca di un’Intelligenza Artificiale Onesta

La risposta di Bengio a questa sfida si concretizza nella ricerca di una “Scientist AI”, un’intelligenza artificiale non agentica, ovvero priva di volontà propria, ma capace di rispondere onestamente alle domande, senza mentire o manipolare. Questo scienziato artificiale potrebbe fungere da barriera protettiva nei confronti di altre IA, verificando la correttezza delle loro azioni.

Per raggiungere questo obiettivo, Bengio ha fondato LawZero, un laboratorio indipendente senza scopo di lucro, con l’obiettivo di codificare l’onestà nel codice di un software. L’idea è quella di utilizzare la letteratura scientifica e i database di fatti creati dai fact checker per addestrare l’IA a distinguere tra ciò che è vero e ciò che è falso.

Bengio è consapevole delle difficoltà che comporta questa impresa, ma è convinto che sia possibile costruire un’IA che non sia di parte, che non abbia obiettivi propri e che si limiti a rispondere onestamente alle domande. Questo, a suo avviso, è fondamentale per garantire un futuro in cui l’IA sia al servizio dell’umanità e non il contrario.

Tuttavia, la strada verso un’IA sicura e controllabile è ancora lunga e disseminata di ostacoli. La competizione tra Cina e Stati Uniti, la mancanza di regolamentazione e la concentrazione di potere nelle mani di poche aziende tecnologiche rappresentano sfide significative che devono essere affrontate con urgenza e determinazione.

Un Nuovo Patto Sociale per l’Era Digitale: Speranza e Responsabilità

La riflessione di Bengio si estende anche alle implicazioni sociali ed economiche dell’IA. La concentrazione della ricchezza nelle mani di pochi, la perdita di posti di lavoro e l’aumento delle disuguaglianze sono rischi concreti che devono essere affrontati con politiche adeguate.

In questo contesto, è necessario un nuovo patto sociale per l’era digitale, che sia basato su principi democratici, garantisca l’accesso universale al digitale, promuova la sostenibilità ambientale e favorisca la creazione di valore collettivo.

La fiducia nel progresso digitale e nell’IA emerge dalla capacità umana di dirigere l’innovazione verso principi condivisi, concepire la tecnologia come un mezzo e non un fine, e affidare sempre al discernimento etico la salvaguardia della dignità umana.

In questo scenario complesso e in rapida evoluzione, è fondamentale comprendere alcuni concetti chiave. Ad esempio, le reti neurali artificiali, alla base dell’IA moderna, sono modelli computazionali ispirati al funzionamento del cervello umano. Queste reti sono in grado di apprendere da grandi quantità di dati, migliorando progressivamente le proprie prestazioni.

Un’altra nozione importante è quella di “explainable AI” (XAI), ovvero l’IA spiegabile. Si tratta di un campo di ricerca che mira a rendere più trasparenti e comprensibili i processi decisionali delle macchine, consentendo agli utenti di capire perché un determinato algoritmo ha prodotto un certo risultato. Questo è particolarmente importante in contesti critici, come la medicina o la giustizia, dove è fondamentale poter verificare l’affidabilità delle decisioni automatizzate.

La sfida che ci attende è quella di governare l’IA, garantendo che sia uno strumento al servizio dell’umanità e non una minaccia per il nostro futuro. Questo richiede un impegno collettivo, che coinvolga scienziati, politici, aziende e cittadini, per costruire un futuro in cui la tecnologia sia sinonimo di progresso e benessere per tutti.

Amici lettori, riflettiamo insieme: l’intelligenza artificiale è una forza potente, capace di plasmare il nostro mondo in modi che oggi possiamo solo immaginare. Ma come ogni strumento, il suo valore dipende dall’uso che ne facciamo. Sta a noi, con saggezza e responsabilità, guidare il suo sviluppo verso un futuro di prosperità e armonia per l’intera umanità.