Yoshua Bengio mette in guardia: la corsa all’IA potrebbe avere effetti “dannosi”

L’allarme di Yoshua Bengio sulla corsa all’IA

Yoshua Bengio, figura di spicco nel campo dell’informatica e vincitore del Premio Turing nel 2018, ha espresso serie preoccupazioni riguardo alla competizione accelerata tra i giganti della tecnologia per lo sviluppo di intelligenze artificiali sempre più avanzate. Bengio, che supervisiona l’International AI Safety Report, frutto del lavoro di circa 100 esperti provenienti da 30 paesi, inclusi rappresentanti dell’Ocse, dell’Unione Europea e delle Nazioni Unite, avverte che questa corsa potrebbe avere effetti “dannosi”. Il rapporto, nato da un’iniziativa del summit britannico sulla sicurezza del 2023, sarà formalmente discusso al Summit di Parigi sull’IA del 10 e 11 febbraio.

I rischi emergenti e la perdita di controllo

Bengio sottolinea che, oltre ai rischi già ampiamente riconosciuti, come la creazione di contenuti online falsi o fuorvianti e l’impatto sul mondo del lavoro, emergono costantemente nuove minacce. Tra queste, spiccano i rischi di attacchi biologici o informatici orchestrati tramite l’IA. A lungo termine, Bengio teme una possibile “perdita di controllo” sull’intelligenza artificiale, uno scenario che solleva interrogativi profondi sul futuro dell’umanità.

La necessità di una regolamentazione internazionale

Di fronte a questi pericoli, Bengio invoca una regolamentazione internazionale più severa e un aumento degli investimenti nella ricerca sulla sicurezza dell’IA. Attualmente, la ricerca sulla sicurezza rappresenta solo una piccola frazione dei massicci investimenti complessivi nel settore. Bengio critica anche la mancanza di intervento governativo negli Stati Uniti, dove l’amministrazione Biden aveva tentato di imporre regole allo sviluppo dell’IA, un tentativo poi abbandonato.

La possibilità di una scomparsa dell’umanità

Bengio ha rivelato di aver sentito l’urgenza di affrontare la questione della sicurezza dell’IA fin dall’irruzione di ChatGpt di OpenAI sulla scena pubblica due anni fa. La sua preoccupazione più grande è la possibilità che l’umanità possa scomparire entro 10 anni a causa dei rischi legati all’IA. Il rapporto riconosce questi timori, ma sottolinea che le opinioni degli esperti in merito variano notevolmente.

Un equilibrio necessario tra innovazione e sicurezza

Le parole di Yoshua Bengio ci ricordano che il progresso tecnologico deve andare di pari passo con la consapevolezza dei rischi e la volontà di mitigarli. La corsa all’IA non può essere un inseguimento sfrenato di nuove capacità, ma deve essere guidata da un approccio responsabile che metta al primo posto la sicurezza e il benessere dell’umanità. La regolamentazione internazionale e gli investimenti nella ricerca sulla sicurezza sono strumenti fondamentali per garantire che l’IA sia una forza positiva per il futuro.