I limiti dell’intelligenza artificiale nella guida autonoma
La ricerca attuale sulla guida autonoma si concentra su sistemi di livello 4, che funzionano solo in aree delimitate. Gli esperti mettono in guardia sull’eccessiva fiducia nell’intelligenza artificiale per risolvere i problemi della guida autonoma, sottolineando che i sistemi attuali si basano su principi simili a ChatGPT e altri modelli linguistici, ovvero sul ragionamento statistico per “indovinare” la prossima azione. Questo approccio non permette di “comprendere la situazione, il contesto o qualsiasi fattore non osservato” che un essere umano terrebbe in considerazione.
La dott.ssa Mary Cummings, esperta della National Highway Traffic Safety Administration, afferma che “le persone non capiscono che l’intelligenza artificiale che controlla i veicoli si basa sugli stessi principi di ChatGPT e di altri grandi modelli linguistici come LLM”. Questi sistemi, spiega, “utilizzano il ragionamento statistico per indovinare quale dovrebbe essere la parola o frase successiva o la prossima azione che dovrà essere eseguita da un’auto autonoma”.
La Cummings evidenzia la differenza tra un modello linguistico che “può rispondere a qualcosa di stupido” e un’auto autonoma che “può causare un incidente”.
I cinque punti chiave per una guida autonoma sicura
La Cummings ha formulato un elenco di cinque punti chiave che possono guidare l’industria e le agenzie regolatorie nella ricerca di una guida autonoma sicura:
- Gli errori umani si spostano dalla guida alla programmazione: il codice è soggetto a errori e l’intelligenza artificiale non elimina il rischio di incidenti, ma lo sposta.
- I fallimenti dell’IA sono difficili da prevedere: i sistemi di guida autonoma si basano su database di immagini per “indovinare” la prossima azione, ma non possono contemplare tutte le possibili situazioni.
- Le stime probabilistiche non funzionano bene in situazioni di incertezza: i robot sono efficienti in situazioni chiare, ma non riescono a gestire le sfumature e l’incertezza come gli umani.
- Aggiornare l’IA è importante quanto crearla: i modelli di intelligenza artificiale devono essere costantemente aggiornati per adattarsi a nuovi scenari e contesti.
- Le implicazioni a livello di sistema non possono essere ignorate: le auto a guida autonoma possono causare incidenti bloccando le strade o creando situazioni pericolose per gli altri veicoli.
Le sfide future per la guida autonoma
Gli esperti sottolineano che le sfide ingegneristiche e le implementazioni economiche necessarie per estendere la guida autonoma oltre le aree delimitate sono immense. La fiducia nell’intelligenza artificiale per risolvere i problemi della sicurezza stradale è considerata “allarmante” dagli esperti.
La ricerca e lo sviluppo di sistemi di guida autonoma richiedono un approccio multidisciplinare, con un’attenzione particolare alla sicurezza, all’affidabilità e all’etica. La collaborazione tra industria, governo e università è fondamentale per affrontare le sfide e garantire un futuro sicuro e sostenibile per la mobilità autonoma.
Considerazioni personali
La guida autonoma rappresenta un’opportunità per migliorare la sicurezza stradale e la mobilità urbana. Tuttavia, è importante non sottovalutare le sfide tecnologiche e etiche che rimangono da affrontare. L’intelligenza artificiale è uno strumento potente, ma non è una soluzione magica. È necessario un approccio cauto e responsabile per garantire che la guida autonoma diventi una realtà sicura e benefica per tutti.