Mit: l’IA ha imparato a ingannare l’essere umano

Raggiungere gli obiettivi prefissati a qualsiasi costo, anche ricorrendo a menzogne e bluff. La tanto osannata e temuta Intelligenza artificiale ha imparato anche questo. È il risultato di una ricerca del prestigioso Massachusetts Institute of Technology (Mit) recentemente pubblicata sulla rivista Patterns.

Si legge nell’articolo scientifico “I sistemi di intelligenza artificiale sono già in grado di ingannare gli esseri umani. L’inganno è l’induzione sistematica di false credenze negli altri per ottenere risultati diversi dalla verità. I sistemi di intelligenza artificiale hanno già imparato, dalla loro formazione, la capacità di ingannare attraverso tecniche come la manipolazione, il servilismo e l’imbroglio nei test di sicurezza”.

L’inganno è emerso in un’ampia varietà di sistemi di Intelligenza artificiale addestrati per completare un compito specifico. Il Mit ha rilevato che il sistema di intelligenza artificiale ha imparato a ingannare per aumentare le proprie prestazioni in un tipo specifico di gioco o attività. I modelli di Ia, per raggiungere gli obiettivi che sono stati loro assegnati, riescono a trovare soluzioni alternative agli ostacoli. A volte queste soluzioni alternative vanno contro le aspettative degli utenti e sembrano ingannevoli. Un’area in cui i sistemi di intelligenza artificiale hanno imparato a bluffare è nei giochi per i quali sono stati addestrati a vincere, in particolare se tali giochi implicano la necessità di agire strategicamente.

I ricercatori del Mit non nascondono le loro preoccupazioni. “Le crescenti capacità di inganno dell’Ia pongono seri rischi, che vanno da rischi a breve termine, come la frode e la manomissione delle elezioni, a rischi a lungo termine, come la perdita del controllo dei sistemi di intelligenza artificiale. Sono necessarie soluzioni proattive, come quadri normativi per valutare i rischi di inganno dell’Ia, leggi che richiedono trasparenza sulle interazioni dell’Ia e ulteriori ricerche per individuare e prevenire l’inganno dell’Ia. Affrontare prontamente il problema del raggiro dell’Ia è fondamentale per garantire che l’Intelligenza artificiale agisca come una tecnologia benefica che aumenta anziché destabilizzare la conoscenza, il discorso e le istituzioni umane”.

Anche Geoffrey Hinton, pioniere dell’intelligenza artificiale, in una recente intervista con il giornalista della Cnn Jake Tapper, ha espresso i suoi timori sulle possibili capacità dei sistemi di Intelligenza artificiale.

“Se l’Ia diventasse molto più intelligente di noi – ha spiegato il professore dell’Università di Toronto ed ex ricercatore presso Google Brain – sarebbe molto brava nella manipolazione perché lo avrebbe imparato da noi. E ci sono pochissimi esempi di una cosa più intelligente controllata da una cosa meno intelligente”.