Le norme riusciranno a contenere la tecnologia?

I tempi cambiano rapidamente. Sempre più rapidamente. L’esempio offerto nei giorni scorsi dal nostro amato calcio, con la proposta di una Superlega internazionale, ha proprio aperto un dibattito sullo sport antico e quello moderno, fatto certamente di minor poesia e di tanto business.

Ma a contribuire alla finanziarizzazione e a scenari da “grande fratello” con la sorveglianza di massa di un mondo sempre più globale e interconnesso ci sono certamente le nuove tecnologie, strumenti che nel bene o nel male stanno trasformando velocemente le nostre esistenze. Aprendo una serie di questioni nuove e a volte cruciali per il nostro futuro. Pensiamo all’intelligenza artificiale, all’internet delle cose, alla cyber-sicurezza che investe la protezione dei nostri dati, al ruolo ormai rilevante degli algoritmi nel mondo del lavoro, compresi i software per il reclutamento di lavoratori, fino ai sistemi di valutazione del credito, ma anche ad un controllo sociale complessivamente sempre più stringato.

Tema complesso, talvolta molto sfaccettato, dove ad esempio si apre un confronto tra libertà di impresa e privacy, diritti dell’individuo e benessere collettivo, rinunce a porzioni di libertà per garantire la salute pubblica.

A fronte di tutto ciò, la Commissione europea, il braccio esecutivo dell’Unione europea, ha presentato nei giorni scorsi la bozza di una proposta di regolazione e di armonizzazione giuridica dell’intelligenza artificiale negli Stati membri che segmenta il panorama tecnologico in base all’intensità del rischio. Congiuntamente al regolamento sulla privacy e ai progetti legislativi “Digital services act” e “Digital markets act”, il nuovo testo di 108 pagine intende integrare norme che provano ad assicurare sia l’aspetto etico della materia, spesso messo a dura prova dall’uso della tecnologia lesivo per i diritti fondamentali e la sicurezza dei cittadini, sia la competitività delle imprese.

Al di là del potere acquisito dalle multinazionali del settore in possesso di dati personali di miliardi di persone (quasi sempre gli utenti non si rendono conto di cedere ai social un pezzo della propria sfera personale), compresi i tracciamenti negli spostamenti e le preferenze delle persone, esistono applicazioni capaci di individuare qualsiasi soggetto (si pensi al riconoscimento facciale o biometrico), di manipolare gli individui attraverso tecniche subliminali “al di là della loro coscienza” (come recita il testo della Commissione) o che sfruttano le vulnerabilità di gruppi particolarmente fragili, come i bambini o le persone con disabilità (un esempio citato sono i giocattoli con assistenti vocali che possono incitare a comportamenti pericolosi).

Questo gruppo è incluso dalla Commissione nel rischio più alto.

Le tecnologie di riconoscimento facciale, secondo le nuove norme, dovrebbero essere proibite, con l’unica eccezione di casi emergenziali come la ricerca di vittime di rapimenti, il contrasto all’attività terroristica o le indagini su criminali: ma la materia è delicata ed anche un po’ ambivalente in quanto l’uso è ormai abituale in molte nazioni per controllare i manifestanti e ciò potrebbe rientrare in casi emergenziali. Alcuni parlamentari europei hanno già chiesto di vietare del tutto il riconoscimento biometrico. Comunque i trasgressori, a quanto si legge nel testo della Commissione, potrebbero incorrere in sanzioni fino a 30 milioni di euro o, nel caso di aziende, multe fino al 6 per cento del proprio fatturato complessivo.

C’è di più. La stretta intende includere anche sistemi di “social scoring”, cioè i punteggi attribuiti da governi, come quello cinese, per valutare l’affidabilità complessiva di un cittadino. Anche in questo caso, il controllo individuale può essere giustificato dalla sicurezza pubblica.

Sull’uso dell’intelligenza artificiale s’intende porre dei limiti, ad esempio per gli algoritmi nel mondo del lavoro o per le auto che si guidano da sole. La vicepresidente della Commissione europea, Margrethe Vestager, ha detto di volersi opporre a modelli di “sorveglianza di massa”, includendovi anche i giudizi scolastici o i profili bancari.

Si passa poi al livello del “rischio alto” ma non “altissimo”. Vi sono incluse le infrastrutture critiche, come i trasporti, con rischi per la vita e la salute dei cittadini, o l’istruzione e la formazione nel determinare l’accesso al percorso scolastico o professionale, o ancora i componenti di sicurezza dei prodotti, ad esempio la chirurgia assistita da robot, l’occupazione e la gestione dei lavoratori in cui rientra la valutazione dei curricula, fino ai servizi essenziali pubblici e privati, come i sistemi di valutazione che possono negare il credito. Ad alto rischio anche le applicazioni per fini giudiziari, immigrazione e controllo delle frontiere.

Per tale categoria di rischio si applicano obblighi rigorosi per poter immettere sul mercato i relativi prodotti, quale un’idonea valutazione del rischio, una documentazione dettagliata e soprattutto una vigilanza umana,

Esistono poi tecnologie ritenute a basso rischio dalla Commissione. Nell’elenco ci sono i comuni chatbot, gli assistenti vocali, i filtri anti-spam o i videogiochi sviluppati con sistemi di intelligenza artificiale.

Come spiega il commissario al Mercato interno, Thierry Breton, occorre far sì che l’intelligenza artificiale rispetti i nostri valori e regole, per poi trarre profitto del suo potenziale nell’uso industriale. Obiettivo: trasformare l’Europa nel polo mondiale per un’intelligenza artificiale affidabile, per questo intende essere il primo continente a dare le linee guida. Anche perché Asia e America, sul fronte tecnologico, sono molto avanti a noi.

Il testo, che sarà emendato dal parlamento europeo, dovrà però essere valutato dal Consiglio europeo dove ci sono nazioni come la Francia che vogliono integrare gli algoritmi nei loro apparati di sicurezza.

Intanto, però, un processo come quello tecnologico ha di fatto conquistato ogni spazio disponibile. E sarà davvero difficile fermarne o limitarne l’evoluzione con norme che potrebbero essere superate dai tempi sempre più rapidi.

(Domenico Mamone)