Fermare l'innovazione?

(di Edoardo Patriarca, presidente nazionale ANLA) L'innovazione non si può fermare, ma il dubbio a qualcuno è venuto. Consegneremo l'umanità a menti digitali cento volte più potenti di Siri e Alexa? Una lettera ricca di preoccupazioni di un migliaio di manager del mondo tecnologico, più di mille esperti di intelligenza artificiale, tra cui gli ingegneri di Microsoft,  Google, il proprietario di Twitter Elon Musk, il cofondatore di Apple, i responsabili di Skype e di Pinterest, assieme ai docenti delle più importanti università del mondo, dal Mit a Berkeley, da Oxford a Harvard (presenti anche alcuni docenti delle università italiane), ha lasciato il segno.

Chiedono una moratoria in modo pubblico e verificabile allo sviluppo di Intelligenza Artificiale generativa come ChatGpt: lo stop riguarda il potenziamento di Gpt-4, il modello che l'azienda OpenAI ha lanciato a marzo, già pronta a rilanciare nel futuro prossimo il Gpt-5 ancora più potente. Gli autori della lettera chiedono  nuove autorità di controllo, la possibilità di monitorare i sistemi di intelligenza artificiale e  le tecniche in grado di aiutarci a distinguere il reale dall'artificiale. La mancanza di regole sull'utilizzo di queste tecnologie - sempre gli autori della lettera - "rischia di scatenare effetti devastanti, perché potrebbe portate a perdere il controllo sulla nostra civiltà". Sono dichiarazioni impegnative. 

Non sono un esperto, ma colgo l'occasione per aprire un confronto con voi dando qualche elemento di riflessione e, per quanto possibile, di chiarezza. Anzitutto possiamo dire che l'intelligenza artificiale (IA) è incontrollabile solo se l'uomo non la programma, come tale non si autogenera, insomma non siamo in uno scenario da Blad Runner, Matrix o Terminator. IA è limitata finché l'uomo lo vorrà.  

Ma andiamo più a fondo: i chatbot sono sistemi di macchine che sviluppano conversazioni umane, possono scrivere saggi su qualsiasi argomento, a volte non proprio ben fatti, a volte tanto ben fatti  da faticare a distinguere se l'autore ha un cervello umano o un algoritmo. Ma non sono "intelligenti", cioè capaci di comprendere, cambiare opinione o evitare  frasi sconvenienti. La loro possibile evoluzione? Ho timore che nessuno lo sappia, gli stessi inventori di ChatGpt confessano di non capire esattamente i meccanismi con i quali la macchina impara da sola. 

Perché ci preoccupa molto? Sono due i motivi.

La chatbot è molto potente nella gestione del linguaggio e delle immagini, lo abbiamo già detto. Le possibilità di manipolazione delle informazioni e di rendere i confini tra il reale e il virtuale confusi possono diventare un pericolo per le nostre democrazie: ricordate la diffusione recente di due immagini false che hanno fatto il giro del mondo scatenando un inutile e dannoso diluvio social, quella di papa Francesco con il piumino bianco di marca, e la foto di Trump con le manette? 

A questo si aggiunge un secondo timore, la paura di perdere centinaia di milioni di posti di lavoro. A me pare uno scenario troppo apocalittico: se progettiamo le macchine per fare delle cose al nostro posto  perché sorprenderci se poi lo fanno davvero?  Il lavoro umano potrebbe cambiare per davvero,  essere meno faticoso e meno sfruttato. È già accaduto nel passato: nelle precedenti rivoluzioni industriali le tecnologie e l'innovazione per noi umani sono stati sempre uno strumento per far meglio le cose che volevamo fare. Certo, l'onda che sta arrivando  sembra diversa dalle innovazioni prodotte dalla macchina a vapore, dall'elettricità, dal personal computer e, ultimo, dal world wide web. Ma perché spaventarci a priori? La moratoria richiesta dai mille firmatari è una utile provocazione ma a me sembra improbabile e inverosimile; più che una pausa di riflessione sarà necessario approntare una cornice regolamentare affinché la nuova tecnologia sia usata per migliorare il mondo e tuteli la centralità dell'essere umano.

È la posizione assunta dalle autorità italiane che hanno bloccato per 20 giorni il servizio della società americana OpenAI madre del software ChatGpt. Più precisamente il Garante della privacy ha chiesto chiarimenti riguardo il trattamento dei dati degli utenti italiani (manca una informativa agli utenti e a tutti gli interessati sull'uso dei dati  raccolti) da parte dell'azienda americana. Non solo, il servizio è rivolto ai maggiori di 13 anni ma manca un filtro per verificare l'effettiva età degli utenti. I dubbi sull'efficacia del provvedimento che colpisce gli utenti che hanno indirizzi italiani è messa in dubbio dagli esperti, basta poco per bypassarlo: con un collegamento Virtual  Private Network (VPN) si dissimula la propria ubicazione e permette di continuare ad usare ChatGpt. Tuttavia, a mio parere, è apprezzabile che il Garante abbia posto un problema e costretto l'azienda a spiegare.

Forse siamo all' inizio di una nuova era, l'avvento di macchine capaci di produrre testi e organizzare pensieri apre una dimensione nuova per il genere umano con un potenziale di liberazione sociale immenso. Come tutte le trasformazioni essa pone temi radicali alla politica per la gestione del consenso democratico, e a noi tutti per l'educazione e la formazione delle prossime generazioni. 

(Crediti fotografici: iStock.com/ David Gyung)