È COME IN MATRIX

di Walter di Munzio *

Goeffrey Hinton, uno dei più brillanti scienziati informatici di Google, è colui che ha sviluppato le cosiddette reti neurali e realizzando sofisticati sistemi di intelligenza artificiale, quelli che oggi alimentano molti dei prodotti che abbiamo a disposizione dal metaverso alle altre recenti innovazioni in ambito di Intelligenza Artificiale (IA). Hinton si è improvvisamente licenziato dalla prestigiosa azienda americana per recuperare la sua libertà di critica ed ha rilasciato alla stampa inquietanti dichiarazioni “… dobbiamo fermare lo sviluppo dell’Intelligenza Artificiale – ha detto – perché diventerà molto presto più intelligente di noi e a quel punto ci eliminerà. Già ora stiamo verificando comportamenti anomali non spiegabili. La facilità con cui la IA genera testi e immagini può portarci ad un’epoca in cui non saremo più in grado di riconoscere ciò che è vero da ciò che, pur essendo verosimile, non lo è perché generato da un algoritmo”.

Abbiamo già visto qualcosa di simile nel corso delle elezioni americane vinte da Trump, quando questi è stato supportato da informatici russi (i migliori in tali attività) che, diffondendo in poco tempo centinaia di migliaia di fake news contro Hillary Clinton, riuscirono a ribaltare le previsioni elaborate dalle più accreditate agenzie di sondaggi politici. Queste agenzie non avevano mai sbagliato prima una previsione di esito in una importante elezione. Lo abbiamo visto più recentemente – e stavolta ci sono sembrati più un test di credibilità per verificare la sostenibilità di alcune notizie improbabili – con la diffusione planetaria di foto di Papa Francesco avvolto in un elegante puffer bianco e quelle dell’arresto, in realtà mai avvenuto, di Donald Trump da parte di agenti FBI. Oppure del filmato dell’esercito cinese che invade Taiwan o quello che mostra gli esiti del fallimento delle banche americane sotto la presidenza di Joe Biden. Le immagini nella rete certo non mancano, si tratta solo di rielaborarle, modificandole per poterle utilizzare per altri scopi (quelli ovviamente indicate dalla committenza). La IA è già stata capace di creare queste immagini – e altre ne creerà ancora – perché si nutre di quanto contenuto nella rete informatica mondiale acquisendo tutto ciò che vi circola. La AI legge e rielabora, senza implicazioni di tipo etico o “filtri umani”, tutto ciò che è ad oggi conosciuto al mondo, tutto ciò che è stato accumulato nel tempo su supporti informatici o che è comunque stato pubblicato. Un surrogato di “cultura” immenso che non teme confronti con quante nozioni possono essere accumulate nella mente umana. Pensate a cosa potrebbe accadere in caso di uso perverso di tale strumento da parte di una nazione evoluta che opera in tal senso, e lo sono certamente sia la Russia che la Cina, oltre e più di tanti paesi europei e americani. Si potrebbero persino creare robot super intelligenti, ricorda Hilton, in grado di combattere una guerra e uccidere, per esempio, gli ucraini. Pensate veramente che Putin esiterebbe se dovesse trovarsi con le spalle al muro sul campo di battaglia? Comunque, ormai manca poco per elaborare un sistema efficace in grado di manipolare elezioni, convinzioni di massa e di ribaltare completamente il concetto di verità che a quel punto sarebbe cancellato definitivamente in favore di una “verità orientata”costruita artificialmente al servizio di interessi di parte, siano essi di Paesi nemici che di gruppi di interesse economico o industriale. Non solo manipolando le borse, ma anche diffondendo fake finalizzate a discreditare quelle aziende strategiche che si intendono acquisire a basso costo da parte di paesi concorrenti. Ma c’è anche la possibilità che si creino (forse anche da soli) dei sotto-obiettivi non allineati agli interessi degli stessi programmatori o addirittura che vadano contro chiunque tenti di controllarne il funzionamento, persino i suoi stessi ideatori. Pensate ai rischi in caso di conflitti militari sul campo o alla gestione da parte della IA dell’uso di armi nucleari o anche di semplici strumenti complessi di offesa. Ma l’ipotesi più grave che suggerisce Hinton è certamente quella di macchine che si ribellino alla gestione da parte dell’uomo, considerando questi l’ostacolo principale che avversa l’obiettivo da difendere. Se dovesse essere stato programmato per difendere il pianeta dalla autodistruzione e allora, se si considera che la numerosità e l’incuria della specie umana costituisce la causa principale di inquinamento, dei conflitti o di altri disastri simili. Questi potrebbero essere risolti solo diminuendo drasticamente la presenza umana sul pianeta. Proprio come racconta Dan Brown nel suo romanzo “Inferno” quando concepisce, per salvare il pianeta, un piano per diminuire la popolazione umana.

Ci ricorda anche la tetralogia filmica dei fratelli Wachowski, quei quattro affascinanti “Matrix”, film diventati presto cult per i cinefili della fantascienza. Mostrano un’umanità in lotta contro una generazione di macchine ormai in grado di autodeterminarsi e di eliminare tutto ciò che considera pericoloso per sé stessa. Il vero problema è quello della velocità di apprendimento e, soprattutto, di condividere quanto appreso con altre machine, anch’esse capaci di imparare negli stessi tempi. Un meccanismo non replicabile da parte di un’umanità sempre condizionabile da altri input diversi e contrari, che la rendono incerta ed estremamente lenta. Destinata inevitabilmente a soccombere. Unica possibilità di sopravvivenza sarebbe quella che l’umanità impari presto a condividere i propri saperi, anche sacrificando qualche opportunità di arricchimento. Un sogno? Non dimentichiamo però che è già accaduto in occasione della pandemia, quando si è deciso di condividere le conoscenze scientifiche e si sono più che dimezzati i tempi, fino a quel momento considerati necessari, per mettere a punto vaccini e nuove procedure sanitarie di difesa. Nessuno pensi che veramente ci vorranno ancora oltre cinquant’anni (come dicono tutti gli esperti) per arrivare a quel punto nello sviluppo della IA. Ce ne vorranno molti di meno, se non si ascolterà il grido di allarme lanciato da Hinton e dagli altri (pochi) scienziati che stanno provando a metterci in guardia dalla distruzione umana a causa di uno sviluppo fuori controllo delle più moderne tecnologie, quelle che implicano una sorta di delega a macchine intelligenti di procedure e conoscenze strategiche. Siano esse informatiche, politiche, militari, economiche o, semplicemente, industriali.

Non dimentichiamo infine – per tornare a piccoli utilizzi locali di avanzate tecniche informatiche per manipolare gli orientamenti politici di massa – la “bestia” di Luca Morisi. Fu utilizzata a suo tempo dalla Lega di Salvini e si rivelò capace di consentire a questa la sua prima scalata al potere. Qualcuno potrebbe tentarne un rinnovato utilizzo.

Lo dimostra l’attenzione alla comunicazione e i tanti consulenti informatici che i partiti pagano profumatamente per farli lavorare nell’ombra al servizio dei loro interessi … non solo elettorali.

* Psichiatra e pubblicista

Articolo pubblicato dal quotidiano L’Ora della sera