Il Frankenstein tecnologico,

di Robert Skidelsky

LONDRA – Nel racconto di Mary Shelley Frankenstein, o il moderno Prometeo, come è noto lo scienziato Victor Frankenstein utilizza parti di corpo umano per creare un mostro “superumano” iperintelligente che – portato alla follia dalla crudeltà umana e dall’isolamento – alla fine si rivolta al suo creatore. Dalla sua pubblicazione nel 1818, il racconto della Shelley sulla ricerca scientifica che si conclude malamente ha finito con l’essere considerato come una metafora del pericolo (e della follia) di cercare di dotare le macchine di intelligenza simile agli umani.

Con la rapida ascesa della intelligenza artificiale generativa [1], la storia della Shelley ha assunto nuova risonanza. Il 22 marzo, l’Istituto sul Futuro della Vita ha pubblicato una lettera aperta firmata da centinaia di leader del settore tecnologico, compresi l’Amministratore Delegato di Tesla Elon Musk e il cofondatore di Apple Steve Wozniak, che si pronuncia per una interruzione della produzione di sei mesi (o per una moratoria imposta dal Governo) dei sistemi di AI più potenti che OpenAI ha da poco realizzato con ChatGPT-4. “I sistemi di AI con intelligenza competitiva con gli umani possono costituire profondi rischi per la società e l’umanità”, dice la lettera, che attualmente ha più di 25 mila firme. Gli autori proseguono con la messa in guardia per la gara ‘senza controlli’ “per sviluppare e dispiegare cervelli digitali ancora più potenti che nessuno – neppure i loro creatori – può comprendere, prevedere  o affidabilmente controllare”.

Musk, attualmente la seconda persona più ricca al mondo, è sotto molti aspetti il Victor Frankenstein dei nostri tempi. Il famoso vanaglorioso miliardario nato in Sudafrica ha già cercato di automatizzare l’intero processo della guida (per quanto con risultati contrastanti), ha sostenuto di aver inventato una nuova modalità di trasporto con il progetto ‘a iperanello’ della Boring Company (tuttora ipotetico) [2] ed ha dichiarato la sua intenzione di “preservare la luce della coscienza” utilizzando la sua impresa di missili SpaceX per stabilire una colonia su Marte. Si dà anche il caso che Musk sia un cofondatore di OpenAI (egli si è dimesso dal consiglio di amministrazione della società nel 2018, a seguito di una tentativo fallito di prenderne possesso).

Uno dei progetti prediletti di Musk è combinare l’AI con la coscienza umana. Nell’agosto del 2020, Musk mise in mostra un maiale con un microprocessore di computer impiantato nel suo cervello per dimostrare il cosiddetto “interfaccia macchina-cervello” sviluppato dalla sua startup tecnologica Neuralink. Questa tecnologia, affermava Musk, potrebbe essere utilizzata per trattare la perdita di memoria, l’ansietà, la dipendenza e persino la cecità. Mesi dopo, Neuralink rilasciò un video di una scimmia che giocava un video gioco con la sua mente grazie ad un congegno impiantato.

Questi trucchi vennero accompagnati dalle consuete sbruffonerie di Musk. La tecnologia dell’incremento cerebrale di Neuralink, egli sperava, poteva inaugurare un’epoca di “cognizione super umana”, nella quale i microprocessori del computer che ottimizzano le funzioni mentali sarebbero state ampiamente (ed economicamente) disponibili. Ogni pochi anni, col miglioramento della tecnologia, i microprocessori sarebbero stati tolti e rimpiazzati con un nuovo modello. Tuttavia, questo è del tutto ipotetico: Neuralink ha ancora difficoltà a dare un senso al suo test sulle scimmie.

Mentre Musk cerca di produrre i cyborg, gli umani potrebbero presto trovarsi rimpiazzati dalle macchine. Nel suo libro del 2005, La eccezionalità è vicina, il futurista Ray Kurzweil prevedeva che la eccezionalità tecnologica – il punto in cui AI supera l’intelligenza umana – avverrà attorno al 2045. A partire da allora, il progresso tecnologico verrebbe sorpassato dai “robot consci” e aumenterebbe in modo esponenziale, inaugurando un futuro migliore, post-umano. A seguito della eccezionalità, secondo Kurzweil, l’intelligenza artificiale nella forma di nano-robot autoreplicantisi si diffonderebbe nell’universo sino a “saturarlo “ di vita intelligente (per quanto sintetica). Echeggiando Immanuel Kant, Kurzweil si riferiva a questo processo come il “risveglio” dell’universo.

Ma adesso che l’eccezionalità ormai incombe, Musk e soci pare stiano avendo un ripensamento. Il lancio dello ChatGPT dell’anno passato sembra abbia provocato panico tra questi passati evangelisti dell’Intelligenza Artificiale, spingendoli a spostarsi dallo sfruttamento dei vantaggi delle macchine super-intelligenti all’immaginarsi come fermarle dal diventare malefiche.

Diversamente dal motore di ricerca di Google, che offre agli utenti una lista di collegamenti, ChatGPT può rispondere fluentemente e coerentemente a domande. Recentemente un mio amico filosofo ha chiesto a ChatGPT: “C’è nella filosofia morale uno stile segnatamente femminile?” ed ha spedito le risposte a colleghi. Una di loro l’ha trovata “stranamente umana”. Di certo, ella ha scritto, “è un saggio abbastanza banale, ma almeno è chiaro, dal punto d vista della grammatica, e si misura con la domanda, il che lo rende migliore di molti compiti dei nostri studenti”.

In altri termini, ChatGPT supera il test di Turing, mostrando un comportamento intelligente che è indistinguibile da quello degli esseri umani. La tecnologia sta già presentandosi come un incubo per molti istruttori universitari, e la sua rapida evoluzione indica che la sua generalizzata adozione potrebbe avere conseguenze disastrose.

Dunque, cosa si dovrebbe fare? Recenti suggerimenti operativi da parte dell’Istituto sul Futuro della Vita (che in parte è finanziato da Musk) indicano vari modi possibili per gestire i rischi della AI. Le sue proposte includono l’obbligo della verifica e della certificazione da una parte ‘terza’, che regoli l’accesso alla potenza computazionale, crei agenzie regolamentari “competenti” al livello nazionale, stabilisca responsabilità per i danni provocati dalla AI, accresca i finanziamenti per la ricerca sulla sicurezza e sviluppi criteri per identificare e gestire i contenuti prodotti dala AI.

Ma in un epoca di conflitti geopolitici e di polarizzazione ideologica, impedire che le nuove tecnologie della AI vengano usate come armi improprie, per non dire raggiungere un accordo su criteri globali, sembra altamente improbabile. Inoltre, mentre la proposta moratoria comporta evidentemente di dare ai leader del settore ed ai legislatori il tempo di conprendere i rischi esistenziali connessi con questa tecnologia e di sviluppare appropriati protocolli di sicurezza, ci sono poche ragioni per credere che i leader dele tecnologie possano afferrare le implicazioni etiche delle loro creazioni.

In ogni caso, non è chiaro cosa in pratica significherebbe una pausa. Ad esempio, Musk a quanto si dice sta già lavorando ad una startup della AI che competerebbe con OpenAI. I nostri Victor Frankenstein sono sinceri sul mettere una pausa alla Intelligenza Artificiale generativa, oppure stanno semplicemente sgomitando per avvantaggiarsene?