Idiozia Artificiale,

Di SLAVOJ ŽIŽEK

LUBIANA – Non c’è niente di nuovo, a proposito dei “robot che conversano”, nel fatto che siano capaci di sostenere una conversazione nel linguaggio naturale, di comprendere le intenzioni più elementari di un utilizzatore e di offrire risposte basate su regole e dati prefissati. Eppure la capacità di tali ‘macchine dialoganti’ è stata enfatizzata in modo spettacolare nei mesi recenti, portando molti ambienti alla disperazione ed al panico.

È stato detto molto sul fatto che tali robot facciano presagire la fine dei tradizionali compiti degli studenti. Ma un tema che giustifica una attenzione più precisa è come essi risponderebbero quando gli interlocutori umani utilizzassero osservazioni aggressive, sessiste o razziste per indurre la macchina ad offrire in cambio le sue proprie sboccate fantasie. Le Intelligenze Artificiali dovrebbero essere programmate per rispondere allo stesso livello alle domande che vengono poste?

Se decidiamo che una regolamentazione di qualche genere sia opportuna, allora dobbiamo determinare fino a che punto dovrebbe spingersi la censura. Le posizioni politiche che alcuni ambienti giudicano “offensive” saranno proibite? Che dire delle espressioni di solidarietà con i palestinesi della Cisgiordania, o dell’argomento che Israele sia uno Stato di apartheid (come il passato Presidente degli Stati Uniti Jimmy Carter una volta inserì nel titolo di un libro)? Queste espressioni sarebbero bloccate come “antisemite”?

Il problema non finirebbe lì. Come mette in guardia l’artista e lo scrittore James Bridle, le nuove Intelligenze Artificiali sono “basate sulla appropriazione totale della cultura esistente” e la convinzione che esse siano “effettivamente informate o consapevoli è concretamente pericolosa”. Quindi, dovremmo anche essere molto diffidenti dei generatori di immagini delle nuove Intelligenze artificiali. “Nel loro tentativo di comprendere e replicare l’intera cultura visiva umana”, osserva Bridle, “[essi] sembrano aver rigenerato anche le nostre più fosche paure. Forse questo è solo un segnale che questi sistemi sono in effetti ottimi nell’imitare la coscienza umana, fino all’estremo limite che si annida nelle aree più remote dell’esistenza: le nostre paure dell’oscenità, della morte e della corruzione”.

Ma quanto sono precisamente buone le nuove Intelligenze artificiali nel somigliare alla coscienza umana? Si consideri quel locale che di recente faceva pubblicità ad una particolare bevanda nei termini seguenti: “Comprate una birra al prezzo di due e riceverete una seconda birra assolutamente gratuita!”. La classica offerta “ne compri uno, ne hai uno” viene riformulata per neutralizzare se stessa. È una espressione di scetticismo che verrà apprezzata al pari di una forma divertente di onestà, il tutto per sostenere le vendite. Un robot dialogante si accorgerà di qualcosa del genere? [1]

Il termine “fuck” presenta un problema simile. Sebbene esso designi qualcosa che la maggioranza delle persone provano piacere nel fare (la copula), esso spesso acquista una valenza negativa (“Siamo fottuti!”, “Va a farti fottere!”). Il linguaggio e la realtà sono sottosopra. L’Intelligenza Artificiale è pronta  discernere tali differenze?

Nel suo saggio del 1805 “Sulla formazione graduale dei pensieri nel processo del linguaggio” (pubblicato la prima volta postumo nel 1878), il poeta tedesco Heinrich con Kleist inverte il senso comune secondo il quale non si dovrebbe aprire la propria bocca se non si ha una idea chiara di cosa dire: “Se di conseguenza un pensiero è espresso in modo nebuloso, allora non ne consegue affatto che questo pensiero sia stato concepito in modo confuso. Al contrario, è abbastanza probabile che le idee che vengono espresse nel modo più confuso siano quelle che sono state pensate più chiaramente”.

La relazione tra linguaggio e pensiero è straordinariamente complicata. In un passaggio di un discorso di Stalin dei primi anni ’30, egli proponeva misure radicali per “individuare e combattere senza pietà anche coloro che si oppongono alla collettivizzazione solo nei loro pensieri – proprio così, io intendo questo, che dovremmo combattere persino i pensieri delle persone”. Si può con certezza ipotizzare che questo passaggio non fosse stato preparato in precedenza. Dopo essersi sul momento imbattuto in esso, Stalin divenne immediatamente consapevole  di quello che aveva appena detto. Ma invece di fare marcia indietro, decise di bloccarsi su quell’iperbole.

Come Lacan successivamente si espresse, questo era un caso di una verità che emerge sorprendentemente attraverso l’atto dell’enunciazione. Louis Althusser identificava un fenomeno simile nella interazione tra ‘presa’ e sorpresa. Qualcuno che all’improvviso afferra un’idea (“la presa”) sarà sorpreso da ciò che ha compiuto. Ancora: può fare questo una qualche ‘macchina dialogante’?

I problema non è che i robot siano stupidi: è che non sono abbastanza “stupidi”. Non è che essi siano ingenui (che manchino di ironia e di riflessività): è che non sono abbastanza ingenui (che difettano quando la ingenuità maschera perspicacia). Il pericolo vero, allora, non è che le persone confondano un robot con una persona reale; è che comunicare con i robot farà parlare le persone reali come se fossero robot – perdendo ogni sfumatura e ironia, dicendo ossessivamente solo proprio quello che uno pensa di voler dire.

Quando ero più giovane, un amico andò da uno psicanalista per un trattamento a seguito di una esperienza traumatica. L’idea di questo amico su ciò che un analista del genere si aspetta dai suoi pazienti era piuttosto banale, cosicché spese la sua prima sessione fornendo false “libere associazioni” su come egli odiasse suo padre e su come desiderasse la sua morte. La reazione dell’analista fu ingegnosa: egli adottò una ingenua posizione “pre-freudiana” e rimbrottò il mio amico per la sua mancanza di rispetto verso il padre (“Come può parlare in questo modo della persona che l’ha messa al mondo?”). Questa finta ingenuità trasmetteva un messaggio chiaro: io non credo ad una virgola delle sue false “associazioni”. Un robot sarebbe capace di accorgersi di questo significato sottointeso?

La cosa più probabile è che non ne sarebbe capace, perché essa è come l’interpretazione di Rowan William del Principe Myskyn ne L’idiota di Dostoevskij. Secondo la lettura tradizionale, Myskyn, “l’idiota”, è un sant’uomo “assolutamente buono e bello” che è spinto in una isolata follia dalle crude brutalità e passioni del mondo reale. Ma nella radicale rilettura di William, Myskyn rappresenta l’occhio di una tempesta: per quanto buono e santo possa essere, è lui che innesca il caos e la morte di cui è testimone, a seguito del suo ruolo nella complicata rete di relazioni che lo circonda.

Non si tratta solo del fatto che Myskyn è un ingenuo sempliciotto. Si tratta del fatto che il suo particolare tipo di ottusità lo lascia inconsapevole dei disastrosi effetti sugli altri. Egli è una persona scialba che letteralmente parla come un robot dialogante. La sua bontà consiste nel fatto che, come un robot, egli reagisce alle sfide senza ironia, offrendo banalità prive di ogni riflessione, prendendo tutto alla lettera e basandosi su un formazione delle idee che si risolve mentalmente in se stessa anziché essere autentica. Per questa ragione, le nuove macchine dialoganti andranno ottimamente d’accordo con gli ideologhi di tutti i generi, dalle odierne folle del ‘super radicalismo’ ai nazionalisti del ‘MAGA’, che preferiscono restare addormentati.