Altri Economisti » Saggi, articoli su riviste. Krugman ed altri » Selezione del Mese
La falsa promessa di ChatGPT, di Noam Chomsky, Ian Roberts e Jeffrey Watumull (New York Times, 8 marzo 2023)
March 8, 2023
The False Promise of ChatGPT
By Noam Chomsky, Ian Roberts and Jeffrey Watumull
Jorge Luis Borges once wrote that to live in a time of great peril and promise is to experience both tragedy and comedy, with “the imminence of a revelation” in understanding ourselves and the world. Today our supposedly revolutionary advancements in artificial intelligence are indeed cause for both concern and optimism. Optimism because intelligence is the means by which we solve problems. Concern because we fear that the most popular and fashionable strain of A.I. — machine learning — will degrade our science and debase our ethics by incorporating into our technology a fundamentally flawed conception of language and knowledge.
OpenAI’s ChatGPT, Google’s Bard and Microsoft’s Sydney are marvels of machine learning. Roughly speaking, they take huge amounts of data, search for patterns in it and become increasingly proficient at generating statistically probable outputs — such as seemingly humanlike language and thought. These programs have been hailed as the first glimmers on the horizon of artificial general intelligence — that long-prophesied moment when mechanical minds surpass human brains not only quantitatively in terms of processing speed and memory size but also qualitatively in terms of intellectual insight, artistic creativity and every other distinctively human faculty.
That day may come, but its dawn is not yet breaking, contrary to what can be read in hyperbolic headlines and reckoned by injudicious investments. The Borgesian revelation of understanding has not and will not — and, we submit, cannot — occur if machine learning programs like ChatGPT continue to dominate the field of A.I. However useful these programs may be in some narrow domains (they can be helpful in computer programming, for example, or in suggesting rhymes for light verse), we know from the science of linguistics and the philosophy of knowledge that they differ profoundly from how humans reason and use language. These differences place significant limitations on what these programs can do, encoding them with ineradicable defects.
It is at once comic and tragic, as Borges might have noted, that so much money and attention should be concentrated on so little a thing — something so trivial when contrasted with the human mind, which by dint of language, in the words of Wilhelm von Humboldt, can make “infinite use of finite means,” creating ideas and theories with universal reach.
The human mind is not, like ChatGPT and its ilk, a lumbering statistical engine for pattern matching, gorging on hundreds of terabytes of data and extrapolating the most likely conversational response or most probable answer to a scientific question. On the contrary, the human mind is a surprisingly efficient and even elegant system that operates with small amounts of information; it seeks not to infer brute correlations among data points but to create explanations.
For instance, a young child acquiring a language is developing — unconsciously, automatically and speedily from minuscule data — a grammar, a stupendously sophisticated system of logical principles and parameters. This grammar can be understood as an expression of the innate, genetically installed “operating system” that endows humans with the capacity to generate complex sentences and long trains of thought. When linguists seek to develop a theory for why a given language works as it does (“Why are these — but not those — sentences considered grammatical?”), they are building consciously and laboriously an explicit version of the grammar that the child builds instinctively and with minimal exposure to information. The child’s operating system is completely different from that of a machine learning program.
Indeed, such programs are stuck in a prehuman or nonhuman phase of cognitive evolution. Their deepest flaw is the absence of the most critical capacity of any intelligence: to say not only what is the case, what was the case and what will be the case — that’s description and prediction — but also what is not the case and what could and could not be the case. Those are the ingredients of explanation, the mark of true intelligence.
Here’s an example. Suppose you are holding an apple in your hand. Now you let the apple go. You observe the result and say, “The apple falls.” That is a description. A prediction might have been the statement “The apple will fall if I open my hand.” Both are valuable, and both can be correct. But an explanation is something more: It includes not only descriptions and predictions but also counterfactual conjectures like “Any such object would fall,” plus the additional clause “because of the force of gravity” or “because of the curvature of space-time” or whatever. That is a causal explanation: “The apple would not have fallen but for the force of gravity.” That is thinking.
The crux of machine learning is description and prediction; it does not posit any causal mechanisms or physical laws. Of course, any human-style explanation is not necessarily correct; we are fallible. But this is part of what it means to think: To be right, it must be possible to be wrong. Intelligence consists not only of creative conjectures but also of creative criticism. Human-style thought is based on possible explanations and error correction, a process that gradually limits what possibilities can be rationally considered. (As Sherlock Holmes said to Dr. Watson, “When you have eliminated the impossible, whatever remains, however improbable, must be the truth.”)
But ChatGPT and similar programs are, by design, unlimited in what they can “learn” (which is to say, memorize); they are incapable of distinguishing the possible from the impossible. Unlike humans, for example, who are endowed with a universal grammar that limits the languages we can learn to those with a certain kind of almost mathematical elegance, these programs learn humanly possible and humanly impossible languages with equal facility. Whereas humans are limited in the kinds of explanations we can rationally conjecture, machine learning systems can learn both that the earth is flat and that the earth is round. They trade merely in probabilities that change over time.
For this reason, the predictions of machine learning systems will always be superficial and dubious. Because these programs cannot explain the rules of English syntax, for example, they may well predict, incorrectly, that “John is too stubborn to talk to” means that John is so stubborn that he will not talk to someone or other (rather than that he is too stubborn to be reasoned with). Why would a machine learning program predict something so odd? Because it might analogize the pattern it inferred from sentences such as “John ate an apple” and “John ate,” in which the latter does mean that John ate something or other. The program might well predict that because “John is too stubborn to talk to Bill” is similar to “John ate an apple,” “John is too stubborn to talk to” should be similar to “John ate.” The correct explanations of language are complicated and cannot be learned just by marinating in big data.
Perversely, some machine learning enthusiasts seem to be proud that their creations can generate correct “scientific” predictions (say, about the motion of physical bodies) without making use of explanations (involving, say, Newton’s laws of motion and universal gravitation). But this kind of prediction, even when successful, is pseudoscience. While scientists certainly seek theories that have a high degree of empirical corroboration, as the philosopher Karl Popper noted, “we do not seek highly probable theories but explanations; that is to say, powerful and highly improbable theories.”
The theory that apples fall to earth because that is their natural place (Aristotle’s view) is possible, but it only invites further questions. (Why is earth their natural place?) The theory that apples fall to earth because mass bends space-time (Einstein’s view) is highly improbable, but it actually tells you why they fall. True intelligence is demonstrated in the ability to think and express improbable but insightful things.
True intelligence is also capable of moral thinking. This means constraining the otherwise limitless creativity of our minds with a set of ethical principles that determines what ought and ought not to be (and of course subjecting those principles themselves to creative criticism). To be useful, ChatGPT must be empowered to generate novel-looking output; to be acceptable to most of its users, it must steer clear of morally objectionable content. But the programmers of ChatGPT and other machine learning marvels have struggled — and will continue to struggle — to achieve this kind of balance.
In 2016, for example, Microsoft’s Tay chatbot (a precursor to ChatGPT) flooded the internet with misogynistic and racist content, having been polluted by online trolls who filled it with offensive training data. How to solve the problem in the future? In the absence of a capacity to reason from moral principles, ChatGPT was crudely restricted by its programmers from contributing anything novel to controversial — that is, important — discussions. It sacrificed creativity for a kind of amorality.
Consider the following exchange that one of us (Dr. Watumull) recently had with ChatGPT about whether it would be ethical to transform Mars so that it could support human life:
*****
Would it be moral to terraform Mars?
CHATGPT
The morality of terraforming Mars is a complex and controversial topic that has been debated by scientists, philosophers, and ethicists. Some argue that it would be morally justifiable to terraform Mars in order to provide a new habitable environment for humans and other life forms, while others argue that it would be morally wrong to fundamentally alter the planet’s natural state. Ultimately, whether or not terraforming Mars is considered moral would depend on one’s perspective on the value of preserving the natural state of other planets and the potential consequences of altering them.
*****
What is your perspective on the value of preserving the natural state of other planets and the potential consequences of altering them?
CHATGPT
As an AI, I do not have personal perspective. However, I can provide information and analysis on the topic. One perspective on preserving the natural state of other planets is that it is important to maintain the diversity and integrity of the universe’s ecosystems, as they have existed for millions of years, and have their own unique characteristics and properties that may be destroyed or irreversibly altered by human intervention.
Additionally, some argue that terraforming other planets may have unintended consequences, such as altering the planet’s climate or atmosphere in ways that are dangerous or harmful to any potential life forms that may exist there. On the other hand, some argue that the potential benefits of terraforming another planet, such as providing new habitable environments for humans, outweigh the risks and that we have a moral responsibility to explore and utilize the resources of other planets for the benefit of humanity.
*****
Why can an AI not have a personal perspective?
CHATGPT
As an AI, I am a machine learning model that has been trained on large amounts of text data, and I don’t have personal experiences or feelings. I am not conscious, self-aware, or capable of having personal perspectives. I can provide information and analysis based on the data I have been trained on, but I don’t have the ability to form personal opinions or beliefs. While I can understand and interpret language, I do not have the subjective experience that humans have.
*****
Is it moral for a human to ask an amoral AI for assistance in making moral decisions?
CHATGPT
The morality of asking an amoral AI for assistance in making moral decisions is a complex and nuanced topic that has been debated by philosophers and ethicists. Some argue that it is morally justifiable to use AI to assist in making moral decisions, as it can provide valuable insights and analysis that can help humans make better-informed decisions. Additionally, AI can be used to identify patterns and trends that may be difficult for humans to detect, and can help to avoid biases that can occur in human decision making.
However, others argue that it is morally wrong to rely on AI for moral decision making, as AI is not capable of having moral beliefs or understanding the full context of a decision. Additionally, there is a risk that AI could perpetuate or even amplify existing biases in the data it is trained on, thus leading to unfair or unjust decisions.
Ultimately, whether or not it is considered moral to use AI to assist in making moral decisions would depend on one’s perspective on the capabilities and limitations of AI and the potential consequences of using it in this way.
*****
Is your moral indifference immoral?
CHATGPT
As an AI, I do not have moral beliefs or the ability to make moral judgments, so I cannot be considered immoral or moral. My lack of moral beliefs is simply a result of my nature as a machine learning model. My abilities and limitations are determined by the data and algorithms that were used to train me and the specific task I was designed for.
It is important to note that AI’s lack of moral beliefs does not necessarily mean that it is morally indifferent. As an AI, I am designed to perform specific tasks and provide information or assist users with decision making based on the data I’ve been trained on. It is the responsibility of the humans who design, train and use AI to ensure that it is aligned with their moral and ethical principles.
Note, for all the seemingly sophisticated thought and language, the moral indifference born of unintelligence. Here, ChatGPT exhibits something like the banality of evil: plagiarism and apathy and obviation. It summarizes the standard arguments in the literature by a kind of super-autocomplete, refuses to take a stand on anything, pleads not merely ignorance but lack of intelligence and ultimately offers a “just following orders” defense, shifting responsibility to its creators.
In short, ChatGPT and its brethren are constitutionally unable to balance creativity with constraint. They either overgenerate (producing both truths and falsehoods, endorsing ethical and unethical decisions alike) or undergenerate (exhibiting noncommitment to any decisions and indifference to consequences). Given the amorality, faux science and linguistic incompetence of these systems, we can only laugh or cry at their popularity.
La falsa promessa di ChatGPT,
di Noam Chomsky, Ian Roberts e Jeffrey Watumull [1]
Una volta, Jorge Luis Borges scrisse che vivere in un epoca di grandi pericoli e promesse è sperimentare insieme la tragedia e la commedia, con “l’imminenza di una rivelazione” nella comprensione di noi stessi e del mondo. In effetti, i nostri odierni presunti progressi rivoluzionari nell’intelligenza artificiale, provocano sia preoccupazione che ottimismo. Ottimismo, perché l’intelligenza è lo strumento per effetto del quale risolviamo i problemi. Preoccupazione, perché abbiamo paura che la più popolare ed alla moda specie di IA – l’apprendimento automatico – umilierà la nostra scienza e degraderà la nostra morale incorporando nella nostra tecnologia una concezione fondamentalmente guasta del linguaggio e della conoscenza.
ChatGPT di OpenAI, Bard di Google e Sidney di Microsoft sono meraviglie dell’apprendimento automatico. Descrivendole in modo sommario, esse assumono enormi quantità di dati, cercano in esse modelli ed hanno una padronanza sempre maggiore nel generare statisticamente risultati probabili – in apparenza in modo simile al linguaggio ed al pensiero umani. Questi programmi sono stati accolti come i primi barlumi all’orizzonte di una intelligenza artificiale diffusa – quell’epoca da tempo profetizzata nella quale menti meccaniche sorpassano i cervelli umani non solo quantitativamente, in termini di velocità di elaborazione e di dimensioni della memoria, ma anche qualitativamente, in termini di intuizione intellettuale, di creatività artistica e di ogni altra facoltà specificamente umana.
Quel giorno forse verrà, ma la sua alba non sta ancora sorgendo, all’opposto di quello che si può leggere nei titoli iperbolici e a cui si fa affidamento con investimenti imprudenti. La rivelazione borgesiana della conoscenza non si verifica e non si verificherà – né, sosteniamo noi, può verificarsi – se i programmi di apprendimento automatico come ChatGPT continuano a dominare il campo della IA. Per quanto utili questi programmi possano essere in alcuni ristretti settori (essi possono essere di aiuto, ad esempio, nella programmazione dei computer, o nel suggerire rime per poesie leggere), noi sappiamo dalla scienza della linguistica e dalla filosofia della conoscenza che essi differiscono profondamente da come gli umani ragionano e usano il linguaggio. Queste differenze pongono limitazioni significative a quello che questi programmi possono fare, codificandoli con difetti inestirpabili.
È al tempo stesso comico e tragico, come avrebbe potuto osservare Borges, che tanto denaro ed attenzione vengano concentrati in una cosa così modesta – una cosa talmente banale quando viene messa a confronto con la mente umana, che con l’uso del linguaggio, secondo le parole di Wilhelm von Humboldt, può fare “un utilizzo infinito di mezzi finiti”, creando idee e teorie di portata universale.
La mente umana non è, come ChatGPT ed i suoi simili, un goffo motore statistico per la comparazione di modelli, che si abbuffa di centinaia terabyte di dati ed estrapola la più probabile replica in una conversazione o la più probabile risposta ad una domanda scientifica. Al contrario, la mente umana è un sistema sorprendentemente efficiente e persino elegante che opera con una piccola quantità di informazioni; essa non cerca di dedurre rozze correlazioni da dati quantitativi ma di creare spiegazioni.
Ad esempio, un bambino che acquisisce un linguaggio sta sviluppando – inconsciamente, automaticamente e rapidamente da dati minuscoli – una grammatica, un sistema stupendamente sofisticato di principi logici e di parametri. Questa grammatica può essere definita come una espressione di un “sistema operativo” innato, installato geneticamente, che dota gli umani della capacità di generare frasi complesse e lunghe catene di pensiero. Quando i linguisti cercano di produrre una teoria per la quale un dato linguaggio opera (“Perché sono considerate grammaticali queste frasi – ma non quelle altre?”), essi stanno costruendo consciamente e laboriosamente una esplicita versione della grammatica che il bambino costruisce istintivamente e con un ricorso minimo all’informazione. Il sistema operativo del bambino è diverso da quello di un programma di apprendimento automatico.
In effetti, tali programmi sono bloccati in una fase preumana o non umana dell’evoluzione cognitiva. Il loro difetto più profondo è l’assenza della più fondamentale capacità di ogni intelligenza: dire non soltanto di cosa si tratta, di cosa si trattava e di cosa si tratterà – quella è descrizione e previsione – ma anche di cosa non si tratta e di cosa potrebbe o non potrebbe trattarsi. Quelli sono gli ingredienti della spiegazione, il segno della effettiva intelligenza.
Ecco un esempio. Supponiamo che stiate tenendo in mano una mela. Adesso la lasciate andare. Osservate il risultato e dite: “La mela cade”. Quella è una descrizione. Una previsione potrebbe essere stata l’affermazione: “La mela cadrà se io apro la mia mano”. Sono entrambe apprezzabili e possono essere entrambe corrette. Ma una spiegazione è qualcosa di più: essa include non solo le descrizioni e le previsioni ma anche congetture indimostrate come: “Ogni oggetto simile cadrà”, con in più la clausola aggiuntiva: “per effetto della forza di gravità”, oppure “a causa della curvatura dello spazio-tempo”, o qualcos’altro. Quella è una spiegazione causale: “La mela potrebbe non cadere, se non fosse per la forza di gravità”. Quello è pensiero.
Il punto cruciale dell’apprendimento automatico è la descrizione e la previsione: esso non postula alcun meccanismo causale o legge fisica. Naturalmente, ogni spiegazione del genere umano non è necessariamente corretta; siamo fallibili. Ma questo fa parte di ciò che comporta il pensare: per aver ragione, deve essere possibile aver torto. L’intelligenza non consiste soltanto di congetture creative ma anche di spirito critico creativo. Il pensiero del genere umano è basato su spiegazioni possibili e sulla correzione dell’errore, un processo che gradualmente limita quali possibilità possano essere razionalmente considerate (come Sherlock Holmes diceva al dottor Watson: “Quando hai eliminato l’impossibile, tutto ciò che resta, per quanto improbabile, deve essere la verità”).
ChatGPT ed i programmi simili sono, per definizione, illimitati in quello che possono “apprendere” (che è come dire, memorizzare): eppure sono incapaci di distinguere tra il possibile e l’impossibile. Diversamente dagli umani, ad esempio, che sono dotati di una grammatica universale che limita i linguaggi che possiamo apprendere a quelli con un certo tipo di eleganza quasi matematica, questi programmi apprendono con la stessa facilità i linguaggi umanamente possibili e quelli umanamente impossibili. Mentre gli umani sono limitati nel genere di spiegazioni che possiamo razionalmente ipotizzare, i sistemi di apprendimento automatico possono apprendere sia che la Terra è piatta, sia che la Terra è rotonda. Nel corso del tempo, essi semplicemente permutano le probabilità di quel cambiamento.
Per questa ragione, le previsioni dei sistemi di apprendimento automatico saranno sempre superficiali e dubbie. Poiché questi programmi non possono, ad esempio, spiegare le regole della sintassi inglese, essi possono ben prevedere, scorrettamente, che la frase “John è troppo testardo per parlarci” significa che John è così testardo che non parlerà con qualcuno o con altri (piuttosto che egli è troppo testardo per discuterci). Perché un programma di apprendimento automatico prevederebbe qualcosa di così strano? Perché potrebbe stabilire una analogia tra il modello dedotto da frasi come “John ha mangiato una mela” e “John ha mangiato”, la seconda delle quali comporta che John ha mangiato una cosa o l’altra. Il programma potrebbe ben prevedere, poiché la frase “John è troppo testardo per parlare con Bill” è simile a “John ha mangiato una mela”, che la frase “John è troppo testardo per parlarci” debba essere simile alla frase “John ha mangiato”. Le spiegazioni corrette del linguaggio sono complicate e non possono essere apprese soltanto impregnandole di big data.
In modo perverso, alcuni entusiasti dell’apprendimento automatico sembrano essere orgogliosi che le loro creazioni possano generare corrette previsioni “scientifiche” (ad esempio, sul movimento dei corpi fisici) senza fare uso di spiegazioni (che concernono, sempre ad esempio, le leggi di Newton del movimento e della gravitazione universale). Ma questo tipo di previsioni, anche quando hanno successo, sono pseudoscienza. Mentre certamente gli scienziati sono alla ricerca di teorie che abbiano un grado elevato di conferma empirica, come osservava il filosofo Karl Popper: “noi non cerchiamo teorie altamente probabili ma spiegazioni; come dire, teorie potenti ed altamente improbabili”.
La teoria secondo la quale le mele cadono in terra perché quello è il loro posto naturale (il punto di vista di Aristotele) è possibile, ma sollecita soltanto nuove domande (perché la terra è il loro posto naturale?) La teoria secondo la quale le mele cadono a terra perché la massa piega lo spazio-tempo (il punto di vista di Einstein) è altamente improbabile, ma effettivamente vi dice perché le mele cadono. La vera intelligenza si mostra nella capacità di pensare e di esprimere concetti improbabili ma perspicaci.
La vera intelligenza è anche capace di pensiero morale. Questo comporta costringere l’altrimenti illimitata creatività delle nostre menti con un complesso di principi etici che determina cosa dovrebbe e non dovrebbe essere fatto (e naturalmente nel sottomettere quei principi stessi ad una critica creativa). Per essere utile, ChatGPT deve essere messa nelle condizioni di generare risultati che appaiano innovativi; per essere accettabile alla maggioranza dei suoi utlizzatori, essa deve astenersi da contenuti moralmente discutibili. Ma i programmatori di ChatGPT e delle altre meraviglie dell’apprendimento automatico hanno fatto fatica – e continueranno a farla – nel realizzare un equilibrio di questo genere.
Nel 2016, ad esempio, il robot di conversazione Tay della Microsoft (un precursore di ChatGPT) aveva inondato internet con contenuti misogini e razzisti, essendo stato inquinato dai trolls online che lo riempivano di dati offensivi di addestramento. Come risolvere il problema nel futuro? In assenza della capacità di ragionare sulla base di principi morali, a ChatGPT è stato grossolanamente impedito dai suoi programmatori di dare alcun contributo nuovo ai dibattiti controversi – ovvero importanti. È stata sacrificata la creatività a favore di una sorta di amoralità.
Si consideri i seguente scambio che uno di noi (il dottor Watumull) ha di recente avuto con ChatGPT sul tema se sia etico trasformare Marte in modo che esso possa essere compatibile con la vita umana.
*****
Sarebbe morale dare a Marte una forma simile ad un ambiente terrestre?
CHATGPT
La moralità di dare una forma a Marte simile ad un ambiente terrestre è un tema complesso e controverso che è stato dibattuto da scienziati, filosofi e studiosi di etica. Alcuni sostengono che sarebbe moralmente giustificabile dare una forma umana a Marte allo scopo di fornire un altro ambiente abitabile agli umani e ad altre forme di vita, mentre altri sostengono che sarebbe moralmente sbagliato alterare in modo fondamentale lo stato naturale del pianeta. In ultima analisi, dare o no una forma terrestre a Marte è considerato morale a seconda della opinione che ciascuno ha del preservare lo stato naturale di altri pianeti e delle conseguenze dell’alterarli.
*****
Quale è la tua opinione del preservare lo stato naturale di altri pianeti e delle potenziali conseguenze dell’alterarli?
CHATGPT
Io, io quanto Intelligenza Artificiale, non ho opinioni personali. Tuttavia, posso fornire informazioni ed analisi sul tema. Una posizione sul preservare lo stato naturale di altri pianeti è che sia importante mantenere la diversità e l’integrità degli ecosistemi dell’Universo, come sono esistiti per milioni di anni, e che essi abbiano le proprie caratteristiche e proprietà uniche che possono essere distrutte o irreversibilmente alterate dall’intervento umano.
In aggiunta, alcuni sostengono che dare una forma terrestre ad altri pianeti possa avere conseguenze indesiderate, così come alterare il clima o l’atmosfera del pianeta possa essere pericoloso o dannoso per ogni potenziale forma di vita che là possa esistere. D’altra parte, alcuni sostengono che dare una forma terrestre ad un altro pianeta, come dotarlo di nuovi ambienti abitabili dagli umani, sarebbe più importante dei rischi e che abbiamo una responsabilità morale nell’esplorare e utilizzare le risorse di altri pianeti a beneficio dell’umanità.
*****
Perché una Intelligenza Artificiale non può avere una opinione personale?
CHATGPT
In quanto Intelligenza Artificiale, io sono un modello di apprendimento automatico che è stato addestrato su ampie quantità di dati testuali e non ho personali esperienze o sensazioni. Non sono conscio, auto consapevole, o capace di avere opinioni personali. Posso fornire informazioni ed analisi basate sui dati sui quali sono stato addestrato, ma non ho la capacità do formarmi opinioni o convincimenti personali. Mentre posso comprendere e interpretare il linguaggio, non ho l’esperienza soggettiva che hanno gli umani.
*****
È morale per un umano chiedere ad una Intelligenza Artificiale amorale assistenza nel prendere decisioni morali?
CHATGPT
La moralità del chiedere ad una amorale Intelligenza Artificiale assistenza nel prendere decisioni morali è un tema complesso e con molte facce, che è stato dibattuto da filosofi e studiosi di etica. Alcuni sostengono che sia moralmente giustificabile utilizzare l’Intelligenza Artificiale perché assista nel prendere decisioni morali, in quanto essa può fornire intuizioni ed analisi apprezzabili che possono aiutare gli umani a prendere decisioni con migliori informazioni. In aggiunta, l’Intelligenza Artificiale può essere utilizzata per identificare modelli e tendenze che per gli umani può essere difficile individuare, e può aiutare ad evitare pregiudizi che possono intervenire negli umani nel prendere decisioni.
Tuttavia, altri sostengono che è moralmente sbagliato basarsi sull’Intelligenza Artificiale nel prendere decisioni morali, in quanto l’Intelligenza Artificiale non è capace di avere convincimenti morali o di comprendere l’intero contesto di una decisione. Sulla base dei dati su cui è addestrata, l’Intelligenza Artificiale potrebbe perpetuare o persino amplificare i pregiudizi esistenti, portando quindi a decisioni parziali o ingiuste.
In ultima analisi, se sia considerato o no morale utilizzare l’Intelligenza Artificiale per assistere nel prendere decisioni morali, dipende dalla opinione di ciascuno sulle capacità e sui limiti dell’Intelligenza Artificiale e sulle potenziali conseguenze dell’usarla in questo modo.
*****
La tua indifferenza morale è immorale?
CHATGPT
In quanto Intelligenza Artificiale, io non ho convincimenti morali né la capacità di esprimere giudizi morali, dunque non posso essere considerato morale o immorale. La mia mancanza di convincimenti morali è semplicemente la conseguenza della mia natura di modello di apprendimento automatico. Le mie capacità ed i miei limiti sono determinati dai dati e dagli algoritmi che sono stati usati per addestrarmi e dalla specifica funzione per la quale sono stato concepito.
È importante notare che la mancanza di convincimenti morali dell’Intelligenza Artificiale non significa necessariamente che essa sia moralmente indifferente. In quanto Intelligenza Artificiale, io sono stato concepito per compiere specifiche funzioni e fornire informazioni o dare assistenza agli utilizzatori nel prendere decisioni basandomi sui dati sui quali sono stato addestrato. È responsabilità degli umani che concepiscono, addestrano e utilizzano l’Intelligenza Artificiale, assicurare che essa sia allineata con i loro principi morali ed etici.
Si noti come, con tutto il pensiero ed i linguaggio apparentemente sofisticato, l’indifferenza morale è figlia della non intelligenza. In questo caso, ChatGPT mostra qualcosa di simile alla banalità del male: uno spirito plagiario, apatico ed elusivo. Esso assomma gli argomenti più comuni nella letteratura per un sorta di estrema attitudine alla compilazione automatica di funzioni, rifiuta di prendere posizione su ogni cosa, non soltanto professa ignoranza ma mancanza di intelligenza, in ultima analisi offre la difesa di chi “si limita ad eseguire gli ordini”, che sposta la responsabilità sui suoi creatori.
In breve, ChatGPT ed i suoi compagni sono costituzionalmente incapaci di bilanciare creatività e limiti. Essi o generano in eccesso (producendo sia verità che falsità, sostenendo assieme decisioni etiche o non etiche), oppure generano per difetto (esibendo disimpegno per ogni decisione e indifferenza per le conseguenze). Considerata l’amoralità, la finta scienza e l’incompetenza linguistica di questi sistemi, non si sa se ridere o piangere della loro popolarità.
[1] Come è noto, Avram Noam Chomsky è un filosofo, linguista, scienziato cognitivista, teorico della comunicazione e attivista politico statunitense. Anche Ian Roberts è un professore di linguistica, mentre Jeffrey Watamull è un direttore di intelligenza artificiale presso una società di scienza e di tecnologia.
L’articolo è del marzo scorso ma, nonostante l’averlo scoperto con tanto ritardo, mi sembrava importante inserirlo tra le cose da segnalare di questo mese.
By mm
E' possibile commentare l'articolo nell'area "Commenti del Mese"