Project Syndicate » Selezione del Mese
Funzionerebbe un comunismo attivato dall’Intelligenza Artificiale? Di Daron Acemoglu (da Project Syndicate, 28 giugno 2023)
Jun 28, 2023
Would AI-Enabled Communism Work?
BOSTON – Friedrich von Hayek is best known for his influential 1944 polemic The Road to Serfdom. But his most celebrated work in economics is “The Use of Knowledge in Society,” a rather short article on how society uses and acquires dispersed information about economic fundamentals such as preferences, priorities, and productivity.
The article develops a powerful critique of central planning, arguing that no centralized authority can adequately collect and process “the dispersed bits of incomplete and frequently contradictory knowledge which all the separate individuals possess.” Without knowing each individual’s preferences among millions of products, let alone their ideas about where to use their talents most productively and creatively, central planners are bound to fail.
By contrast, market economies can process and aggregate such information both efficiently and effectively. Price signals seamlessly convey data about market participants’ priorities and preferences. When tin becomes scarcer, its price rises, and Hayek explains, all that “users of tin need to know is that some of the tin they used to consume is now more profitably employed elsewhere and that, in consequence, they must economize tin.”
Nor is this just about processing existing data. The market system, Hayek argues, is also better at discovering – or even producing – new, relevant signals: “the ‘data’ from which the economic calculus starts are never for the whole society ‘given’ to a single mind which could work out the implications and can never be so given.”
Although Hayek is celebrated for offering a knowledge-based (or “computational”) critique of central planning, his arguments are best understood as a call for decentralization more broadly. He notes that, “If we can agree that the economic problem of society is mainly one of rapid adaptation to changes … the ultimate decisions must be left to the people who are familiar with these circumstances.” Ultimately, Hayek concludes, “We must solve it by some form of decentralization” – namely, through the market economy and the price system.
For decades, Hayek’s arguments provided the basis for rejecting all kinds of regulation. If any regulation of economic activity (such as measures governing the release of new products) or of prices (such as caps or controls) interferes with the functioning of the price system, they will hamper the decentralized process of adaptation to an ever-changing world.
But now, artificial intelligence – especially generative AI models that encode, process, and deploy (via hundreds of billions of parameters) massive amounts of pre-existing information – raises two challenges for Hayek’s argument.
First, given AI’s ability to absorb, organize, and interpret data on a massive scale, one might wonder if it could render central planning more efficient than today’s market systems. Such is the hope behind “AI socialism” (or “fully automated luxury communism”): AI will give central planners the means to determine optimal and (supposedly) benevolent economic allocations.
But while AI socialism is an interesting thought experiment, it offers only a superficial critique of Hayek. Even if an AI could do all the computations and data collection that the market economy already does (a very big if), the concentration of power in the hands of a central authority would be a major cause for concern.
The famine that killed five million Ukrainians in the early 1930s was not the result of Stalin failing to compute the right allocations. On the contrary, he had sufficient information, and he used it extract as much grain as possible from the region (owing to larger political motivations and possibly a desire to devastate Ukraine).
Moreover, Hayek’s criticism of central planning goes beyond crunching the existing numbers. As we have seen, it is primarily focused on adaptation to change, and thus emphasizes the creation of information as much as its use.
“The sort of knowledge with which I have been concerned,” Hayek writes, “is knowledge of the kind which by its nature cannot enter into statistics.” The implication is that not even an all-powerful large language model (LLM) could deal with the true nature of dispersed information.
But AI also poses a second, deeper challenge to Hayek’s arguments. In the age of generative AIs like ChatGPT-4, should we even presume that markets will facilitate the decentralized use of information? The technology’s development is being led by Alphabet (Google) and Microsoft, two massive corporations that are very much in the business of centralizing information. Even if other companies can compete with this duopoly, LLMs, by their nature, may require high degrees of centralization. It is all too easy to imagine a scenario in which a large share of humanity gets its information from the same model.
Of course, Google or Microsoft’s control of information is not the same as that of the Communist Party of China. But, as Simon Johnson and I argue in our new book, Power and Progress: Our Thousand-Year Struggle over Technology and Prosperity, even seemingly benign forms of centralization bring myriad economic and political costs, depending on who is ultimately in control. In the United States, these costs include rising monopolization of the tech sector, because control of data creates entry barriers, and the development of business models based on constant online engagement and individualized digital ads, which breed emotional outrage, extremism, and echo chambers online, with damaging effects for democratic participation.
Decentralization therefore is still desirable. But to foster it in the age of AI, we may need to turn Hayek’s argument on its head – or at least on its side – by embracing regulation, rather than focusing solely on its potential costs.
Funzionerebbe un comunismo attivato dall’Intelligenza Artificiale?
Di Daron Acemoglu
BOSTON – Friedrich von Hayek è soprattutto noto per la sua influente polemica del 1944, La via della servitù. Ma il suo lavoro più celebrato in economia è “L’uso della conoscenza nella società”, un articolo piuttosto breve su come la società utilizza ed acquisisce informazioni disperse su aspetti fondamentali dell’economia come le preferenze, le priorità e la produttività.
L’articolo sviluppa una critica potente della pianificazione centrale, sostenendo che nessuna autorità centralizzata può adeguatamente raccogliere e gestire “i pezzetti dispersi di una conoscenza dispersa e frequentemente contraddittoria che tutti i distinti individui possiedono”. Senza conoscere le preferenze di ogni singola persona tra milioni di prodotti, per non dire le idee su dove utilizzare più produttivamente e creativamente i propri talenti, i pianificatori centrali sono destinati a fallire.
All’opposto, le economie di mercato possono trattare ed aggregare tali informazioni con efficienza e con efficacia. I segnali dei prezzi convogliano ininterrottamente dati sulle priorità e sulle preferenze degli attori sui mercati. Quando lo stagno diventa più scarso, il suo prezzo cresce e, spiega Hayek, tutto ciò che “gli utilizzatori hanno bisogno di sapere è che una parte dello stagno che erano abituati a consumare adesso viene usato più profittevolmente altrove, di conseguenza, devono economizzare lo stagno.”
E non si tratta soltanto di gestire i dati esistenti. Il sistema di mercato, afferma Hayek, è anche migliore nello scoprire – o persino nel produrre – nuovi importanti segnali: “i ‘dati’ dai quali prende le mosse il calcolo economico non sono mai per una intera società ‘forniti’ ad un singola mente, che potrebbe elaborarne le implicazioni in modo che non siano mai messi a disposizione.”
Sebbene Hayek sia celebrato per aver offerto una critica basata sulla conoscenza (o “computazionale”) della pianificazione centrale, i suoi argomenti sono meglio compresi come una richiesta più in generale di decentralizzazione. Egli osserva che: “se possiamo concordare che il problema economico della società è principalmente quello di un rapido adattamento ai cambiamenti … le decisioni definitive debbono essere lasciate alle persone che sono familiari con queste circostanze”. In ultima analisi, conclude Hayek, “Noi dobbiamo risolverlo con qualche forma di decentralizzazione” – precisamente, attraverso l’economia di mercato ed il sistema dei prezzi.
Per decenni, gli argomenti di Hayek hanno fornito la base per rigettare tutti i tipi di regolamentazione. Se ogni regolamento dell’attività economica (come le misure che governano il rilascio di nuovi prodotti) o dei prezzi (come i tetti i controlli) interferisce con il funzionamento del sistema dei prezzi, esso ostacolerà il processo decentralizzato di adattamento ad un mondo in continuo cambiamento.
Ma adesso, l’intelligenza artificiale – specialmente i modelli di AI generativa che codificano, gestiscono e dispiegano (attraverso centinaia di miliardi di parametri) quantità massicce di informazione preesistente – solleva due sfide all’argomento di Hayek.
La prima, la capacità della AI di assorbire, organizzare e interpretare dati su una enorme scala, ci si può chiedere se possa rendere la pianificazione centrale più efficace dei sistemi di mercato odierni. È quella la speranza che sta dietro il “socialismo dell’Intelligenza Artificiale” (o il “comunismo dell’opulenza pienamente automatizzato”): l’Intelligenza Artificiale darà ai pianificatori centrali i mezzi per determinare le migliori e (si suppone) generose allocazioni economiche.
Ma mentre il socialismo dell’AI è un interessante esperimento di pensiero, esso offre una critica solo superficiale ad Hayek. Persino se l’AI potesse fare tutte le computazioni e la raccolta dei dati che l’economia di mercato già fa (il che è molto dubbio), la concentrazione del potere nella mani di una autorità centrale sarebbe una importante ragione di inquietudine.
La carestia che uccise cinque milioni di ucraini agli inizi degli anni ‘930 non fu il risultato della incapacità di Stalin di calcolare le giuste allocazioni. Al contrario, egli aveva informazioni sufficienti, ed era solito estorcere più grano possibile dalla regione (a seguito di più ampie motivazioni politiche e forse del desiderio di devastare l’Ucraina).
Inoltre, le critiche di Hayek alla pianificazione centrale vanno oltre l’elaborazione dei dati esistenti. Come abbiamo visto, esse sono principalmente concentrate sull’adattamento al cambiamento, e quindi enfatizzano la creazione di informazione altrettanto che il suo utilizzo.
“Il genere di conoscenza della quale io mi sono preoccupato”, scrive Hayek, “è la conoscenza di un genere che per sua natura non può entrare nelle statistiche”. L’implicazione è che persino un onnipotente Modello di Linguaggio di Grandi Dimensioni (LLM) non potrebbe misurarsi proprio con la natura delle informazioni disperse.
Ma, l’Intelligenza Artificiale pone anche una seconda e più profonda sfida agli argomenti di Hayek. Nell’epoca delle Intelligenze Artificiali generative come ChatGPT-4, saremo mai nelle condizioni persino di ipotizzare che i mercati facilitino l’uso decentralizzato delle informazioni? Lo sviluppo della tecnologia viene guidato da Alphabet (Google) e Microsoft, due enormi società che operano molto nell’impresa della informazione centralizzata. Persino se altre società potessero competere con questo duopolio, i LLM, per la loro natura, possono richiedere alti gradi di centralizzazione. È sin troppo facile immaginare uno scenario nel quale una larga parte dell’umanità ottenga le sue informazioni dallo stesso modello.
Ovviamente, il controllo di Google e di Microsoft delle informazioni non è lo stesso di quello del Partito Comunista Cinese. Ma come Simon Johnson ed io sosteniamo nel nostro nuovo libro Potere e progresso: la nostra lotta secolare con la tecnologia e la prosperità, persino forme apparentemente benigne di centralizzazione comportano una miriade di costi economici e politici, a seconda di chi è in ultima analisi al controllo. Negli Stati Uniti, questi costi comprendono la crescente monopolizzazione del settore tecnologico, perché il controllo dei dati crea barriere all’ingresso, nonché lo sviluppo dei modelli di impresa basati sul costante impegno online e sulla pubblicità digitale individualizzata, che generano indignazione emotiva, estremismo e camere di riverbero online, con effetti dannosi per la partecipazione democratica.
La decentralizzazione, di conseguenza, è ancora desiderabile. Ma per promuoverla, nell’epoca dell’Intelligenza Artificiale, possiamo aver bisogno di capovolgere l’argomento di Hayek – o almeno di cambiargli verso – piuttosto di concentrarci unicamente sui suoi costi potenziali.
By mm
E' possibile commentare l'articolo nell'area "Commenti del Mese"