Esta columna tiene por finalidad revisitar un breve artículo escrito por Langdon Winner en
1980 titulado Do artifacts have politics?,(pdf) enfocada en uno de los programas emblemáticos de
inteligencia artificial: Chat GPT. A pesar de que la pregunta expuesta en el título resulta
evidentemente retórica, parece valioso exponer la revisión de la cadena de pensamiento que
lleva a dar una respuesta afirmativa y las preguntas que surgen como consecuencia de dicha
reflexión.
En la discusión teórica existen fundamentalmente dos maneras de entender la relación entre el
desarrollo tecnológico y la sociedad: la llamada “determinación social de la tecnología” y la
denominada “determinismo tecnológico”. Quienes adhieren a la corriente de la determinación
social de la tecnología argumentan que es la sociedad quien tiene control sobre el desarrollo
tecnológico y su configuración, con la finalidad de lograr que los nuevos artefactos se ajusten
a las necesidades de las personas y obren en lo posible en beneficio de ellas. En este sentido,
la tecnología no juega un rol protagónico en sí, si no el contexto político y social en el cual
surge y es moldeada. De esta forma, cuando uno analiza el desarrollo de nuevos técnicas y
dispositivos debe entenderlas como un efecto del contexto político-social en el cual fueron
creadas, el cual es finalmente responsable por sus características y resultados. Quienes
defienden esta aproximación a la cuestión son proclives a hacer responsable a la comunidad
política de la creación de la tecnología, de su masificación y sus consecuencias.
Por otro lado, quienes adhieren a la corriente del determinismo tecnológico —algo ingenuos,
algo más radicales, pero no sin buenas razones— argumentan que el desarrollo tecnológico
tiene un motor propio a lo largo de la historia, el cual se desarrolla, crece y complejiza de
forma casi independiente a la voluntad humana. De esta forma, aun cuando los seres humanos
quisieran retractar ciertos inventos, o impedir la diseminación de ciertos artefactos o
descubrimientos, sería imposible. La tecnología y su constante modernización, desde el
descubrimiento del fuego, la invención de la rueda, de la imprenta, la dinámica, internet y la
inteligencia artificial serían hechos inevitables, pulsiones que escapan a la voluntad de las
personas y las sociedades. Aunque de por sí sugestiva, el riesgo de esta posición teórica es
que pueda simplificar demasiado la discusión y no asumir la responsabilidad social existente
frente a la consecuencia del desarrollo tecnológico.
Con respecto a la pregunta expresada en el título, es relevante notar que, siguiendo a Winner,
la historia de las ideas ha demostrado que la invención de un artefacto tecnológico de
extendida relevancia social (como el dinero, la imprenta, internet) es similar a un acto
legislativo o un fundamento político de efecto transgeneracional que establece un nuevo orden
público. Las consecuencias sociales, políticas, económicas, incluso neurológicas, de la
creación de internet y la inteligencia artificial son evidentemente existentes, aunque no se
conozcan con exactitud su naturaleza y extensión. Tales consecuencias tendrán a su vez
efectos en la manera de relacionarnos entre seres humanos y en las decisiones conjuntas que
queramos tomar para organizar nuestra convivencia en sociedad. Eso es al fin y al cabo la
política.
Lo mencionado anteriormente obedece a una comprensión de la cuestión desde la visión de la
tecnología desde la perspectiva de la determinación social de la tecnología. El problema es
que la creación de internet y de la inteligencia artificial difícilmente pueden ser entendidas
como un acto donde exista una participación social o política, se trata más bien de pequeños y
geniales grupos de elite emprendedora quienes han invertido y arriesgado en desarrollar y
expandir los inventos. Sin embargo, —y aquí ocurre lo social de la situación— las personas
han decidido utilizar sus creaciones, las legislaciones han decidido no prohibirlos o regularlos,
el mercado ha decidido expandirlas, etc. Es decir, ocurrido el fenómeno de la creación del
artefacto, existe una reacción social de aceptarlo o rechazarlo y en el mejor de los casos
también de regularlo. Este punto es socialmente relevante: el tener consciencia no sólo de
aceptar la nueva tecnología y aprender a utilizarla —por ejemplo, Chat GPT— si no de sus
efectos a nivel de relaciones sociales, neurológicos, psicológicos, políticos y sociales. Esa es
la única forma de tomarse en serio la posición de la determinación social de la tecnología.
El hecho de que exista una carrera por países históricamente rivales en cuestiones ideológicas
en lo que respecta al desarrollo y expansión global de la inteligencia artificial (EEUU y China)
da cuenta de que lo que se encuentra detrás del acelerado crecimiento de esta tecnología no es
solamente la búsqueda de un mayor bienestar para los usuarios si no la expansión global de un
sistema tecnológico capaz de expandir y comunicar una cultura también en un sentido
político. Dicho de un modo propio de los lectores de Philip Dick: quien pueda controlar la
confección de la inteligencia artificial tipo Chat GPT podrá en principio controlar una parte
significativa de nuestra forma de pensar y conocer el mundo. Es en la sutileza de los detalles
de las respuestas que el programa arroja donde se jugará una inmensa capacidad para llegar a
la mente y cerebro de los usuarios, haciéndolos proclives a creer ciertas cosas, pensar o no
pensar ciertos temas, tomar ciertas decisiones, etc.
Si la inteligencia artificial en la modalidad de Chat GPT o sus variantes hubiese quedado en
manos del Estado (cuestión no descartable en otros hemisferios) habría sido la cúspide de la
pesadilla de Orwell en 1984. Sin embargo, el destino sobre ese punto aún sigue abierto.
Cuestión que es consecuencia de dos niveles políticos de análisis frente a la inteligencia
artificial, niveles que no han sido suficientemente tematizados en la escasa literatura.
El primer nivel de análisis es externo. Se refiere a la inteligencia artificial del tipo Chat GPT y
sus derivados en el panorama global. ¿Pretende Chat GPT ofrecer ideológicamente fungir
como un producto emblemático creado, configurado y monitoreado por valores propios de la
democracia liberal frente al DeepSeek chino, controlado parcialmente por un Estado
autoritario? Chat GPT fue creado por particulares, diseminado a través del mercado
capitalista, y su principal forma de llegar a acuerdos es de forma bilateral, en base a la oferta y
la demanda y la voluntad de prestador de servicios frente al consumidor. Es decir, al menos en
un primer nivel, y con todas las desventajas y evidentes problemas que pueda traer aparejadas,
se presenta como un producto del liberalismo económico. ¿No es claro entonces que la
expansión global de Chat GPT pretende exportar la ideología del capitalismo liberal? A
contrario sensu, ¿no es evidente que el DeepSeek chino pretende exportar el modelo de
desarrollo de capitalismo de estado autoritario?
El segundo nivel de análisis es interno. Se refiere a la inteligencia artificial tipo Chat GPT en
sus relaciones en principio bilaterales entre oferentes del producto y los contratantes. La
pregunta que se presenta es hasta qué punto es aceptable que una herramienta tecnológica tan
potente como un acto legislativo o político transgeneracional quede exclusivamente a las
lógicas del mercado, es decir, a la libre voluntad de las partes contratantes. ¿Tendrá alguna
vez el Estado la necesidad de contar con una participación o al menos voz en la configuración
de esta herramienta? ¿Podrán sus dueños libremente configurar el contenido y las respuestas
a su arbitrio, instalar una agenda ideológica, establecer cobros y vetos? En caso de que no
exista ningún tipo de regulación, se presenta el riesgo de que una herramienta tan influyente
para la sociedad quede marginada de decisiones sociales relevantes.
La existencia de un aparato tan trascendente generacionalmente como este casi en paralelo a
las instituciones políticas deliberativas pueden acrecentar enormemente defectos sociales ya
existentes. Los partidarios de la teoría de la determinación social de la tecnología entienden
este punto: la inteligencia artificial del tipo Chat GPT será una caja de resonancia de la
desigualdad económica y cultural en la que vivimos, de discriminación, exclusión,
empobrecimiento cultural y abuso en las relaciones comerciales, si es que no se elaboran los
convenientes regulaciones y políticas públicas educacionales para crear consciencia sobre sus
consecuencias y un sistema de educación sobre su uso.
Chat GPT, con o sin quererlo por sus creadores, tiene un planteamiento político, y recae en
una sociedad responsable y consciente el deber de discutirlo y encausarlo.
Does ChatGPT Have a Political Orientation?
This column seeks to revisit a brief article written by Langdon Winner in 1980 entitled Do
Artifacts Have Politics?, focusing on one of the flagship programs of artificial intelligence:
ChatGPT. Although the question posed in the title is clearly rhetorical, it is worthwhile to
retrace the line of reasoning that leads to an affirmative answer and to examine the questions
that arise as a consequence of that reflection.
Within the theoretical debate, there are essentially two ways of understanding the relationship
between technological development and society: the so-called social shaping of technology
and technological determinism. Those who subscribe to the social shaping perspective argue
that society ultimately controls technological development and its configuration, with the aim
of ensuring that new technologies meet people's needs and, as far as possible, serve their well-
being. In this view, technology itself does not play the leading role; rather, the political and
social context in which it emerges and is shaped is what truly matters. Consequently, when
analyzing the development of new techniques and devices, they should be understood as
products of the political and social environment in which they were created—a context that is
ultimately responsible for their characteristics and consequences. Those who defend this
approach tend to hold the political community accountable for the creation of technology, its
widespread adoption, and its effects.
On the other hand, proponents of technological determinism—somewhat naïve, perhaps more
radical, but not without compelling arguments—maintain that technological development
possesses its own internal momentum throughout history. It evolves, grows, and becomes
increasingly complex almost independently of human will. Thus, even if humanity wished to
reverse certain inventions or prevent the spread of particular technologies or discoveries,
doing so would be impossible. Technology and its continuous modernization—from the
discovery of fire, the invention of the wheel and the printing press, to dynamite, the internet,
and artificial intelligence—would all be inevitable developments, driven by forces that
transcend the will of individuals and societies. While this perspective is undoubtedly
suggestive, its principal risk is that it may oversimplify the debate and fail to recognize
society's responsibility for the consequences of technological progress.
Returning to the question posed in the title, it is important to note, following Winner, that the
history of ideas has shown that the invention of a technologically significant artifact with
broad social impact—such as money, the printing press, or the internet—is comparable to a
legislative act or a political founding event with transgenerational consequences that
establishes a new public order. The social, political, economic, and even neurological
consequences of the creation of the internet and artificial intelligence undeniably exist, even if
their precise nature and scope remain uncertain. These consequences will, in turn, shape the
ways in which we relate to one another and the collective decisions we make about organizing
life in society. That, after all, is what politics is.
The foregoing reflects an understanding of the issue from the perspective of the social shaping
of technology. The difficulty, however, is that neither the creation of the internet nor of
artificial intelligence can easily be understood as the product of broad democratic or political
participation. Rather, they are the result of small, exceptionally talented entrepreneurial elites
who invested in developing and expanding these innovations. Nevertheless—and this is where
the social dimension emerges—people have chosen to adopt these technologies, legislatures
have chosen not to prohibit or comprehensively regulate them, markets have chosen to expand
them, and so on. In other words, once a technological artifact has been created, society reacts
by accepting or rejecting it and, ideally, by regulating it. This point is socially significant: we
must become conscious not only of adopting and learning to use new technologies such as
ChatGPT, but also of understanding their social, neurological, psychological, political, and
cultural effects. Only in this way can the perspective of the social shaping of technology be
taken seriously.
The fact that countries with longstanding ideological rivalries—most notably the United
States and China—are engaged in a race to develop and expand artificial intelligence globally
demonstrates that what lies behind the rapid growth of this technology is not merely the
pursuit of greater convenience or well-being for users. Rather, it also involves the global
expansion of a technological system capable of transmitting and disseminating a particular
culture and, in that sense, a political worldview. To borrow a phrase that readers of Philip K.
Dick might appreciate: whoever controls the development of artificial intelligence systems
such as ChatGPT may, in principle, be able to influence a significant part of how we think and
understand the world. It is in the subtle details of the responses these systems generate that an
enormous capacity exists to shape users' minds, making them more inclined to believe certain
things, think—or avoid thinking—about particular issues, and make certain decisions.
Had artificial intelligence in the form of ChatGPT, or similar systems, remained entirely
under state control—a possibility that cannot be ruled out in other parts of the world—it
would have represented the culmination of Orwell's dystopian nightmare in 1984. Yet that
question remains unresolved. This follows from two distinct political levels of analysis
regarding artificial intelligence, neither of which has received sufficient attention in the still
limited academic literature.
The first level of analysis is external. It concerns ChatGPT and similar systems within the
global geopolitical landscape. Does ChatGPT seek, ideologically, to function as a flagship
product created, configured, and monitored according to the values of liberal democracy, in
contrast to China's DeepSeek, which is partially controlled by an authoritarian state?
ChatGPT was developed by private actors, disseminated through capitalist markets, and its
principal mode of interaction is based on voluntary bilateral agreements between service
providers and consumers. At least at this initial level—and notwithstanding the many
disadvantages and obvious problems that accompany it—it presents itself as a product of
economic liberalism. Is it not therefore reasonable to argue that ChatGPT's global expansion
also serves to export the ideology of liberal capitalism? Conversely, is it not equally evident
that China's DeepSeek seeks to export a model of state-directed authoritarian capitalism?
The second level of analysis is internal. It concerns the bilateral relationship between the
providers of AI systems such as ChatGPT and those who use them. The central question is to
what extent it is acceptable for a technological tool with influence comparable to a legislative
act or a transgenerational political institution to remain governed exclusively by market
dynamics—that is, by the contractual freedom of private parties. Should the state eventually
play a role, or at least have a voice, in shaping these systems? Should their owners be free to
configure their content and responses as they see fit, establish ideological agendas, impose
fees, or restrict access at their discretion? In the absence of any meaningful regulation, there is
a real risk that a tool with such profound influence over society will remain outside the scope
of democratically accountable decision-making.
The existence of a technological apparatus with such far-reaching generational significance,
operating almost in parallel with traditional democratic institutions, may greatly amplify
social problems that already exist. Advocates of the social shaping of technology understand
this well: artificial intelligence systems such as ChatGPT may become amplifiers of the
economic and cultural inequalities that characterize contemporary society, reinforcing
discrimination, exclusion, cultural impoverishment, and abuses in commercial relationships
unless appropriate regulatory frameworks and public educational policies are developed to
foster awareness of their consequences and promote responsible use.
Whether or not its creators intended it, ChatGPT has political implications. It is therefore the
responsibility of a conscious and engaged society to debate those implications and to guide
the technology's development in the public interest.
