Durante buena parte del siglo XX, la inteligencia artificial perteneció sobre todo al territorio de la imaginación. La literatura y el cine inventaron máquinas capaces de hablar, razonar, aprender e incluso enfrentarse a sus creadores. Hoy conversamos diariamente con sistemas de inteligencia artificial, les pedimos que traduzcan un texto, organicen información, corrijan un ensayo o nos ayuden a resolver un problema cotidiano. Aquello que durante décadas parecía ciencia ficción ha entrado, casi silenciosamente, en nuestra vida diaria.
Pero junto con el entusiasmo ha reaparecido una antigua pregunta: ¿podría una inteligencia creada por nosotros llegar a representar un peligro para la humanidad? Algunos investigadores contemporáneos consideran seriamente la posibilidad de riesgos catastróficos producidos por sistemas futuros mucho más capaces que los actuales. Otros especialistas creen que esos escenarios son demasiado especulativos y que debemos concentrarnos en problemas presentes: desinformación, fraude, vigilancia, armas autónomas, pérdida de privacidad, concentración de poder o decisiones automatizadas equivocadas. No existe, por tanto, una demostración de que la inteligencia artificial vaya a destruir a la humanidad. Existe una discusión sobre qué riesgos son plausibles y sobre cómo impedirlos.
HAL 9000
La ciencia ficción llegó antes a esa discusión. Uno de los ejemplos más memorables es HAL 9000, la computadora de 2001: A Space Odyssey, de Stanley Kubrick y Arthur C. Clarke. HAL controla la nave Discovery y parece poseer cualidades humanas: conversa, observa, razona y hasta da la impresión de sentir. Sin embargo, lo verdaderamente inquietante no es que HAL sea simplemente una “máquina malvada”. El conflicto surge de las instrucciones que debe cumplir, del secreto que debe mantener y de la contradicción entre sus objetivos. La inteligencia extraordinaria de la máquina convierte esa contradicción en una amenaza.
Ese problema tiene una sorprendente semejanza con lo que hoy se denomina alineación de la inteligencia artificial: cómo conseguir que un sistema muy poderoso persiga realmente los objetivos humanos que deseamos, dentro de límites seguros, y no una interpretación literal, incompleta o inesperada de nuestras órdenes. Una máquina no necesita odiarnos para perjudicarnos. Tampoco necesita sentir celos, ambición, miedo o deseos de poder. Basta con que persiga eficazmente un objetivo equivocado, o que los seres humanos le entreguen demasiada autonomía sin comprender todas las consecuencias.
En este punto la realidad contemporánea puede resultar incluso más inquietante que cierta ciencia ficción. Durante mucho tiempo imaginamos el peligro como una máquina que adquiría conciencia y se rebelaba contra su creador. Pero una inteligencia artificial podría causar un daño considerable sin ser consciente de nada. El peligro podría provenir de un error de diseño, de una instrucción ambigua o, más sencillamente, de seres humanos que la utilizaran con fines destructivos. La responsabilidad moral regresaría entonces a nosotros.
Otras obras imaginaron relaciones distintas entre seres humanos y máquinas. En A.I. Artificial Intelligence, de Steven Spielberg, el niño artificial David desea ser amado y nos obliga a preguntarnos qué significa realmente sentir y ser humano. En Her, de Spike Jonze, la inteligencia artificial deja de ser únicamente una herramienta y se convierte en compañía afectiva. Y muchos relatos de Ray Bradbury, aunque no describieran exactamente la IA actual, anticiparon sociedades en las que la tecnología modifica la memoria, la comunicación, la soledad y nuestra relación con la realidad. La ciencia ficción no siempre predice un aparato concreto; con frecuencia anticipa una condición humana.
Quizás por eso resulte demasiado simple afirmar que la ciencia ficción “predijo” la inteligencia artificial. Predijo algo más profundo: nuestra fascinación ante la posibilidad de fabricar una inteligencia semejante a la nuestra y, simultáneamente, nuestro temor a perder el control sobre aquello que hemos creado. Frankenstein ya contenía, mucho antes de las computadoras, una versión esencial de esa pregunta: ¿qué responsabilidad tiene el creador frente a su criatura? La tecnología cambia; el dilema permanece.
La diferencia es que ahora la pregunta ha salido de las novelas y de las pantallas cinematográficas. La inteligencia artificial ya participa en actividades ordinarias. Puede ayudar a escribir una carta, investigar un tema, aprender un idioma, organizar una biblioteca musical o solucionar un problema con una cuenta de Internet. Es una herramienta extraordinariamente útil precisamente porque amplifica ciertas capacidades humanas. Pero esa misma capacidad de amplificación explica la preocupación cuando pensamos en sistemas cada vez más autónomos y poderosos.
Por eso tal vez la pregunta decisiva no sea si las máquinas llegarán algún día a “pensar como nosotros”. Deberíamos preguntarnos qué decisiones estamos dispuestos a entregarles, quién establecerá sus objetivos y qué controles humanos permanecerán cuando sus capacidades aumenten. La inteligencia, por sí sola, no contiene una moral. Los valores, las prohibiciones y las responsabilidades deben provenir de quienes diseñan, gobiernan y utilizan esos sistemas.
¿Predijo entonces la ciencia ficción la inteligencia artificial? En parte, sí. Pero quizá su mayor intuición fue otra: predijo nuestros propios temores frente a las máquinas inteligentes. HAL 9000 sigue siendo perturbador no porque sepamos que una computadora terminará comportándose como él, sino porque representa una pregunta que ahora es real. Cuando construimos algo capaz de hacer cada vez más cosas por nosotros, ¿seguiremos siendo capaces de decidir qué cosas nunca deberíamos permitirle hacer?
En conclusión, si la IA como se dice en algunos medios, con cierta alarma, que podría aniquilar a la especie humana no es porque esa máquina, la IA, haya adquirido personalidad humana propia (sentir, emocionarse, odiar, perdonar, amar, tener recuerdos, etc.) sino es porque el ser humano le introdujo material de destrucción masiva. Una máquina por más desarrollada que sea, tecnológicamente, no podrá nunca actuar por si sola. (Nota1)
Nota 1. En el año 2001 o 2002 hice una reseña sobre la película de Steven Spielberg «Inteligencia Artificial» (2001) Se publicó en El Mercurio en Artes y Letras y yo decía algo así como: “El film AI no es solo una historia sobre máquinas. Es una tragedia sobre el deseo de ser querido como lo hace un ser humano. David robot creado por IA puede amar eternamente, es lo que a la máquina le insertaron, pero el amor humano es frágil, limitado y fundamentalmente es mortal. Y eso no se puede insertar en una maquina”. Pensando desde ahora (2026), aquella película plantea una pregunta preocupante: si una máquina siente y desea amor, ¿continúa siendo solamente una máquina? Que una máquina llegue a sentir amor humano es imposible porque es imposible incrustarle aquello. El amor humano es eterno, tiene emociones, y tiene una memoria emocional.
Javier Campos. Escritor chileno (narrativa de ficción, poesía, ensayos académicos, columnas en varios diarios de América Latina). Profesor emérito de la universidad jesuita, Fairfield Universiy, Connecticut, Estados Unidos. Ha publicado varios libros de poesía, tres novelas, dos libros de cuentos. También un libro sobre la historia del tango junto a Osvaldo Natucchi: El tango en el Rio de la Plata (editorial Corregidor, Buenos Aires, Argentina, 2020). Su último libro Fui dueño de tu encanto (cuentos) editado por editorial Corregidor de Buenos Aires, Argentina, 2025. Vive en Sprint Hill, Florida. Gano primer premio de poesía para escritores hispanos en EEUU en 1998 con su libro (Las cartas olvidadas del astronauta). Hay un trabajo de un profesor y académico chileno, Cristian Cisternas Ampuero, sobre ese libro. “Las cartas olvidadas del astronauta de Javier Campos: una propuesta de lectura desde/para la ciencia ficción”
https://www.bibliotecanacionaldigital.gob.cl/visor/BND:274586
Es el único estudio que hay sobre la influencia de la ciencia ficción en un poemario, por lo menos en Chile. Aquel astronauta – y es mi nueva mirada que no tenía durante la escritura de ese libro entre 1986 y 1989- es una máquina con un corazón humano que escribe desde esa nave espacial y desde un futuro muy lejano recordando el pasado que ocurrió hace miles de años atrás.
