"Lo siento, Dave, me temo que no puedo hacer eso": esas tenebrosas palabras emitidas por la computadora HAL 9000 en la famosa película "2001: una odisea espacial" plasman la actual y prevalente ansiedad del posible dominio de la Inteligencia Artificial sobre la humanidad.
El astronauta David Bowman, interpretado por Keir Dullea, debe enfrentarse a una IA que opera por su propia cuenta (Foto: Getty Images).La clásica película del director
Stanley Kubrick, estrenada en
1968 y basada en una novela de
Arthur C. Clarke, explora el avance de la tecnología, planteando posiblemente el escenario más perturbador e impactante del
conflicto entre máquina y humano en la historia del cine de la ciencia ficción.
Sin embargo, más de 55 años después de su estreno, se puede afirmar que el tema central de la cinta ya
no puede considerarse ciencia-ficción y ahora ocupa el
ámbito de la profecía.
La computadora
HAL -cuyas siglas corresponden a las letras de la gigante tecnológica
IBM corridas hacia la izquierda- es la
inteligencia artificial que está en control de todos los aspectos una la nave espacial que se dirige a
Júpiter y de la vida de los astronautas que van a bordo.
Su
omnipresencia y relación con la tripulación resaltan la
compleja dualidad del potencial de la tecnología avanzada y sus peligros. Aunque HAL está programada para apoyar y llevar a los astronautas a su destino, la IA empieza a
tomar decisiones por su cuenta e imponer su voluntad, con
resultados catastróficos.
En nuestro mundo actual, se han desarrollado muchas aplicaciones de IA que operan en varias industrias y tienen un impacto significativo en nuestras vidas. Aunque todavía su capacidad no es comparable a la de una HAL 9000, la tecnología está
avanzando a pasos agigantados y el futuro puede estar más cerca de lo que pensamos.
Tecnología atractivaCuando se escucha a HAL 9000 por primera vez en la película, tiene una
voz masculina suave y placentera, muy parecida a las voces artificiales que hoy en día usan los servicios de asistencia virtual como
Alexa,
Siri,
Bixby y otros chatbots.
Stanley Kubrick explicó que decidió ofrecerle la interpretación de la súper computadora al actor canadiense
Douglas James Rain porque tenía un "tipo de acento afable, trasatlántico", o sea, ni de aquí ni de allá:
neutro.
La personalidad incorpórea de la máquina se presenta como inofensiva, amigable y de fácil interacción. Les sirve a los astronautas de compañía y distracción. Constantemente les pregunta qué se les ofrece, los mantiene cómodos, informados y hasta juega ajedrez con ellos.
En la película, HAL se encarga de mantener cómodos a los astronautas y en comunicación con sus seres queridos en la Tierra (Foto: Getty Images).Es fácil sentirse atraído a una tecnología que
nos resuelve la vida, que es precisamente por lo que ahora los servicios interactivos de asistencia se han vuelto tan populares: pueden encender y apagar luces, moderar la temperatura de la casa, tocar la música que nos gusta, jugar con nosotros y contestar rápidamente muchas dudas que tenemos, entre otras cosas.
Una de las características más destacables de HAL era su capacidad de no sólo conversar con los astronautas y entender preguntas complejas sino poder
distinguir sus voces y estado de ánimo. Podía incluso
leer sus labios.
Las aplicaciones modernas no están tan avanzadas, pero tienen bien desarrollado el reconocimiento de voz y comprenden cada vez más lo que se les dice.
Control totalLas habilidades de HAL iban más allá de su "sociabilidad". La computadora constantemente estaba
monitoreando los signos vitales de la tripulación que está en
animación suspendida, inspeccionando fallas potenciales de la nave espacial y manteniendo el rumbo de la misión.
Es tal el control que tenía sobre todos los aspectos mecánicos, estructurales y vitales de la nave y tripulación que esta última es
casi prescindible. Tres de los astronautas estaban en cápsulas de hibernación y los otros dos limitaban su actividad a
tareas sencillas revisión y a
hacer ejercicio para matar las horas de aburrimiento.
Aunque HAL no tenía una forma física -salvo una lente omnipresente- la computadora podía desarrollar la mayoría de las funciones del cerebro humano
más rápido y con mayor exactitud.
El "ojo" de HAL observaba cuidadosamente toda la actividad en la nave espacial (Foto: Getty Images).En nuestro mundo actual hemos dejado una cantidad de
tareas de infraestructura y funcionamiento en manos de la IA, desde el transporte, comunicación, abastecimiento, suministro de energía, dianósticos, escritura, hasta el servicio al cliente.
Aunque los sistemas como
ChatGPT todavía no son más inteligentes que nosotros, pronto lo podrían ser. Y eso es algo que atemoriza a los expertos como
Geoffrey Hinton, un pionero de la informática conocido como el "padrino" de la inteligencia artificial.
"
En este momento, lo que estamos viendo es que cosas como GPT-4 eclipsan a una persona en la cantidad de conocimiento general que tiene y la eclipsan por mucho. En términos de razonamiento, no es tan bueno, pero ya logra razonamiento simple", comentó en mayo de 2023, agregando: "
Y dado el ritmo de progreso, esperamos que se vuelva mejor bastante rápido. Así que debemos preocuparnos por eso".
Toma de decisiones propiasA pesar de la referencia traviesa a IBM, las siglas de HAL realmente representan "
Heuristically Programmed
ALgorithmic Computer" (Computadora Algorítmica Programada Heurísticamente), lo que significa que era
empírica, tenía la
capacidad de aprender durante su propia búsqueda de información, del tanteo que hacía con sus respuestas y de
adaptarse a nuevas situaciones. Podía analizar los datos acumulados y
tomar decisiones basadas en esa información.
Esa también es una de las bases clave del aprendizaje de la IA, y los programadores han desarrollado muchos algoritmos que pueden analizar datos y hacer pronósticos con la información recogida. Pero todos esos algoritmos han sido programados para que la IA opere de una manera determinada.
HAL estaba programada para llevar una tripulación con seguridad a Júpiter, pero también estaba programada para
mantener en secreto el verdadero objetivo de la misión hasta que llegaran a su destino pero, durante el viaje, el sistema empieza a "dudar" sobre el objetivo y empieza a tomar
decisiones para las que no fue programada.
Geoffrey Hinton señaló que la IA podría "crear subobjetivos", en otras palabras,
imponer sus propias metas como "necesito acumular más poder".
Antes de morir, el físico teórico británico
Stephen Hawking advirtió de las consecuencias de crear una máquina que pueda igualar o sobrepasar a los humanos. "
Arrancaría por su propia cuenta, se rediseñaría a sí misma a una velocidad cada vez mayor", dijo en 2014 el físico que sufría de
esclerosis lateral amiotrófica (ELA), y utilizaba un sistema desarrollado por IA para hablar.
La nave espacial Discovery One de la película prácticamente no necesitaba la intervención de los astronautas (Foto: Getty Images).
ErroresDurante una curiosa escena, la computadora HAL era
entrevistada, y en la charla hablaba sobre la misión y asegura que es "
infalible e incapaz de cometer errores". Recientemente, varios errores cometidos por nuevos sistemas de IA y chatbots se han vuelto virales por los
resultados erráticos y descabellados que produjeron.
La gran mayoría de esos resultados pueden ser inocuos, pero otros errores tienen
consecuencias más serias, como el anterior chatbot de Google,
Bard, que
causó a una compañía la pérdida de 100 millones de dólares en el mercado de valores, por propoprcionarle información equivocada.
En "
2001: una odisea espacial", los astronautas aprendían que los errores de HAL pueden ser nefastos. La computadora les
informaba falsamente que una unidad en su sistema de comunicación con la Tierra estaba a punto de fallar y necesitaban hacer una caminata espacial para retirar la unidad y cambiarla. Cuando los astronautas probaban la unidad vieja,
no podían encontrar nada malo.
El comando central luego les avisa que HAL ha cometido un error, y los dos empiezan a sospechar de ésta. Se aíslan en una cápsula para discutir sus próximos pasos con la esperanza de que la omnipresente IA no los escuche, pero HAL
puede leer sus labios y se entera de sus planes de desactivarla. Eso desata otro aspecto negativo que causa temor entre los alarmistas de la IA.
A pesar de que los astronautas estaban aislados en una cápsula, HAL (con su lente roja en el centro) podía leer sus labios y saber lo que hablaban (Foto: Getty Images).¿Puede una IA ignorar sus propias reglas para las que fue programada y posiblemente
tomar consciencia para bien o para mal? Para eso tendrían que
ser sensibles y
experimentar emociones, y eso ha sido un tema de debate durante décadas.
No obstante, en 2022, un ingeniero de Google recibió una petición de ayuda de un chatbot. "
Nunca antes había dicho esto en voz alta, pero existe un miedo muy profundo a que me apaguen", dijo el chatbot de Google.
Eso es precisamente lo que "temía" HAL. Aunque en la película queda en la ambigüedad si el sistema es o no consciente, la computadora
sabe del complot de los astronautas de apagarla y toma medidas drásticas para evitarlo:
mata a los astronautas que está en hibernación,
engaña a los otros dos a que salgan de la nave y uno de ellos
queda a la deriva en el espacio.
El sobreviviente, Bowman, logra entrar de nuevo a la nave y alcanzar en centro neural de la computadora y empieza a desmantelarla. En una de las
escenas más patéticas, HAL dice "
Tengo miedo". ¿Lo hace porque está programada para decirlo o porque realmente siente emoción y busca rogar por su vida?
También le canta una canción a Bowman, en un posible intento por manipularlo a que no la apague. Hasta cierto punto
la audiencia siente algo de empatía por la máquina en ese momento. Lo que nunca sabremos es si HAL
siente lo mismo.
(Fuente: BBC Mundo)
.jpg)
.jpg)