HAL 9000 y los políticos

25.01.2020 | 06:21

qUE los humanos gobiernen, mejor o peor, las sociedades humanas lo damos por hecho. Pero en el futuro la responsabilidad en la toma de decisiones no será monopolio nuestro. Tendremos un competidor: las inteligencias artificiales (IAs).

Frente a los políticos profesionales, con sus habilidades, y también sus limitaciones, que a veces son gentes ejemplares, pero muchas más son vanidosos, algo mentirosos y casi siempre trapaceros, ¿qué ventajas podrían aportar las IAs? Como mínimo, que manejarán infinitamente más rápido los datos y que harán predicciones y propuestas mucho más seguras. Además, las IAs carecerán de prejuicios ocultos, de egos que satisfacer, de compañeros de partido que colocar, de favoritismos que consentir, de familiares que enchufar y de corruptelas que tapar. O eso espero, porque si acabaran haciéndolas tan parecidas a nosotros que resultasen indistinguibles, estaríamos de nuevo en las mismas.

Creo que las IAs podrán ser gestoras mejores que nosotros en muchos aspectos, aunque seguramente no en todos. Con el tiempo, ciertas decisiones estratégicas de gobierno serán adoptadas por ellas, o colaborarán estrechamente con los humanos en tomarlas. Aunque las IAs en el gobierno son, por ahora, un futurible, hace ya mucho que robots y grandes ordenadores conviven con nosotros y realizan una labor sin la cual nuestras empresas no podrían funcionar y nuestra economía se vendría abajo. La informática y la robótica son elementos básicos del mundo moderno. Pese a ello, aún hay gentes que los consideran una amenaza, quizás influidas por la imagen negativa que en ocasiones ha traslado en el cine y la literatura.

A comienzos del pasado siglo, las novelas futuristas planteaban que los robots esclavizarían a las personas. El paradigma en los años 20 fue el malvado robot de Metrópolis, película de Fritz Lang. Se trataba de un androide capaz de disfrazarse, de mentir e incluso de incitar a las masas ignorantes a la rebelión para apoderarse él del gobierno. Casi como un político y, quizás, una profecía sobre el nacionalsocialismo. Pero este último se bastó solo para llevar el mundo al abismo, no necesitó la ayuda de robots. En 1942, Isaac Asimov creó sus famosas Leyes de la Robótica. Establecían los límites de su actuación respecto a los seres humanos para evitar causarles daño como individuos y como especie. Dado que se suponía que los robots acabarían gobernando, parecía importante programarlos "moralmente".

El recelo se trasladó en la segunda mitad del siglo XX hacia los nuevos cerebros electrónicos, que según la Ley de Moore duplicaban su capacidad cada dos años. Se pensó que en pocas décadas serían capaces de dirigirlo todo: empresas, ejércitos, países.... Por ello se convirtieron en fuente de inquietud para los que desconfían de cualquier cambio. El cine fijó, en una gran película, el arquetipo de ordenador cuasihumano capaz de cometer un homicidio: la computadora de 2001: Odisea del espacio. Sus dos personajes principales no eran humanos. Uno era el Monolito extraterrestre, incomprensible y ajeno a la humanidad. El otro era HAL 9000, el ordenador encargado de controlar la nave. Quienes hayan visto el film no habrán olvidado el ojo de pez de color rojo con que HAL espiaba todo desde el puente de mando de la Discovery. A Orwell le hubiera fascinado.

HAL era una inteligencia artificial heurística que imitaba el razonamiento humano. Pero por un fallo en sus instrucciones su comportamiento se fue alterando a lo largo del viaje hacia Júpiter. En su programación se anteponía, sobre cualquier otra consideración, el alcanzar el destino fijado. Nada debía impedirlo. Además, HAL debía ocultar a la tripulación ciertos datos considerados secretos por el gobierno. Ambos hechos introducían confusión lógica.

Minado por las anomalías de programación, en el momento en el que HAL detectó las dudas que su comportamiento errático generaba entre los astronautas interpretó que estos pondrían en riesgo la misión. Por tanto, y según su lógica, debían considerarse mecanismos fallidos y ser desconectados. Así, HAL se convirtió en homicida y casi logró acabar con toda la tripulación. Al final, el último astronauta, Bowman, lo desconectó y terminó el viaje a Júpiter con un sorprendente final.

Han pasado más de cincuenta años desde el estreno de la película y la capacidad de los ordenadores no ha dejado de crecer. Pero aún no tenemos una IA del estilo de HAL, solo aproximaciones. Hoy la desconfianza de los eternos agoreros se centra en las futuras IAs. ¿Actuarán como Skynet en Terminator y nos darán la puntilla? Visto el mundo, me temo que el mayor peligro para la humanidad es ella misma.

En 2020 aún no hay ningún país gobernado por una inteligencia artificial (que se sepa) pero sí hay muchos países gobernados sin ninguna inteligencia al cargo, ni artificial ni natural (y así les va, se caen de maduros, ustedes me entienden).

Curiosamente, en nuestro mundo sí hay políticos mesiánicos imitadores de HAL, que demuestran tener el mismo defecto que el ordenador de 2001 al mando de la nave: consideran que lo importante para un gobierno debe ser llegar al destino fijado, que se debe lograr a cualquier precio y que siempre hay datos que se deben ocultar a los ciudadanos. Nunca se hacen la pregunta clave: ¿de qué sirve llegar al objetivo si para lograrlo uno acaba con todo y con todos en el trayecto? Los imitadores de HAL nunca hacen reflexiones de este tipo, pues una rígida coraza ideológica es la base de sus ideas. En cierta manera, actúan guiados por una programación mental carente de la característica más importante del ser humano, la capacidad de dudar. No resulta difícil identificarlos. Sus gestos y palabras tienen un aire cuasi religioso, pues como buenos mesías políticos nunca dudan. Conocen aparentemente la respuesta a todo. Incluso les rodea un aire de ascetismo y de santidad laica, aunque puedan vivir rodeados de lujo.

Los imitadores de HAL aseguran que llevarán el país a la tierra prometida, pero nos ocultarán información y dejarán la sociedad esquilmada. Ello no les preocupará, pues creen ser, como HAL, inteligencias puras. Si el lector se encuentra alguno, salga corriendo. El fanatismo es contagioso.

Estoy seguro de que las IAs jugarán un importante papel en los gobiernos, y ayudarán a los humanos en muchas tareas para las que son más capaces. Deberemos adaptarnos para aprovechar su colaboración, pero manteniendo siempre un punto de vista humanista y un prudente realismo en la toma de decisiones. Justo eso es lo que le faltó a HAL en la película. Era prisionera de su lógica operando bajo instrucciones equívocas. No podía darse cuenta de las contradicciones en que caía, pues eran parte de su programa. En el mundo real, los imitadores de HAL tampoco pueden, sus programas tienen el mismo fallo.

Blogs de Deia
Foros Deia
noticias de deia