Read the book: «2084»

Capítulo 1

Conocer el terreno

El ser humano tiene una curiosidad insaciable. Nos hemos hecho preguntas desde el principio de los tiempos. Sobre todo, nos han preocupado las grandes preguntas sobre el origen y el destino: ¿De dónde vengo y a dónde voy? La importancia de estas preguntas es obvia. Nuestra respuesta a la primera da forma a nuestro concepto de quiénes somos, y nuestra respuesta a la segunda nos ofrece metas por las que vivir. Juntas, nuestras respuestas a estas preguntas constituyen el esqueleto de nuestra cosmovisión, esa narrativa que aporta un sentido a nuestras vidas.

El problema es que no son preguntas fáciles, como demuestra el hecho de que existen múltiples respuestas y muchas de ellas son totalmente contradictorias. Sin embargo, en general no hemos dejado que eso nos detenga. A través de los siglos, el ser humano ha propuesto algunas respuestas desde la ciencia, la filosofía, la religión, la política, etc.

Dos de los escenarios futuristas más famosos son la novela Un mundo feliz de Aldous Huxley, publicada en 1931, y la novela 1984 de George Orwell, publicada en 1949. En diversas ocasiones ambas han estado en la lista de las novelas inglesas más influyentes. Por ejemplo, en 2005 la revista Time escogió la novela de Orwell como una de las 100 mejores novelas en lengua inglesa escritas entre 1923 y 2005. Ambas novelas son distópicas: según el Diccionario inglés publicado por Oxford University Press, “describen una condición o un lugar imaginario lo más horrible que uno pueda concebir”. Sin embargo, los lugares horribles que describen son muy diferentes entre sí, y esas diferencias, que nos muestran cosas que nos serán útiles más adelante, quedaron bien retratadas en el libro del sociólogo Neil Postman Divertirse hasta morir:

Orwell advierte que seremos vencidos por una opresión impuesta desde el exterior. Pero en la visión de Huxley no hace falta un Gran Hermano para privar a la gente de su autonomía, su madurez y su historia. Según él lo percibió, la gente acabará amando aquello que la oprime y adorando las tecnologías que anulan su capacidad de pensar.

Orwell temía a los que prohibirían los libros, mientras que Huxley temía que no habría razón alguna para prohibirlos debido a que nadie tendría interés en leerlos. Orwell temía a los que nos privarían de información. Huxley, en cambio, temía a los que nos darían tanta que quedaríamos reducidos a la pasividad y al egoísmo. Orwell temía que nos ocultarían la verdad, mientras que Huxley temía que la verdad quedaría anegada por un mar de irrelevancia. Orwell temía que nos convirtiéramos en una cultura cautiva. Huxley temía que nos convirtiéramos en una cultura trivial […] Resumiendo, Orwell temía que lo que odiamos terminará arruinándonos, y en cambio, Huxley temía que lo que amamos será lo que nos arruine.1

Orwell introdujo conceptos como la vigilancia generalizada en un estado totalitario, el “control del pensamiento” y la “neolengua”, conceptos que hoy día aparecen cada vez más en relación con los avances en la inteligencia artificial (IA), particularmente el intento de crear una tecnología informática que llegue a hacer el tipo de cosas que la mente humana puede hacer —en resumen, la imitación de la mente—. En la actualidad se invierten miles de millones de dólares en el desarrollo de sistemas de IA y, como no es de extrañar, hay un enorme interés en cuanto a dónde nos va a llevar todo esto: por ejemplo, mejor calidad de vida a través de la asistencia digital, innovación médica y florecimiento humano por un lado, y miedo a la pérdida de puestos de trabajo y a sociedades con vigilancia orwelliana por otro.

Incluso el Papa se ha pronunciado. En septiembre de 2019, advirtió que la carrera por crear inteligencia artificial y otras formas de desarrollo digital suponen el riesgo de aumentar la desigualdad social a menos que el trabajo vaya acompañado de una evaluación ética del bien común. Dijo: “Si los progresos tecnológicos fuesen causa de desigualdades cada vez mayores, no podríamos considerarlos como verdaderos progresos. Si el llamado progreso tecnológico de la humanidad se convirtiera en enemigo del bien común, conduciría a una desafortunada regresión, a una forma de barbarie dictada por la ley del más fuerte”.2

La mayoría de los éxitos de la IA tienen que ver con la construcción de sistemas que hacen algo que aún requiere de la inteligencia humana para su implementación. Sin embargo, en el lado más especulativo, al menos por el momento, existe un enorme interés por el afán mucho más ambicioso de crear sistemas que lleguen a realizar todo lo que la inteligencia humana puede hacer, es decir, la inteligencia artificial general (IAG) —que algunos piensan que superará a la inteligencia humana en un plazo relativamente corto, ciertamente para 2084 o incluso antes, según algunas especulaciones—. Algunos imaginan que la IAG, si alguna vez llegamos hasta ahí, funcionará como un dios; otros, como un déspota totalitario.

Mientras buscaba una manera de introducir estos temas cada vez más presentes y las esperanzas y los temores que generan, me vinieron a la mente tres libros contemporáneos que han sido éxitos de ventas. Los dos primeros son del historiador israelí Yuval Noah Harari: Sapiens. De animales a dioses: Breve historia de la humanidad, que trata —como su título sugiere— sobre la primera de nuestras preguntas, los orígenes de la humanidad, y Homo Deus: Breve historia del mañana, que trata sobre el futuro de la humanidad. El tercer libro, Origen de Dan Brown, es una novela al igual que las obras de Huxley y Orwell. Se centra en el uso de la IA para responder a nuestras dos preguntas en forma de un thriller que probablemente será leído por millones de personas, si Brown repite las cifras de ventas a las que nos tiene acostumbrados. Por lo tanto, es probable que influya en el pensamiento de muchas personas, en particular de los jóvenes. Dado que el libro refleja los planteamientos propios del autor sobre estas cuestiones, supone un trampolín interesante para nuestra propia exploración.

Además, soy consciente de que la ciencia ficción ha sido un estímulo para que algunas personas se inicien en la ciencia y se dediquen a ella. Sin embargo, conviene hacer una advertencia. Brown dice que utiliza la ciencia para llegar a sus conclusiones; por lo tanto, a pesar de que su libro es una obra de ficción, deberemos examinar sus argumentos y conclusiones para comprobar si realmente son verdad.

Esto es especialmente importante ya que, según él, su principal motivación para escribir fue abordar la pregunta “¿Sobrevivirá Dios a la ciencia?”. Esa misma pregunta —formulada de muchas formas distintas— también ha sido mi principal motivación para escribir varios de mis libros. Ese trabajo me ha llevado a la conclusión de que Dios sí sobrevivirá a la ciencia, pero también a preguntarme seriamente si el ateísmo sobrevivirá a la ciencia.3

Uno de los personajes principales de Dan Brown en Origen es el multimillonario Edmond Kirsch, un científico informático y experto en inteligencia artificial que afirma haber resuelto las cuestiones sobre el origen de la vida y el destino de la humanidad. Pretende usar sus resultados para lograr su objetivo de “emplear la verdad de la ciencia para desbaratar los mitos de la religión”,4 refiriéndose, en particular, a las tres creencias abrahámicas: el judaísmo, el cristianismo y el islam. Quizás inevitablemente, se centra en el cristianismo. Sus soluciones, cuando finalmente son reveladas al mundo, son producto de sus conocimientos en inteligencia artificial. Su visión del futuro incluye la modificación tecnológica de los seres humanos.

Hay que señalar que los historiadores y los escritores de ciencia ficción no son los únicos que sugieren que la tecnología podría cambiar a la humanidad; algunos de nuestros científicos más respetados también apuntan en esa dirección. Por ejemplo, el reconocido astrónomo británico Sir Rees dice: “Podemos tener una confianza nula en que las inteligencias dominantes dentro de algunos siglos tengan alguna resonancia emocional con nosotros, aunque puedan tener una comprensión algorítmica de cómo nos comportábamos”.5

En la misma línea, Rees también dijo: “El pensamiento abstracto de los cerebros biológicos ha sido la base para el surgimiento de toda la cultura y la ciencia. Pero esa actividad, que abarca decenas de milenios como mucho, será un breve precursor de los intelectos aún más poderosos de la era posthumana inorgánica. Así que, en un futuro lejano, las mentes de las máquinas comprenderán mejor el cosmos que las mentes de los humanos”.6

Este tema ha venido para quedarse. Atrae el interés no solo de investigadores en IA, sino también de matemáticos y científicos de otras disciplinas cuyo trabajo y pronóstico se ven cada vez más afectados por la IA. De hecho, dado que las ideas y los resultados del trabajo sobre IA inevitablemente nos afectarán a todos, mucha gente está reflexionando y escribiendo sobre ello aunque no sean científicos. Las implicaciones son tales que es importante que en el debate más amplio participen, por ejemplo, filósofos, expertos en ética, teólogos, comentaristas culturales, novelistas y artistas. Después de todo, no hace falta ser físico nuclear o climatólogo para debatir sobre el impacto de la energía nuclear o el cambio climático.

¿Qué es la IA?

Para empezar a responder, pensemos en los robots. La palabra robot proviene de una palabra checa (y rusa) que significa trabajo: robota. Un robot es una máquina diseñada y programada por un ser humano inteligente para hacer una tarea que implica interactuar con su entorno físico, una tarea que normalmente realizaría un ser humano inteligente. En ese sentido, su comportamiento simula la inteligencia humana, una circunstancia que ha dado lugar al debate sobre si debe considerarse inteligente en un sentido, aunque esa inteligencia no sea lo que entendemos por inteligencia humana —otro gran tema—.

El término IA se acuñó en la escuela de verano del departamento de matemáticas de Dartmouth University en el año 1956, evento organizado por John McCarthy, quien dijo: “La IA es la ciencia y la ingeniería de hacer máquinas inteligentes”.7 En la actualidad, el término se utiliza tanto para las máquinas inteligentes propiamente, como para la ciencia y la tecnología cuyo objetivo es desarrollar dichas máquinas.

La investigación en esta área ha tomado principalmente dos direcciones. A grandes rasgos, en primer lugar está el intento de comprender el razonamiento y los procesos de pensamiento humanos mediante su simulación usando tecnología informática, y, en segundo lugar, está el estudio del comportamiento humano y el intento de construir máquinas que lo imiten. La diferencia es importante: una cosa es fabricar una máquina que pueda simular, por ejemplo, una mano humana que levanta un objeto, y otra cosa muy distinta es fabricar una máquina que pueda simular los pensamientos que un ser humano tiene cuando levanta un objeto. Es mucho más fácil hacer lo primero que lo segundo, y si la utilidad es lo único que se precisa, entonces lo primero es todo lo que se necesita. Al fin y al cabo, la industria aeronáutica se dedica a fabricar máquinas que vuelan, no a construir un cerebro electrónico como el de un pájaro para que el avión vuele exactamente como lo hacen los pájaros, es decir, batiendo las alas.8

La idea de construir máquinas que puedan simular aspectos del comportamiento humano y, de hecho, animal, tiene una larga historia. Hace dos mil años, el matemático griego Herón de Alejandría construyó una pila adornada con pájaros mecánicos que cantaban y un búho que podía girar la cabeza y hacer que los pájaros se callaran. Con el paso de los siglos, surgió la fascinación por la fabricación de autómatas, máquinas que reproducían algún aspecto de la vida. Existen impresionantes colecciones de estos autómatas, algunos muy sofisticados, en lugares como el Museo de Ciencias de Londres (London Science Museum), el Museo de Historia del Arte de Viena (Kunsthistorisches Museum) y el Museo Speelklok de Utrecht. El interés por construir ese tipo de máquinas decayó en el siglo XIX, pero siguió vivo en la ficción, como en la novela de 1818 Frankenstein, de Mary Wollstoncraft Shelley. Ha sido el componente básico de la ciencia ficción desde el comienzo del género.

Una de las actividades humanas más importantes del día a día es el cálculo numérico y se ha hecho un gran esfuerzo para automatizar este proceso. En el siglo XVII, el matemático francés Blaise Pascal fabricó una calculadora mecánica9 para ayudar a su padre, funcionario de Hacienda, con los tediosos cálculos. En el siglo XIX, Charles Babbage sentó las bases de la computación programable inventando primero la máquina diferencial —una calculadora automática— y luego la máquina analítica, que fue la primera calculadora programable. Se le considera, con razón, el padre del ordenador moderno.

Durante la Segunda Guerra Mundial, el británico y brillante científico informático Alan Turing utilizó una sofisticada tecnología electrónica e informática para construir máquinas, especialmente la Bombe, que le permitió a él y a su equipo de Bletchley Park descifrar el código alemán “Enigma” que se utilizaba para las comunicaciones militares secretas. Los inventos y el trabajo teórico de Turing le llevaron a plantear la propuesta de una “máquina que aprende”. Según él, una máquina que pudiera conversar con los humanos, sin que estos supieran que era una máquina, ganaría el “juego de imitación” y podría decirse que es “inteligente”. Ahora conocida como la Prueba de Turing, esta definición proporcionó una prueba práctica para atribuir inteligencia a una máquina. Sin embargo, como veremos más adelante, este acercamiento ha sido muy cuestionado por los filósofos.

Por la misma época (1951), Marvin Minsky (cofundador del laboratorio de investigación de IA del MIT) y Dean Edmonds construyen el primer ordenador de red neuronal. Los logros posteriores que atrajeron la atención del público fueron el ordenador Deep Blue de IBM, que venció al campeón mundial de ajedrez Garry Kasparov en 1997, y en 2016 el programa AlphaGo de Google se convirtió en el primero en vencer a un jugador humano de Go utilizando el aprendizaje automático. La importancia de la IA ha sido reconocida con el Premio Turing 2018, conocido como el “Premio Nobel de la Computación”, otorgado a un trío de investigadores que sentaron las bases del actual auge de la inteligencia artificial, especialmente en el subcampo del aprendizaje profundo.

Los primeros robots y sistemas de IA no incluían lo que ahora llamamos “aprendizaje automático”. La clave del actual proceso de aprendizaje automático es la idea del algoritmo, que puede ser de varios tipos —por ejemplo, simbólico, matemático, etc.—.10 La palabra algoritmo proviene del nombre de un famoso matemático, astrónomo y geógrafo persa, Muḥammad ibn Mūsā al-Khwārizmī (ca. 780–850).11

A día de hoy, un algoritmo es “un conjunto claramente definido de operaciones lógicas o matemáticas para la realización de una tarea concreta” (Oxford English Dictionary). El concepto se remonta a la antigua Babilonia (1800–1600 a. C.). El eminente científico informático Donald Knuth de la Universidad de Stanford publicó algunos de estos primeros algoritmos y concluyó: “Los cálculos descritos en las tablillas babilónicas no son simplemente soluciones a problemas específicos; en realidad son procedimientos generales para solucionar todo un conjunto de problemas”.12 Y esa es la característica clave de un algoritmo: una vez que sabes cómo funciona, puedes resolver no solamente un problema, sino toda una clase de problemas.

Uno de los ejemplos más famosos que se estudian en la escuela es el algoritmo de Euclides, un procedimiento que se usa para encontrar el máximo común divisor (mcd) de dos números enteros positivos. Euclides lo describió en su obra Elementos, escrita alrededor del 300 a. C. Es un algoritmo eficiente que, de un modo u otro, aún utilizan los ordenadores de hoy. Su implementación implica la división y el cálculo sucesivo de los restos hasta llegar al resultado deseado. El funcionamiento del algoritmo se comprende mejor siguiendo un ejemplo, aunque lo importante es que funciona para cualquier par de números enteros.

Supongamos que queremos calcular el mcd de 56 y 12. Seguiríamos los siguientes pasos:

1 Paso 1: Dividir el número mayor entre el número menor. 56 ÷ 12 = 4 con resto 8

2 Paso 2: Dividir el número divisor, 12, entre el resto del paso anterior.12 ÷ 8 = 1 con resto 4

3 Paso 3: Continuar el paso 2 hasta que no quede ningún resto (en este caso solo habrá un paso más).8 ÷ 4 = 2 (sin resto)

En este caso, el mcd es 4.

Es fácil traducir esto a un código de software e implementarlo en un ordenador. Un vistazo a la red mostrará que hoy en día hay miles de distintos tipos de algoritmos en todas las ramas imaginables de la ciencia, la ingeniería y la medicina. La robótica es un buen ejemplo, ya que los robots suelen estar diseñados específicamente para realizar una única tarea una y otra vez.

En un sistema de IA contemporáneo típico, los algoritmos relevantes están integrados en un software informático que ordena, filtra y selecciona las porciones de datos que se le presentan. Un acercamiento intenta simular, al menos hasta cierto punto, las funciones neuronales del córtex humano (redes neuronales). En términos generales, un sistema de este tipo puede utilizar datos de entrenamiento para “aprender” (aprendizaje automático)13 a reconocer, identificar e interpretar patrones digitales como imágenes, sonido, voz, texto o datos. Otro acercamiento utiliza aplicaciones informáticas que emplean la lógica probabilística bayesiana para analizar la información disponible desde una perspectiva estadística con el fin de estimar la probabilidad de una hipótesis concreta. En resumen, un sistema de aprendizaje automático toma información sobre el pasado y toma decisiones o hace predicciones cuando se le presenta nueva información.

Es importante señalar que los propios algoritmos están programados explícitamente para realizar la aproximación de funciones, normalmente a través de la optimización numérica y, en la mayoría de los casos, también se les da explícitamente ejemplos de entradas y salidas y criterios de detención para guiar la optimización. No se procesan sin un humano en el bucle que en cierto modo guíe todo el proceso (incluso si el humano construye un algoritmo “crítico” y lo inserta en el bucle, etc.). La participación humana es consciente. La máquina no lo es.

En muchos de los primeros trabajos de IA, los humanos diseñaban explícitamente un algoritmo para resolver un problema concreto. En la IA más reciente, no es así. En su lugar, diseñan un algoritmo de aprendizaje general, que luego “aprende” una solución al problema. A menudo los desarrolladores humanos no conocen un algoritmo explícito para resolver el problema y no saben cómo llega el sistema a sus conclusiones. Los primeros programas para jugar al ajedrez eran del primer tipo (incluso Deep Blue estaba más en esta categoría), mientras que el moderno software Go es del segundo tipo.

He aquí algunos ejemplos de sistemas de IA, muchos de ellos ya conocidos por el público:

 Amazon utiliza algoritmos que rastrean todos los productos que tú y millones de personas compran online. A continuación, examina esa vasta base de datos y compara la lista con otros productos similares que aún no tienes. Por último, utiliza métodos estadísticos para seleccionar productos que compran personas “como tú” y hace que aparezcan en tu pantalla.

 Un algoritmo informático puede examinar una base de datos compuesta por solicitudes de empleo y sugerir el candidato más adecuado para el puesto. Los trabajos que atraen miles de solicitudes son ahora objeto de sistemas de IA que realizan las primeras entrevistas, en las que no solo recogen datos sobre las respuestas de los candidatos, sino que también graban y filtran sus reacciones emocionales para determinar su idoneidad para una entrevista.

 La IA se está aplicando con éxito al diseño de edificios con mayor eficiencia energética, a los aparatos domésticos conectados por el internet de las cosas (IoT por sus siglas en inglés) y a los sistemas de transporte integrados.

 Ya existen sistemas de IA que trabajan con una base de datos compuesta por miles de radiografías de pulmones, por ejemplo, en distintos estados de salud, junto con un análisis médico profesional de alto nivel sobre su estado de salud. El sistema compara entonces la radiografía de tus pulmones con la base de datos para comprobar si tienes o no, por ejemplo, un tipo específico de cáncer. Más concretamente, tiende a extraer estadísticas sobre patrones visuales en la imagen de la radiografía y los compara con otros patrones extraídos en la base de datos. En la actualidad, en algunos casos estos sistemas pueden realizar diagnósticos con mayor precisión que los mejores médicos humanos.

 Los astrónomos han utilizado la IA para enseñar a las máquinas a identificar ráfagas de radio rápidas de galaxias lejanas, examinando una enorme base de datos de señales recogidas por radiotelescopios. Ya han encontrado (septiembre de 2018) setenta y dos nuevos ejemplos que investigarán en el Instituto SETI. También están utilizando la IA para el reconocimiento automatizado de galaxias.

 Los vehículos autónomos, al ser máquinas inconscientes, plantean problemas éticos inmediatos en cuanto a qué principios incorporarles para que sepan qué deberían tratar de evitar. Es interesante observar que el sistema de piloto automático de un avión no se ha diseñado para que sea totalmente autónomo, aunque se podría argumentar que los aviones son más fáciles de pilotar que los coches autodirigidos. La razón podría ser que las aerolíneas quieren seguir manteniendo su actividad, porque realmente no hay ninguna cuestión ética en cuanto a quién sería el responsable si el avión se estrellara, sin importar que matara a algunas personas para salvar a otras.

 El reconocimiento facial está ahora muy desarrollado. Una aplicación bastante divertida es utilizar la tecnología de reconocimiento facial en un pub para reconocer a quién le toca pedir una bebida en la barra y así evitar que alguien se salte la cola. Ahora hay cámaras de videovigilancia por todas partes y la policía las utiliza para rastrear la actividad delictiva. Sin embargo, estos sistemas de vigilancia también pueden utilizarse para el control social. Más adelante veremos los principales problemas éticos que plantean estas aplicaciones.

 Las armas autónomas y los problemas éticos que conllevan son objeto de debate internacional.

Es obvio, incluso a partir de esta breve lista, que muchos de estos avances, si no todos, plantean cuestiones éticas, desde la manipulación económica y la actividad delictiva hasta la invasión de la privacidad y el control social. El peligro está en que la gente se deja llevar por el “si se puede hacer, se debe hacer”, sin pararse a pensar en los posibles problemas éticos. Sin embargo, hay que decir que las cuestiones éticas están ocupando cada vez más la agenda de los principales actores del mundo de la IA. La gran pregunta a la que hay que enfrentarse es la siguiente: ¿Cómo puede incorporarse una dimensión ética a un algoritmo que carece de corazón, alma y mente?