Seguimos con esta “reseña” en tres partes del libro de Gerd Leonhard Tecnología vs Humanidad. Después de la primera parte, dónde hicimos una breve introducción al libro, dedicaremos ésta y la siguiente a entrar en un debate que el propio actor propone en el libro. Concretamente, hoy me gustaría comentar algunos aspectos del libro con los que no estoy muy de acuerdo y que creo que son importantes para enmarcar el debate. Me considero una persona tecnófila pero muy escéptica (y crítica) con lo que algunas empresas hacen con la tecnología. Esto me lleva a ponerme nervioso tanto con luditas como con transhumanistas, pero también a estar de acuerdo con ellos en muchas cosas. Y parece que en tiempos en que hay que militar en algún extremo con etiqueta unívoca, los equidistantes somos los bichos raros.
Creo que Leonhard está libre de cualquier sospecha de ludismo, pero en algunos pasajes del libro tengo que reconocer que el pesimismo del Leonhard sobre el futuro me resultaba un poco exagerado. Esto es más habitual de lo que parece, tanto que tiene un nombre: declinismo, muy conectado a un sesgo cognitivo llamado Retrospección Idílica. Todo esto se resume en la famosa frase de “cualquier tiempo pasado fue mejor” y el futuro es muy oscuro.
Esto por otra parte es muy recurrente a lo largo de nuestra historia. Lo hemos vivido siempre que se ha producido algún avance tecnológico importante.
Sócrates pensaba que la escritura fomentaría el olvido. Trithemius dijo que la imprenta dejaría sin trabajo a los monjes copistas, lo que pondría a su vez en peligro su alma. Los experimentos de anatomía que inspiraron Frankenstein en el siglo XIX, se mantuvieron en la psique de la sociedad alimentando muchos miedos sobre la electricidad (maravilloso artículo sobre la electricidad en 1900). Y sin irnos tan atrás, todos recordamos las eternas discusiones sobre la seguridad del wifi o de las antenas de telefonía móvil, de cómo los móviles destrozarán nuestras familias y sociedad o de cómo los videojuegos están detrás de los locos violentos.
Y no sólo eso, la tesis principal del libro es el tan manoseado punto de inflexión de la curva exponencial en forma de palo de hockey que supuestamente vive nuestra sociedad ahora mismo. El problema de estas curvas es que son constructos que se hacen para ilustrar gráficamente una idea, pero que al presentarse así parece que tienen una base científica y que en realidad efectivamente hay una curva que describe lo que estamos viviendo. Sin embargo, en el mejor de los casos, es una simple metáfora inspirada en la Ley de Moore. Es cierto que Kurzweil con su Singularidad intentó hacer un acercamiento científico a este tema, pero un su curva de la Singularidad hace ya unos cuantos millones de años que pasamos el punto de inflexión.
Leohard se centra en la tecnología digital basada en silicio. Pero yo me imagino a Tesla diciendo que este mundo digital y su curva de palo de hockey no es en realidad más que una parte de la curva de palo de hockey de la electricidad, en cuyo caso sería razonable pensar que el punto de inflexión lo pasamos también hace tiempo.
En línea con este razonamiento, siempre me gusta recordar la Ley de Amara: “nuestra tendencia es sobrestimar los efectos de una tecnología en el corto plazo y subestimar el efecto en el largo plazo”. En una interpretación personal, entiendo la ley de Amara como un aviso de que los cambios más profundos que nos trae la tecnología suelen ser en áreas que no éramos capaces de prever y que son “laterales” al ámbito de desarrollo de la propia tecnología.
Pero los cambios que se ven a priori y en los que todo el mundo está de acuerdo, no suelen ser tan profundos y son una mera evolución de la realidad. Por ejemplo, era imposible predecir que el teléfono móvil nos traería Uber. Jobs en la presentación del iPhone habló mucho de cómo se convertiría en una forma de consumir contenidos, lo cual se cumplió con creces. Sin embargo, y a pesar del profundo impacto que ha tenido en las industrias de contenido, no creo que escuchar música en los móviles quede como un ejemplo de la capacidad transformadora del teléfono móvil en la humanidad.
Por eso cuando leo predicciones muy vehementes sobre lo que ocurrirá con algunas tecnologías suelo desconfiar.
Leonhard considera especialmente peligrosas a la Inteligencia Artificial y la edición del ADN (CRISPR), principalmente en su trayectoria convergente. En realidad, máquinas inteligentes con capacidad de editar el ADN humano o de cualquier ser vivo son las protagonistas de cientos de libros y películas de ciencia ficción, casi todas distópicas, y muchas de horror. Y obviamente Leonhard no es el único en pensar así. Gente como Musk o Hopkins consideran a la Inteligencia Artificial como el gran peligro para la humanidad.
Sin embargo hay cada vez más voces que avisan de que se han hinchado de forma irracional las expectativas sobre lo que de verdad puede hacer la Inteligencia Artificial, tanto en la actualidad como en su desarrollo con las herramientas actuales de Machine Learning o Deep Learning.
Ys se considera que todas estas técnicas tienen bastante limitaciones para hacer sistemas “verdaderamente” inteligentes y por eso se empieza a hablar de Inteligencia Artificial General (IAG) o Inteligencia Artificial Fuerte (IAF) como contraposición a los sistemas actuales de IA. El problema es que no sabemos muy bien qué significa eso de IAG, ni mucho menos cómo llegar a ella (éste artículo es un buen resumen).
Tampoco ayuda que lo que de alguna forma sostiene esta curva general de palo de hockey, la Ley de Moore, esté prácticamente muerta y siga una línea que con suerte es lineal en estos momentos. Y está muerta porque por un lado no parece que sea necesaria hoy en día, pero también porque la tecnología de fabricación no lo permite.
Y aunque hablamos mucho de la computación cuántica como la tecnología que volverá a dar un acelerón a la capacidad de computación, la tecnología aún está en pañales.
También creo que Leonhard obvia el efecto péndulo sobre cómo utilizamos las nuevas tecnologías. Y esto se ejemplifica muy bien en Facebook. Si cuándo se escribió el libro Facebook parecía imparable, y el propio autor habla mucho sobre su percepción de la perversidad de Facebook, ahora, sólo dos años después, la realidad es muy diferente. El escándalo de Cambridge Analytica y un cambio en general sobre las percepciones a nivel social de la privacidad digital, ha colocado a Facebook en una situación complicada.
Y también la percepción sobre CRISPR ha cambiado en el poco tiempo que ha pasado desde que Leonhard escribió el libro. Aunque sigue siendo una tecnología con un potencial tremendo, recientemente se han publicado algunos estudios que han encontrado algunos problemas con CRISPR.
En definitiva, la tecnología está todavía muy verde, y aunque sigue siendo muy prometedora, es muy difícil prever su impacto final, y desde luego es difícil pensar que será la culpable de una distopía terrorífica con humanos mutantes.
Ya dijimos en la primera parte de este artículo que nos parecía muy interesante cuando Leonhard hablaba de la conexión entre la tecnología y la felicidad. Sin embargo, creo que su visión es demasiado pesimista. Es cierto que la tecnología está siendo muy efectiva, seguramente a veces demasiado, en responder a nuestros deseos hedonistas. Las Redes Sociales se han demostrado como una herramienta perfecta para alimentar nuestro ego, y aún estamos aprendiendo a cómo lidiar con ellas. Es también cierto que es fácil imaginarse que tecnologías como la Realidad Virtual podrían llevar todo esto a otro nivel. Aunque otra vez la realidad se muestra tozuda. La Realidad Virtual está lejos ahora mismo de ser el éxito comercial que muchos esperaban.
Leonhard argumenta que existe la posibilidad de que se desarrollara una tecnología que respondiera de forma perfecta a nuestras necesidades hedonísticas. Según el autor, esto sería el final de la humanidad. Con nuestro hedonismo colmado, dejaríamos de buscar la felicidad más profunda, la eudaimonía, y por lo tanto el progreso. Nos estancaríamos a nivel individual y social, y eso significaría nuestro fin.
Sin embargo, no estoy muy de acuerdo con eso sea posible. El famoso experimento de Rat Park como mínimo demuestra que las adicciones no dependen exclusivamente en la “perfección” de la droga, sino que las circunstancias personales tienen un papel muy importante.
De hecho, décadas de “perfeccionamiento” de la drogas psicotrópicas no nos han llevado a tener una sociedad totalmente enganchada a ellas. Es más, la historia nos dice que las épocas repunte en el consumo de drogas suele estar relacionado con determinadas situaciones sociales y económicas. Creo que es razonable pensar que ocurrirá lo mismo con las “drogas digitales”, presentes y futuras.
Y acabo esta segunda parte de cierta crítica a algunos de los principios en los que Leonhard basa su libro hablando de un tema tan antiguo como la propia humanidad donde el autor entra varias veces a lo largo del libro:
¿Qué es lo que define al ser humano? A lo largo de la humanidad, hemos intentado dar respuestas a esta pregunta desde puntos de vista espirituales, filosóficos y científicos, así que es un tema que por supuesto no se puede liquidar en un par de párrafos. Pero sin querer minimizar algunos de los riesgos a los que se refiere Leonhard, sí que me gustaría compartir un par de reflexiones al respecto.
Leonhard utiliza la palabra alemana “desein” para describirlo. Palabra que se puede traducir como ser. El autor argumenta a lo largo del libro que la esencia del ser humano está en peligro amenazada por el avance tecnológico. Un ejemplo que pone en el libro es cómo hemos claudicado ante herramientas como Google Maps para decirnos dónde estamos y cómo esa claudicación hace que nos perdamos muchas cosas del mundo real. También habla de cómo la previsible mayor delegación que iremos haciendo en sistemas de inteligencia artificial afectará a nuestro “desein”, por no hablar de cómo los implantes biónicos y la edición de nuestro ADN podría definitivamente convertirnos en seres no-humanos.
El argumento de que cuando dejamos de hacer algo para delegarlo en las máquinas dejamos de ser humanos es tan viejo como la humanidad.
Estoy seguro de que cuando las primeras tribus se asentaron en Mesopotamia para cultivar cereales y dejaron de ser nómadas, las que no lo hicieron miraban por encima del hombro a los agricultores diciendo que eran menos persona por no ser nómadas cazadores. Pero esto se ha repetido a lo largo de la historia.
Los libros, la música, los medios de transporte, la radio, la televisión, internet, y por supuesto, los videojuegos fueron en su momento grandes amenazas para la misma esencia de la humanidad.
Por otro lado, desde un punto de vista biológico, es muy difícil centrar y bloquear lo que significa ser Homo Sapiens. Ahora ya sabemos que la descendencia entre Homo Sapiens y otras especies Homo era habitual, algo que demuestra que las líneas entre especies son más finas de lo que nos decían las taxonomías clásicas. Pero también está muy claro que el ADN del ser humano moderno tiene bastantes diferencias con el de los seres humanos de hace 10.000 o 2.000 años. Por ejemplo, volviéndonos más resistentes ante determinadas enfermedades.
Además, el ser humano ya lleva varias décadas integrándose con diferentes tipos de implantes artificiales: marcapasos, implantes cocleares, neuroestimuladores contra el Parkinson… En realidad el ser humano ya es biónico. No creo que las personas que tienen este tipo de implantes sean menos humanos por tenerlos.
A pesar de estas respuestas a algunos de los argumentos que utiliza Leonhard en Tecnología vs Humanidad tampoco quiero descartar ni infravalorar los retos que describe el autor en su libro. Muy al contrario, sin embargo creía importante reflexionar sobre ellos para ayudar a un debate más centrado y sosegado.
Creo de verdad que se podría hablar de que la mano invisible del mercado acaba también determinando el uso definitivo de las diferentes tecnologías que van desarrollándose. Esta mano termina llevando las tecnologías a unos usos más en línea con el bien común y la ética imperante en la humanidad. Esto lo hemos visto a lo largo de la historia con tecnologías potencialmente devastadoras como la energía atómica y lo estamos viendo actualmente con los combustibles fósiles.
Las empresas responden a la opinión pública invirtiendo (o no) en las tecnologías que la sociedad considera (o no) aceptables.
Sin embargo, creo que es razonable pensar que los tiempos en los que se forma una opinión a nivel global son mucho más largos en la actualidad que los tiempos en los que se desarrolla y se empieza a utilizar una nueva tecnología. Esa mano invisible por lo tanto, va cada vez acumulando más retraso, y en ese retraso se pueden generar graves problemas globales. El cambio climático es un buen ejemplo del resultado de ese retraso, pero en línea con lo que escribe Leonhard, tenemos entre manos tecnologías que podrían hacer algo parecido en mucho menos tiempo.
Por eso en la última parte de estos artículos dedicados a Tecnología vs Humanidad hablaremos de algunas de las ideas que propone Leonhard a las que intentaré humildemente aportar alguna otra.
