La máquina y la mente

Hoy, las cosas han cambiado. El uso de las redes sociales para la propagación de información premia la demagogia y las fake news. Las opiniones políticas se han polarizado, las poblaciones se han vuelto más tribales y el civismo político se está desintegrando. Así, en lugar de alentar la forma en que las plataformas sociales difunden la democracia, estamos ocupados evaluando hasta qué punto la corroen.

La revolución de las comunicaciones hizo que las computadoras fueran asequibles para todos. Conectó los dispositivos en una red global gigante y los redujo al tamaño de una mano. De esta revolución se benefició el programador solitario con el poder de crear en su bolsillo, el académico con infinitas investigaciones a su alcance, el disidente con una nueva y poderosa forma de organizar la resistencia.

Hoy en día, una vez experimentado el poder doméstico de la tecnología, nos damos cuenta de que la revolución digital presenta algunos problemas. Su supercomputadora de bolsillo rastrea cada uno de sus "me gusta", manteniendo un registro de todas las personas con las que habla, todo lo que compra, todo lo que lee y dondequiera que vaya. Su refrigerador, su termostato, su reloj inteligente y su automóvil están enviando su información al cuartel general€ En el futuro inminente, las cámaras de seguridad rastrearán las formas en que nuestros ojos se dilatan y los sensores en la pared rastrearán la temperatura de nuestro cuerpo.

Además de este asalto permanente a la privacidad que suponen las tecnologías digitales, y además de los cambios radicales que empiezan a causar en el mundo laboral, se está produciendo también, de forma manifiesta, un asalto en toda regla a nuestras capacidades cognitivas, incluida la empatía, a partir de la "retirada" del mundo que promueve la tecnología.

En su libro The Glass Cage. Where Automation Is Taking Us, el crítico estadounidense Nicholas Carr cita a una psiquiatra investigadora y experta en memoria, Veronique Bohbot, que teme que a medida que usamos cada vez menos nuestras habilidades de orientación espacial y navegación, nuestros hipocampos comenzarán a atrofiarse, lo que conducirá a una demencia cada vez más temprana en las generaciones futuras. Es solo uno de los riesgos, sugiere Carr, que tiene el convertirnos en "custodios de nuestros teléfonos": nos estamos desencarnando, alejándonos del mundo, viviendo a través de pantallas e interfaces y perdiendo el contacto con muchas de las cosas que nos hacen humanos.

Al igual que el mapa y el reloj que le precedieron, Internet está imbuido de un espíritu que tiene efectos de largo alcance, remodelando activamente la mente humana. El bombardeo de datos, estímulos, instrucciones, sugerencias, pinchazos y señales auditivas reconfiguran nuestro cerebro para anhelar la distracción constante y socavar nuestra capacidad para mantener la concentración o pensar profundamente, los cuales son necesarios para la formación de la memoria a largo plazo. Nuestros patrones de pensamiento se realinean con las corrientes fragmentadas y fugaces de la Red. Lejos de fomentar el pensamiento divergente, Internet aplana nuestros horizontes cognitivos y refuerza los prejuicios preexistentes.

La "automatización intelectual" ha llegado a ejercer un control sin precedentes sobre nuestras vidas, a menudo alterándolas profundamente de formas imprevistas. El software ya no se limita a complementar el pensamiento y el juicio humanos, sino que, en un número creciente de casos, los suplanta por completo.

Hemos sido víctimas del "mito de la sustitución": trabajamos bajo la ilusión de que, al descargar las tareas rutinarias en el software y liberar nuestras mentes del esfuerzo, liberamos espacio mental para objetivos superiores. Esto se basa en una falsa analogía entre las mentes humanas y artificiales. La computación se ha infiltrado subrepticiamente en nuestras vidas como el nuevo punto de referencia con el que se miden las mentes humanas. Se ha establecido una nueva forma de paternalismo digital en el que los humanos ya no pueden pensar o comportarse por sí mismos; en cambio, se espera que cedamos a la sabiduría de los algoritmos.

Contra la velocidad, la eficiencia y la productividad de la computación, la mente humana se presenta como inherente e irremediablemente defectuosa, un riesgo que debe ser evitado reemplazándola por su contraparte artificial. Se nos induce a pensar (cuando no se dice abiertamente) que la mejor manera de deshacerse del error humano es deshacerse de los humanos. En tiempos de pandemia vemos repetido el argumento para justificar una mayor digitalización y virtualización: al contrario que las máquinas, los humanos son un riesgo biológico porque transmiten virus.

La automatización intelectual plantea una serie de nuevas preguntas, incluido el sesgo de automatización y su corolario, la "complacencia de la automatización". Nuestra creencia en la infalibilidad de los algoritmos nos lleva a confiar las tareas al software y abdicar del juicio. En los aviones, por ejemplo, la cabina de vuelo se ha convertido en una enorme interfaz de computadora que vuela. Pilotar un avión hoy en día consiste en operar computadoras, verificar pantallas e ingresar datos con el piloto generalmente sosteniendo los controles durante un promedio de tres minutos.

Si bien la automatización de los vuelos ha hecho que los viajes aéreos sean más seguros, también ha provocado la pérdida del control cognitivo y la falta de conciencia de la situación. Cuando ocurre un error o el software no funciona como se esperaba, el control manual se devuelve abruptamente a las manos de un piloto abrumado e incapaz de controlar el avión, con consecuencias trágicas. Así ocurrió en el vuelo de Air France de Río de Janeiro a París que se estrelló en el Atlántico en el verano de 2009. Los investigadores franceses concluyeron que los pilotos sufrieron "una pérdida total de control cognitivo de la situación".

En lugar de abrir nuevas fronteras de pensamiento y acción a sus colaboradores humanos, el software reduce nuestro enfoque. Cambiamos talentos sutiles y especializados por talentos más rutinarios y menos distintivos. Al optar por el camino de menor resistencia, en realidad estamos restringiendo nuestra capacidad para actuar. Lejos de liberarnos, el software enjaula nuestras mentes dentro de parámetros estrechos.

En un giro irónico, el software no solo nos quita el poder, sino que también asume cada vez más la responsabilidad de las decisiones morales: matar o no matar a la araña en el caso de las aspiradoras robóticas, al humano que cruza la calle o al soldado en el caso de un conflicto armado. Dejar que el software "piense por nosotros" obstaculiza nuestra capacidad, o voluntad, de aprender, un proceso que requiere cierta ineficiencia, lentitud y contemplación.

No hay que negar los beneficios de la automatización intelectual para ser conscientes de que también conlleva riesgos. En lugar de suscribir las utopías de los tecno-futuristas o las distopías de los luditas, el relato ha de ser más matizado. Evocar visiones de paraísos terrenales o escenarios de control robótico total no ayuda a desarrollar una postura crítica. En cualquier caso, sí parece que, al construir un mundo cada vez más ajeno a las fricciones cívicas con nuestros semejantes, estamos iniciando una transformación en la constitución de nuestras identidades personales cuyo alcance aún no podemos comprender.

* London School of Economics y Massachusetts Institute of Technology