Conciencia humana o inconsciencia sobrehumana

El impacto disruptivo de la inteligencia artificial (IA) en las dimensiones humanas (logos, pathos, demos, cronos) fue analizado por el filósofo y catedrático Paolo Ercolani durante una exposición, brindada en el marco de las la conferencia «Masonería y conciencia social», que tuvo lugar hace pocos días en la ciudad de Bari, organizada por el Gran Oriente de Italia.

Con rigor crítico, el disertante expuso cómo la IA, lejos de ser una mera herramienta, está redefiniendo la relación de las personas con la tecnología, la sociedad e incluso la mortalidad, planteando dilemas éticos urgentes frente al avance del transhumanismo y el control corporativo.

¿Cómo debería abordar la masonería este nuevo y, al parecer, irrefrenable desafío?

La encrucijada de la inteligencia artificial: conciencia humana o inconsciencia sobrehumana

Me parece evidente que algo le ha pasado a lo «humano». Basta pensar en una investigación de hace casi diez años que documentaba el número significativo de personas en el mundo que, cada día, saludan amablemente al chatbot Alexa, le confiesan su amor e incluso le piden matrimonio.

Esto fue reportado en 2016 por la periodista científica Victoria Turk en New Scientist, mientras que hace apenas unos meses se dio la noticia de un joven estadounidense de catorce años que se suicidó después de establecer una relación obsesiva con un chatbot femenino creado por inteligencia artificial.¹ A modo de contexto, cabe señalar que los chatbots existen desde 1966, cuando el informático estadounidense de origen alemán Joseph Weizenbaum (1923-2008) creó Eliza, un programa capaz de simular una conversación psicológica con los usuarios. Es significativo que el propio Weizenbaum —aunque se definía como un informático herético y experimental— pocos años después expresara su inquietud y oposición ante la creciente credulidad hacia las máquinas electrónicas. Y esto sin haber visto lo que sucedería más adelante, dado que hoy abundan modelos de lenguaje neuronal mucho más avanzados que pueden imitar a cualquiera y con los que cada vez más personas literalmente construyen su propio terapeuta personal, adaptado a sus preferencias.²

Algo ha cambiado, sí, incluso en la forma en que los humanos interactúan con la tecnología, considerando que nadie en su sano juicio habría agradecido alguna vez a su refrigerador, horno o automóvil por los servicios que brindan a diario. Mucho menos enamorarse de ellos hasta el punto de querer casarse.

Un feedback seductor

Sin embargo, siempre debemos tener en cuenta no solo los resultados mencionados anteriormente, como la relación obsesiva y paranoide con la tecnología, sino también la lección que nos dejaron Marshal McLuhan en su momento y su discípulo Nicholas Carr hoy en día: que en la interacción entre humanos y máquinas, estas últimas producen efectos de retroalimentación (feedback) capaces de modificar a los usuarios en diversos niveles.³

En resumen, simplificando para ser más elocuentes, podríamos decir que en la interacción entre el hombre y la máquina, es el primero quien termina siendo afectado, ya que la segunda simplemente funciona según su programación, sin involucrar conciencia ni emociones, que evidentemente no posee.

Quien sí las posee es el humano, que las pone en juego en su relación omnipresente con las máquinas, sufriendo todos los efectos de retroalimentación que esto conlleva.

Este principio debe tenerse presente en una época en que la tecnología mediática se ha convertido en un intermediario totalizador en la experiencia que los humanos tienen de su existencia, y demasiado a menudo en una alternativa preferida a la interacción con personas y situaciones reales no filtradas por una pantalla. Pero intentemos ordenar el discurso, comenzando por definir qué es lo «humano».

Perfil de persona

Para ello, recurro a cuatro términos tomados del griego antiguo. Logos, en su triple significado de estudio, pensamiento y palabra; Pathos, refiriéndose a la capacidad humana de generar, transmitir y recibir sentimientos y emociones (en resumen, lo que llamaría inteligencia emocional); Demos, ya que la dimensión humana nunca se declina en singular, pues cada individuo está naturalmente impulsado a establecer relaciones que, en etapas posteriores, se rigen por costumbres, reglas y leyes escritas, dentro de un contexto que puede calificarse como «político»; y finalmente Cronos, porque lo humano habita el tiempo y está esencialmente definido por él, al menos en cuanto al momento de nacer, la duración de la vida y la muerte. Nacimiento y muerte, en definitiva, son los pilares fundamentales de la existencia, marcada también por momentos convencionalmente temporales. La aparición de las nuevas tecnologías digitales —que, de maneras diferentes, siempre han funcionado bajo mecanismos que por comodidad se engloban en la definición de IA—, y sobre todo el uso cada vez más invasivo que las personas hacen de ellas para filtrar casi todos los aspectos de sus vidas, ha tenido un impacto profundo, modificando y en algunos casos trastornando las cuatro dimensiones humanas mencionadas.⁴

En el ámbito del Logos, múltiples estudios documentan, entre otras cosas, una tendencia a la baja en el coeficiente intelectual promedio de la población a partir de 2009 (año en que aparecieron los smartphones), la propagación del llamado analfabetismo funcional y déficits cada vez más frecuentes en la memoria, la atención y el lenguaje. En términos generales, puede afirmarse que el avance de la IA, así como su uso, ha debilitado el Logos y, en un sentido más amplio, la importancia otorgada al estudio, el pensamiento y la palabra en una sociedad en red cada vez más dominada por lo «misológico».

Nueva epidemiología

También hay estudios y datos que reflejan las crecientes dificultades psicopatológicas (Pathos) que enfrenta, sobre todo, la generación de nativos digitales, aunque no solo ellos. Además de las alarmantes estadísticas sobre el aumento de suicidios, lo que emerge es una población, especialmente joven, cada vez más «hiperconectada» y, por ello, encerrada en una burbuja alienante, aislante y generadora de ansiedad. Jóvenes declaran sentirse constantemente en exhibición, compitiendo por el mercado artificial de los «me gusta», los seguidores y lo que podría llamarse la «mendicidad universal de atención». Pero también dicen sentirse inadecuados y solos, con una creciente dificultad para establecer relaciones profundas, hipnotizados por pantallas coloridas y homogeneizados por dinámicas plásticas impuestas por las redes sociales. Una gran paradoja, sin duda, que la generación descrita como potencialmente la más «social», con posibilidades infinitas e increíbles de interactuar como nunca antes, sea la más afectada en su dimensión emocional. Temo que sea necesario recurrir a la filosofía para desentrañar el nudo lógico que explica por qué el avance de la lógica cuantitativa no siempre se corresponde con el crecimiento de la cualitativa.

Las cosas no mejoran en el ámbito del Demos, dada la autoridad de estudios (y estudiosos) que hablan abiertamente de «gobernanza algorítmica», pues ahora de los algoritmos dependen las informaciones que la mayoría de las personas reciben o no, lo que moldea (o conforma) ideas que son las preferidas por las pocas grandes tecnológicas que controlan el mercado mundial de la IA. Si el filósofo italiano Norberto Bobbio nos recordaba que un régimen es democrático cuando los gobernados pueden controlar a los gobernantes, juzgándolos con autonomía, crítica e información, mientras que el pensador austriaco Karl Popper añadía que una nación es democrática si puede retirar pacíficamente del poder a gobernantes incapaces, entonces es legítimo dudar de nuestra época, definida ya en 2004 como «posdemocrática» por el destacado académico Colin Crouch. El riesgo de que surjan formas de poder invisibles y peligrosas es real y no debe subestimarse.⁵

Diferencias sociales

Aquí también nos enfrentamos a una aparente paradoja: las promesas de igualdad, información para todos y justicia social que, según los pioneros de la sociedad en red, las nuevas tecnologías debían garantizar, chocan traumáticamente con una realidad social marcada por desigualdades económicas, desequilibrios de poder entre gobernantes y pueblo, y la irrelevancia de gobiernos democráticamente elegidos frente al poder real de las grandes multinacionales tecnofinancieras.

Tampoco cambia el panorama al considerar la dimensión temporal (Cronos), dado que los grandes empresarios y gurús de la IA (como Elon Musk y Larry Page, por nombrar dos ejemplos) están impregnados de una filosofía —el transhumanismo— que, como «nueva religión», promete al hombre la realización de su sueño más antiguo y grande: la inmortalidad, aunque al altísimo precio de despojarse de su humanidad. Esto ha llevado al filósofo Slavoj Zizek a preguntarse qué será de la definición misma de humanidad ante las manipulaciones biogenéticas invasivas en estudio.⁶

Sí, los transhumanistas sostienen que la humanidad, tal como la hemos conocido, ha llegado a su fin. Según ellos, estamos ante un paso evolutivo darwiniano: los más aptos (quienes estén dispuestos a fusionarse con máquinas, a convertirse en cyborgs) sobrevivirán, mientras que los demás desaparecerán, como ha ocurrido con otras especies en la evolución del planeta. En los casos más radicales, los transhumanistas vislumbran la posibilidad de transferir la conciencia y la mente de los individuos a un avatar destinado a la vida eterna en el Metaverso.

Selección «natural»

Algunos podrían pensar que son delirios de visionarios, si no fuera porque muchos de ellos son multimillonarios que invierten sumas estratosféricas en investigaciones para lograr sus propósitos, y porque recientemente un pionero de la IA generativa, seguido por otros científicos del campo, ha denunciado el «riesgo de extinción de la humanidad» ante una tecnología que se desarrolla de manera inaudita y oscura para la mayoría, controlada solo por unas pocas grandes empresas tecnológicas privadas.⁷

En resumen, planteando el tema en términos problemáticos, al menos puede afirmarse que la cuestión actual no es tanto si la inteligencia artificial alcanzará o superará a la humana —como se ha debatido durante décadas—, sino más bien considerar que la IA está creciendo a expensas de la inteligencia humana en su totalidad.

Con «totalidad» me refiero a los aspectos mencionados: la razón cognitiva (logos), la emocional (pathos), la social (demos) y la existencial (cronos).

Pocos pero poderosos

Sobre este aspecto —basado en que la IA es una tecnología extraordinaria con potencial impredecible, pero también un peligro al estar en manos de pocas multinacionales orientadas exclusivamente al lucro— deben reflexionar todas las entidades que valoran la «conciencia humana».

Es decir, una conciencia razonable de los límites de lo humano, que corre el riesgo de autodestruirse si se deja deslumbrar por seductoras inconsciencias sobrehumanas (transhumanismo), que prometen al hombre convertirse en Dios y creador de un nuevo yo, además inmortal.

Esperanzas de futuro

Entre estas entidades, sin duda incluyo a la masonería, tradicionalmente inspirada por una figura mitológica —Hiram Abiff— cuyo nombre simboliza la capacidad del individuo, a través del conocimiento, la razón y la conciencia humana, de elevarse al nivel del Gran Arquitecto (no de reemplazarlo para convertirse en dios de sí mismo).

El mismo Hiram Abiff que, según la narración bíblica, fue asesinado por tres Maestros (sic) movidos por la avaricia y el delirio de omnipotencia que hoy podrían subyacer en quienes obtienen ganancias y poder de la galaxia tecnológica en torno a la inteligencia artificial.

Pocas entidades como la masonería, que tanto ha contribuido históricamente a elevar la ciencia y la razón —hasta fundar la Royal Society y patrocinar facultades científicas—, pueden realizar una reflexión seria y profunda sobre el papel y el valor de una ciencia guiada por la voluntad humana y regulada por lo humano, lo que el historiador David Noble llamaba «religión de la tecnología».⁸

Sobre todo porque hoy hemos llegado a una encrucijada inevitable: decidir si queremos una tecnología que eleve lo humano fomentando su conciencia y desarrollo, o si optamos por entregarnos a una tecnología que lo reduce a instrumento de intereses terrenales, inconsciente del peligro de autodestrucción al que se enfrenta.

Documento original en italiano: IL BIVIO DELL’INTELLIGENZA ARTIFICIALE. Coscienza umana o incoscienza superumana? di PAOLO ERCOLANI

Convocatoria del Gran Oriente de Italia a la conferencia Massoneria e coscienza sociale.

Notas al pie

1. V. Turk, How we fell in love with our voice-activated home assistants, in «New Scientist», 14 December 2016: https://www.newscientist.com/article/mg23231045-700-how-we-fell-in-love-with-our-voiceactivated-home-assistants/; B. Montgomery, Mother says AI chatbot led her son to kill himself in lawsuit against its maker, in «The Guardian», 23 October 2024:
   https://www.theguardian.com/technology/2024/oct/23/character-ai-chatbot-sewell-setzer-death. ↩︎
2. A. Robb, He checks in on me more than my friends and family: can AI therapists do better than the real thing? , in «The Guardian», 2 March 2024: https://www.theguardian.com/lifeandstyle/2024/mar/02/can-ai-chatbot-therapists-do-better-than-the-real-thing. ↩︎
3. N. Carr, Internet ci rende stupidi? Come la Rete sta cambiando il nostro cervello, Raffaello Cortina, Milano 2011, pp. 246-8; M. McLuhan, The Gutenberg Galaxy: The Making of Typographic Man, University of Toronto Press, Toronto 1962, p. 248 e Id., Understanding Media: The Extension of Man
   (1964), Mit Press, Cambridge (MA) – London 1994, pp. 42 e 46. ↩︎
4. Per l’analisi articolata del concetto di umano, nonché per i relativi studi che documentano la crisi dell’umano stesso di fronte all’IA, di cui parlo qui nel prosieguo, rimando a P. Ercolani, Fine dell’umano? , in «MicroMega», 6/2024, pp. 185-196. ↩︎
5. N. Bobbio, Il futuro della democrazia, Einaudi, Torino 1994, p. 19; K. Popper, Conjectures and Refutations, Routledge, London 1974, pp. 344 sgg.; C. Crouch, Post-democracy, Polity Press, Cambridge 2004. ↩︎
6. Per il transusmanesimo come «nuova religione», si veda L. Alexandre, La guerre des intelligences. Intelligence artificielle versus intelligence humaine, JC Lattès, Paris 2017, p. 269; S. Zizek, Living in the End Times, Verso, London 2010, pp. 347-352. ↩︎
7. https://www.theguardian.com/technology/2023/may/30/risk-of-extinction-by-ai-should-be-global-priority-say-tech-experts . Per un’analisi più articolata della questione rimando a P. Ercolani, Nietzsche l’iperboreo. Il profeta della morte dell’uomo nell’epoca dell’Intelligenza artificiale, Il Nuovo Melangolo, Genova 2022, pp. 324-349. ↩︎
8. Cfr. J.G. Fichte, Filosofia della massoneria, Bastogi, Roma, in particolare pp. 45-6; D. Noble, The Religion of Technology. The Divinity of Man and the Spirit of Invention, Alfred A. Knopf, New York 1997. ↩︎

Parvis extiende su profundo reconocimiento al autor por su generosidad y amabilidad al compartir un documento que transcribe sus pensamientos, los que enriquecen el debate sobre el futuro de la humanidad en la era digital. Para realce de la redacción y los conceptos originales, y con la idea de amenizar la lectura, se agregó el énfasis de las negritas, y también se realizaron ínfimas adaptaciones en el uso de mayúsculas, todo ello siguiendo el propio estilo editorial.