Dos interesantísimas reflexiones de Gustavo Dessal, en El manicomio global.
1. “La Inteligencia Artificial Humana llegará siempre más lejos”
Parece que cuanto más hablamos de la inteligencia artificial, más nos vemos obligados a hablar de la inteligencia humana. Gustavo, reconoce el valor de introducir límites antes de desplegar una tecnología, pero también señala una objeción incómoda: incluso los proyectos más atentos a las cuestiones éticas siguen insertos en estructuras económicas, geopolíticas e institucionales que no controlan completamente. El verdadero asunto aparece cuando descubrimos que el problema tecnológico no puede resolverse únicamente mediante soluciones tecnológicas. Quis custodiet ipsos custodes? Si no confiamos en las empresas tecnológicas, ¿debemos confiar en los Estados? Y si tampoco confiamos plenamente en los Estados, ¿dónde situamos entonces la garantía ética? Su respuesta es inquietante: en ninguna parte. No existe ningún dispositivo capaz de eliminar la destructividad humana.
Ese es, quizá, el núcleo de todo el artículo. No nos está advirtiendo sobre las máquinas, sino sobre algo mucho más antiguo: toda herramienta amplifica también aquello que somos. La historia de la humanidad está llena de avances extraordinarios puestos al servicio de fines devastadores. Por eso conviene evitar el fetichismo tecnológico: la cuestión decisiva sigue siendo política, ética y humana.
Si la destructividad humana es potencialmente infinita, entonces cualquier tecnología aparece subordinada a esa lógica. Lo que nos lleva a preguntarnos si el problema de la IA es realmente la IA o si, como tantas veces ha ocurrido en la historia, estamos utilizando una nueva tecnología para volver a encontrarnos con una pregunta muy antigua: ¿qué hacemos los seres humanos con el poder cuando lo tenemos en nuestras manos?
2. “La moderna nave de los locos”
Donde Gustavo Dessal nos hace pensar en el sujeto proclive al delirio que, como bien señala, acompaña siempre a la historia humana; y en que hoy existe un medio capaz de ofrecerles confirmación permanente y comunidad; donde las certezas delirantes pueden encontrar confirmación mutua (mucho más allá de QAnon). La red ha alterado profundamente la relación entre la convicción individual y el lazo social, ofrecen un «Otro prêt-à-porter» para la psicosis, y generan cámaras de eco, sesgos de confirmación y formas de pertenencia que pueden afectar, en mayor o menor medida, a cualquiera de nosotros. No hace falta estar psicótico para habitar un medio donde toda la información confirma sistemáticamente aquello que uno ya creía. La paranoia surge de una estructura subjetiva favorecida por un entorno donde desaparecen los mecanismos compartidos de verificación.
Cuando toda la experiencia está mediada por algoritmos que optimizan el tiempo de permanencia, el sistema tiene pocos incentivos para introducir aquello que contradice nuestras certezas. Con lo que el problema ya no sería únicamente clínico, sino también ecológico. No cambia la estructura del sujeto, pero sí las condiciones en las que esa estructura encuentra reconocimiento, amplificación y lazo social.
