Medio
Supone un cambio respecto a la idea que la ética es un añadido posterior, que se diga que los filósofos serán quienes «introduzcirán» los valores en las máquinas. No estamos segurosde que esa sea la cuestión decisiva. Los valores no aparecen cuando llega el filósofo. Ya estaban presentes cuando alguien decidió qué datos utilizar, qué objetivos optimizar, qué riesgos aceptar, qué métricas considerar éxito, qué mercados priorizar y qué usuarios proteger.
La ética no entra al final del proceso: está distribuida por todo el proceso.
Nuestro problema, hoy, es comprender que esos criterios emergen de redes muy complejas donde intervienen empresas, reguladores, usuarios, culturas, mercados, datos, algoritmos y millones de interacciones. Es decir, menos un soberano y más una ecología. Por eso tampoco me convence la oposición entre ingenieros y filósofos. No necesitamos filósofos para poner ética donde antes no la había. Necesitamos que ingenieros, filósofos, psicólogos, psicoanalistas, juristas, diseñadores y ciudadanos comprendan que todos participamos en la construcción del medio.
Seguimos imaginando la ética como una instancia supervisora, cuando parece ser más una propiedad del ecosistema. ¿Quién decide los valores, qué tipo de medio hace posibles unos y no otros? Una IA, por ejemplo, no aprende solamente principios; aprende del mundo que le ofrecemos. Y si ese mundo recompensa la polarización, la extracción de atención o la maximización del beneficio, ningún filósofo incorporado al final de la cadena podrá corregir por sí solo ese aprendizaje.
Ahí veo la diferencia entre una mirada instrumental y una mirada ecológica de la inteligencia artificial. La primera busca mejores guardianes. La segunda se pregunta por las condiciones del mundo que esos guardianes están ayudando a construir, buscando …sostener sin captura.
Mientras tanto, seguimos preguntándonos quién sostiene. Tal vez porque seguimos pensando que el problema aparece al final, si el sostén es una propiedad del medio, entonces ninguna intervención tardía podrá sustituir las condiciones desde las que ese medio fue construido.
Aprender a construir ecologías donde determinadas formas de vida, de pensamiento y de relación (humanas, no humanas y, por qué no, extraterrestres) puedan emerger sin necesitar ser continuamente capturadas para permanecer.
Ese sostén no sería una virtud del individuo: sería una propiedad del medio que hemos construido.
