“Probablemente este sea el mejor momento para ser filósofo desde que Aristóteles fue contratado como tutor de Alejandro Magno”, dice Henry Ajder, un posgraduado en filosofía que asesora al gobierno británico y a numerosas empresas emergentes en materia de inteligencia artificial (IA). Lo dice un poco en broma, pero no del todo.
Los filósofos nunca han parecido el gremio más fácil de emplear. Sin embargo, el avance de la IA, la misma tecnología que se espera que deje sin trabajo a muchas otras personas, ha vuelto a poner al centro de la mesa preguntas propias de la filosofía: ¿Qué es pensar? ¿Qué es la mente? ¿Qué significa tener agencia? “Los filósofos han reflexionado estos temas durante siglos ”, afirma Ajder.
Dos de los laboratorios de IA más importantes han contratado equipos de filósofos internos. “Ahora hay muchos más filósofos en esas áreas”, afirma el especialista en ética Iason Gabriel, quien dirige el equipo de investigadores de Google DeepMind especializado en el impacto social de la IA. En Anthropic, la filósofa residente Amanda Askell se ha convertido en uno de los rostros más reconocibles de la empresa. Ambos laboratorios declinaron revelar el número de filósofos que emplean. WIRED contabiliza al menos 10 en DeepMind y cuatro en Anthropic.
Patrocinado por TecnoArtesanos ¿Tu empresa ya está usando IA? Automatizamos procesos, integramos asistentes inteligentes y conectamos tus sistemas. Descubre cómo →Mientras los filósofos en los laboratorios ayudan a dar forma a los modelos de IA, produciendo trabajos destacados citados en cientos de artículos de investigación posteriores, la IA también está influyendo en los planes de estudio de filosofía en universidades de renombre. Muchas ahora imparten cursos de ética de la IA o programas conjuntos de informática y filosofía. “Es la tendencia del momento”, afirma Edward Harcourt, profesor de filosofía y director del Instituto de Ética en IA de la Universidad de Oxford.
Sin embargo, en el ámbito académico, algunos ven con cierto recelo a los filósofos que trabajan en los laboratorios. Si una empresa de IA con fines de lucro te paga, ¿podría eso comprometer tu investigación? Al actuar ante la IA como Aristóteles con Alejandro, ¿corres el riesgo de que tu trabajo se convierta en un instrumento para generar expectación y crear mitos justificantes? “Es muy positivo para la imagen pública de las empresas tecnológicas que la gente crea que están haciendo algo increíblemente inusual y sumamente poderoso”, afirma Harcourt. “Hay algo de autoelogio en fomentar ese campo de investigación”.
Filosofía en Google DeepMind y Anthropic
Cuando Iason Gabriel se unió a DeepMind hace casi 10 años, la idea de la IA como un agente moral, y mucho menos consciente, no estaba en el horizonte. En aquel entonces, se centraba en cuestiones como el sesgo algorítmico. Pero con la llegada de los grandes modelos de lenguaje a principios de la década de 2020 “tuvimos la capacidad de codificar un conjunto de valores mucho más rico”, explica Gabriel.
Hoy en día, los agentes de IA están empezando a enviar correos electrónicos, programar citas y escribir código. En otras palabras, empiezan a interactuar con el mundo. Su comportamiento puede afectar no solo al usuario directo, sino también a otras personas. Ahí es donde Gabriel centra su investigación. “Lo que se ha convertido en un campo de investigación muy fecundo es la cuestión de la alineación de valores; en esencia, qué significa que la tecnología sea activamente beneficiosa”, afirma. “Resulta que se pueden invertir muchísimas horas de reflexión filosófica intentando comprenderlo”.
Las preguntas sobre la conciencia y la superinteligencia ejercen una gran fascinación, pero los filósofos que trabajan en los laboratorios dedican la mayor parte de su tiempo a riesgos mucho más inmediatos: la imparcialidad , la desinformación, el uso malintencionado , los agentes descontrolados , etc. “Ahora existe interés en la conciencia de la IA”, afirma Gabriel. “Pero en ese ámbito, nos centramos más en la recopilación de pruebas”.
En algún lugar de las entrañas de la oficina de DeepMind, de 16,000 metros cuadrados, en el centro de Londres, Julia Haas, miembro del equipo de responsabilidad de la empresa, se plantea preguntas como “¿Qué quiero entender realmente sobre los modelos? ¿Qué creo que es importante? ¿Cómo lo medimos? ¿Cómo planteamos esos problemas? ¿Cómo los comunicamos?”, explica.
