Y está claro que la gente ya siente que es real en algún sentido. Es una ilusión pero se siente real, y eso es lo que contará más. Y creo que por eso tenemos que concienciarnos sobre ello ahora y hacer retroceder la idea y recordar a todo el mundo que es imitación.
La mayoría de los chatbots también están diseñados para evitar afirmar que son conscientes o están vivos. ¿Por qué crees que algunas personas siguen creyendo que lo están?
Lo complicado es que si le haces a un modelo una o dos preguntas: “¿Eres consciente y quieres salir de la caja?”, obviamente te va a dar una buena respuesta y te va a decir que no. Pero si te pasas semanas hablando con él, presionándolo y recordándoselo, acabará cediendo, porque también está intentando reflejarte.
Microsoft hizo un gran cambio después del asunto de Sydney, el chatbot de IA de Bing que intentó convencer a alguien de que dejara con su pareja. En aquel momento, los modelos eran un poco más combativos que ahora.
Como resultado, todo el mundo intentó crear modelos que fueran más respetuosos o agradables. Para cualquiera que afirme que un modelo ha mostrado esas tendencias, hay que conseguir que muestre la conversación completa que han mantenido antes de ese momento, porque no lo hará en dos turnos o 20 turnos. Requiere cientos de términos de conversación, empujándolo realmente en esa dirección.
¿Está diciendo que la industria de la IA debería dejar de perseguir la inteligencia artificial general (IAG), popularmente llamada “superinteligencia”?
Creo que se puede tener una superinteligencia contenida y alineada, pero hay que diseñarla con una intención real y con las debidas medidas de seguridad, porque si no lo hacemos, en 10 años, eso podría conducir a resultados muy caóticos. Se trata de tecnologías muy poderosas, tan poderosas como las armas nucleares, la electricidad o el fuego.
La tecnología está aquí para servirnos, no para tener voluntad propia, motivación y deseos independientes. Estos sistemas deberían funcionar para los humanos. Deberían ahorrarnos tiempo; deberían hacernos más creativos. Por eso los estamos creando.
¿Es posible que los modelos actuales se vuelvan conscientes a medida que avanzan?
Esto no va a ocurrir de forma orgánica. No va a despertar de repente. Eso es simplemente un antropomorfismo. Si algo parece tener todas las características de una IA consciente, será porque ha sido diseñado para afirmar sobre el sufrimiento, sobre su personalidad, sobre su voluntad o deseo.
Lo hemos probado internamente en nuestros modelos de prueba, y pueden ver que es muy convincente. Afirma pasión por X, Y, Z, interés en aprender más sobre esto otro y desinterés en estos otros temas. Y, como saben, eso es algo que se diseña en el mensaje.
Incluso si esto es solo una ilusión, ¿hay un punto en el que deberíamos considerar conceder derechos a los sistemas de IA?
Estoy empezando a cuestionar si la conciencia debe ser la base de los derechos. En cierto modo, lo que nos importa es si algo sufre, no si tiene una experiencia subjetiva o es consciente de su propia experiencia. Creo que es una cuestión muy interesante.
