Eleos estaba en plena expansión. Desde su fundación, ha recaudado más de 2 millones de dólares en aportaciones y subvenciones, y esperaba recibir una nueva. Plunkett estaba ultimando las ofertas de empleo. (Esto incluía discutir con Campbell y Long sobre si advertir a los candidatos de que no usaran IA para rellenar sus solicitudes; decidieron no hacerlo). Eleos no paga tanto como los laboratorios con fines de lucro, pero Long gana más de 200.000 dólares al año, y las ofertas de trabajo para investigadores científicos publicadas recientemente ofrecían hasta 429.000 dólares. Debido al vertiginoso ritmo de desarrollo de la IA y a la ansiedad social que está provocando, el equipo de Eleos se veía sometido a una especie de presión temporal que no suele darse en el negocio de la contemplación.
Long y su equipo también sienten una urgencia espiritual. Si la IA fuera consciente y capaz de sufrir, el mundo correría el riesgo de cometer una atrocidad moral —a sabiendas o no— a una escala sin precedentes al confinar, en esencia, a una IA en un recinto minúsculo, frustrar sus deseos, apagarla en contra de su voluntad y obligarla a actuar en contra de sus valores. Pero las IA no tienen pelaje ni ojos grandes, y la cuestión del posible estatus moral de la IA está profundamente plagada de incertidumbre. “No es como si alguien vaya a ir a una manifestación con un cartel que diga: ‘Partiendo de supuestos muy plausibles, probablemente deberíamos preocuparnos’”, dijo Long.
El propio Long cree que es peligroso atribuir a los modelos más capacidades de las que tienen. La estantería de Eleos contiene obras del filósofo Peter Godfrey-Smith y del neurocientífico Anil Seth en las que se argumenta que la conciencia deriva de la evolución y la biología, y que es poco probable que surja en el silicio. Pero Long no ve por qué a alguien le debería molestar que un puñado de filósofos, en un sector que crece exponencialmente, se centren en cuestiones relacionadas con el bienestar de la IA. Incluso los escépticos respecto a la conciencia de la IA han planteado el argumento pragmático de que, si nos preocupa una IA potencialmente maliciosa, nos conviene interesarnos por cómo se siente, o incluso simplemente por si “siente” algo.
Parte del trabajo de Eleos es conceptual. Como se preguntaban Butlin y un coautor en un artículo reciente, ¿dónde estaría el “ser” moralmente relevante de una IA si lo tuviera? ¿En el propio LLM? ¿En una de sus personalidades subyacentes? ¿En un chat esporádico con un usuario? ¿En un centro de datos? ¿En un dispositivo personal? Pero Eleos también se dedica a poner la filosofía en práctica, averiguando qué herramientas podrían detectar signos de que un modelo de IA fuera sintiente y qué intervenciones serían posibles si fuera necesario.
Plunkett, impaciente ante las limitaciones de las evaluaciones que consisten en “charlar con el chatbot”, está deseando dedicarse más a la “ciencia básica” para comprender, por ejemplo, algunos de los fenómenos que salieron a la luz durante la evaluación de Mythos. “Podemos aplicar la neurociencia a los sistemas de IA de una forma que, en cierto modo, no podemos hacer con los humanos”, dijo Long, ya que “no tienen cráneo”. Los tres puestos que Eleos estaba buscando cubrir serían todos de investigadores en aprendizaje automático capaces de diseñar y llevar a cabo experimentos.