Mrinank Sharma, quien era el jefe del equipo de Safeguards Research en Anthropic (la empresa detrás de Claude, fundada por exmiembros de OpenAI), ha renunciado a su cargo. Y lo ha acompañado con un curioso movimiento: una inquietante carta que ha compartido en la red social X y que ha generado miles de interacciones.
En su escrito, el ex líder del grupo especializado en estudiar los riesgos relacionados con los entornos de IA plasma diversas ideas que dejan un poso pensativo y misterioso. No se trata de una maniobra dramática, ni tampoco una denuncia explosiva. Es una reflexión más profunda, pero cuyas conclusiones quedan algo desdibujadas y dan pie a formular muchos interrogantes. Aunque esboza en el aire algunas críticas más sutiles, también reconoce la excelencia en Anthropic y se muestra complacido por haber formado parte del equipo.
El anuncio se enmarca en un contexto en el que hace unos días también abandonaron la empresa Harsh Mehta y Behnam Neyshabur, dos miembros de este mismo equipo de investigación tecnológica. No obstante, si bien Sharma parece apuntar hacia preocupaciones éticas, sus dos compañeros se dirigen hacia otros proyectos profesionales igualmente relacionados con IA.
Un enfoque desconcertante
Sharma comienza en su carta con un tono luminoso agradeciendo la inspiración que ha encontrado en Anthropic durante esta etapa profesional y haber podido «contribuir de manera impactante y con gran integridad». También reconoce «la voluntad de tomar decisiones difíciles y de defender lo que es bueno«, la «brillantez intelectual y la determinación» y la abundante amabilidad, entre los atributos de la cultura de la empresa.
Además, deja claro que no se va frustrado por incompetencia ni por fracaso: «He conseguido lo que quería aquí», afirma. El exdirectivo refleja estar satisfecho por haber aportado su granito de arena en materias como investigación sobre la sicofancia (la tendencia de los modelos a adular al usuario), el desarrollo e implementación de mecanismos de defensa contra riesgos como el bioterrorismo asistido por IA o la redacción de uno de los primeros AI safety cases. «Estoy especialmente orgulloso de mis recientes esfuerzos por ayudarnos a vivir nuestros valores a través de mecanismos de transparencia interna; y también de mi proyecto final sobre la comprensión de cómo los asistentes de IA podrían hacernos menos humanos o distorsionar nuestra humanidad».
¿Por qué se ha ido Mrinank Sharma de Anthropic?
Sin embargo, según avanza, el texto se va tornando en un entramado poético, críptico y algo oscuro. El experto en ciberseguridad e inteligencia artificial señala las grietas de un sistema sobre el que no tiene claro que esté avanzando en una correcta dirección. Por ello, prefiere mantenerse al margen. Sus preocupaciones van más allá de su rol en la compañía o de la actividad de Anthropic; trascienden del sector de la inteligencia artificial y se zambullen de lleno en la ética de la tecnología.
Sharma ha llegado a la conclusión de querer abandonar su puesto de trabajo en la entidad de IA: «No dejo de reflexionar sobre nuestra situación. El mundo está en peligro. Y no solo por la IA o las armas biológicas, sino por toda una serie de crisis interconectadas que se están desarrollando en este mismo momento», explica, y alude a conceptos como «policrisis» y «metacrisis» que representan esa suma de fenómenos. «Parece que nos estamos acercando a un umbral en el que nuestra sabiduría debe crecer en la misma medida que nuestra capacidad para influir en el mundo y, si no, sufriremos las consecuencias», expresa sobre sus dudas acerca de cómo abordarlo desde una visión ética.
El experto plantea: «He visto repetidamente lo difícil que es dejar que nuestros valores gobiernen verdaderamente nuestras acciones. Lo he visto en mí mismo, dentro de la organización, donde nos enfrentamos constantemente a presiones para dejar de lado lo que más importa, y también en la sociedad en general». En búsqueda de mantener una posición con mayor coherencia moral, el profesional se retira de sus funciones Anthropic.
Resulta llamativa esta reflexión teniendo en cuenta que Claude es considerada por muchos usuarios como una de las IA más cuidadosas con la privacidad y la ciberseguridad. Mrinank Sharma sugiere algo incómodo: incluso en las empresas que más presume de sus valores éticos, hay tensiones constantes entre ideales y realidad.
¿Qué va a hacer ahora Mrinank Sharma?
«No sé qué vendrá después», se sincera Sharma en su prosa de despedida. Solo quiere dejar un hueco libre para descubrir a qué dedicarse a partir de ahora. Sí tiene algunas ideas: «Me siento llamado a escribir sobre el lugar en el que nos encontramos y a comprometerme plenamente con él, y a situar la verdad poética junto a la verdad científica como formas igualmente válidas de conocimiento, ya que creo que ambas tienen algo esencial que aportar al desarrollo de nuevas tecnologías».
«Quiero contribuir de una manera que me haga sentir plenamente íntegro y que me permita aportar más de mis particularidades. Quiero explorar las preguntas que me parecen verdaderamente esenciales», agrega. Durante su explicación, hace un alarde de esta mirada transversal de las Humanidades y cita a poetas como David Whyte o Rilke, así como textos del ámbito de la filosofía moral.
Además, el experto comparte algunos planes concretos: «Espero estudiar una licenciatura en poesía y dedicarme a la práctica del discurso valiente. También me entusiasma profundizar en mi práctica de la facilitación, el coaching, la creación de comunidades y el trabajo en grupo. Veremos qué sucede», concluye, justo antes de adjuntar el poema «The Way It Is», de William Stafford.
En una breve publicación posterior, Sharma ha asegurado que «desaparecerá durante un tiempo» y que volverá al Reino Unido.
