“El mundo está en peligro”: renunció un experto en seguridad de IA

Mrinank Sharma dejó Anthropic y advirtió sobre los riesgos de la inteligencia artificial, las armas biológicas y otras crisis globales.

En su carta de renuncia, compartida en X, Mrinank Sharma comunicó a la empresa que se marchaba debido a su preocupación por la inteligencia artificial, las armas biológicas y la situación actual del mundo.

Dijo que, en cambio, se dedicaría a escribir y a estudiar poesía, y que regresaría al Reino Unido para «volverse invisible».

Esto ocurre la misma semana en que una investigadora de OpenAI anunció su dimisión, expresando su preocupación por la decisión del creador de ChatGPT de incluir anuncios en su chatbot .

Anthropic, más conocida por su chatbot Claude, había lanzado una serie de anuncios dirigidos a OpenAI, criticando la decisión de la compañía de incluir publicidad para algunos usuarios.

La empresa, fundada en 2021 por un grupo disidente de los primeros empleados de OpenAI, se ha posicionado como una compañía con un enfoque más orientado a la seguridad en la investigación de la IA en comparación con sus rivales.

Sharma dirigió un equipo que investigó las medidas de seguridad contra la IA.

En su carta de renuncia, afirmó que entre sus contribuciones se incluían la investigación de por qué los sistemas de IA generativa buscan congraciarse con los usuarios , la lucha contra los riesgos del bioterrorismo asistido por IA y la investigación de «cómo los asistentes de IA podrían hacernos menos humanos».

Pero dijo que, a pesar de haber disfrutado de su tiempo en la empresa, estaba claro que «había llegado el momento de seguir adelante».

«El mundo está en peligro. Y no solo por la IA o las armas biológicas, sino por toda una serie de crisis interconectadas que se están desarrollando en este preciso momento», escribió Sharma.

Dijo haber «visto repetidamente lo difícil que es dejar que nuestros valores guíen nuestras acciones», incluso en Anthropic, donde, según él, «se enfrentan constantemente a presiones para dejar de lado lo que más importa».

Sharma dijo que, en cambio, optaría por estudiar poesía y escritura.

En su respuesta, añadió: «Volveré al Reino Unido y me permitiré pasar desapercibido durante un tiempo».

Las empresas de IA que se marchan, tras haber tenido un papel destacado en el último auge de la IA generativa, y que han intentado retener el talento con salarios o compensaciones muy elevadas, a menudo lo hacen manteniendo intactas muchas acciones y beneficios.

Principios de erosión
Anthropic se autodefine como una «corporación de beneficio público dedicada a asegurar los beneficios de la IA y mitigar sus riesgos».

En particular, se ha centrado en prevenir aquellos problemas que, a su juicio, plantean los sistemas de vanguardia más avanzados, como su desalineación con los valores humanos, su mal uso en áreas como los conflictos o su excesivo poder .

Ha publicado informes sobre la seguridad de sus propios productos, incluyendo uno en el que afirmó que su tecnología había sido «utilizada como arma» por piratas informáticos para llevar a cabo sofisticados ciberataques.

Pero también ha sido objeto de escrutinio por sus prácticas. En 2025, acordó pagar 1.500 millones de dólares (1.100 millones de libras esterlinas) para resolver una demanda colectiva presentada por autores que alegaban que la empresa había robado sus trabajos para entrenar sus modelos de IA.

Al igual que OpenAI, la empresa también busca aprovechar los beneficios de la tecnología, incluso a través de sus propios productos de IA, como su rival ChatGPT, Claude.

Recientemente, lanzó un anuncio publicitario que criticaba la decisión de OpenAI de empezar a mostrar anuncios en ChatGPT.

El director de OpenAI, Sam Altman, había dicho anteriormente que odiaba los anuncios y que los usaría como «último recurso».

La semana pasada, respondió a la descripción del anuncio como una «traición», pero fue objeto de burlas por su extenso mensaje criticando a Anthropic .
Una exinvestigadora de OpenAI que dimitió esta semana, en parte debido a sus temores sobre el uso de publicidad en ChatGPT, declaró a BBC Newsnight que se siente «muy nerviosa por trabajar en el sector».

Zoe Hitzig afirmó que sus preocupaciones se debían a los posibles impactos psicosociales de un «nuevo tipo de interacción social» que aún no se comprendían.

Señaló que las «primeras señales de alerta» indicaban que la dependencia de las herramientas de IA era «preocupante» y podía «reforzar ciertos tipos de delirios», además de afectar negativamente la salud mental de los usuarios de otras maneras.

«Crear un motor económico que se beneficie de fomentar este tipo de nuevas relaciones antes de que las comprendamos es realmente peligroso», continuó.

«Vimos lo que pasó con las redes sociales», dijo, y añadió: «Todavía hay tiempo para establecer las instituciones sociales y las formas de regulación que puedan controlar esto». Fue, según ella, un «momento crítico».

En respuesta a BBC News, un portavoz de OpenAI señaló los principios de la empresa, que establecen: «Nuestra misión es garantizar que la IA general beneficie a toda la humanidad; nuestra actividad publicitaria siempre apoya esa misión y busca hacer que la IA sea más accesible».

Añaden: «Mantenemos la privacidad de tus conversaciones con ChatGPT, protegiéndolas de los anunciantes, y nunca vendemos tus datos a anunciantes».