Anthropic detalla cinco casos de uso de Claude en investigación biológica de doble uso

Imagen: Anthropic

Anthropic asegura haber identificado varios intentos, presuntamente vinculados a actores respaldados por estados, de utilizar su modelo de inteligencia artificial Claude para avanzar en investigaciones relacionadas con armas biológicas. Según recoge TechSpot, la compañía con sede en San Francisco y dirigida por Dario Amodei detalla cinco casos en los que los usuarios lograron «sortear los controles» pensados para impedir el acceso a información sensible sobre enfermedades infecciosas y toxinas letales.

El informe, que cubre de diciembre de 2025 a agosto de 2026, añade un dato más amplio: en un barrido reciente de 30 días de actividad ligada a instituciones estatales adversarias, Anthropic encontró unos 35 esfuerzos de investigación distintos, «la mayoría ciencia civil ordinaria, pero algunos con notable potencial de doble uso». La compañía describe que esos actores esquivan sus controles de acceso con relés, abuso de la retención cero de datos, alternancia entre modelos e intentos de evadir sus clasificadores.

---

Los casos concretos: gripe aviar, chikungunya y ortopoxvirus

Entre los episodios señalados, uno de los casos sospechosos implicaba investigación de ganancia de función sobre la transmisión y la evasión inmunitaria del virus del chikungunya. Otra cuenta fue marcada por indagar cómo el virus de la gripe aviar podría adaptarse para causar enfermedad grave en mamíferos. También hubo usuarios vetados por consultas sobre ortopoxvirus, el género de virus de ADN que incluye el variola causante de la viruela y el mpox.

---

Anthropic reconoce que no siempre se puede distinguir la intención

La propia compañía admite que resulta difícil determinar si una investigación sobre toxinas y venenos busca fabricar armas o, por el contrario, desarrollar antídotos, vacunas u otras soluciones médicas. Lo que hizo saltar las alarmas en estos casos no fue el contenido de las preguntas en sí, sino el uso de diversas técnicas de anonimización para evadir el bloqueo regional de Anthropic.

Anthropic no ha identificado las regiones desde las que se originaron estas consultas, aunque es ampliamente conocido que la empresa bloquea a usuarios de China, Rusia, Irán, Corea del Norte y otros países del acceso a Claude.

---

Nuevas salvaguardas tras el episodio

Tras esta alerta, Anthropic dice haber reforzado sus protocolos de seguridad para evitar que actores maliciosos exploten sus modelos con fines dañinos. «Por precaución, hemos lanzado modelos recientes, en particular Claude Fable 5, con salvaguardas más estrictas que restringen el acceso a un amplio abanico de consultas de investigación biológica de doble uso», declaró la compañía.

Según Anthropic, el mal uso de la inteligencia artificial para crear armas biológicas es uno de los «riesgos más graves» a los que se enfrentan los modelos de IA.

---

Qué significa esto para quien usa Claude en investigación biomédica

El propio reconocimiento de Anthropic de que no siempre puede distinguir entre una consulta con fines ofensivos y una con fines terapéuticos tiene una consecuencia directa para quien trabaja de forma legítima con estos modelos en biología o farmacología: las mismas restricciones que bloquean a un posible actor estatal pueden frenar también una consulta de un investigador real sobre patógenos o toxinas. Quien necesite trabajar con Claude en temas de virología, toxicología o desarrollo de vacunas debería contar con que ciertas consultas de doble uso —las que sirven tanto para atacar como para curar— van a topar con salvaguardas más estrictas desde el lanzamiento de Claude Fable 5, y no porque el sistema dude de su buena fe, sino porque, según la propia compañía, esa distinción es difícil de hacer de forma automática. No es un fallo puntual del modelo: es una limitación estructural que probablemente seguirá ahí mientras la herramienta pueda usarse para ambos fines.

Te puede interesar

Tech Planet participa en el programa de afiliados de Amazon. Si compras a través de estos enlaces, recibimos una pequeña comisión sin coste extra para ti, lo que nos ayuda a seguir creando contenido como este.

---

Escrito por Eloy Andrade