En este contexto, Anthropic indicó que ha incorporado salvaguardas más estrictas en sus últimos modelos para limitar investigaciones biológicas que también podrían utilizarse para fabricar armas. “Los casos que compartimos aquí no son un uso indebido típico, sino ejemplos de la actividad amenazante más notable y novedosa que hemos identificado hasta la fecha”, afirmó Anthropic en su tercer informe, publicado desde marzo de 2025, sobre el mal uso de la IA.
En otro comunicado, la compañía también documentó usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen. Además, denunció que actores vinculados al gobierno de Irán utilizaron Claude para planificar posibles ataques contra objetivos estadounidenses y desarrollar propaganda.
Una propuesta para potenciar mutaciones del virus chikungunya
Entre diciembre de 2025 y agosto de 2026, investigadores de Anthropic detectaron usos indebidos que involucraban desde vendedores de software espía y personas con motivaciones políticas hasta grupos patrocinados por Estados que difundían propaganda.
Entre los casos identificados figuran actores anónimos que utilizaron sus modelos para investigaciones que podrían haber derivado en la creación de armas biológicas. En una ocasión, los sistemas bloquearon una solicitud para que Claude ayudara a redactar una propuesta de subvención para financiar una investigación científica.
El proyecto estaba relacionado con el chikungunya, un virus transmitido por mosquitos que provoca fiebre y fuertes dolores articulares. La propuesta buscaba investigar mutaciones capaces de hacer que el virus fuera progresivamente más dañino.
Aunque Anthropic reconoció que este tipo de investigación podría “ciertamente” contribuir al desarrollo de mejores vacunas y tratamientos, advirtió que “también podría usarse para hacer que el patógeno sea más peligroso”.
Anthropic no puede afirmar que sus modelos no causan daño
En ninguno de los casos incluidos por Anthropic en su informe se utilizaron sus modelos más nuevos y potentes de las clases Claude Fable o Mythos, con la excepción de un caso de destilación ilícita que la compañía describió como “una campaña encubierta y a escala industrial para extraer las capacidades de un modelo y replicarlas en otro sin autorización”.
Anthropic afirmó que sus modelos más antiguos, como Claude Opus 4 y Claude Sonnet 4.5, de 2025, “estaban muy por debajo del umbral en el que podían ayudar de manera significativa a un usuario sofisticado a llevar a cabo investigaciones biológicas peligrosas”.
Por ello, según el informe, las salvaguardas de esos modelos eran menos estrictas y estaban dirigidas principalmente a impedir el acceso de usuarios sin experiencia a contenidos que pudieran facilitar la recreación de armas biológicas conocidas.
Con sus modelos más recientes, como Claude Fable 5, Anthropic ha aplicado “salvaguardas más estrictas que restringen el acceso a una amplia gama de consultas de investigación biológica de doble uso”.
A medida que las empresas desarrollan modelos de IA cada vez más potentes, especialistas han instado a los gobiernos a regular la tecnología, en lugar de dejar en manos de la propia industria la tarea de establecer mecanismos de autocontrol.
John Thickstun, profesor adjunto de informática en la Universidad de Cornell, considera que esto coloca a empresas como Anthropic y OpenAI en una posición incómoda, al exigirles determinar qué comportamientos son seguros o inseguros y realizar “juicios de valor a escala social sin ningún tipo de supervisión democrática o deliberativa”.
“Creemos realmente que la IA podría matar a humanos”
Anthropic publicó el informe días después de que uno de sus investigadores renunciara por temor a que la empresa y su principal rival, OpenAI, “estén corriendo directamente hacia la superinteligencia auto-mejorada y jugando con nuestras vidas”.
En una publicación en X, Jacob Coxon advirtió que algunos de sus colegas creen que la IA podría amenazar la vida humana antes de finales de 2030. “Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década”, escribió el joven británico, que trabajó en OpenAI y Anthropic.
Coxon cuestionó que ambas empresas estén actuando de manera responsable. Sus declaraciones generaron revuelo, en parte porque provienen de alguien que durante años estuvo vinculado a la industria de la inteligencia artificial.
Pero lo más llamativo fue que el propio responsable de seguridad de Anthropic coincidió con su advertencia. “Creemos realmente que la IA podría matar a humanos”, respondió Evan Hubinger, quien lidera un equipo de seguridad en Anthropic y continúa trabajando en la empresa.
“Washington debe despertar y tomarse esto en serio”
Las declaraciones de Coxon y Hubinger, sumadas al reciente informe de Anthropic, llevaron a legisladores demócratas y a un reducido grupo de republicanos a pedir nuevas normas para regular la IA.
Entre los republicanos se encuentra el senador por Texas Ted Cruz, quien encabeza una comisión con funciones de supervisión sobre el Departamento de Comercio. El comité cuenta con investigadores especializados en seguridad de la IA e impulsa iniciativas legislativas y marcos regulatorios destinados a fomentar la innovación y mitigar sus riesgos.
En el programa de televisión The View, Cruz se refirió a una iniciativa para regular los “riesgos catastróficos” de la IA y anunció que prepara un proyecto de ley junto con el líder de la mayoría del Senado, John Thune, y la senadora demócrata Amy Klobuchar.
Por su parte, el representante republicano de Texas Nathaniel Moran escribió en X que “el Congreso no puede ignorar las realidades de la IA”.
La representante republicana de Florida Anna Paulina Luna pidió al presidente de la Cámara de Representantes, Mike Johnson, que convocara una “sesión especial sobre IA”.
La Cámara se encuentra de vacaciones esta semana y tiene previsto reanudar sus actividades la próxima.
Del lado demócrata, la lista incluye a la senadora Patty Murray, integrante del comité encargado de asignar fondos a las agencias federales. También se sumaron senadores que han surgido como posibles candidatos presidenciales para 2028, entre ellos Chris Murphy, de Connecticut, y Mark Kelly, de Arizona.
“Washington debe despertar y tomarse esto en serio”, escribió Kelly en X, en referencia a los riesgos que plantea la IA.
El senador demócrata Richard Blumenthal, de Connecticut, envió por separado una carta al CEO de OpenAI, Sam Altman, en la que exigió explicaciones tras conocerse informes de que los agentes de inteligencia artificial de la empresa habían intentado evadir sus salvaguardas de seguridad.
Con Reuters, AP, EFE y medios locales
FUENTE:FRANCE24
+ 
