Anthropic asegura que su IA frustró varios intentos de crear armas biológicas: así detectó y bloqueó los usos peligrosos
La inteligencia artificial vuelve a estar en el centro del debate por sus posibles usos peligrosos. Anthropic aseguró que durante este año detectó y bloqueó varios intentos de utilizar sus modelos para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
La compañía estadounidense reconoció que no pudo determinar si todos los casos tenían una intención maliciosa. Sin embargo, decidió intervenir ante el riesgo de que sus sistemas pudieran facilitar investigaciones relacionadas con patógenos peligrosos.
Anthropic detectó investigaciones que podían tener un uso peligroso
La empresa explicó que sus sistemas de seguridad permitieron identificar actividades que podían representar un riesgo. Ante estos casos, optó por bloquear el uso de sus modelos, aunque no existieran pruebas definitivas de que los usuarios pretendieran fabricar armas biológicas.
Anthropic también hizo una precisión importante: que un modelo de IA demuestre capacidad para ayudar en una determinada investigación no significa que esa capacidad vaya a utilizarse realmente para desarrollar armas. Por ello, la compañía diferencia entre la capacidad técnica y el uso malicioso en el mundo real.
El doble uso de la IA genera nuevas preocupaciones
El caso refleja uno de los principales desafíos de la inteligencia artificial: una herramienta creada para apoyar investigaciones científicas puede terminar siendo utilizada con objetivos completamente distintos. Los conocimientos que permiten avanzar en biología también podrían emplearse en actividades potencialmente peligrosas.
Anthropic aseguró que ha desarrollado mecanismos para detectar y bloquear usos de riesgo en sus modelos. La compañía también informó sobre otros casos de uso indebido de Claude detectados durante los últimos ocho meses en países como China, Rusia y Yemen, en un contexto de creciente preocupación por la autonomía y el uso dual de la IA.