La compañía actualizó el sistema de seguridad de Fable 5 para reducir los bloqueos erróneos que afectaban las consultas legítimas de investigadores. El cambio permitirá que el modelo resuelva más tareas científicas por cuenta propia, aunque mantendrá las restricciones a las solicitudes que puedan causar daños graves.
Hasta ahora, las consultas marcadas se derivaban a un modelo de menor capacidad, habitualmente uno de los sistemas Opus. Anthropic anunció que una clasificación más precisa permitirá a Fable gestionar internamente un mayor número de pedidos y distinguir mejor entre usos legítimos y potencialmente peligrosos.
El riesgo detrás de las consultas de doble uso
En ciencia y tecnología, el concepto de doble uso se aplica a conocimientos o herramientas que pueden tener una finalidad beneficiosa y también emplearse para causar daño. La biotecnología, por ejemplo, puede contribuir al desarrollo de medicamentos, pero algunas de sus técnicas también podrían utilizarse para crear amenazas biológicas.
El problema cobró importancia debido a las capacidades alcanzadas en Fable 5. Según Anthropic, el modelo puede superar a expertos en algunas tareas biológicas de alta complejidad y brindar asistencia operativa en otras. Eso podría ayudar a un investigador que trabaja en un nuevo tratamiento médico, aunque la misma información también resultaría útil para desarrollar un arma biológica.
La empresa advirtió que los usuarios con conocimientos avanzados pueden ocultar sus intenciones detrás de pedidos que parecen formar parte de una investigación ordinaria. Sus evaluaciones indican que Fable 5 podría otorgar a un actor malicioso capacidades difíciles de obtener por otros medios.
Anthropic también citó la Evaluación Anual de Amenazas de 2026 de la Comunidad de Inteligencia de Estados Unidos para respaldar sus recaudos. A partir de ese diagnóstico, la compañía decidió mantener barreras especiales en las tareas científicas consideradas más sensibles.
Menos bloqueos para los investigadores
Cuando lanzó Fable 5, Anthropic bloqueó casi todas las consultas relacionadas con la biología. La medida permitió ofrecer el modelo a usuarios de otros sectores mientras la compañía trabajaba en mecanismos capaces de reconocer las solicitudes que podrían ocultar una finalidad peligrosa.
La empresa sabía que esa decisión generaría un elevado número de falsos positivos. Muchas consultas válidas quedaban clasificadas como riesgosas y eran derivadas a un sistema menos capaz, lo que dificultaba el trabajo cotidiano de científicos y especialistas.
El nuevo clasificador busca reducir esos bloqueos sin eliminar las barreras aplicadas a las tareas de mayor riesgo. Fable 5 seguirá rechazando consultas de doble uso vinculadas a la biología profesional y al desarrollo de fármacos.
Anthropic afirmó que trabaja en una vía segura y escalable para que los investigadores accedan a sus modelos más avanzados mediante canales protegidos. La actualización amplía las posibilidades de la IA aplicada a la investigación científica, pero conserva límites en cuanto a las capacidades que podrían utilizarse fuera de un entorno controlado.
*Esta nota fue publicada originalmente en Forbes.com.