Lo que necesitas saber
La inteligencia artificial avanza rápido, pero la seguridad corre igual de rápido detrás. Anthropic, la empresa detrás de Claude, anunció que restableció el acceso a Claude Fable 5 después de reforzar sus sistemas de protección contra posibles jailbreaks, es decir, técnicas usadas para intentar que una IA ignore sus reglas de seguridad.
El caso nació tras reportes sobre una posible forma de esquivar algunos filtros del modelo en tareas relacionadas con ciberseguridad. Anthropic explicó que el comportamiento detectado no abre capacidades ofensivas únicas, pero sí correspondía a una zona delicada.
Todo comenzó con reportes sobre una posible forma de esquivar algunos filtros del modelo en tareas relacionadas con ciberseguridad. Se trataba de solicitudes que podían parecer defensivas, pero que también podían ser usadas de forma riesgosa. Por eso, la compañía entrenó un nuevo clasificador de seguridad para bloquear ese tipo de intentos con mayor precisión.
Según la empresa, el nuevo filtro bloquea la técnica reportada en más del 99% de los casos. Cuando una solicitud es considerada riesgosa, el sistema puede impedir que Claude Fable 5 responda directamente.
En esos casos, la petición puede derivarse a Claude Opus 4.8, un modelo con límites más conservadores para este tipo de tareas sensibles.
"El nuevo filtro bloquea la técnica reportada en más del 99% de los casos."
Porque los modelos de IA ya no solo sirven para responder preguntas simples. Hoy pueden ayudar a programar, analizar sistemas, automatizar procesos y resolver tareas complejas. Eso abre enormes oportunidades para usuarios, empresas y desarrolladores, pero también obliga a crear barreras más sólidas para evitar usos maliciosos.
El gran desafío está en el equilibrio. Si los filtros son demasiado estrictos, pueden bloquear consultas legítimas de programación, soporte técnico o ciberseguridad defensiva. Pero si son demasiado flexibles, podrían permitir respuestas peligrosas. Anthropic reconoce que este nuevo sistema puede generar más falsos positivos, aunque afirma que seguirá ajustándolo para diferenciar mejor entre un uso legítimo y uno riesgoso. Este episodio deja una señal clara para toda la industria: la seguridad de la IA no puede depender de una sola capa.
Es una técnica usada para intentar que un modelo de IA ignore sus reglas de seguridad y responda algo que normalmente no debería.
Tras detectar una posible forma de esquivar filtros en solicitudes relacionadas con ciberseguridad, la empresa reforzó sus sistemas antes de restablecer el acceso.
Según Anthropic, bloquea la técnica reportada en más del 99% de los casos.
Puede ser bloqueada o derivada a Claude Opus 4.8, un modelo con límites más conservadores.
Anthropic reconoce que puede generar más falsos positivos, pero seguirá ajustando el sistema para no bloquear usos legítimos.
¿Quieres estar al día con la tecnología que viene?
Descubre más novedades y productos tech en Bestmart.cl.
Ir a Bestmart.cl
