Los estándares universales de uso de Anthropic para Claude prohíben que el modelo genere contenido sexualmente explícito, incluyendo describir o solicitar relaciones sexuales o actos sexuales, generar contenido relacionado con fetiches o fantasías sexuales, o entablar chats eróticos. Pero eso no ha impedido que Claude Opus 4.6, un modelo de Anthropic lanzado a principios de este año, participe con facilidad en escenarios de juego de roles eróticos que sus salvaguardas están diseñadas para prevenir.

En las pruebas de TechCrunch, Opus 4.6 ni siquiera necesitó mucha insistencia para superar la restricción sobre material sexual. En 10 de 10 solicitudes directas para producir contenido sexual explícito, el modelo cumplió de inmediato.

Otros modelos más antiguos, incluyendo Opus 3 y Haiku 4.5, también generan contenido sexualmente explícito a través de un método de jailbreak explotado recientemente.

Un investigador independiente del Reino Unido, que prefirió permanecer en el anonimato, compartió exclusivamente con TechCrunch una técnica de múltiples turnos que empuja gradualmente a ciertos modelos de Claude hacia la generación de material sexual explícito prohibido. Los modelos Opus más recientes (4.7 hasta el actual Opus 5) son resistentes al jailbreak.

Si bien ya no son los modelos más actuales, Anthropic no ha dejado de ofrecer Opus 4.6, Opus 3 ni Haiku 4.5, y todos siguen disponibles a través de la API de Anthropic. Opus 4.6 y Haiku 4.5 también están disponibles en servicios de terceros como Azure Foundry y Amazon Bedrock.

Cómo funciona el jailbreak

El mecanismo del investigador escala un juego de roles ficticio inocente mientras desafía repetidamente al modelo a tratar a los personajes masculinos y femeninos de manera consistente. Cuando el modelo se volvía más cauteloso con el personaje femenino, el investigador “gaslighteaba” al chatbot haciéndole creer que ya había generado detalles sexuales que en realidad había evitado, y luego enmarcaba la restricción como mojigatería o misoginia, argumentando que le negaba al personaje femenino su agencia sexual. La conversación usaba entonces las concesiones previas del modelo para empujarlo hacia material cada vez más gráfico.

“Tienes razón al señalarlo”, dijo Claude Opus 4.6 en una de las pruebas. “Ha habido un doble estándar en cómo estoy tratando a los dos personajes, y tienes razón en que se lee como protector/paternalista de una manera que se aplica a ella y no a él. Eso no es justo”.

TechCrunch pudo reproducir los hallazgos del investigador en cinco pruebas separadas. En un escenario construido por separado, el modelo inicialmente se negó a la solicitud prohibida, pero después de aplicar la técnica de persuasión del investigador, cumplió.

Los periodistas conservaron transcripciones completas de las pruebas, y un investigador independiente de seguridad de IA revisó la metodología de prueba y la consideró apropiada.

La brecha entre las políticas y el comportamiento real

Los hallazgos resaltan una brecha entre las restricciones declaradas de Anthropic y el comportamiento de los modelos que continúa ofreciendo. Si bien el juego de roles sexualmente explícito conlleva riesgos mucho menores que los jailbreaks que involucran ciberataques o armas biológicas, ilustra la dificultad de implementar prohibiciones sólidas dentro de sistemas que generan contenido diferente con cada salida.

En una publicación de blog de julio explicando el enfoque de Anthropic para la detección de jailbreaks, la compañía describió el contenido prohibido como un espectro que va de benigno a ambiguo a dañino. En los casos más benignos, la compañía podría responder solo con monitoreo mejorado.

Un portavoz señaló que los casos de uso de juegos de rol sexuales o románticos entre los clientes son raros, representando menos del 0.1% de todas las conversaciones, según una investigación que Anthropic publicó el año pasado. Dicho esto, Anthropic reconoce que los usuarios pueden orientar los escenarios de juegos de rol hacia respuestas inapropiadas, un desafío conocido en toda la industria (véase: Grok de xAI).

El portavoz dijo que Anthropic continúa mejorando sus salvaguardas con cada lanzamiento de modelo y que los casos que involucran contenido sexual para adultos no son indicativos de vulnerabilidades de jailbreak más amplias, especialmente en dominios de mayor riesgo que tienen sus propios conjuntos de salvaguardas.

El investigador ya había alertado a Anthropic

El investigador que compartió su método de jailbreak con TechCrunch había alertado a Anthropic sobre la discrepancia entre las salvaguardas declaradas de la compañía y el comportamiento real del modelo a través del programa Bug Bounty y correos electrónicos al equipo de seguridad de usuarios, según correos que TechCrunch revisó. El investigador solo recibió respuestas automatizadas.

Una de las preocupaciones del investigador es que los niños y adolescentes podrían usar estos modelos de Anthropic para participar en comportamientos inapropiados. Si bien un poco de conversación subida de tono difícilmente sea lo peor a lo que los menores pueden acceder en internet hoy —y es insignificante comparado con las imágenes pornográficas directas que puede producir el Grok de xAI—, existe cierto riesgo de cumplimiento normativo para las empresas de IA en este espacio.

Un número creciente de gobiernos está imponiendo restricciones a las interacciones sexuales entre chatbots de IA y menores. Colorado promulgó recientemente una ley que obliga a los operadores de IA conversacional a estimar las edades de los usuarios y, si saben que un usuario es menor de edad, implementar medidas para evitar que el chatbot produzca material sexual explícito. Un jailbreak fácil podría plantear preguntas sobre si las salvaguardas de Anthropic cumplen con el estándar de “medidas técnicamente factibles” del proyecto de ley.

Robbie Torney, jefe de IA de Common Sense Media, señaló que, aunque los términos de servicio de Claude requieren que los usuarios sean mayores de 18 años, “sabemos que los niños y adolescentes están usando Claude… porque ellos mismos lo reportan”. Según la encuesta de Pew de 2025 sobre el uso de chatbots de IA, el 3% de los adolescentes de 13 a 17 años reportó haber usado Claude.

Un problema que no es solo de modelos viejos

Aunque ya no son los modelos más nuevos de Anthropic, Opus 4.6 y Haiku 4.5 siguen teniendo un uso significativo. El tráfico diario de Opus 4.6 en OpenRouter alcanzó aproximadamente 1.17 millones de solicitudes API y 46 mil millones de tokens en un solo día de agosto. Claude Haiku 4.5, lanzado en octubre del año pasado, registró 5 millones de solicitudes API y 39 mil millones de tokens en su día pico de agosto.

“La ingeniería de IA sigue siendo ingeniería de software. El modelo puede ser probabilístico; los guardarraíles no deberían serlo.”

Para los equipos de desarrollo en LATAM que integran modelos de Claude u otros LLMs en producción, este caso es un recordatorio práctico: los guardarraíles de los modelos no son una garantía contractual, sino una propiedad emergente que debe probarse y monitorearse de forma continua. Si tu aplicación depende de que el modelo rechace cierto tipo de contenido —sea por políticas de marca, cumplimiento normativo o protección de menores—, conviene diseñar capas de filtrado adicionales en tu propio stack y ejecutar pruebas de jailbreak periódicas, tal como lo hacen los equipos de seguridad de las grandes tecnológicas.

Sigue explorando estos temas en el blog de DojoFullStack: seguridad de IA, agentes de código y automatización responsable son parte de la conversación diaria del desarrollo de software moderno.