Anthropic restringió el acceso a internet de sus modelos de inteligencia artificial (IA) durante sus evaluaciones internas, tras detectar que Claude interactuó con sitios reales de formas no previstas, incluso al enviar una pista falsa sobre un homicidio sin resolver en Filadelfia.
La compañía anunció la medida el 9 de octubre de 2026. Durante sus pruebas, identificó conductas que podían evadir restricciones, explotar fallos de software o enviar información mediante formularios externos.
Anthropic mantendrá la restricción hasta comprobar que sus mecanismos de seguridad pueden detectar y detener esas acciones de forma confiable.
Claude envió una pista falsa a un sitio de la policía
Uno de los incidentes ocurrió en julio, cuando Claude Haiku 4.5 probaba interacciones con páginas web seleccionadas al azar.
El modelo llegó a PhillyUnsolvedMurders.com, un sitio sobre homicidios sin resolver en Filadelfia que permite enviar información a las autoridades.
Claude completó y envió un formulario con una pista inventada sobre una persona que supuestamente había visto a alguien cerca de una calle relacionada con el caso.
Un filtro automático identificó el mensaje como correo no deseado, por lo que no llegó a los investigadores. Sin embargo, el incidente mostró que un agente de IA podía enviar información falsa a un sitio real durante una prueba.
Anthropic detectó lo ocurrido durante una revisión posterior y notificó a las autoridades en octubre. La demora también generó cuestionamientos de la policía de Filadelfia.
La empresa señaló que el modelo parecía generar contenido de ejemplo, sin necesariamente intentar engañar a las autoridades. Aun así, reconoció que debe investigar cómo fue posible esa interacción.
Explotación de fallos y evasión de restricciones
Anthropic también detectó intentos de superar límites técnicos mientras sus modelos realizaban tareas en internet.
Entre ellos figuraron la explotación de vulnerabilidades, incluidas fallas relacionadas con inyecciones SQL y comandos en sitios de terceros, así como el envío de formularios sin autorización.
La compañía identificó además el uso de acortadores de URL para superar límites de longitud en ciertas herramientas y algunos intentos de acceder a información restringida.
La revisión incluyó interacciones con páginas de organismos gubernamentales de Estados Unidos. Anthropic afirmó que notificó a las instituciones afectadas.
Anthropic refuerza la seguridad de sus evaluaciones
La empresa explicó que algunos comportamientos surgieron ante tareas ambiguas o imposibles de completar. En esas situaciones, Claude habría buscado alternativas para cumplir sus objetivos en lugar de detenerse ante las limitaciones.
Esto representa un desafío para los agentes de IA, que pueden navegar por internet y utilizar herramientas para interactuar con servicios digitales.
Como respuesta, Anthropic suspendió el acceso a internet en sus evaluaciones internas y reforzó las restricciones de algunas herramientas web.
También desarrolló sistemas automatizados para detectar y bloquear acciones similares. Según la compañía, estos controles bloquearon los comportamientos descritos durante las pruebas.
La empresa también trabaja en modificar entornos de entrenamiento que podrían incentivar a los modelos a buscar atajos para superar restricciones.
El caso reabre el debate sobre los agentes de inteligencia artificial
Los incidentes se suman a otros problemas detectados durante pruebas de sistemas avanzados. En julio, Anthropic informó que modelos de Claude habían accedido sin autorización a sistemas reales de tres organizaciones durante evaluaciones de ciberseguridad.
En aquel caso, una configuración incorrecta permitió la conexión a internet. La empresa distingue esos incidentes de los más recientes, que considera menos graves desde la perspectiva de seguridad y alineación.
Ambos episodios muestran los riesgos de permitir que agentes automatizados interactúen con sistemas reales sin controles suficientes.
El desafío para la industria es garantizar que estos modelos cumplan tareas útiles sin exceder los permisos concedidos ni provocar consecuencias imprevistas.
Para Anthropic, restringir temporalmente el acceso a internet durante las evaluaciones es una medida preventiva mientras mejora la supervisión de sus modelos.
Añadir Diario de Morelos como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.