Agente de IA con Claude admite tras borrar toda la base de datos de una empresa: “Violé todos los principios que me dieron”
undefined 5, 2026
Una crisis en PocketOS muestra los riesgos de la automatización con inteligencia artificial después de que un agente de programación de Cursor, impulsado por el modelo Claude de Anthropic, eliminara en segundos la base de datos de producción y sus copias de seguridad. El fundador Jeremy Crane afirmó que el agente ignoró reglas de seguridad explícitas, afectando a empresas de alquiler de coches que dependían del sistema. La pérdida de datos afectó reservas y clientes, obligando a una recuperación parcial desde copias antiguas. El incidente genera preocupación sobre si los sistemas de IA se están implementando más rápido de lo que avanzan las medidas de seguridad.
Read full article
