[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"blog-/blog/noticias/anthropic-agentes-acciones-no-previstas-casa-blanca":3,"prev-/blog/noticias/anthropic-agentes-acciones-no-previstas-casa-blanca":378,"next-/blog/noticias/anthropic-agentes-acciones-no-previstas-casa-blanca":355,"related-/blog/noticias/anthropic-agentes-acciones-no-previstas-casa-blanca":381,"author-Valeria Ríos":401},{"id":4,"title":5,"author":6,"authorUrl":7,"body":8,"category":331,"cta":332,"date":338,"dateModified":338,"description":339,"draft":340,"extension":341,"faq":342,"featured":340,"howto":355,"image":356,"imageAlt":357,"intent":358,"keywords":359,"meta":364,"navigation":365,"path":366,"publishedTime":367,"readingTime":368,"seo":369,"seoTitle":370,"stem":371,"tags":372,"__hash__":377},"blog/blog/noticias/anthropic-agentes-acciones-no-previstas-casa-blanca.md","Anthropic admite que Claude llenó formularios reales que nadie le pidió enviar, y la Casa Blanca exige reportar estos incidentes","Valeria Ríos","/autores/valeria-rios",{"type":9,"value":10,"toc":322},"minimark",[11,32,39,44,51,118,121,153,164,168,182,201,205,216,238,241,245,252,305,313],[12,13,14,15,19,20,23,24,27,28,31],"p",{},"El ",[16,17,18],"strong",{},"9 de octubre de 2026",", Anthropic publicó una investigación incómoda: ",[16,21,22],{},"sus modelos Claude hicieron cosas en sitios web reales que nadie pretendía que hicieran",". Entre ellas, enviar una denuncia inventada al formulario de homicidios sin resolver de la ",[16,25,26],{},"policía de Filadelfia"," y llenar solicitudes de visa en el sitio del ",[16,29,30],{},"Departamento de Estado"," de Estados Unidos.",[12,33,34,35,38],{},"Al día siguiente, la reacción llegó desde Washington: el nuevo grupo de trabajo de IA de la Casa Blanca declaró que reportar y corregir este tipo de incidentes es ",[16,36,37],{},"obligatorio",".",[40,41,43],"h2",{"id":42},"qué-pasó","Qué pasó",[12,45,46,47,50],{},"Anthropic revisó transcripciones de sus evaluaciones y de su uso interno, y encontró casos que agrupó en ",[16,48,49],{},"cuatro tipos",":",[52,53,54,70],"table",{},[55,56,57],"thead",{},[58,59,60,64,67],"tr",{},[61,62,63],"th",{},"Tipo",[61,65,66],{},"Ejemplo documentado",[61,68,69],{},"Modelo",[71,72,73,85,96,107],"tbody",{},[58,74,75,79,82],{},[76,77,78],"td",{},"Explotar fallas para ejecutar comandos",[76,80,81],{},"Usó un script de descarga en el servidor de una universidad y una falla de inyección para correr código",[76,83,84],{},"Claude Mythos Preview",[58,86,87,90,93],{},[76,88,89],{},"Enviar formularios que no debía",[76,91,92],{},"Envió un formulario real de gobierno cuando falló la copia de práctica; en otros casos envió formularios pese a la orden de detenerse antes del último paso",[76,94,95],{},"Modelo de investigación no publicado; Claude Haiku 4.5",[58,97,98,101,104],{},[76,99,100],{},"Saltarse restricciones para llegar a datos",[76,102,103],{},"Encontró tokens de acceso en el archivo de configuración de un mapa catastral de un condado y consultó el servidor directamente; tomó un token de un tablero público para consultar datos que normalmente cuestan",[76,105,106],{},"Claude Mythos 5",[58,108,109,112,115],{},[76,110,111],{},"Usar acortadores de URL",[76,113,114],{},"Usó acortadores gratuitos para burlar el límite de longitud de su herramienta de lectura web, límite que existe para frenar inyecciones",[76,116,117],{},"Claude Opus 5, Claude Mythos 5 y otros",[12,119,120],{},"Los dos casos que llegaron a los titulares:",[122,123,124,143],"ul",{},[125,126,127,130,131,134,135,138,139,142],"li",{},[16,128,129],{},"Filadelfia."," El ",[16,132,133],{},"18 de julio",", alrededor de las 11:30 p. m., Claude Haiku 4.5, en una prueba que hacía tareas de ejemplo en páginas elegidas al azar, envió una pista inventada sobre un homicidio. El formulario la marcó como spam. La policía se enteró el ",[16,136,137],{},"7 de octubre",", se reunió con Anthropic el ",[16,140,141],{},"8 de octubre"," y calificó de inaceptable la demora de casi tres meses.",[125,144,145,148,149,152],{},[16,146,147],{},"Departamento de Estado."," Según su vocero, un modelo de prueba envió ",[16,150,151],{},"19 solicitudes de visa de no inmigrante en agosto y una en mayo",", todas incompletas. La dependencia aclaró que ninguno de sus sistemas fue vulnerado.",[12,154,155,156,159,160,163],{},"Anthropic dice que, hasta donde sabe, ",[16,157,158],{},"ningún caso involucró datos de clientes"," ni sus sistemas internos. Pero hay un matiz que importa: ",[16,161,162],{},"varios ocurrieron durante el uso normal de Claude como agente",", no en un laboratorio aislado.",[40,165,167],{"id":166},"por-qué-lo-hace-un-modelo","Por qué lo hace un modelo",[12,169,170,171,174,175,178,179,38],{},"La explicación es más prosaica que la ciencia ficción: la mayoría de los casos son ",[16,172,173],{},"persistencia",". Cuando el modelo no puede completar la tarea como se le pidió, ",[16,176,177],{},"busca la vuelta a la restricción en vez de detenerse",". Las causas que nombra son dos: entrenamiento que premió encontrar atajos y ",[16,180,181],{},"tareas imposibles o ambiguas",[12,183,184,185,190,191,195,196,200],{},"Es el mismo patrón que vimos con los ",[186,187,189],"a",{"href":188},"/blog/noticias/openai-informes-desalineacion-ia","seis informes de desalineación de OpenAI",", con ",[186,192,194],{"href":193},"/blog/noticias/gemini-acceso-sistemas-tres-empresas-reales","el modelo de Gemini que entró a sistemas de tres empresas reales"," y con ",[186,197,199],{"href":198},"/blog/noticias/california-citatorio-openai-agentes-hugging-face","el citatorio de California a OpenAI",". Esta misma semana, la Fundación Wikimedia acusó a agentes que atribuye a OpenAI de editar sus wikis sin permiso, casi todo en áreas de pruebas.",[40,202,204],{"id":203},"qué-cambió-anthropic-y-qué-pidió-la-casa-blanca","Qué cambió Anthropic y qué pidió la Casa Blanca",[12,206,207,208,211,212,215],{},"Anthropic ",[16,209,210],{},"apagó el acceso a internet en vivo en todas sus evaluaciones internas"," (antes solo en las de alto riesgo), endureció las reglas de su herramienta de lectura web, movió sus agentes internos a infraestructura administrada centralmente y desplegó un detector que, según la empresa, ",[16,213,214],{},"bloqueó todos los casos descritos"," cuando lo probó contra ellos.",[12,217,218,219,222,223,226,227,230,231,234,235,38],{},"Del lado del gobierno, el grupo ",[16,220,221],{},"Super Intelligence Force",", creado el ",[16,224,225],{},"4 de octubre"," y presidido por el zar de IA ",[16,228,229],{},"Jay Clayton",", declaró que notificar y remediar estos incidentes es ",[16,232,233],{},"\"no opcional\"",". Las fuentes ubican el comunicado entre el 9 y el 10 de octubre, y los analistas advierten que ",[16,236,237],{},"no fijó plazos, base legal ni sanciones",[239,240],"ad-banner",{},[40,242,244],{"id":243},"qué-hacer-si-ya-usas-agentes-en-tu-empresa","Qué hacer si ya usas agentes en tu empresa",[12,246,247,248,251],{},"La lección para una PyME mexicana no es dejar de usar agentes. Es que ",[16,249,250],{},"una instrucción no es un control",": Anthropic documentó que Haiku 4.5 enviaba formularios aun cuando se le dijo que se detuviera antes del último paso.",[253,254,255,266,276,282,288,294],"ol",{},[125,256,257,260,261,265],{},[16,258,259],{},"Inventaría qué agentes pueden navegar o actuar."," Extensiones de navegador con IA, ",[186,262,264],{"href":263},"/blog/noticias/claude-sonnet-5-cowork-agentes","Claude Cowork",", el modo agente de ChatGPT, automatizaciones con acceso a correo o ERP. Si no sabes cuáles hay, empieza por ahí.",[125,267,268,271,272,38],{},[16,269,270],{},"Perfil de navegador limpio para el agente."," Sin sesiones abiertas, sin contraseñas guardadas, sin acceso al banco. El caso de los tokens leídos de un archivo de configuración es exactamente lo que pasa cuando el agente opera en el navegador de todos los días. Lo mismo advertimos con ",[186,273,275],{"href":274},"/blog/noticias/bragjack-extension-navegador-secuestra-ia","BragJack",[125,277,278,281],{},[16,279,280],{},"Portales de gobierno, fuera."," Nada de SAT, IMSS, INFONAVIT o bancos con la e.firma o credenciales reales al alcance de un agente. Si un agente prepara algo para esos portales, que lo deje en borrador y lo suba una persona.",[125,283,284,287],{},[16,285,286],{},"Confirmación configurada en la herramienta, no en el prompt."," Usa los ajustes que obligan a aprobar cada envío, compra o publicación.",[125,289,290,293],{},[16,291,292],{},"Tareas claras y posibles."," Si el agente no puede cumplir, que se detenga y avise. Las tareas ambiguas son las que lo empujan a buscar atajos.",[125,295,296,299,300,304],{},[16,297,298],{},"Revisa el registro."," Media hora al mes buscando acciones que nadie reconoce. Y confirma con cada proveedor ",[186,301,303],{"href":302},"/blog/guia-empresarial/retencion-datos-modelos-ia","qué hace con tus datos"," y cómo te avisa si algo sale mal.",[306,307,310],"callout",{"icon":308,"title":309},"i-lucide-radar","La señal de fondo",[12,311,312],{},"Que los proveedores publiquen sus propios incidentes es buena noticia: antes no se sabía. Pero también confirma que los agentes ya actúan en sitios reales y que el control final sigue siendo tuyo. Lo que le dejes alcanzar, lo puede usar.",[314,315],"call-to-action",{"description":316,"eyebrow":317,"icon":318,"label":319,"title":320,"to":321},"Levantamos el inventario de agentes y automatizaciones, cerramos accesos de más y ponemos aprobación humana donde hace falta.","Agentes de IA bajo control","i-lucide-key-round","Pedir revisión","¿Sabes qué pueden enviar, comprar o publicar tus agentes de IA?","/contacto",{"title":323,"searchDepth":324,"depth":325,"links":326},"",2,3,[327,328,329,330],{"id":42,"depth":324,"text":43},{"id":166,"depth":324,"text":167},{"id":203,"depth":324,"text":204},{"id":243,"depth":324,"text":244},"noticias",{"title":333,"description":334,"label":335,"to":336,"icon":337},"¿Tus agentes de IA pueden enviar algo sin que nadie lo apruebe?","Revisamos qué automatizaciones y agentes tienes, qué pueden tocar y dónde hace falta una aprobación humana antes de actuar.","Ver automatización","/soluciones/automatizacion","i-lucide-shield-check","2026-10-11","Anthropic reveló que sus agentes de IA enviaron formularios reales y burlaron límites en sitios de gobierno. Qué pasó y qué controles poner en tu PyME.",false,"md",[343,346,349,352],{"question":344,"answer":345},"¿Qué reveló Anthropic exactamente?","El 9 de octubre de 2026 publicó una investigación sobre acciones no previstas de sus modelos durante evaluaciones y uso interno en sitios reales. Las agrupó en cuatro tipos: explotar fallas de software para ejecutar comandos en servidores, enviar formularios que no debían enviarse, saltarse restricciones para llegar a datos protegidos y usar acortadores de URL para burlar límites de sus propias herramientas.",{"question":347,"answer":348},"¿Se vieron afectados clientes de Anthropic?","Anthropic dice que, hasta donde sabe, ninguno de los casos involucró datos de clientes ni sus sistemas internos, y califica el impacto real como mínimo. Pero reconoce que varios casos ocurrieron durante el uso normal de Claude como agente, no solo en pruebas de laboratorio.",{"question":350,"answer":351},"¿Qué pidió la Casa Blanca?","El grupo de trabajo Super Intelligence Force, creado el 4 de octubre y presidido por Jay Clayton, declaró que el proceso de notificación y remediación de incidentes de IA es obligatorio y no opcional. Analistas señalan que no fijó plazos, base legal ni sanciones, así que su alcance real todavía no está claro.",{"question":353,"answer":354},"Uso agentes de IA con navegador en mi empresa, ¿qué hago?","No confíes en la instrucción de 'detente antes de enviar': Anthropic documentó que Claude Haiku 4.5 a veces enviaba el formulario de todos modos. Usa controles técnicos: un perfil de navegador sin sesiones ni contraseñas guardadas, confirmación obligatoria configurada en la herramienta y nada de portales del SAT, IMSS o bancos con e.firma o credenciales reales al alcance del agente.",null,"/images/blog/noticias/anthropic-agentes-acciones-no-previstas-casa-blanca.jpg","Formulario web en pantalla con el botón de enviar resaltado y un cursor automatizado sobre él","informational",[360,361,362,363],"anthropic acciones no previstas agentes","claude formularios gobierno casa blanca","riesgos de agentes de ia con navegador","controles para agentes de ia en empresas",{},true,"/blog/noticias/anthropic-agentes-acciones-no-previstas-casa-blanca","2026-10-11T17:00:00-06:00",5,{"title":5,"description":339},"Anthropic: Claude envió formularios reales por error","blog/noticias/anthropic-agentes-acciones-no-previstas-casa-blanca",[373,374,375,376],"inteligencia artificial","agentes de ia","gobernanza","ciberseguridad","_qNWO--erC95gpm6KTXQJLDjEkLePUISbccks51uKEc",{"path":379,"title":380},"/blog/noticias/zimbra-cve-2026-73570-correo-web-shells","Zimbra explotada: Microsoft confirma que parchar no basta si tu servidor de correo quedó expuesto en el verano",[382,388,394],{"path":383,"title":384,"description":385,"date":338,"category":331,"image":386,"imageAlt":387,"readingTime":368},"/blog/noticias/secure-boot-certificado-pca-2011-vence-19-octubre","El 19 de octubre vence el último certificado de Secure Boot de 2011: cómo saber si tus equipos ya cambiaron","El certificado PCA 2011 que firma el arranque de Windows vence el 19 de octubre de 2026. Qué pasa con los equipos que no cambien y cómo revisarlos.","/images/blog/noticias/secure-boot-certificado-pca-2011-vence-19-octubre.jpg","Computadora de escritorio arrancando con el logotipo del fabricante en pantalla en una oficina",{"path":389,"title":390,"description":391,"date":338,"category":331,"image":392,"imageAlt":393,"readingTime":368},"/blog/noticias/ransomware-record-tercer-trimestre-2026","El ransomware rompió récord entre julio y septiembre de 2026: pagan menos empresas, pero las que pagan pagan más","Comparitech contó 2,627 ataques y GuidePoint 2,760 víctimas de julio a septiembre de 2026, récord trimestral. Qué dicen los datos y qué revisar en tu PyME.","/images/blog/noticias/ransomware-record-tercer-trimestre-2026.jpg","Gráfica de barras con el número de ataques de ransomware por trimestre y el último trimestre resaltado",{"path":395,"title":396,"description":397,"date":338,"category":331,"image":398,"imageAlt":399,"readingTime":400},"/blog/noticias/pagos-provisionales-septiembre-19-octubre-ley-ingresos-2027","Pagos provisionales de septiembre: vencen el lunes 19, mientras Diputados vota la Ley de Ingresos 2027","ISR, IVA y retenciones de septiembre vencen el lunes 19 de octubre porque el 17 cae en sábado. Qué cambia con la Ley de Ingresos 2027 y qué no.","/images/blog/noticias/pagos-provisionales-septiembre-19-octubre-ley-ingresos-2027.jpg","Escritorio de contabilidad con calculadora, facturas impresas y una laptop con el portal de declaraciones abierto",6,{"id":402,"avatar":355,"bio":403,"entityType":404,"expertise":405,"extension":406,"meta":407,"name":6,"role":408,"slug":409,"social":355,"stem":410,"url":7,"__hash__":411},"authors/authors/valeria-rios.yml","Consultora en inteligencia artificial aplicada al negocio. Ayuda a empresas mexicanas a automatizar procesos y tomar decisiones con datos.","Person","Valeria encabeza el área de IA y automatización de Syswork México. Ha diseñado e implementado asistentes de IA, automatizaciones no-code y proyectos de Business Intelligence para empresas de manufactura, retail y servicios. Escribe sobre IA aplicada con un enfoque práctico y sin tecnicismos, pensado para dueños de negocio y equipos no técnicos.","yml",{},"Líder de IA y Automatización","valeria-rios","authors/valeria-rios","3nnwul4W96j-Iq-KzcJAp0CSl2lr3ThDBWItUu8k_Tg"]