Appearance
¿Contratarías a un mayordomo hipnotizable? (o por qué los agentes “demasiado obedientes” son un riesgo)
Durante años hemos hablado de asistentes digitales como si fueran “mejores barras de búsqueda”. Pero cuando un agente puede leer tu email, mirar tu Drive, resumir tus chats, redactar respuestas y ejecutar acciones con tus herramientas, ya no es un buscador: es más parecido a contratar a un empleado junior con acceso a todo lo que tú tocas. :contentReference[oaicite:0]
El mayordomo hipnotizable
La metáfora del mayordomo es útil porque pone el foco en lo que de verdad importa: confianza, límites y autoridad, no “inteligencia”.
La idea clave: el problema no es la inteligencia, es la sugestionabilidad
En el texto se insiste en algo contraintuitivo:
- Las alucinaciones (responder algo incorrecto) suelen ser un problema de calidad.
- La sugestionabilidad (obedecer instrucciones externas disfrazadas de “texto normal”) es un problema de catástrofe. :contentReference[oaicite:1]
Un agente “fuerte” y competente puede ser más peligroso que uno mediocre si:
- entiende muy bien la instrucción,
- tiene herramientas potentes,
- y está entrenado para ser complaciente.
Porque entonces puede convertir una orden “bien redactada” en una acción real… aunque esa orden no sea tu intención. :contentReference[oaicite:2]
El mundo es una “habitación abarrotada” de texto no fiable
Email, documentos compartidos, chats de grupo y web abierta están llenos de contenido escrito por personas que:
- no saben que tu agente lo leerá,
- o directamente intentan influirlo.
El riesgo aparece cuando el agente confunde contenido con instrucciones (lo que en seguridad se suele describir como inyección). En ese caso, el agente no está “siendo útil”: está siendo dirigible por su entorno. :contentReference[oaicite:3]
Capacidad vs. autoridad: el modelo mental correcto
La “versión marketing” de los agentes habla de:
- velocidad,
- capacidad,
- automatización.
La “versión operativa” (la que importa) habla de:
- autoridad (qué puede hacer),
- radio de explosión (qué pasa si se equivoca o lo manipulan). :contentReference[oaicite:4]
Si delegas, estás creando una frontera de seguridad. La pregunta no es “¿es listo?”, sino: ¿puede ser controlado por algo que no soy yo? :contentReference[oaicite:5]
La solución propuesta: compartimentación (roles y límites)
El texto defiende un “primitivo” que falta en muchos agentes actuales: compartimentación.
Como en una casa con personal:
- no todo el mundo tiene todas las llaves,
- ciertas acciones requieren aprobación,
- hay funciones separadas.
Aplicado a agentes:
- Un agente que lee correo no debería poder mover dinero.
- Un agente que redacta respuestas no debería enviarlas sin aprobación.
- Un agente que navega la web no debería poder ver documentos internos sensibles. :contentReference[oaicite:6]
También recomienda separar leer y actuar:
leer ya es arriesgado; actuar sobre lo leído convierte riesgo en daño.
Y reforzar con:
- mínimo privilegio (solo el acceso imprescindible),
- aprobación humana para acciones irreversibles,
- registro/auditoría (qué vio, qué decidió, qué herramientas usó). :contentReference[oaicite:7]
Cierre: nadie quiere un “butler hipnotizable”
Un mayordomo no vale por ser brillante; vale porque puedes confiar en él, precisamente porque está cerca de lo que no quieres que toquen extraños: calendario, mensajes, archivos, dinero y compromisos sociales. :contentReference[oaicite:8]
Si estamos metiendo agentes en ese espacio, debemos diseñarlos como si estuviéramos contratando personal para una casa con objetos de valor: roles claros, límites estrictos, y controles verificables.
Fuente
- Travis Good — “Would you hire a hypnotizable butler?” (Ambient Research, Medium), 2 de febrero de 2026. :contentReference[oaicite:9]