Glosario
¿Qué es guardrails (límites de la IA)?
Los guardrails son reglas y controles que limitan lo que un sistema de IA puede decir o hacer, como temas prohibidos, datos que no puede revelar y acciones que requieren aprobación.
Actúan en capas: en las instrucciones del agente, en filtros que revisan la entrada y la salida, y en permisos técnicos sobre los sistemas conectados.
Un buen guardrail tiene una salida clara. Cuando el agente llega al límite, se niega con cortesía o pasa la conversación a una persona.
Los límites que existen solo en el texto de las instrucciones pueden evadirse. Los más importantes deben reforzarse fuera del modelo.
Las conversaciones no son atención.Son infraestructura.
Entra en la nueva era de la relación entre empresas y clientes.