Recientemente, la introducción de los «agentic workflows» ha aportado una nueva perspectiva al diseño y gestión de flujos de trabajo complejos basados en casos de uso empresarial. Estos flujos de trabajo utilizan modelos de lenguaje grandes (LLMs) como motor de razonamiento, descomponiendo las consultas en lenguaje natural en pasos accionables con la ayuda de herramientas y APIs, proporcionando retroalimentación iterativa y auto-reflexión para obtener un resultado final. Sin embargo, se hace urgente medir y evaluar la robustez de estos flujos de trabajo, en especial aquellos que puedan ser adversos o dañinos.
Amazon ha implementado su solución, Amazon Bedrock Agents, capaz de desglosar conversaciones en lenguaje natural en tareas y llamadas a API mediante técnicas de «ReAct» y «chain-of-thought» (CoT). Esta herramienta no solo ofrece flexibilidad, sino que también reduce costos de desarrollo al posibilitar la personalización y adaptación de aplicaciones específicas, a la vez que protege los datos privados y asegura las aplicaciones. Funciona en infraestructura gestionada por AWS, minimizando la carga de gestión de la infraestructura y, aunque incluye mecanismos para evitar contenido dañino de manera general, permite añadir salvaguardas personalizables con Amazon Bedrock Guardrails. Esta funcionalidad mejora la protección contra contenido nocivo y filtra respuestas indeseadas en procesos como la generación de resúmenes. En un caso práctico, se explor...