Las organizaciones generan vastas cantidades de datos que son de su propiedad, y es fundamental obtener información de estos datos para mejorar los resultados comerciales. La inteligencia artificial generativa (IA generativa) y los modelos fundacionales (FMs) juegan un papel importante en la creación de aplicaciones utilizando los datos de una organización que mejoran las experiencias de los clientes y la productividad de los empleados.
Los FMs suelen ser preentrenados en un gran corpus de datos disponible abiertamente en internet. Funcionan bien en tareas de comprensión del lenguaje natural, como la resumación, generación de texto y respuesta a preguntas sobre una amplia variedad de temas. Sin embargo, a veces pueden generar falsas respuestas o respuestas inexactas cuando responden preguntas para las cuales no han sido entrenados. Para prevenir respuestas incorrectas y mejorar la precisión de las respuestas, se utiliza una técnica denominada Generación Aumentada por Recuperación (RAG) para proporcionar a los modelos datos contextuales. En este post, se proporciona una guía paso a paso para crear una aplicación RAG lista para la empresa, como un bot de respuestas a preguntas. Se usa el modelo de texto generativo Llama3-8B FM y el modelo de incrustación de texto BGE Large EN v1.5 para generar incrustaciones a partir de Amazon SageMaker JumpStart. También se muestra cómo se puede utilizar FAISS como almacén de incrustaciones y paquetes como LangChain para inte...