Hoy se ha anunciado con entusiasmo la disponibilidad de la vanguardista colección de modelos de lenguaje grande (LLM) multilingües Llama 3.1, incluidos los modelos de IA generativa preentrenados y afinados por instrucciones en tamaños de 8B, 70B y 405B, a través de Amazon SageMaker JumpStart para despliegue de inferencia. Llama es un modelo de lenguaje accesible públicamente diseñado para desarrolladores, investigadores y empresas, permitiéndoles crear, experimentar y escalar responsablemente sus ideas de inteligencia artificial generativa.
El Llama 3.1 incluye modelos generativos preentrenados y afinados por instrucciones en tamaños de 8B, 70B y 405B, con una longitud de contexto extendida de 128,000 caracteres y optimizados para inferencia, soportando la atención de consulta agrupada (GQA). Los modelos afinados por instrucciones están optimizados para casos de uso de diálogo multilingüe y superan a muchos modelos de chat públicos en los indicadores de la industria. La arquitectura central del Llama 3 y Llama 3.1 es la misma, utilizando un modelo de lenguaje auto-regresivo con una arquitectura transformer optimizada. Amazon SageMaker JumpStart ofrece acceso a una amplia selección de modelos base públicamente disponibles, incluyendo modelos de visión por computadora y de lenguaje. Estos modelos se pueden personalizar profundamente para abordar casos de uso específicos. Con SageMaker JumpStart, se pueden desplegar modelos en un entorno seguro, asegurando la ...