Au cours de notre parcours d'expérimentation avec Amazon Bedrock jusqu'à présent, nous avons construit un assistant forex de base comme base pour d'autres améliorations permettant d'évaluer diverses fonctionnalités de Bedrock et des techniques d'IA générative (gen AI). Notre prochaine étape consiste à intégrer une base de connaissances à l'agent, afin qu'il puisse fournir des informations sur le change en général.
Dans cet article de blog, nous définirons un cas d'utilisation représentatif d'un scénario RAG pour l'agent de taux de change, créerons une base de connaissances sur le forex et l'attacherons à l'agent. La précision et les performances d'une application gen AI sont également essentielles, nous allons donc effectuer quelques tests et discuter des défis associés aux flux de travail RAG.
Les bases de connaissances pour Amazon Bedrock sont un service qui fournit une capacité gérée pour la mise en œuvre de flux de travail de génération augmentée de récupération (RAG). Les bases de connaissances peuvent être intégrées aux agents Bedrock pour activer de manière transparente la fonctionnalité RAG, ou être utilisées comme composant dans des applications personnalisées compatibles avec l'IA à l'aide de l'API.
Les bases de connaissances pour Amazon Bedrock automatisent l'ingestion de documents sources, en générant des intégrations avec un modèle de base, tel qu'Amazon Titan ou Cohere Embed, et en les stockant dans un magasin de vecteurs pris en charge, comme illustré dans le diagramme suivant :
Pour simplifier les choses, le service propose une option de démarrage rapide qui met à disposition en votre nom une base de données vectorielles Amazon OpenSearch Serverless pour son utilisation.
Outre l'intégration native dans un agent Bedrock, l'API Agents for Amazon Bedrock Runtime offre à la fois la possibilité d'effectuer une recherche de texte brut et sémantique, ainsi que la possibilité de récupérer et de générer une réponse avec un modèle de base, sur des bases de connaissances. Ce dernier permet à la communauté de fournir une intégration plus étroite dans des frameworks tels que LangChain et LlamaIndex pour simplifier les scénarios RAG. Le flux d'exécution est illustré dans ce diagramme :
Dans l'article de ...
[Courte citation de 8% de l'article original]