Recherche de vecteurs 100 % gratuite avec OpenLlama, Postgres, NodeJS et NextJS

Vous voulez donc essayer la recherche vectorielle, mais vous ne voulez pas payer OpenAI, ni utiliser Huggingface, et vous ne voulez pas payer une société de bases de données vectorielles. Je suis là pour toi. Lançons la recherche vectorielle, sur votre propre machine, gratuitement.

Qu'est-ce que nous faisons?

Prenons un peu de recul et parlons de ce que nous faisons et pourquoi nous le faisons. La recherche vectorielle d'intégrations d'IA est un moyen de créer une recherche basée sur des concepts. Par exemple, la recherche de « animal de compagnie » peut donner des résultats pour les chiens et les chats. C'est très précieux car cela signifie que vos clients peuvent obtenir de meilleurs résultats de recherche

Pour ce faire, nous prenons d’abord le texte que nous voulons rechercher et l’envoyons à une IA pour qu’elle crée une « intégration ». Une intégration est un long tableau de valeurs à virgule flottante, généralement entre ~ 300 et ~ 1 500 nombres.

La valeur d'intégration pour le chat, le chien et l'animal de compagnie serait similaire. Donc, si vous deviez comparer un chat et un chien, ils seraient proches, alors que le chien et la pizza ne le seraient pas.

Ce qu'une base de données vectorielles vous permet de faire, c'est de stocker ces vecteurs, ainsi que leurs données associées (probablement le texte original des données). Une fois les données stockées, vous pouvez interroger la base de données avec un nouveau vecteur pour obtenir des résultats à proximité. Par exemple, si nous stockions le chat et le chien avec leurs intégrations dans la base de données, nous pourrions alors prendre un texte d'entrée de...
[Courte citation de 8% de l'article original]