Excuses à l'avance pour la longueur, j'ai tendance à divaguer un peu. Je pourrais faire une 2e version résumé qui me fait moins sur des trucs et plus de puces. Attendez-vous à quelques modifications au fil du temps.
La version résumée peut être lue ici: https://dev.to/ghotet/set-up-your-own-personal-ai-frankenstack-summarized-version-536l
Hé les gens. J'ai enfin un moment pour m'asseoir et essayer de disposer le plan pour configurer votre propre pile AI, que j'ai surnommée le "Frankenstack" et il semble avoir coincé. Cette pile se compose de logiciels LLM, de diffusion stable (génération d'image), de texte-parole (mais pas de discours au texte), de recherche Web pour le LLM, tous liés à un frontal unifié. Maintenant, juste pour clarifier à l'avance, ce n'est pas un tutoriel ou un comment guider. Je suis simplement en train de présenter la boîte à outils et de donner toutes les informations qui me viennent à l'esprit en ce qui concerne le logiciel et les mises en garde ou des informations supplémentaires concernant chacun. Par exemple, je vais énumérer mes spécifications de machines et ce que je gère LLM pour vous donner une attente réaliste. C'est le GPU / CPU affamé de le dire légèrement, mais je vais y attaquer un peu plus lorsque j'arrive à chaque composant.
Enfin, juste pour clarifier chaque outil que je mentionne ici est open source et ne nécessite aucun abonnement ou paiement ou quelque chose comme ça. Certains d'entre eux ont des outils ou des exigences facultatifs payés si vous deviez essayer de l'étendre pour un usage professionnel. Je suis juste un mec dans un garage qui valorise la vie privée et a une passion pour l'IA et les ordinateurs. Ne me confondez pas avec une sorte d'expert de l'industrie. Je vais mettre en place les outils dans l'ordre de la façon dont je les ai configurés et de votre gratuit pour sauter tout ce qui ne vous intéresse pas. À la fin en bonus à ceux qui sont intéressés, je ferai de mon mieux pour détailler la façon dont je l'hébergea via mon propre domaine pour un accès en ligne de n'importe où (à portée de main si vous voulez l'utiliser en pleine puissance de votre téléphone ou quelque chose). Enfin, il existe d'autres options pour la plupart, sinon la totalité de ces composants, mais j'ai une pile de travail qui fait ce dont j'ai besoin et j'ai essayé d'autres et je n'ai pas obtenu ce dont j'avais besoin ou qui ne pouvait pas les amener à se connecter correctement au début lorsque je expérimentais.
Il s'agit d'une sorte de fourre-tout pour Windows et Linux, ce qui fait partie de la raison pour laquelle ce n'est pas un tutoriel. Tous les logiciels mentionnés devraient être disponibles pour les deux OS. J'utilise Linux mais avant de passer au pingouin, j'en utilisais déjà quelques-uns sur Windows 11. Je vais les vérifier au fur et à mesure et je vais essayer de me rappeler de mettre des liens à la fin de chaque section.
Enfin, je veux juste mentionner l'avant ... à l'avant. Il offre de...
[Courte citation de 8% de l'article original]