J'ai construit un LLM local qui s'exécute entièrement dans votre navigateur. Pas d'installation, pas de GPU, pas de serveur

DEV - 20:34
Il y a quelques mois, une question m'obsédait : peut-on exécuter un vrai LLM entièrement dans un navigateur...

Il y a quelques mois, j'étais obsédé par une question : pouvez-vous exécuter un vrai LLM entièrement dans un onglet de navigateur, sans backend, zéro GPU et zéro installation ?

La réponse est oui. Voici ce que j'ai construit.

ghost est un fichier HTML unique qui télécharge un modèle de langage quantifié dans le cache de votre navigateur lors de la première visite, puis exécute l'inférence localemen...
[Courte citation de 8% de l'article original]

Loading...