Pourquoi les LLM ont-ils besoin de GPU? Voici ce que j'ai découvert

Dernièrement, j'ai vu beaucoup de gros titres sur la façon dont les derniers GPU débloquent de nouvelles capacités folles pour l'IA. Des choses comme GPT-4, des modèles de texte à vidéo et même des personnages de jeu alimentés en temps réel. Partout où j'ai regardé, il a été question de l'importance des GPU - mais si vous êtes comme moi, vous vous demandez peut-être: pourquoi les GPU sont-ils si importants pour l'IA en premier lieu?

Je vais être honnête: quand j'ai entendu "GPU" pour la première fois, mon esprit est immédiatement allé au jeu - des cartes graphiques puissantes qui aident à exécuter de beaux mondes 3D. Ce que je ne réalisais que récemment, c'est que les GPU sont tout aussi importants (sinon plus) dans le monde de l'IA.

J'ai fait un peu de fouille, et dans ce post, je vais partager ce que j'ai appris - j'ai expliqué la façon dont je souhaite que quelqu'un ne m'ait expliqué à moi.

CPUS VS GPUS: le compromis Speed ​​vs Specialization

Tout d'abord, parlons...
[Courte citation de 8% de l'article original]