On ne peut faire confiance à aucun LLM unique isolément

J'ai commencé à créer Glama après une observation simple : aucun LLM ne peut être fiable de manière isolée.

De la crainte au scepticisme

Comme beaucoup d'autres, ma première exposition aux LLM s'est faite via le modèle GPT-2 d'OpenAI. Au début, je rédigeais une invite, la partageais avec le modèle et acceptais généralement sa réponse comme « très probablement correcte ». Cependant, comme beaucoup d’autres à l’époque, je considérais toujours la technologie comme une promesse de ce qui sera possible dans le futur, plutôt que comme un homologue digne de confiance à consulter.

Plus tard, en juin 2020, alors que GPT-3 est sorti, impressionné par de nombreuses démos incroyables, j'ai commencé à explorer ce que signifie s'appuyer sur les LLM pour m'aider dans les tâches quotidiennes dans mon domaine d'expertise. C'est là que ma confiance dans les LLM a commencé à diminuer...

Faites confiance, mais vérifiez

Il existe un phénomène connu sous le nom d’effet Gell-Mann Amnesia. L'effet décrit...
[Courte citation de 8% de l'article original]