Deepseek a peut-être fait irruption dans le courant dominant avec un coup la semaine dernière, mais les entreprises d'IA basées aux États-Unis essayant d'utiliser les modèles d'IA de l'entreprise chinoise ont une multitude de problèmes.
"Nous sommes sur notre septième fournisseur", a déclaré Neal Shah, PDG de CounterForce Health, à Business Insider.
La contre-force, comme de nombreuses startups, accède aux modèles d'IA via des API fournies par les sociétés cloud. Ces API se chargent par le jeton - l'unité de mesure pour les entrées et les sorties de modèles de langage grand. Cela permet aux coûts d'évoluer avec l'utilisation lorsque les entreprises sont jeunes et ne peuvent pas se permettre de payer une capacité informatique coûteuse et dédiée qu'elles pourraient ne pas utiliser complètement.
À l'heure actuelle, le service de l'entreprise, qui utilise l'IA pour générer des réponses aux refus de réclamation d'assurance, est gratuit pour les particuliers et dans les tests pilotes avec les prestataires de soins de santé, donc réduire autant que possible les coûts. Le modèle ouvert de Deepseek a changé la donne.
Depuis fin janvier, l'équipe de Shah a essayé et lutté avec six fournisseurs d'API différents. Le septième, des feux d'artifice, AI, a été assez cohérent, a déclaré Shah. Les autres étaient trop lents ou peu fiables.
L'analyse artificielle, un site Web qui suit la disponibilité et les performances des modèles d'IA chez les fournisseurs de cloud, a montré que sept nuages exécutaient des modèles Deepseek mercredi. La plupart fonctionnaient à un tiers de la vitesse de la propre API de Deepseek, à l'exception des feux d'artifice, qui représente environ la moitié de la vitesse du service chinois.
De nombreuses entreprises sont soucieuses de partager des données avec une API chinoise et préfèrent les utiliser via un fournisseur américain. Mais de nombreux fournisseurs d'API ont du mal à offrir un accès cohérent aux modèles de profondeur complet à des vitesses assez rapides pour qu'elles soient utiles.
Les entreprises mesurées par des fournisseurs de lots d'analyse artificielle pour l'inférence de l'IA pour améliorer les prix et utiliser plus efficacement les ressources informatiques. Les entreprises ayant une capacité informatique dédiée - en particulier les puces H200 de Nvidia - ne seront probablement pas dues. Et ceux qui sont prêts à payer les prix des nuages d'hyperscaler peuvent le trouver fiable et plus facile à obtenir.
La compagnie chinoise qui a secoué les marchés si profondément parce qu'elle était moins chère à construire et beaucoup moins chère à exécuter que les alternatives occidentales - a été présentée comme un pack de rappel et un niveleur pour l'ensemble de l'écosystème de startup d'IA. Quelques semaines dans ce qui était prévu comme conversion de masse, ce changement n'est pas aussi simple que cela aurait pu sembler.
Deepseek n'a pas répondu à la demande de commentaires de BI.
Theo Browne aimerait utiliser Deepseek, mais il ne trouve pas une bonne source. Grâce à son entreprise Ping, Browne...
[Courte citation de 8% de l'article original]