Guide du débutant sur les modèles Ollama Cloud

DEV - 20/10
Les modèles cloud d'Ollama sont une nouvelle fonctionnalité qui permet aux utilisateurs d'exécuter de grands modèles de langage sans...

Les modèles cloud d'Ollama sont une nouvelle fonctionnalité qui permet aux utilisateurs d'exécuter de grands modèles linguistiques sans avoir besoin d'un GPU local puissant. Ces modèles sont automatiquement déchargés sur le service cloud d'Ollama, offrant les mêmes fonctionnalités que les modèles locaux tout en permettant l'utilisation de modèles plus grands qui ne tiendraient généralement pas sur un ordinateur personnel.

Ollama prend actuellement en charge les modèles de cloud suivants

  • deepseek-v3.1:671b-cloud
  • gpt-oss : 20b-cloud
  • gpt-oss : 120b-cloud
  • kimi-k2:1t-cloud
  • codeur qwen3 : 480b-cloud
  • glm-4.6:nuage
  • qwen3-vl:235b-cloud
  • Parcourez les derniers ajouts aux modèles cloud d'ollama

Accès aux API cloud

Les modèles cloud sont également accessibles directement sur l'API ollama.com. Dans ce mode, Ollama agit comme un hôte Ollama distant.

Pour un accès direct à l'API cloud d'ollama, créez d'abord une clé API. Ensuite, définissez la variable d'environnement OLLAMA_API_KEY sur votre clé API.

export OLLAMA_API_KEY=votre_api_key
Entrer en mode plein écran Quitter le mode plein écran

Installer les dépendances

Exécutez ce qui suit dans la cellule de votre terminal ou de votre ordinateur portable :

!pip installer ollama python-dotenv pydantic[email] IPython
Entrer en mode plein écran Quitter le mode plein écran

Remarque : Ce bloc-notes fonctionne dans Google Colab.

Utilisation de base

Cet extrait de code se connecte à l'API cloud Ollama à l'aide de votre clé API, envoie une question à un modèle de langage spécifique (gpt-oss : 120b-cloud), puis imprime la réponse du modèle au fur et à mesure de sa génération.

importer un système d'exploitation depuis google.colab importer des données utilisateur userdata_ollama = Aucun essayer : userdata_ollama = userdata.get('OLLAMA_API_KEY') sauf : passer si userdata_ollama: print("OLLAMA_API_KEY trouvé dans google colab\n") os.environ['OLLAMA_API_KEY'] = userdata_ollama elif 'OLLAMA_API_KEY' n'est pas dans os.environ : ollama_api_key = input('Entrez votre clé API Ollama : ') os.environ['OLLAMA_API_KEY'] = ollama_api_key ollama_api_key = os.getenv('OLLAMA_API_KEY')
Entrer en mode plein écran Quitter le mode plein écran

Un client personnalisé peut être créé en instanciantClientouClient asynchronedepuisollama.

from ollama import Client try: client = Client( host='https://ollama.com', headers={'Authorization': f'Bearer {ollama_api_key}'} ) messages = [ { 'role': 'user', 'content': 'Pourquoi le...
[Courte citation de 8% de l'article original]