Source |
Korben |
Identifiant |
8449919 |
Date de publication |
2024-02-14 08:00:00 (vue: 2024-02-14 10:09:33) |
Titre |
LiteLLM – Pour discuter avec toutes les API LLM en utilisant la syntaxe OpenAI |
Texte |
LiteLLM est une bibliothèque Python qui simplifie l'interaction avec diverses API de modèles de langage (LLM) en utilisant le format de l'API OpenAI. Elle permet l'utilisation de fonctions telles que la génération de texte et la traduction. L'installation se fait via `pip install litellm`, et son utilisation nécessite de définir des variables d'environnement et de créer un objet LiteLLM. LiteLLM supporte également un proxy pour rediriger les requêtes vers le modèle souhaité et offre des fonctionnalités supplémentaires comme le streaming, la gestion des exceptions, et le suivi des coûts. Plus d'informations sont disponibles sur la page GitHub de LiteLLM. |
Envoyé |
Oui |
Condensat |
–To API APIs Github LLM Litellm More OPENAI OpenAi Python The `pip additional all allows also available cost creating defining desired discuss done environmental exceptional features format functions generation information install installation interaction its language library litellm` management model monitoring object offers page proxy redirect requests requires simplifies streaming such supports syntax text translation use using variables various |
Tags |
|
Stories |
|
Notes |
★★★
|
Move |
|