inference-gateway

An open-source, high-performance gateway unifying multiple LLM providers, from local solutions like Ollama to major cloud providers such as OpenAI, Groq, Cohere, Anthropic, Cloudflare and DeepSeek.

GitHubスター

56

ユーザー評価

未評価

お気に入り

0

閲覧数

6

フォーク

7

イシュー

5

技術情報

プログラミング言語

Go主要言語

システム要件

特定の要件は記載されていません

メンテナンス状況

アクティブ

GitHubトピック

agnosticanthropicapicoheredeepseek-v3gatewaygateway-apigolanginference-apikubernetesllmopenaiopensourceopensource-projectsopentelemetryperformanceproxyproxy-serverself-hostedtracing