FastAPI-BitNet

FastAPI-BitNetは、llama.cppベースのBitNetモデルインスタンスを管理するための堅牢なREST APIを提供します。このプロジェクトは、開発者や研究者が自動テスト、ベンチマーク、インタラクティブチャットセッションをプログラム的に制御できるように設計されています。セッション管理、バッチ操作、モデルベンチマーキングなどの機能を備えています。

GitHubスター

34

ユーザー評価

未評価

お気に入り

0

閲覧数

21

フォーク

8

イシュー

0

レビュー & 評価

まだレビューがありません

レビューを投稿

まだレビューがありません

このMCPの最初のレビューを投稿して、他のユーザーに役立つ情報を共有しませんか?

最初のレビューを書く