FastAPI-BitNet
FastAPI-BitNetは、llama.cppベースのBitNetモデルインスタンスを管理するための堅牢なREST APIを提供します。このプロジェクトは、開発者や研究者が自動テスト、ベンチマーク、インタラクティブチャットセッションをプログラム的に制御できるように設計されています。セッション管理、バッチ操作、モデルベンチマーキングなどの機能を備えています。
GitHubスター
34
ユーザー評価
未評価
お気に入り
0
閲覧数
21
フォーク
8
イシュー
0
レビュー & 評価
まだレビューがありません