R

FastAPI-BitNetは、llama.cppベースのBitNetモデルインスタンスを管理するための堅牢なREST APIを提供します。このプロジェクトは、開発者や研究者が自動テスト、ベンチマーク、インタラクティブチャットセッションをプログラムで制御できるように設計されています。セッション管理やバッチ操作、モデルベンチマーク機能を備えています。

An extension for running BitNet in VSCode via Model Context Provider endpoints.