FastAPIのインストール
モデルをServeする
weave://your_entity/project-name/YourModel:<hash>
これを使用するには、Swagger UI のリンクにアクセスし、predict エンドポイントをクリックしてから、“Try it out!” をクリックします.Serve
Weave の op とモデルを API エンドポイントとして公開し、予測のサービングや本番環境での推論を実行します。
任意の Weave Model を指す Weave ref があれば、次を実行できます。
そのモデル用のFastAPIサーバーを起動します。http://0.0.0.0:9996/docs にアクセスすると、モデルをインタラクティブにクエリできます。
モデルのページにアクセスして UI からコピーすると、モデル ref を取得できます。次のようになります。
ターミナルで次を実行します。
Was this page helpful?
⌘I