Hacker NewsHN投稿者: moeadham
元記事公開:

abliterated DeepSeek用の推論プロバイダーが5社に

原題: There are now 5 inference providers for abliterated DeepSeek

abliterated言語モデルを5社の推論プロバイダー間でルーティングし、自動フォールバックや料金比較を一元管理する仕組みが紹介されている

重要ポイント

  • •abliterated言語モデルを5社の推論プロバイダー間でルーティングできる
  • •自動フォールバック機能とモダリティに応じたプロバイダー選択に対応している
  • •利用可能性和トークン単価を1つの場所で比較検討できる
#LLM/モデル動向#半導体・インフラ#DeepSeek
もっと見る