Hacker NewsHN投稿者: Maverick617
元記事公開:

Show HN: Janus – Go製バイナリでVulkan経由でAMD/Intel/Nvidia上でGGUFモデルを実行

原題: Show HN: Janus – Go binary that runs GGUF models via Vulkan on AMD/Intel/Nvidia

Go言語で記述されたAIモデル用APIルーターJanusが公開され、Vulkan経由でGGUFモデルを実行可能

重要ポイント

  • •JanusはGo言語で書かれたAIモデル向けのAPIルーターである
  • •Vulkanモデルランナーを搭載し、AMD、Intel、NvidiaのGPU上で動作する
  • •GGUF形式のモデルファイルを実行するためのバイナリとして提供されている
もっと見る