Show HN: Janus – Go binary that runs GGUF models via Vulkan on AMD/Intel/Nvidia
Go言語で記述されたAIモデル用APIルーターJanusが公開され、Vulkan経由でGGUFモデルを実行可能
Key points
- •JanusはGo言語で書かれたAIモデル向けのAPIルーターである
- •Vulkanモデルランナーを搭載し、AMD、Intel、NvidiaのGPU上で動作する
- •GGUF形式のモデルファイルを実行するためのバイナリとして提供されている