Hacker NewsHN投稿者: snehesht
元記事公開:
Qwen 3.8 Flash Next (125B)を消費者向けハードウェア(RTX 4090)で100T/sで実行
原題: Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s
AI要約
推論エンジンStrataにより、Qwen3.8-Flash-NextモデルをRTX 4090などの消費者向けハードウェア上で100T/sの速度で実行できる手法が公開された
重要ポイント
- •WindowsおよびLinux向けにワンクリックインストールが可能で、ローカルホスト上でOpenAIやAnthropic互換のAPIを提供する
- •推論エンジンとしてStrataが使用され、任意の消費者向けハードウェアでの動作を想定している
- •画像入力のオプション対応も含まれている