PC Watchby 劉 尭2026/10/7
ローカルLLM推論エンジン「Strata」がRyzen AI Max/Max+シリーズに対応し、128GBメモリでQwen3.8-Flash-Nextを動作可能になった
- •オープンソースのローカルLLM推論エンジン「Strata」のバージョン0.1.40が10月6日に公開された
- •AMDのRyzen AI Max/Max+シリーズへの対応が実験的に追加された
- •128GBのメモリを活用して「Qwen3.8-Flash-Next」を動作できるようになった
PC Watchby 西川 和久2026/10/6
VRAM 12GBのビデオカードで総パラメータ125Bの「Qwen3.8-Flash-Next」を動作させるツール「Strata」の試行結果を報告
- •総パラメータ125B、アクティブパラメータ6Bの「Qwen3.8-Flash-Next」がVRAM 12GBで動作するとの情報が広まった
- •10月に入ってAI関連の話題が賑わいをみせている
- •やや古いゲーミングPC環境で「Strata」を用いてモデルを実際に動作させた
PC Watchby 劉 尭2026/10/5
ローカルLLM「Qwen3.8-Flash-Next」をコンシューマ向けPCで実行できる推論環境「Strata」の最新版v0.1.39が10月4日に公開された
- •StrataはGitHubで無償公開されており、既存ユーザーはUPDATE.batまたはupdate.shの実行で更新可能
- •旧世代のGeForceやIntel Arc GPUなど、コンシューマ向けPC環境でのローカルLLM実行を支援する
- •ローカルLLM「Qwen3.8-Flash-Next」を手軽に動かせるオープンソースの推論環境として機能する
Hacker NewsHN投稿者: snehesht2026/10/4
Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s
推論エンジンStrataにより、Qwen3.8-Flash-NextモデルをRTX 4090などの消費者向けハードウェア上で100T/sの速度で実行できる手法が公開された
- •WindowsおよびLinux向けにワンクリックインストールが可能で、ローカルホスト上でOpenAIやAnthropic互換のAPIを提供する
- •推論エンジンとしてStrataが使用され、任意の消費者向けハードウェアでの動作を想定している
- •画像入力のオプション対応も含まれている
#LLM/モデル動向#半導体・インフラ#生成AI活用・ツール Hacker NewsHN投稿者: fibo2026/10/3
From the creator of Redis; run LLM locally with ds4
Redisの創始者antirezが開発したC言語製推論エンジンds4について、DeepSeek V4などのモデルをローカルで実行するドキュメントやベンチマークを解説した
- •ds4はDeepSeek V4/V4.1、Qwen3.8 Flash Next、GLM 5.xに対応したC言語製の推論エンジンである
- •Metal、CUDA、ROCmといった異なるハードウェア環境での動作をサポートしている
- •ds4に関するドキュメント、ベンチマーク結果、セットアップ手順が公開されている
PC Watchby 劉 尭2026/10/2
AlibabaのQwen3.8-Flash-NextをゲーミングPCで高速実行する推論エンジン「Strata」が公開され、秒間60～95トークンで動作
- •総パラメータ125B、アクティブパラメータ6BのQwen3.8-Flash-Nextが、ビデオカード1枚のゲーミングPCで動作する
- •推論エンジン「Strata」により、秒間60～95トークンの速度で高速に実行できる
- •開発者のNiko1221氏がGitHubで公開し、ライセンスはMITとなっている
Hacker NewsHN投稿者: carloslfu2026/9/2
Show HN: Running 104GB Qwen3.8-Flash-Next on 48GB Mac with at ~12 tok/s
スロットストリームという技術により、125Bパラメータの巨大モデルをメモリ不足のMacでもSSDストリーミングとエキスパートオフロードを使って実行可能にした
- •16GB以上のメモリを持つMacでも、100GB以上のメモリを必要とする大規模モデルを実行できる技術を開発した
- •MLXとSwiftを活用したネイティブなmacOS環境向けの実装で、インストールと更新が容易になっている
- •メモリ使用量と速度のバランスを自動調整するオートモードを搭載し、次は投機的デコーディングのMTPモジュールを実装予定
PC Watchby 竹元 かつみ2026/8/26
AlibabaのQwenチームが次世代モデル設計を先取りした「Qwen3.8-Flash-Next」をオープンウェイトで公開し、125Bパラメータながら高性能モデルに匹敵する性能を有する。
- •モデル規模は125B-A6B構造で、別途51BのN-gram埋め込みを搭載している
- •Hugging FaceやModelScopeからダウンロード可能で、商用利用を含む原則無償での提供となる
- •一部の事業内容では商用利用に別途契約が必要となるライセンス条件が設けられている
Hacker NewsHN投稿者: tosh2026/8/26
Qwen3.8-Flash-Next: A New Architecture, Towards Ultimate Cost-Efficiency
アリババグループのQwenチームが、高いコスト効率を実現する新アーキテクチャ「Qwen3.8-Flash-Next」を発表。推論コストの大幅削減と、パフォーマンスの維持・向上を両立する技術的詳細が解説されている。
- •新アーキテクチャにより、大規模言語モデルの推論コストを従来比で大幅に削減
- •性能を維持しつつ、計算リソースの効率的な活用を実現する設計となっている
- •オープンソースモデルの競争力強化と、実業務での導入障壁の低下が期待される
PC Watchby 竹元 かつみ2026/8/25
アリババのQwenチームが次期モデルに向けた新アーキテクチャを採用した「Qwen3.8-Flash-Next」を8月27日にオープンウェイトで公開する。詳細なスペックは未公開だが、既存モデルと同等の性能が期待されている
- •Qwen3.8-Flash-Nextは次期Qwen4向けの新アーキテクチャを採用している
- •8月27日0時にオープンウェイトとして公開され、誰でもダウンロード可能となる
- •パラメータ数やライセンスなどの詳細な仕様は現時点では不明である