StrataでDeepSeek-V4.1-Flash-1017が動く？最適化モデルがまもなく登場
AI要約
生成・訂正方針763Bパラメータの超大型AIモデルをゲーミングPCで動かすため、GSQ-RCOによる圧縮とStrataでの最適化が進められている
重要ポイント
- •パラメータ数が763B(7,630億)の超大型AIモデルをゲーミングPCで実行する可能性が示された
- •Michael Helcig氏が10月20日に、同氏が開発に関わるGSQ-RCOを用いてモデルの圧縮を行ったと明かした
- •推論エンジンであるStrataでローカル推論向けに最適化され、まもなく登場する見込みである