UnderdogがAlibabaのQwen3.8-27Bを約2bitまで量子化し、メモリ16GBのノートPCで動作する軽量モデルとして公開した
- •Underdogは10月8日に「Underdog Saluki 27B 1.0」をオープンウェイトとして公開した
- •モデルは約2bitまで量子化され、8GB未満のメモリで動作する
- •Apache 2.0ライセンスでHugging Faceからダウンロード可能である
Qwen3.8-27Bに関する最新のAI・ITニュースを新着順にまとめ、DevPickのAIが要点を要約しています。
UnderdogがAlibabaのQwen3.8-27Bを約2bitまで量子化し、メモリ16GBのノートPCで動作する軽量モデルとして公開した
PrismMLがQwen3.8 27Bを3値量子化しメモリ5.9GBで動作する「Bonsai 2 27B」をApache 2.0で公開
Shapelearn Qwen 3.8 27B (13.1 GB VRAM)
Shapelearnが提供するQwen 3.8 27Bモデルの特性を紹介し、VRAM 13.1 GBという比較的低いリソースで動作可能な点に焦点を当てた技術解説記事
Benchmarking Qwen3.8 27B quantizations: 4-bit holds up, 1-bit collapses
Qwen3.8 27Bモデルの量子化実験結果を報告し、4ビット量子化では性能が維持される一方、1ビット量子化ではモデルの性能が大幅に劣化することを示した。
Run Qwen3.8 27B locally: real numbers from my Mac Studio
Mac Studio上でQwen3.8 27Bモデルを実際に実行し、推論速度やメモリ使用量などの具体的なベンチマーク数値を報告している。
Unslothが新量子化技術「Dynamic v3.0」を発表し、Qwen3.8-27Bモデルを驚異の6.2GBにまで小型化することに成功した。
Alibaba CloudがQwen3.8-27BのウェイトをApache 2.0ライセンスで公開。一部のベンチマークでClaude Opus 4.6 Maxを上回る性能を示した。