Hacker NewsHN submitter: altertable
Original published:

Qwen 3.8 27B available on Cerebras at 1500 tokens/s

CerebrasはQwen 3.8 27Bモデルを高速推論環境で提供開始し、毎秒1500トークンの生成速度を実現した。

Key points

  • •Cerebrasのインフラ上でQwen 3.8 27Bモデルが稼働し、業界をリードする推論速度を達成した
  • •毎秒1500トークンという高速性は、リアルタイム性が求められるアプリケーションでの実用性を大幅に高める
  • •オープンソースモデルの高性能化と専用ハードウェアによる推論最適化の相乗効果が示された
See more