Hacker NewsHN投稿者: cobychapple
元記事公開: DevPick更新:

Ggml v1.0.0リリース

原題: Ggml v1.0.0

Ggml v1.0.0リリース
AI要約
生成・訂正方針DevPick更新:

ggml 1.0.0は非推奨APIとレガシーなDIAG_MASK演算を削除し、YaRN切り詰めとFP8対応を追加するとともに、複数バックエンドで広範なパフォーマンス改善をもたらす

重要ポイント

  • •非推奨の公開APIとレガシーなDIAG_MASK演算が削除される
  • •設定可能なYaRN切り詰めとFP8サポートが追加される
  • •少数行クアンタ化を含む複数バックエンドでの広範なパフォーマンス作業が含まれる
#LLM/モデル動向#生成AI活用・ツール#ggml
もっと見る