Mistral Large 4
AI summary
Editorial policyMistral Large 4は、オープンウェイトのマルチモーダルモデルで、MoEアーキテクチャを採用し、総パラメータ数は1.05Tに達する
Key points
- •49Bのアクティブパラメータと1.05Tの総パラメータを持つMoEアーキテクチャを採用している
- •ビジョンエンコーダーは1.6Bパラメータで構成されている
- •オープンウェイトの汎用マルチモーダルモデルとして位置づけられている
Mistral Large 4は、オープンウェイトのマルチモーダルモデルで、MoEアーキテクチャを採用し、総パラメータ数は1.05Tに達する
Mistral AI released a preview of 'Mistral Large 4,' a 1.05-trillion-parameter MoE model, with open weights planned for release by the end of the month.
フランスのAIラボMistral AIが、米中ライバルを追い抜くことを目指す新しい大規模マルチモーダルモデルMistral Large 4を発表した
Mistral AIが新モデルMistral Large 4の技術ドキュメントを公開し、Hacker News上で939ポイントと630件のコメントを獲得した
Mistral Large 4は1兆パラメータのネイティブマルチモーダルモデルで、490億パラメータがアクティブであり、米国・欧州のオープンウェイトモデルとして最高性能を誇る
NVIDIA released Nemotron 3.5 Bolt 74B-A9B 24GB, a model designed for local agent AI that fits within 24GB of memory.