OpenAIのJalapeñoチップ、大規模推論向けに設計されベンチマークで高性能を示す
原題: OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show
AI要約
生成・訂正方針OpenAIが独自開発したJalapeñoチップが推論ベンチマークで高性能を示した。ユーザーあたりのトークン数とキロワットあたりのスループットで最新技術を凌駕した。
重要ポイント
- •SemiAnalysisのInferenceXベンチマークで、既存の最先端チップを上回る性能を示した
- •大規模な推論処理に特化しており、エネルギー効率と処理速度の両面で優れている
- •ユーザーあたりのトークン生成数と電力あたりのスループットで記録を更新した