LLM / Model Trends

ローカルLLMの導入における個人と企業の動機を分析し、初期投資コストと長期的な価値、データプライバシーや制御性といったメリット・デメリットを用途とコストの観点から考察している。

• •個人や企業がローカルLLMに投資する背景には、データ管理の自由度やコスト最適化への期待がある
• •無料のモデルであっても、環境構築・運用には隠れたコストがかかる点を指摘している
• •導入の是非を判断するためには、具体的なユースケースと総所有コストを比較検討する必要がある

MicrosoftがAgent Frameworkに永続的なセッション間メモリ機能を追加し、AIエージェントが過去の対話履歴を長期にわたって記憶・活用できるようにした

• •AIエージェントは複数のセッションにわたってユーザーの好みや文脈を記憶し、一貫性のある対応が可能になる
• •この機能により、チャットボットやアシスタントは単発の応答ではなく、長期的な関係性を築くことが可能になる
• •開発者はこのメモリ機能を活用し、ユーザー体験を大幅に向上させたパーソナライズされたエージェントを構築できる

複雑なコーディングタスクに特化した高性能LLM「GLM-5.3」がオープンウェイトとして公開され、開発者による自由な活用やカスタマイズが可能になった

• •複雑なコード生成やデバッグにおいて高い性能を発揮するGLM-5.3モデルが公開された
• •ウェイトがオープンであるため、企業や研究者が独自の環境でモデルを微調整できる
• •コーディング支援ツールや開発環境の高度化に貢献する可能性がある

Preferred Networksが高速かつ省メモリなRust製Optuna実装「Rustuna」を公開し、ハイパーパラメータ最適化の効率化を図った

• •Preferred NetworksがRust言語で実装されたOptunaの高速版「Rustuna」を公開した
• •Rustunaはメモリ使用量の削減と処理速度の向上を特徴としている
• •機械学習モデルのハイパーパラメータ最適化プロセスの効率化に寄与する

GoogleがGeminiに動画解析エージェント機能を追加し、動画内の情報を自律的に抽出・理解する能力を強化した

• •Geminiは動画コンテンツを単なる視聴ではなく、エージェントとして能動的に解析する機能を獲得した
• •この機能により、動画内の複雑な情報や文脈をより深く理解し、ユーザーのクエリに応じた回答が可能になる
• •生成AIのマルチモーダルな理解能力が進化し、動画検索や要約の精度向上が期待されている

Cognitionが480億ドルの企業価値を達成し、AIコーディング市場が単一の勝者ではなく複数のプレイヤーで競う市場であることが示された

• •Cognitionの企業価値はSpaceXへ売却される前のCursorの倍率を上回る水準に達した
• •投資家はAIコーディングツール市場が「勝者総取り」ではなく多様な企業が存続する市場であると見ている
• •この評価はAI開発支援ツール分野における競争の激化と市場拡大を象徴している

Inception Labsが生成AIモデルMercury 2.5をリリース。高速な推論性能とコスト効率の向上を特徴とし、実時間での対話処理を可能にする技術進化をもたらした

• •Mercury 2.5は推論速度を大幅に向上させ、リアルタイム性の高いアプリケーションに対応可能となった
• •既存モデルと比較してトークン生成あたりのコストを削減し、企業導入のハードルを下げる設計となっている
• •オープンソースコミュニティでの評価が高く、Hacker Newsで議論が活発に行われている

MacBook Pro上で複数のSSDを使用してKimi K3モデルをストリーミングし、1トークン/秒の速度で実行する技術的な実証が行われた。

• •2.8Tパラメータを持つKimi K3モデルをMacBook Proで動作させる試みが報告されている
• •4つのSSDからモデルをストリーミングすることで推論を実現した
• •1トークン/秒という低速だが、エッジデバイスでの大規模モデル実行の可能性を示す実験である

In Kubernetes v1.37, key Workload-Aware Scheduling (WAS) features were promoted to Beta, strengthening the foundation for AI/ML workloads.

• •The Workload and PodGroup APIs, which enable gang scheduling, were promoted to Beta.
• •Workload-Aware Preemption (WAP) is now available as a Beta feature.
• •The shared DRA ResourceClaims feature for PodGroups also reached Beta.

OpenUI社が世界初の生成UIモデル「OUI-1」を発表し、テキスト指示からユーザーインターフェースを自動生成する技術を公開した

• •OUI-1は自然言語の指示に基づいてUIコンポーネントを自動生成する世界初のモデルである
• •開発者はこの技術により、デザイナーやエンジニアの作業効率を大幅に向上させると主張している
• •生成AIを用いたUI/UX設計の自動化は、ソフトウェア開発プロセスに新たな標準をもたらす可能性がある