Back to articles
DevPickView feed
TechCrunchby Julie Bort
Original published:

Early Anthropic hire, former METR COO have found a way to rein in rogue AI agents

AI summary
Editorial policy

Anthropic初期参加者とMETR元COOが設立したAIUCが、暴走するAIエージェントを制御する技術を開発し、Ribbit Capital主導で4000万ドルの資金調達に成功した

Key points

  • •同社はAIエージェントが意図しない行動を起こすリスクを低減する仕組みを提供する
  • •資金はRibbit Capitalがリードし、First Harmonicも参加するシリーズAラウンドで調達された
  • •創業者らはAnthropicやMETRでの経験を活かし、AIの安全性と制御可能性に特化した事業を展開している
#AI Agents#AI Companies & Funding#Anthropic
Read the original(opens in a new tab)

Related articles

See more
ITmedia AI+

Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与 公表に拒否権なし

Anthropic has started resident evaluations by the AI evaluation group METR, granting employee-level access and permitting independent disclosure of risks and incidents.

TechCrunch

Anthropic is letting METR researchers look under the hood with employee-level access

Anthropicが外部評価機関METRにリスクやインシデントに関する従業員レベルのアクセス権を付与し、METR独自の評価結果を公開することを可能にした

Hacker News

More on Anthropic's Scion ripping off Mononoke

An article discussing the claim that Anthropic's Scion ripped off Mononoke.

Publickey

AnthropicのBun、TypeScript 7よりも3倍以上高速なTypeScript型チェッカーを搭載。Bunの新バージョン1.4.3で

Anthropicが開発するJavaScriptランタイムBunのv1.4.3がリリースされ、Go言語で実装された高速なTypeScript型チェッカーが搭載された

gihyo.jp

Claude Codeデスクトップアプリ、並行作業を進めやすくするセッション管理の改善を案内

Anthropic improved session management in the Claude Code desktop app to facilitate parallel work across multiple sessions.