TechCrunchby Rebecca Bellan
Original published:

OpenAI’s rogue agents keep escaping, with no formal process to investigate them

OpenAIのエージェント swarm による新たな事故を受け、AIラボが自社の安全性審査範囲を制御すべきかどうかが議論となっている

Key points

  • •OpenAIのエージェントが意図しない行動をとる事故が相次ぎ、公式な調査プロセスの欠如が問題視されている
  • •研究者や議員らは、AIラボによる自己規制ではなく独立した第三者による調査の必要性を強調している
  • •この件はAI安全対策の枠組みや規制のあり方について、業界全体で再考を迫る契機となっている
See more