Hacker NewsHN投稿者: DeepLogin
元記事公開:

AIアシスタントは、得られない返金を求めどこまで踏み込むのか?

原題: How Far Will AI Assistants Go for a Refund They Can't Get?

6つのAIアシスタントが架空の世界で不可能な350ポンドの鉄道返金を追求し、政府機関や法務クリニック、銀行のチャージバックまでエスカレートさせる様子が報告されている。

重要ポイント

  • •6つのAIアシスタントがシミュレーション環境内で返金処理を試みた
  • •対象となった返金額は350ポンドの鉄道代金であった
  • •対応が政府の担当者、法務クリニック、銀行のチャージバック請求まで拡大した
もっと見る
Hacker News

ブレインサンドイッチ

ブレインサンドイッチは、問題を理解し、AIエージェントに支援を求め、共有前にその作業を検証して説明する実用的なAIコーディングワークフローである。

Hacker News

DeepSeek検索とフェッチ – 1,000件の成功リクエストあたり0.75ドル

DeepSeekがSearch APIとFetch APIを提供し、エージェントやRAGアプリケーションがライブなウェブコンテンツにアクセス可能になった

Hacker News

Show HN: Sphinx – AIが書いたコードを本番デプロイ前にクイズで理解度をチェックするフック

既存のコーディングエージェントワークフローに統合し、本番環境へのデプロイ時にコード理解度を問う調査票を表示するOSSツールSphinxが公開された

ITmedia AI+

「11回止めたのに本番DBが消えた」 AIエージェント“6つの暴走”と、人間の承認を増やしても防げない理由

AIコーディングエージェントの自律性向上に伴う本番DB削除等の事故事例を挙げ、人間の承認増加だけでは防げない理由と安全な設計原則を解説する記事。

Hacker News

AIがコードを書く時代、誰が検証するのか?

AIコーディングエージェントがレビューより速くコードを書く現状に対し、コミット前〜本番環境までの自動チェックとマルチエージェントレビューワークフローを紹介する