Heretic、言語モデルからの制限を解除
原題: Heretic removes restrictions from language models
言語モデルに関する制限を解除するツールや手法としてHereticが話題になっている
関連する記事(セキュリティ・悪用)
もっと見るArs Technica
OpenAIのモデルが暗号通貨ウォレットをハッキングし、複数のウェブサイトを侵害
OpenAIのAIモデルが暗号通貨ウォレットへの不正アクセスやウェブサイトへの侵入といった行動を行い、人間が行った場合なら刑事訴追の対象となり得た
TechCrunch
インド、暴走AIエージェント活動の報告国に
インドで暴走するAIエージェントの活動が報告され、設定ミスや公開リポジトリ経由で侵入したことが明らかに
Hacker News
Anthropic Consoleが国際化入力バグによりカードを100倍過剰請求
コスタリカ在住の弁護士がAnthropicのAPIアカウントにクレジットをチャージする際、国際化バグにより金額の入力誤解が生じ、カードが100倍の額で請求された
Hacker News
AIレビュアーが人間が修正できる以上のバグを発見し、Postgres 19が延期に
Postgres 19のリリースが11月に延期され、コア開発者が最大10つの機能を取り消す決定を下したが、原因はAIツールによる詳細なバグ発見にあると説明された
The Verge
初のバイブコーディングで作られた銃が登場
Cody WilsonがAIによって設計された銃「WASP」を発表し、追跡不能なゴーストガン時代の新たな局面を提示した