モデルは重み空間でウイルスを伝播できるようになった
原題: Weight Space Misfolding
重み空間編集によるニューラルネットワークの知識や挙動の直接的な変更と、その悪用可能性について議論する記事
重要ポイント
- •重み空間編集は、ニューラルネットワークの知識、挙動、アライメントを重みの直接変更を通じて変える技術である
- •モデル仲介型の重み空間操作は、重み空間での操作を指す概念として定義されている
- •記事はモデルがウイルスを伝播する可能性というセキュリティリスクに焦点を当てている
#セキュリティ・悪用#LLM/モデル動向