Hacker NewsHN submitter: codyznash
Original published:

Ask a model if code is malicious and it reaches for its morals

コードが悪性かどうかをMoEモデルに尋ねた際、道徳性に関連するエキスパートパスが起動することが示された

Key points

  • •コードの悪意判定をMoEモデルに問い合わせた際の動作が分析されている
  • •モデルは道徳性に関連するエキスパートパスを選択的に使用することが確認された
  • •LLMの内部メカニズムにおける倫理判断のプロセスに関する考察が含まれている
See more