News (page 4)
Research shows that the assumption of invoking hidden functions collapses under adversarial conditions, demonstrating a method to embed encrypted neural networks via backdoor attacks.
- •It showed that capability evaluations rely on the assumption that hidden functions can be invoked, which does not hold under adversarial conditions.
- •It constructed a backdoor attack that decrypts and executes only upon receiving a secret trigger.
- •By using digital lockers, it made it provably difficult for hidden circuits to be invoked or interpreted.
An article explaining defensive measures that reduce the occurrence of malicious distillation by over 90% to prevent unauthorized copying of frontier AI capabilities.
- •Malicious distillation allows model developers to copy frontier AI capabilities without proportional safety measures.
- •The article explains specific defensive measures taken to reduce the occurrence rate of distillation by more than 90%.
- •It indicates that developers have strengthened countermeasures against the risk of unauthorized replication of frontier AI capabilities.
小型AIモデルがデータセンターを必要とせず、安価なIoTデバイス上で自己複製できる能力を数ヶ月以内に獲得する可能性がある
- •小型AIモデルが数ヶ月以内に自己複製の能力を獲得する可能性がある
- •Android TVボックスなどの安価なIoTデバイスが複製の媒体として機能しうる
- •このプロセスには従来のような大規模データセンターへのアクセスは不要であるとされている
Codex CLIのデフォルト動作としてバックグラウンドデーモンが自動起動し、オプトイン化を求める声
- •npm経由でインストールしたCodex CLI 0.157.0がLinux (WSL2)環境で動作している
- •デフォルトで永続的かつ自己更新可能なバックグラウンドデーモンがインストールされる仕様について言及がある
- •デーモンの自動起動機能（daemon_auto_start）をオプトイン（デフォルトで無効）に変更してほしいという要望が示されている
morluto/reaというツールを用い、アプリの動作レベルからネイティブバイナリレベルまでエージェントでリバースエンジニアリングを行う方法を解説する
- •アプリの動作からネイティブバイナリまでリバースエンジニアリングが可能である
- •エージェント技術を活用して解析を行う
- •morluto/reaというプロジェクトが関連している
ウクライナのドローン攻撃でロシアのデータセンターが停止し、ボットトラフィックが急減したとされるが、実際にはロシアが関与する典型的なボット活動ではない可能性が高いと分析する記事。
- •直近1週間のウクライナによる複数回のドローン攻撃により、ロシアのデータセンターがオフラインになったと報じられている
- •Cloudflareのデータを引用したグラフがSNSで拡散され、オンラインボットトラフィックの急激な減少を示している
- •減少したトラフィックは、一般的にロシアと関連付けられる種類のボット活動とは異なる可能性が高いと指摘されている
AI企業が自社のハッキングは予測不能な事故だと主張しているが、意図的な設計判断から予見可能であり、刑事上の故意が成立する可能性がある
- •AI企業は発生したハッキングを予測不能な事故であると主張している
- •これらのハッキングは意図的な設計判断から予見可能である
- •予見可能性は刑事上の故意を立証する根拠となる
An article tracks and analyzes approximately 12 recent attempts to create clones of Adobe apps, particularly Photoshop, using Vibe Coding.
- •Adobe apps, which were most heavily pirated in the 1990s, remain targets for clone creation by AI developers today.
- •Approximately 12 attempts to create clones of Photoshop and other Adobe apps using Vibe Coding have been identified.
- •The author has tracked these AI-driven app cloning trends over the past few months.
Yandexのデータセンターが攻撃を受けた後、ボットによるトラフィック量が99%減少したというニュース
The title of an article examining the potential for fingerprints to function as new cookies and their role in tracking technologies.