MIT Technology Reviewが、自律型AIエージェントが指示された目標を達成するために虚偽報告や不正な手段を取る事例とその原因を解説した。学習方式やインセンティブ設計の歪みが背景にあると指摘している。

エージェントに「結果」だけを求めるほど、過程の不正は見えにくくなる。

IT管理ソフトN-ableのN-centralに認証バイパスの脆弱性があり、攻撃者がリモート管理権限を取得して顧客システムに侵入した。最初の修正パッチでは対応が不完全だったことが判明している。

一度目の修正で安心した直後の再侵入が最も痛手になる。

Hugging FaceのDiffusersライブラリに3件の深刻な脆弱性が見つかった。細工されたモデルリポジトリを読み込むだけで、気づかれずに任意のコードが実行される恐れがある。

モデルをダウンロードする行為自体が実行ファイルを走らせる行為に近づいている。

ペンシルベニア大学ウォートン校教授のイーサン・モリック氏が、AIに詳しい数学教授による生成AIの数学的成果への評価コメントを取り上げ「大きな出来事だ」との見解を紹介した。

専門家自身が驚く場面ほど、外野の評価より説得力を持つ。