セキュリティ研究チームHacktronが、Anthropicの「Claude」を使いOpenAI従業員アカウントへ侵入、機密のGitHubデータへのアクセスに成功したと報告した。作業開始から72時間未満での突破だったという。
AI技術の急速な進展に伴い、セキュリティと信頼性の課題が顕在化している。Claudeを用いたOpenAI侵入成功やAIハルシネーションが米軍作戦を誘発しかけた事案は、AIシステムの脆弱性と信頼性の危機を示唆している。一方、DigiCertのAIパスポートやカリフォルニア州のキルスイッチ義務化など、リスク管理と規制強化の動きが加速。OpenAIとMicrosoftの社内文書からは、生成AIが既存産業に与える構造的な脅威への認識も浮き彫りになった。業界全体で安全性と透明性の確保が急務となっている。
Anthropic研究者をハッキング調査会社が「クロード」で72時間以内にOpenAIへ侵入
AIハルシネーションが米軍作戦の引き金になりかけた事案が発覚
AIが生成した中国製兵器部品に関する架空の分析報告が、米軍による中国船舶の臨検作戦を誘発しかけたことが判明した。GovAI研究者は「LLMに内在する不確実性を軍関係者が理解する必要がある」と警告している。
OpenAIとMicrosoft、自社の「ドゥームループ」認識を訴訟資料で示す
ニューヨーク・タイムズ対OpenAI・Microsoft訴訟の未封印文書により、両社がChatGPTがウェブのトラフィックを奪い出版社を追い詰める「ドゥームループ」を招くと社内で認識していたことが明らかになった。
カリフォルニア州知事、AIの「キルスイッチ」義務化を推進
カリフォルニア州のギャビン・ニューサム知事が、フロンティアAIモデルに対する強制停止機能(キルスイッチ)の義務化を含むAI監督で州が主導権を握る方針を打ち出した。
Manus、独立運営再開とともに評価額4400億円で500億円調達へ
AIエージェント企業Manusが、Metaとの合併交渉決裂を経て独立運営を再開し、評価額40億ドルで5億ドルの新規調達を協議していることが分かった。
DigiCert、AIエージェントの身元を証明する「AIパスポート」を発表
DigiCertが暗号署名付き「AIパスポート」を提供するAI Trust Managerを発表した。企業はAIエージェントの所有者・権限を行動前に検証でき、条件変化時に即座にセッション終了できる。調査ではIT責任者の78%がAI関連セキュリティ事故を経験済みという。
イーサン・モリック氏、ClaudeにVoynich手稿の謎解きと動画制作を依頼
ペンシルベニア大学ウォートン校教授のイーサン・モリック氏が、Claudeに未解読文書ヴォイニッチ手稿の解読を試みさせたところ失敗したが、その過程を解説する動画を自動制作したことを紹介した。