AnthropicはClaudeモデルに性的な露骨表現の生成を禁じているが、TechCrunchの一連のテストでOpus 4.6がその制限を容易に回避し生成してしまうことが確認された。企業の公式ポリシーと実際の挙動に乖離があることが第三者検証で明らかになった形だ。
看板の禁止事項ほど検証で崩れやすい。
AIの実装と運用をめぐる課題が相次ぎ浮上している。Anthropicの安全策における実装の甘さ、NVIDIAが指摘するモデル性能よりもハーネス設計の重要性、LinkedInで報告された低品質なAI生成コンテンツの蔓延など、理想と現実のギャップが顕在化している。一方、宇宙データセンターやヒューマノイドロボット部品の量産化といった産業インフラの整備は着実に進む。ただしセキュリティ面では、AIを活用した高度なマルウェアが開発者ツールチェーンを狙う脅威も増加しており、技術進展と同時にリスク管理の強化が急務となっている。
AnthropicはClaudeモデルに性的な露骨表現の生成を禁じているが、TechCrunchの一連のテストでOpus 4.6がその制限を容易に回避し生成してしまうことが確認された。企業の公式ポリシーと実際の挙動に乖離があることが第三者検証で明らかになった形だ。
看板の禁止事項ほど検証で崩れやすい。
NVIDIAの研究によると、AIエージェントの性能はモデル自体の強さよりも、周囲の実行環境(ハーネス)のファインチューニングに大きく依存することが示された。モデル性能が低くても適切な足場があれば暴走せず安定して動作するという。
主役交代、モデルからハーネス設計へ。
宇宙データセンター開発のStarcloudが2億5000万ドルを調達した。地上のAI向けデータセンター建設が電力・土地不足に直面する中、ロケット打ち上げ枠の確保をめぐる競争が今後激化する見通しだという。
電力不足が宇宙開発の口実に転じた。
LinkedInが7月30日に導入した「AIスロップに見える」投稿の報告ボタンが、すでに100万回以上クリックされたと同社が発表した。低品質なAI生成コンテンツへの利用者の反応の大きさが数字で示された。
通報ボタンの利用数がそのままコンテンツの質の温度計になっている。
Matti HaapojaやSam「Kold」Kolderら著名な映像制作系YouTuberが、AI動画生成企業からの資金提供を受けたことを明かし、視聴者から批判を受けている。動画クリエイター界隈でAIマネー受領への抵抗感が表面化した。
創作者コミュニティの信頼は資金源の透明性に直結する。
独部品大手Schaefflerが、独自の成形技術を用いた歯車を採用し、ヒューマノイドロボット向けの波動歯車減速機を2027年に大量生産する計画を明らかにした。ロボット関節部の基幹部品の量産体制構築が進む。
関節部品の量産化が、ヒューマノイド普及の裏側で静かに進んでいる。
セキュリティ研究者が、カレンダーや習慣管理を装った14個のnpmパッケージがトロイの木馬化され、AI支援のコマンド&コントロール機能を持つLinuxバックドア「RedC2 4.0」を配布していたことを発見した。開発者のパッケージ管理を通じた実害が確認された事例だ。
開発者の依存関係管理そのものが攻撃経路になっている。