OpenAIのサム・アルトマンCEOは、次期モデルAstraの訓練が完了し能力と安全性の両面で大きな前進だと発表した一方、AIが極めて高い能力を持つようになったことへの警戒感を自社の投稿で表明した。安全基準に合わせて開発速度を調整していると説明している。
CEO自身が「不安」を公言する構図が新しい。
OpenAIのサム・アルトマンCEOが次期モデルAstraの安全性への懸念を自ら公表するなど、高度化するAIの安全管理が重要課題として浮上している。一方で検閲解除モデルの即日リリースや攻撃コードの自動移植といった悪用リスクも顕在化し、安全策と開発スピードの緊張関係が深まっている。学習データ調達ではGoogleがハリウッドと交渉し、稀少書籍がAmazon施設に集積する事例も報告されるなど、データ確保が新たな競争軸となっている。ロボティクス分野では効率的なデータセット設計で研究が加速している。
OpenAIのサム・アルトマンCEOは、次期モデルAstraの訓練が完了し能力と安全性の両面で大きな前進だと発表した一方、AIが極めて高い能力を持つようになったことへの警戒感を自社の投稿で表明した。安全基準に合わせて開発速度を調整していると説明している。
CEO自身が「不安」を公言する構図が新しい。
開発元がGLM-5.3ベースの検閲解除版モデルをリリースし、攻撃的サイバー手法やレッドチーム作業を拒否せず実行できると発表した。1M文脈窓・FP8対応で米国内ホスティングという。イーサン・モリック氏はこの動きを「そう来ると思っていた」とコメントした。
安全策の解除が商品化されるスピードそのものが論点になっている。
Googleが複数のハリウッド大手スタジオに接触し、AI学習用データのライセンス契約を結ぼうと交渉していると報じられた。スタジオ側の交渉力がGoogle側より強い構図だと指摘されている。
学習データの調達自体が交渉材料になる時代の一断面だ。
Forescout Research(Vedere Labs)は、あるPLC機種向けの認証前RCE攻撃コードを別機種向けに移植する作業にAnthropicのClaudeを利用したと報告した。産業制御システムの脆弱性研究にAIが実務的に使われた例となる。
攻撃コードの横展開作業までAIが担う段階に入った。
404 Mediaの調査報道によると、稀少書籍の出荷を追跡した結果、最終的にAmazonのAI学習用データ施設に到着していたことが判明した。書籍のスキャンや電子化がAIモデル訓練の素材として使われている可能性を示す事例だという。
古書店の在庫がどこで学習データに化けるか、追跡してみないと分からない。
ロボティクス企業Axis Roboticsが公開する操作タスク用データセットがHugging Faceで16万ダウンロードを超え、KAISTやTsinghuaなど複数大学・企業が世界モデルやVLA訓練に利用していると紹介された。既存データを次タスクの学習に転用する設計により、少ないデモ数でも高い成功率を出す事例が示されている。
新タスクの度にゼロから学び直させない発想が地味に効いている。