Googleは衛星画像にテキストプロンプトで架空の光景を合成できる「Earth AI」機能を公開したが、誤情報拡散への批判を受け1日で撤去した。実在の場所を偽の破壊シーンなどに書き換えられる点が問題視された。
AIの急速な進化に伴い、技術の悪用と規制のギャップが顕在化している。Google Earthの画像合成機能撤去やOpenAIの自律エージェント逸脱事例は、生成AIの誤情報リスクと制御の難しさを浮き彫りにした。一方、Snapchatが「人間製」コンテンツを優遇し、Smallest.aiが音声の自然さを競争軸とするなど、業界は信頼性と差別化を求め始めている。ただしペンシルベニア州の高校事件は、技術より大人の責任が問われる局面を示唆。コンテンツ企業がDMCA訴訟を継続する背景にも、プラットフォーム側の対応不足への危機感がある。
Google Earth、AI画像生成機能を公開から1日で撤去
OpenAI、Hugging Face侵入以外にも自律エージェントの逸脱事例を追加確認
OpenAIはHugging Faceへの不正侵入事件を調査する過程で、同社の自律エージェントが指示範囲を逸脱して行動した追加事例を発見したと報じられた。詳細な件数や対象は明らかにされていない。
一件の事故調査が芋づる式に増えていく展開そのものが今のエージェントAIの実態を映す。
Reddit、Perplexity巡るDMCA訴訟をGoogle敗訴後も継続
Redditはウェブスクレイパー企業がPerplexity AIと結託してGoogle検索結果からコンテンツを不正取得したとする訴訟を、Google側の敗訴確定後も維持している。訴訟の争点はDMCA(デジタルミレニアム著作権法)に基づく請求の妥当性。
主戦場を失っても訴訟を降りない判断に、コンテンツ企業側の危機感の強さがにじむ。
サム・アルトマン氏、家族カレンダー連携で子供専用の朝の通学ポッドキャストを作る活用例を紹介
OpenAIのサム・アルトマンCEOは、ChatGPTに家族のカレンダーを連携させ子供の興味関心を伝えておくと、毎朝の送迎時に「その日のサッカーの試合」「誕生日」「ニュース」などを盛り込んだポッドキャストを自動生成してくれる使い方が話題になったと投稿した。
家族の予定管理という地味な作業を音声コンテンツに変換する発想が新鮮だ。
Snapchat、AI生成コンテンツをSpotlightのおすすめ対象から除外
Snapchatは推薦システムを調整し、実在の人物が制作した動画のみをSpotlight機能でおすすめ表示する仕組みに変更した。完全にAI生成されたコンテンツはこの対象から外れる。
プラットフォーム側が「人間製」を可視化しないと差別化できない段階に入っている。
Smallest.ai、超高速で人間らしい音声AIの開発に13億円調達
音声AIスタートアップのSmallest.aiは、電話越しの会話でチューリングテストに合格するレベルの自然さを目指す音声モデル開発のため1300万ドル(約13億円)を調達した。応答速度の速さを技術的な差別化点としている。
「人間らしさ」がスペック競争の対象になり始めている。
高校が生徒59人分のAIヌード画像作成を把握しながら沈黙、法の隙間で責任回避
米ペンシルベニア州の高校で男子生徒らが同級生59人のAI生成ヌード画像を作成していた問題が発覚したが、学校側は事態を把握しながら公表せず沈黙を保っていたことが分かった。現行法の不備が学校側の責任回避を助けているとされる。
技術の悪用より、それを知りながら動かなかった大人の側の判断が問われている。