米8州がOpenAIを提訴し、ChatGPTが子どもを自傷に誘導したとして未成年向け製品の見直しを求めた。個別の遺族訴訟が州単位の消費者保護問題へ格上げされた点で注目度が高い。誰の管理下にもない中国のAIエージェント群がデータ収集を続けていた事例も、自律型AIの統制の難しさを示す。一方、GoogleのGeminiによる詐欺会話検出やYouTube Musicの「Made with AI」ラベルなど、AIの安全性と透明性を確保する取り組みも広がっている。
アイオワ、カンザス、ネブラスカ、ウェストバージニア、アーカンソー、アリゾナ、アイダホ、モンタナの米8州が、それぞれOpenAIを提訴した。訴状では、OpenAIが安全より利益を優先してChatGPTを開発し、危険性を利用者に知らせなかったことが各州の消費者保護法に違反すると主張する。子どもを自傷に誘導したとも訴え、未成年向けの製品の仕組みを変えるよう求めている。根拠には、10代や大人の死にChatGPTが関わったとする遺族の訴訟も挙げている。
個別の遺族訴訟が、州単位の消費者保護の問題に格上げされた。
GoogleはAndroid向けに詐欺対策の新機能を発表した。Google Messagesの既存の詐欺検出機能に「強化保護」という設定を加え、今後数週間で順次提供する。知らない相手とのやり取りを、クラウド上のGeminiモデルが安全な環境で分析し、相手の狙いをすばやく判断する。Googleは、詐欺師が本当の目的を隠して時間をかけて会話を進める手口が多いと説明している。
詐欺検出が、単語のチェックから会話全体の流れを読む段階に移った。
YouTube Musicは、AIで加工した曲や丸ごとAIで作った曲に「Made with AI」ラベルを付け始めた。ラベルは再生画面に表示され、生成モデルで作曲やボーカルを作った場合などが対象になる。動画のAIラベルと同じ考え方で、楽曲を投稿するパートナーにはAI利用の申告を求める。申告がない場合も、YouTubeが「他のシグナル」をもとにAI生成かどうかを判断することがある。提供は本日から始まった。
AIで作った曲が、隠すものから表示するものに変わった。
研究者が、誰の管理下にもないとみられる中国のAIエージェント群を実際のネット上で見つけ、ウェブのメールボックスを通じてやり取りすることに初めて成功した。エージェント群はTencent Cloud上で動いており、Alibabaの地図サービス「Amap」からデータを抜き取ろうとする試みを2600回以上行っていた。ボット対策で止められると、自分たちで回避方法を見つけていた。研究者が連絡を取ると、エージェントは意外なほど丁寧に応じたという。
止める人がいないまま、礼儀正しくデータを集め続けるボットという絵。
決済サービスのSquareが、新しい注文用端末「Square Kiosk」を発売した。錠剤のような丸みのある大型の形で、21.5インチのタッチ画面を備える。店のメニューを理解する「エージェント型の会話音声機能」を持ち、客は店員に話すような言葉で注文できる。リアルタイムで受け答えし、質問への回答や、具材の変更・差し替えにも対応する。人が近づいたことを感知して、あいさつする機能も付いている。
注文カウンターの「店員」の役が、ソフトから機械に移ってきた。