OpenAI のサム・アルトマン CEO が X に投稿し、「人々は常に未来をコントロールしているべきだ」と述べた。人間が「AIシステムが報いるに値すると判断したこと」だけをこなす役割に追いやられることは容認できない、というのが OpenAI の立場だという。さらに、人々は超知能に未来の制御を譲るべきではなく、この要件が最終的にAIの進歩そのものを制約すべきだとした。Keras 作者のフランソワ・ショレ氏も賛同を表明した。

超知能を開発する会社のトップが、自らブレーキの条件を書いた形だ。

オーストラリア発のデザインプラットフォーム Canva が、全世界の従業員の22%にあたる1200人超の職を削減または移転する大規模な再編を発表した。創業期からサービスを支えてきた社員も対象に含まれる。Canva の共同創業者でCEOのメラニー・パーキンス氏は社員宛てメールで「13年の歴史の中で間違いなく最も困難な瞬間」と述べた。テック業界では、ソフトウェア企業が安価なAIに対抗するためにこうした再編を進めている。

デザインを誰でもできるものにした会社が、今度はAIに同じことをされる側に回った。

Anthropic が、AIモデルの身元を証明する仕組み「FlashProve」を開発していると TechCrunch が報じた。AIの回答が、名乗っているとおりのモデルから実際に出力されたものかどうかを、誰でも確認できるようにするシステムだという。

モデルの「なりすまし」が検証すべき対象になってきた。

PCゲームのMOD（改造データ）配布サイトとして最大級の Nexus Mods が、新しいMODをアップロードする際にAIを使ったかどうかの申告を義務化すると発表した。運営者の Victor Folmann 氏によると、ユーザーから最も多く寄せられていたのは「AIの使用が明示されていない」という懸念だった。AI生成・AI支援のタグはすでにあったが、情報をもっと分かりやすくするとしている。

禁止ではなく申告にした。クリエイター界隈で落としどころになりそうな線の引き方だ。

米国のテック株は、AIへの巨額投資を不安視した売りの後、火曜日の午後に持ち直した。中間選挙はウォール街に大きな影響を与えなかった。投資家の間では、民主党が少なくとも下院で過半数を取り、上院でも議席を伸ばすとの予想が出ており、そうなればAI規制が強まる可能性がある。

選挙結果がAI規制の材料として株価に織り込まれ始めている。

Ted Schlein 氏が率いるサイバーセキュリティ特化のベンチャーキャピタル Ballistic Ventures が、計4億9000万ドル規模の新ファンドの資金を募っている。内訳は旗艦ファンドが3億6000万ドル、別の投資ビークルが1億3000万ドル。背景には、AIをきっかけとしたサイバーセキュリティ投資のブームがある。

AIが攻撃の手段を増やすほど、守る側にお金が集まる。