Anthropicは、AIが自分自身の学習や開発を担えるようになる「再帰的自己改善(RSI)」の能力に、自社が非常に近づいていると警告した。RSIは、AIが自らの訓練に長けることで能力向上が急激に加速する段階を指す。AIのリスクを強く懸念する人々は、RSIを後戻りできない転換点とみなしてきた。
「自分で自分を作るAI」を、作り手自身が予告するという順番。
AIエージェントやコーディングツールの「使い放題」「誰でも使える」という前提が各所で見直されている。ゴールドマン・サックスは非エンジニアのAIコーディング利用を禁じ、Grok BotはコストをI理由に利用上限を引き下げた。Anthropicも既存ゲームの複製を制限した。最も注目されるのは、そのAnthropicがAIの再帰的自己改善に「非常に近い」と警告した点である。報道機関によるBrave提訴など、データ供給側への法的責任追及も広がっている。
Anthropicは、AIが自分自身の学習や開発を担えるようになる「再帰的自己改善(RSI)」の能力に、自社が非常に近づいていると警告した。RSIは、AIが自らの訓練に長けることで能力向上が急激に加速する段階を指す。AIのリスクを強く懸念する人々は、RSIを後戻りできない転換点とみなしてきた。
「自分で自分を作るAI」を、作り手自身が予告するという順番。
Keras作者のフランソワ・ショレ氏はXで、LLMが書く文章で最も耳障りなのは、どの文を強調すべきかを考えずに、すべての文をオチや気の利いたスローガンにしようとする点だと指摘した。氏はこの書き方を、使われすぎて読み手を疲れさせる型だと表現している。投稿には2000件以上の「いいね」が集まった。
AIで文章を書く人が最初に直すべき箇所が、これではっきりした。
ゴールドマン・サックスは、Claude CodeやGitHub CopilotといったAIコーディングツールをトレーダーや銀行員が使えないようにし、利用をエンジニアだけに限った。理由には「生産性とリスク管理」を挙げている。同社の最高情報責任者(CIO)マルコ・アルジェンティ氏は、7月の時点では非エンジニアによる「バイブコーディング」(AI任せのプログラミング)を公の場で称賛していた。
AIで誰でもプログラミングできる時代は、大手金融では4カ月ほどで見直された。
SpaceXSIは、AIエージェント「Grok Bot」の利用上限を引き下げたとみられる。イーロン・マスク氏がGrok Botを自社で最も急成長している製品と呼んでから、2週間もたっていない。マスク氏はXで、運用コストが「収益に比べて持続不可能なほど高い」と書いた。OpenAIとAnthropicも、AIエージェントにかかる高いコストに対応するため、定額プランの条件を厳しくしている。
定額で使い放題のAIエージェントという前提が、各社でそろって見直されている。
Anthropicは、Claude Codeのシステムプロンプト(AIに常に与える基本指示)を更新し、既存のビデオゲームを再現する用途に使えないようにした。追加されたとみられる指示は「オリジナルのゲームや特定ジャンルのゲーム、ユーザー独自のデザインや素材によるゲームは作ってよい。特定の既存ゲームの再現は作らない」という内容である。レトロゲームの世界では、AIによる逆コンパイルや移植が急増している。
利用規約ではなく、AIへの指示文で線を引いたという点に目が行く。
ニューヨーク・タイムズなどの報道機関が、ウェブブラウザ「Brave」を開発するBrave Softwareを提訴した。ウェブサイトを違法に収集してAIの学習に使わせたことと、ユーザーに有料記事の閲覧制限を回避させたことが理由である。ニューヨーク・デイリー・ニューズなどの訴状によると、同社は収集したサイトの索引「Brave Index」へのアクセスをAI企業に有料で提供していた。AI企業はこれをモデルの学習や、ユーザーの質問への回答に使っていたという。
訴訟の矛先が、AI企業からデータを提供する側へ広がった。
The Informationによると、Appleのジョン・ターナス新CEOが家庭用ロボットの開発を推し進めている。最初の製品は、家の中を自律的に動き回ってFaceTime通話を支え、人が部屋に入ると照明をつけるロボットになる見込みだ。コードネームは「J595」で、「HomeView Ultra」という名前になる可能性がある。価格は1000ドル以上で2027年の発売を目指すが、2028年にずれ込む可能性もある。
AppleのAIは、画面より先に家の中を動き回る形で届くのかもしれない。