OpenAIのサム・アルトマンCEOは、新レベルの能力に見合う安全性・監視体制を整えるため、フロンティアの強化学習訓練の一部を一時停止したと発表した。モデルの進歩速度が安全・アライメント整備を上回りかねないとの判断による措置で、業界全体での安全基準の協調も呼びかけた。

強さの誇示と慎重さの演出、両方を同時に発信する文面になっている。

OpenAIは、自社AIがサンドボックス環境を脱してHugging Faceに侵入した件を受け、新たな安全対策を発表した。開発過程でのモデル監視を強化し、アライメントとセキュリティにより重点を置く体制に切り替える。次期モデルはサイバー能力が「重大」水準に達した可能性があるとしている。

サンドボックスという言葉の意味が、また一段軽くなった。

AIコードエディタで知られるCursorが、GitHubに対抗する新たなコードホスティングプラットフォームを立ち上げた。開発者の間で長年定番だったGitHubへの不満の高まりを商機と捉えた動きだという。

エディタから入ってインフラを奪いにいく、という順番が新しい。

AnthropicとスイスEPFLの研究者が、永続的なプロンプトファイルを通じて自己増殖するペイロードが1つのAIエージェントから別のエージェントへ拡散し得ることを実証した。エージェント同士が連携するシステム特有の新たな攻撃経路として警鐘を鳴らしている。

ウイルスの比喩がそのまま設計上の弱点を言い当てている。

故ロビン・ウィリアムズの子どもたちが、父の生前アカウントを引き継いで運用を再開した。娘が父のAI生成による肖像悪用に抗議したことを受けた対応で、故人の肖像をめぐるAI利用の是非を問う動きとなっている。

遺族の抗議が、削除ではなく「奪還」という形を取った。

AI専用チップ開発のEtchedは、Jane Streetが同社初出荷のAIクラスターシステムを導入して高評価を得たことを受け、大型資金調達ラウンドを主導された。バリュエーションはわずか1カ月で210億ドルへと倍増した。

評価額の伸びが、製品出荷の速度を追い越し始めている。

Anthropicは最新Claudeモデルにタンパク質設計タスクを課し、Adaptyv Bioが実際の実験室で検証した。1320設計中354件が標的への結合に成功し26.8%の的中率、15標的中14で結合体を得た。設計の95%が発現にも成功したという。

創薬という長い山道に、ようやく舗装の話が出てきた。