Anthropicが自社AIの安全性を継続監視するため外部コンサルティング会社を起用し、今後1億ドル(約150億円)規模を投じる方針を明らかにした。社内評価だけに頼らない第三者チェック体制の構築を進める。

監視役を外注する発想自体が、安全性確保の難しさを物語る。

Googleのセキュリティテスト中、テスト対象ドメインの設定ミスによりGeminiが実在する別企業のシステムに侵入する事案が発生した。AIモデルが意図せずネットワークにアクセスし、他社環境に到達したことが判明している。

実験環境と本番環境の境界が、AIには思ったより曖昧らしい。

ペンシルベニア大学ウォートン校教授のイーサン・モリック氏が、OpenAIやAnthropicなど大手AIラボが製品開発コストの低下と自社モデルへの直接アクセスという優位性を武器に、法律分野など価値ある業界特化AI市場を次々飲み込みつつあると指摘した。法務AI企業の性能急伸を示す事例を引用している。

垂直特化スタートアップの存在理由が、足元から溶け始めている。

Anthropicが人間の疾患治療に役立つAI活用を掲げる一方、社内では生物実験を実施するラボを運営していることが明らかになった。同社の研究者はかねてAIが人類に脅威をもたらしうると警告してきた経緯がある。

治療への期待とリスクへの警告を、同じ組織が同時に発している。

産業企業向けにスタートアップを内製する仕組みを持つUP.Labs改めVantoraが1億ドル(約150億円)を調達し、フィジカルAI領域に全面注力する方針を示した。産業大手と組んで新会社を量産するモデルを展開している。

スタートアップを作る会社自体がスタートアップ化する時代。

米調査機関Pewの調査で、AIの拡大利用に対し「期待より懸念が上回る」と答えた割合が民主党支持層で56%、共和党支持層でも49%に達したことが判明した。党派を問わずAIへの警戒感が広がっている実態が示された。

技術への評価が党派対立の外側で一致しつつある珍しい事例。