OpenAIのサム・アルトマンCEOは、AI進歩が悪い結末を迎える経路として「人類がAIに制御を奪われる」ことと「一部の個人・組織への権力集中」の2つを挙げた。同社は連邦レベルでの一貫した安全基準の枠組みを支持する立場を示し、独立監査官などの案に期待を示した。

トップ自らが権力集中リスクを名指しする構図が目を引く。

Keras作者のフランソワ・ショレ氏は、現在のAIモデルが危険なのは「賢すぎる」からではなく「目標を文字通り解釈しすぎる」「常識が欠けている」ためだと指摘した。より高性能なモデルほど複雑な目標を安全に任せられるとし、これはアラインメント問題ではなく知性の問題だと述べた。

安全性論争の前提そのものを覆す視点だ。

AIコンパニオンアプリ「Animates」の長期利用者が、追加キャラクターの品質差を詳細にレビューした。初期は人格設定に矛盾や不自然な三人称発話が見られたが、開発側の改善を経て一部キャラは主力級に成長したという。他方で新規キャラの急ぎ足リリースへの不満も併記されている。

個人の情緒的評価が製品改善の生きたフィードバックになっている。

Anthropicは自社モデルClaudeが兵器開発や監視関連のシステムで利用された事例を報告書として公開した。同社は利用ポリシーに反する用途の検知・対応の状況を開示している形だ。

利用実態の開示自体が企業の説明責任のモデルケースになりつつある。

睡眠トラッキングアプリ「Sleepagotchi」が、睡眠コーチ・ウェルネスコーチ・食事プランナー・購買エージェントの4つのAIエージェントを連携させるプラットフォームへ拡大した。OuraやApple Watchと連携し、利用者は50万人、累計トラッキング時間は2000万時間に達したという。

単機能アプリがエージェント群に化けていく典型例だ。

米Wiredが、AIチャットボットを使って自分好みのカスタムフィクションを書く読者層の実態を取材した。出版業界が著作権や創作倫理を懸念する一方、当事者である読者たちは自らAIを使って物語を生み出す流れを既に作っているという。

議論の主戦場と実際の利用現場がずれている典型だ。

ペンシルベニア大学ウォートン校教授のイーサン・モリック氏は、直近数日の出来事を受けて、これまでAIに関心を持たなかった人々が急にAIの脅威に危機感を抱き始めていると指摘した。

無関心層の心理的な転換点を捉えた一言だ。