AI News Pulse
2026.10.04
MORNING 7 stories
Advertisement

AIへの過度な信頼と安全性をめぐる議論が目立つ。OpenAIのアルトマンCEOは、AIに判断を委ねる風潮を「現実の安全性の問題」と警告した。同社では安全性レポートの執筆者が「文化は壊れている」として辞職している。一方、Metaのエージェントによる周囲の人の個人情報収集、データセンター建設への地域の反発、メモリ高騰による家電の値上げなど、AIを使わない人々にも影響が及び始めている。

サム・アルトマン氏「AIに宗教的な力を見たり、人間の判断を委ねたりする風潮は安全上の問題だ」

OpenAI CEO のサム・アルトマン氏がXに投稿し、AIモデルに宗教的な力を見いだしたり、人間の判断をAIに明け渡したりしようとする人々の動きに「非常に違和感がある」と述べた。アルトマン氏はこれを「現実の安全性の問題」と位置づけた。投稿には2万件超のいいねが集まった。

作り手の側から「信じすぎるな」と言わなければならない段階に来た。

元記事(X)を読む(@sama)→

フランソワ・ショレ氏「AIが苦しむという考えは暗いディストピアにつながりうる」

Keras 作者のフランソワ・ショレ氏は、現在のAIモデルが感覚を持ち苦しみうるという考えに、苦しみを数式で数値化し人間と非人間の間で比較衡量できるという発想が組み合わさると「非常に暗いディストピア的な道」に進みかねないと投稿した。ショレ氏は、そうなる前に「人間側」から当然の強い反発が起きるだろうとも述べた。

AIの権利論が、人間の扱いの議論へ跳ね返ってくる構図。

元記事(X)を読む(@fchollet)→

OpenAIの安全性担当者が辞職「会社の文化は壊れている」

OpenAIで主要モデルのリリースごとに付される安全性レポートを執筆していたDavid Robinson氏が今週辞職し、同社の「文化は壊れている」と主張した。Robinson氏は自らを、辞職時に深刻な警告を発するAI企業社員という「ありがちな存在」だと認めている。The VergeやTechCrunchが報じた。

安全性レポートの書き手がいなくなった後、そのレポートが何を語るのか。

元記事を読む(The Verge)→

カプコン、「AIと一緒にゲームを作る未来」に備える方針

カプコンは投資家向けの「Capcom Open Conference」で、AIとともにゲームを作る未来に向けて準備を進めていると説明した。同社の新作『PRAGMATA』はAIの恐ろしさを描く作品だが、開発現場ではAI技術の活用に前向きな姿勢を示した。

作品のテーマと制作現場のスタンスが真逆なのが面白い。

元記事を読む(The Verge)→

Metaのエージェント「Muse」、友人や家族の詳細なプロフィールを作成

Wiredによると、数百万回ダウンロードされたMetaのAIエージェント「Muse」は、ユーザーの友人や家族について詳細なプロフィールを作成する。Museに思い通りの仕事をさせるには、こうした個人情報の提供というプライバシー上の代償が伴うと同誌は指摘している。

便利さの対価を払っているのは、使っていない周りの人たち。

元記事を読む(Wired)→

Amazon、データセンター反発に回答「もう秘密保持契約は使っていない」

AWSのCEOは、データセンター建設に対して広がる不信感に反論し、Amazonはもう秘密保持契約(NDA)を使っていないと説明した。データセンターをめぐっては、計画が地域住民に十分知らされないまま進むとの批判が各地で出ている。TechCrunchが報じた。

AIの裏側にある電力と土地の問題が、地域の政治問題になってきた。

元記事を読む(TechCrunch)→

発売7年のNVIDIA Shield TV、AI需要によるメモリ高騰で100ドル値上げ

NVIDIAのストリーミング端末「Shield TV」が、発売から7年経っているにもかかわらず100ドル値上げされた。Wiredによると、AI需要によってメモリを搭載するあらゆる製品の価格が急騰しており、古い家電も例外ではない。

AIを使っていない人の財布にも、AIブームの請求書が届き始めた。

元記事を読む(Wired)→
Advertisement