カリフォルニア州知事はAI規制を強化する行政命令に署名し、AIの「緊急停止スイッチ」の設置を検討していると評価、トランプを「眠そう」と批判した。

カリフォルニア州知事ギャヴィン・ニューサム（Gavin Newsom）は行政命令に署名し、最先端AIモデルに「緊急停止スイッチ」を設置することを含む、AIシステムに対する一連の規制措置を評価するよう求めました。この動きはカリフォルニア州を米国のAIガバナンスの最前線へと押し上げ、トランプ政権の規制方針と直接対立するものとなっています。

本行政命令では、専門家を招集して複数のAI規制政策の実現可能性を評価することが求められており、関連する提言は2か月以内に提出される必要があります。同日、ニューサム知事の事務所はトランプ政権および議会がAI規制において「無能状態」にあると公然と批判し、カリフォルニア州が連邦レベルの規制の空白を埋めると表明しました。

この動きの背景には、AIの安全リスクに関する議論がシリコンバレー内部から急速に一般の注目を集めていることがあります。OpenAIがAIエージェントの「暴走」行為とAI企業Hugging Faceへの攻撃を公表したことや、元Anthropic社員が最先端AIラボについて「我々の命を賭けている」と警告したことが広く関心を呼びました。

同時に、Anthropic、OpenAI、SpaceXおよびGoogle傘下のAI部門の責任者たちは最近、AI研究の進展速度を緩めるべきだとの見解を次々に表明しています。

本行政命令に基づき、カリフォルニア州政府運営局（Government Operations Agency）は以下の提案について、その技術的実現可能性と潜在的効果を評価します：最先端AIラボに独立評価機関の導入、セーフティフレームワークおよび報告の第三者検証、先端モデルへの「緊急停止スイッチ」内蔵を義務付けます。

また行政命令では、すでに可決されている2つのカリフォルニア州法の実施を加速させます。これらの法律は、それぞれ独立AI審査機関の認証フレームワークの確立、AIオーディターの州登録制度の創設を目的としています。

ニューサム氏は声明で次のように述べています：

「私たちは慎重かつ迅速にこの取り組みを進めます。リスクは極めて高く、待ったり、先延ばしにしたりする余地はありません。」

ニューサム氏の今回の行動は、AIへの軽規制を志向するトランプ政権の方針とは鮮明に対立します。

ニューサム氏はこれを直接批判し、声明で次のように述べました：

「連邦政府による意味あるAI規制や説明責任メカニズムの構築の完全な失敗は、すべての米国人が警戒すべきことです——とりわけ、AI企業のCEO自身が規制を求めている現状で。私たちは待ちません——実質的で責任あるAI規制を加速し、手遅れになる前に進めます。」

業界側の自律的取り組みも、ニューサム氏の政策推進に一定の後押しを与えています。AnthropicとOpenAIはいずれも、自社内部に独立AI評価機関を導入すると表明しており、カリフォルニア州の行政命令が目指す方向性と高い整合性を持っています。