抗議者たちは土曜日にサンフランシスコの街頭に出て、アントロピック、OpenAI、xAIのオフィス前で、より強力な人工知能の開発に条件付きの一時停止を求める声を上げた。
Stop the AI Raceの創設者でドキュメンタリー作家のマイケル・トラッジによると、約200人の抗議者が参加した。参加者には研究者、学者、Machine Intelligence Research Institute、PauseAI、QuitGPT、StopAI、Evitableなどの支援団体のメンバーも含まれていた。
「このリスクに関心を持つ人はたくさんいます」とトラッジは_decrypt_に語った。「皆が一緒に行進していることで、皆がこの問題について孤立して考えているわけではないことが示されます。多くの人がこのことを気にかけているのです。」
行進は正午にアントロピックのオフィス前から始まり、その後OpenAI、そしてxAIへと移動した。各地点では、参加団体の活動家やスピーカーが抗議者に向けてメッセージを伝えた。
トラッジによると、この抗議はAI企業に対し、より強力なAIモデルの開発を協調して一時停止し、他国のAI開発者と同じく条約を結ぶことを促すことを目的としている。
「中国と米国がより危険なモデルの開発を停止すれば、医療AIのように私たちのためにシステムを改善することに集中できる」と彼は言う。「皆がより良い状態になるのです。」
Stop the AI Raceの提案は、主要な研究所が「信頼できる範囲で同じことを行えば」、新たな最先端モデルの開発を停止し、安全性に作業をシフトすることを求めている。トラッジは、これによりAI研究所のオフィス前での抗議活動の重要性が増すと述べている。
一貫した反対運動
この抗議は、AI開発を妨害する一連の活動の最新例である。
2023年3月、Future of Life Instituteは、ChatGPTの公開後に最先端AIツールのさらなる改良を停止するよう求める公開書簡を発表した。
署名者にはxAIの創設者イーロン・マスク、Appleの共同創設者スティーブ・ウォズニアック、Rippleの共同創設者クリス・ラーセンなどがいる。この「Pause Giant AI Experiments」公開書簡は、最初の発表から1年経った現在、33,000以上の署名を集めている。
9月には、トラッジがロンドンのGoogle DeepMindのオフィス前で一週間の断食闘争を行い、同時にGuido Reichstadterもアントロピックのサンフランシスコオフィス前で断食闘争を行った。
政府関係者やAI研究の継続を支持する者たちは、米国での研究遅延は海外の競合に有利に働くと主張している。
先週、トランプ政権はAIの国家標準を確立するための枠組みを発表した。ホワイトハウスはこれを「AIレースに勝つための取り組み」と位置付けた。
「中国や他の国にいても、制御できないシステムは誰も望まない」とトラッジは言う。「企業や国ができるだけ早くシステムを構築しようとする中で、安全性を犠牲にして近道をしているのです。勝者のいないレースはありません。私たちが持っているのは制御できないシステムであり、それが自殺レースと呼ばれる理由です。」
しかし、AI開発者が開発を一時停止することに合意しても、その検証は簡単ではない。トラッジは、停止を検証する一つの方法として、新しいモデルの訓練に使う計算能力を制限することを提案した。
「企業がこれらのシステムを構築するために使える計算資源を制限すれば、新しいモデルの開発もほぼ制限されることになる」と彼は述べた。
サンフランシスコでの抗議後、トラッジは他の主要なAI企業が拠点を置く場所でも追加の抗議活動が行われる可能性があると述べた。
「私たちは従業員がいる場所に出向きたい」と彼は言う。「彼らと話し、リーダーシップとも話し合い、内部から動き出すことを望んでいます」と付け加えた。内部告発者には「彼らがそれを作っている人たちだからこそ、ある程度の力がある」とも述べた。
OpenAI、アントロピック、xAIは、_Decrypt_からのコメント要請に直ちに応じなかった。
