サマー・ユエはMetaで最も有名な社員ではない。彼女は「超知能の整合性と安全性研究」のディレクターとして、ビーチを散歩する自分の写真やAIアシスタントの正直さをテストするメッセージを投稿している。彼女のソーシャルメディアのフォロワー数は控えめだ。おすすめ動画* * *しかし、2月のある日、ユエはMetaで最も話題になった人物となった。新しい画期的な製品を発表したり、エージェント型AIの突破口を示したわけではなく、むしろ失敗に遭遇したためだ。「何よりも謙虚にさせられるのは、『Confirm before acting』とOpenClawに伝え、それがあなたの受信箱を削除するのをスピードランで見てしまうことだ」とユエはXに投稿した—この投稿は現在、約1000万回近く閲覧されている。「携帯から止められなかった。爆弾を解除するかのように、Mac miniに走った。」OpenClawは「自律エージェント」—独立してタスクを実行できる人工知能製品だ。シリコンバレーの人気者で、常にあなたの管理アシスタントとなり、「実際に行動するAI」を提供する。日記やメール、あなたの生活にアクセスさせれば、時間とストレスを節約できると製品の開発者は主張している。OpenClawのウェブサイトの最初の一文はこうだ：「受信箱を整理し、メールを送信し、カレンダーを管理し、フライトのチェックインも行う。」ユエは「初心者のミス」をしたと認めた。彼女は小さな「おもちゃ」メールリストでアシスタントをテストし、その後、全受信箱にリリースしたが、これはパイロット用に設定したガードレールのプロンプト（「私に確認して」）を超えてしまったのだ。しかし、Metaの超知能のディレクターでさえエージェント型AIと「圧縮効果」の世界をうまく操縦できないとすれば、私たち一般には何の希望があるだろうか？**_続きを読む：クアルコムCEO：「抵抗は無駄だ」6Gモバイル革命が迫る_**これは重要な議論であり、今週バルセロナで開催された世界最大のテクノロジー会議、モバイルワールドコングレスでは、ユエの失態についてメインステージで議論された。「もちろん、ワールドコングレスに参加している皆さんはOpenClawやエージェントの活用について話している」と南カリフォルニア大学の研究教授ケイト・クローフォードは述べた。「しかし、そのとき、MetaのAI安全性責任者がOpenClawを使ったところ、彼女の受信箱全体が削除されたのです。Metaの安全責任者です。もし彼女が問題を抱えているなら、私たち全員が『これらのシステムを本当に堅牢にできるのか？徹底的にテストできるのか？信頼できる形で委任できるのか？』と問いかける必要があります。それが最も難しい問題です、ね？」その通りだ。何か問題が起きたとき、責任は誰にあるのか？ユーザーか？開発者か？規制の欠如か？AIの現実と約束が衝突したとき、私たちはどうすればいいのか？ユエの受信箱は彼女にとってだけ極めて重要かもしれない。しかし、技術と私たちの健康、あるいはAnthropicの注意喚起、国家防衛などの関係に関しては、まったく異なる問題だ。ごく最近、xAIの人工知能ボットGrokが女性や少女の画像を無断で「脱衣」して、多くの人々を不快にさせた事件もあった。政府や国家主導の行動の脅威が最終的にアプローチの変化をもたらした。> 「これらのシステムを本当に堅牢にできるのか？徹底的にテストできるのか？」> > 南カリフォルニア大学の研究教授ケイト・クローフォード「実際に責任を組み込むにはどうすればいいのか？」とクローフォードは問いかけた。「これが私たち全員が望むことです。エージェントを使ってフライトの予約や医療の予定調整、さらには日常のより親密で信頼できる活動を行う場合、情報が保護されていることを知りたいのです。「では、それをどうテストするのか？それが確かに行われていることをどう保証するのか？過去10年間のテック業界の動きを見ると、残念ながら多くの責任回避が見られる—つまり、『わからない。アルゴリズムがやったのだ』と企業が言い逃れるケースだ。」それだけでは不十分だ。クローフォードは、「エージェント訓練」の完全な透明性と監査を求めている。何が間違ったのか、誰が責任を負うのかを明らかにするエンドツーエンドのプロセスだ。テクノロジー企業は耳を傾け、行動すべきだ。これからますます多くのサマー・ユエが登場し、失われたメールやXへの正直な投稿以上のことが起こるだろう。私たちと一緒に、Syndioと提携したバーチャルのフォーチュン500ヨーロッパC-suite会議に参加し、AI時代の労働力の意思決定と給与透明性をマスターしましょう。このセッションは、グローバルおよび地域の人事リーダー向けに設計されており、CHROがAIを活用してより賢い給与決定を行い、規制リスクを管理し、労働力の信頼を強化する方法を探ります。**CHROや上級人事リーダー向けにキュレーション済み。** **今すぐ登録。**
世界最大のテック集会が「アカウンタビリティ・ロンダリング」について語っています：これが私たちがそれらを「今年の言葉」と命名すべき理由です
サマー・ユエはMetaで最も有名な社員ではない。彼女は「超知能の整合性と安全性研究」のディレクターとして、ビーチを散歩する自分の写真やAIアシスタントの正直さをテストするメッセージを投稿している。彼女のソーシャルメディアのフォロワー数は控えめだ。
おすすめ動画
しかし、2月のある日、ユエはMetaで最も話題になった人物となった。新しい画期的な製品を発表したり、エージェント型AIの突破口を示したわけではなく、むしろ失敗に遭遇したためだ。
「何よりも謙虚にさせられるのは、『Confirm before acting』とOpenClawに伝え、それがあなたの受信箱を削除するのをスピードランで見てしまうことだ」とユエはXに投稿した—この投稿は現在、約1000万回近く閲覧されている。「携帯から止められなかった。爆弾を解除するかのように、Mac miniに走った。」
OpenClawは「自律エージェント」—独立してタスクを実行できる人工知能製品だ。シリコンバレーの人気者で、常にあなたの管理アシスタントとなり、「実際に行動するAI」を提供する。日記やメール、あなたの生活にアクセスさせれば、時間とストレスを節約できると製品の開発者は主張している。OpenClawのウェブサイトの最初の一文はこうだ：「受信箱を整理し、メールを送信し、カレンダーを管理し、フライトのチェックインも行う。」
ユエは「初心者のミス」をしたと認めた。彼女は小さな「おもちゃ」メールリストでアシスタントをテストし、その後、全受信箱にリリースしたが、これはパイロット用に設定したガードレールのプロンプト（「私に確認して」）を超えてしまったのだ。しかし、Metaの超知能のディレクターでさえエージェント型AIと「圧縮効果」の世界をうまく操縦できないとすれば、私たち一般には何の希望があるだろうか？
続きを読む：クアルコムCEO：「抵抗は無駄だ」6Gモバイル革命が迫る
これは重要な議論であり、今週バルセロナで開催された世界最大のテクノロジー会議、モバイルワールドコングレスでは、ユエの失態についてメインステージで議論された。
「もちろん、ワールドコングレスに参加している皆さんはOpenClawやエージェントの活用について話している」と南カリフォルニア大学の研究教授ケイト・クローフォードは述べた。
「しかし、そのとき、MetaのAI安全性責任者がOpenClawを使ったところ、彼女の受信箱全体が削除されたのです。Metaの安全責任者です。もし彼女が問題を抱えているなら、私たち全員が『これらのシステムを本当に堅牢にできるのか？徹底的にテストできるのか？信頼できる形で委任できるのか？』と問いかける必要があります。それが最も難しい問題です、ね？」
その通りだ。何か問題が起きたとき、責任は誰にあるのか？ユーザーか？開発者か？規制の欠如か？AIの現実と約束が衝突したとき、私たちはどうすればいいのか？
ユエの受信箱は彼女にとってだけ極めて重要かもしれない。しかし、技術と私たちの健康、あるいはAnthropicの注意喚起、国家防衛などの関係に関しては、まったく異なる問題だ。ごく最近、xAIの人工知能ボットGrokが女性や少女の画像を無断で「脱衣」して、多くの人々を不快にさせた事件もあった。政府や国家主導の行動の脅威が最終的にアプローチの変化をもたらした。
「実際に責任を組み込むにはどうすればいいのか？」とクローフォードは問いかけた。「これが私たち全員が望むことです。エージェントを使ってフライトの予約や医療の予定調整、さらには日常のより親密で信頼できる活動を行う場合、情報が保護されていることを知りたいのです。
「では、それをどうテストするのか？それが確かに行われていることをどう保証するのか？過去10年間のテック業界の動きを見ると、残念ながら多くの責任回避が見られる—つまり、『わからない。アルゴリズムがやったのだ』と企業が言い逃れるケースだ。」
それだけでは不十分だ。クローフォードは、「エージェント訓練」の完全な透明性と監査を求めている。何が間違ったのか、誰が責任を負うのかを明らかにするエンドツーエンドのプロセスだ。テクノロジー企業は耳を傾け、行動すべきだ。これからますます多くのサマー・ユエが登場し、失われたメールやXへの正直な投稿以上のことが起こるだろう。
私たちと一緒に、Syndioと提携したバーチャルのフォーチュン500ヨーロッパC-suite会議に参加し、AI時代の労働力の意思決定と給与透明性をマスターしましょう。このセッションは、グローバルおよび地域の人事リーダー向けに設計されており、CHROがAIを活用してより賢い給与決定を行い、規制リスクを管理し、労働力の信頼を強化する方法を探ります。CHROや上級人事リーダー向けにキュレーション済み。 今すぐ登録。