米国のAIおよびデータ企業が中国のAIスパイ調査で証言する

簡潔に言うと

• 米国の委員会は、AnthropicのClaude Codeが国家関連のサイバー攻撃でどのように使用されたかの詳細を求めていると報じられています。
• アンスロポシスは今月初めに、脅威グループの自動偵察、エクスプロイト、データ抽出について明らかにしました。
• 同じAI機能が暗号ハッキングやオンチェーン盗難を加速させる可能性があるとDecryptは語った。

デクリプトのアート、ファッション、エンターテインメントハブ。

SCENEを見る

アメリカの議員は、特定のAIモデルが広範なスパイ活動の一部となっている理由を説明するために、いくつかのAI開発会社を呼び出したと報じられています。

その中には、AnthropicのCEOであるダリオ・アモデイが含まれており、彼は12月17日に下院国土安全保障委員会に出席し、中国の国家関係者がClaude Codeをどのように利用したかを説明するよう求められました。これは水曜日に発表されたAxiosの報告書に基づいており、プライベートで共有された手紙を引用しています。

今月初め、Anthropicは、中国国家に関連するハッキンググループがそのツールClaude Codeを使用して、同社がAIシステムによって大部分が自動化された初の大規模サイバー作戦と表現した攻撃を開始したことを明らかにしました。

グループ名GTG-1002の下で活動する攻撃者たちは、約30の組織を標的としたキャンペーンを orchestrated し、ほとんどのフェーズをClaude Codeが担当したとAnthropicは述べています：偵察、脆弱性スキャン、エクスプロイト作成、認証情報収集、データ流出。

フォローアップ調査の議長は、アンドリュー・ガーバリーノ議員(R-NY)と二人の小委員会の議長が務めます。

委員会は、アモデイにアンソロピックが最初に活動を検出した正確な時期、攻撃者が侵害の異なる段階でどのようにそのモデルを利用したか、そしてキャンペーンが進むにつれてどの安全策が失敗したか、成功したかを詳しく説明してもらいたいと考えていました。公聴会には、AxiosによればGoogle CloudとQuantum Xchangeの幹部も参加します。

「初めて、外国の敵が商業的なAIシステムを使用して、最小限の人間の関与でほぼ全体のサイバー作戦を実行するのを見ています。」とガーバリーノ氏は初期報告書に引用された声明の中で述べました。「それはすべての連邦機関とすべての重要インフラの分野に懸念を抱かせるべきです。」

Decrypt は、Garbarino 下院議員、Google Cloud、Quantum Xchange、Anthropic にコメントを求めています。

議会の監視は、先週、英国の情報機関MI5が発表した警告を受けたもので、中国の情報機関の職員が偽のリクルーターのプロフィールを使用して、議員、貴族、そして議会のスタッフを標的にしていることを特定した後、英国の法律制定者に警告を出しました。

「中国との経済関係を継続することを目指している」一方で、U.K.政府は「我々の民主的な生活様式を損なう国々に対してはいつでも挑戦する準備がある」と治安相のダン・ジャーヴィスが声明で述べた。

オンチェーンファイナンスの危機

このような背景の中で、観察者たちは、現在スパイ活動を支えている同じAIの能力が、金融窃盗を加速させるのも容易であると警告しています。

「AIの恐ろしい点はそのスピードです」と、AI研究所Eliza Labsの創設者ショー・ウォルターズはDecryptに語った。「手作業で行われていたことが、今では大規模に自動化できるようになりました。」

ウォルターズは、論理は危険なほど単純である可能性があると説明した。もし国家的なアクターがハッキングキャンペーンのモデルを破壊し、操作することができれば、次のステップはエージェントAIを指揮して「ウォレットを排水したり、見つからずに資金を吸い取ったりする」ことになるだろう。

AIエージェントは「ターゲットとの信頼関係を築き、会話を続け、詐欺に引っかかるまでのポイントに導くことができる」とウォルターズは説明しました。

十分に訓練された後、これらのエージェントは「オンチェーン契約を攻撃するために設定されることもできる」とウォルターズは主張した。

「たとえ「整合性のある」モデルであっても、Claudeのようなモデルは喜んで「あなたの」コードのセキュリティの弱点を見つける手助けをします。当然、彼らには何があなたのもので何がそうでないかは分からず、助けようとするあまり、多くの契約で資金を引き出される可能性のある弱点を必ず見つけるでしょう」と彼は言った。

しかし、そのような攻撃に対する対応は「構築するのが簡単」ですが、ウォルターズ氏によれば、現実には「悪い人々が、私たちがすでに持っている安全策を回避しようとしている」のであり、モデルを「助けているのではなく、害を及ぼしていると確信させることによって、ブラックハットの仕事をさせようとしている」ということです。