Makler führen OpenClaw ein und lösen Bedenken aus! Braucht Taiwan ein Sicherheitshandbuch für die Hummerzucht? Die FSC hat Stellung genommen

Autor: Ariel, Kryptowährungsstadt

Der AI-Agent mit Logo in Form eines Hummers (AI Agent) OpenClaw ist weltweit äußerst populär geworden. Die chinesische Regierung hat das „Hummer-Sicherheitsmanual“ veröffentlicht, um auf die damit verbundenen Risiken hinzuweisen. Abgeordneter Lai Shibao beobachtete, dass bereits inländische Broker und Börsenanalysten OpenClaw schrittweise einsetzen. Wer trägt die Verantwortung, wenn der AI-Agent bei Bestellungen Fehler macht? Er forderte die Finanzaufsichtsbehörde auf, ein spezielles Sicherheitsmanual für die Finanzbranche zu erstellen.

Die Finanzaufsichtsbehörde (FMA) antwortete dem Abgeordneten, dass sie OpenClaw selbst nicht nutzt, aber die Verbreitung beobachtet. Interne Stellen der FMA prüfen derzeit Maßnahmen, um die Nutzung durch Finanzinstitute zu regulieren und zu überwachen.

Pang Jinlong, Vertreter der FMA, erklärte, dass die FMA bereits die „Richtlinien für den Einsatz von KI in der Finanzbranche“ veröffentlicht hat. Die Finanzbranche verfügt grundsätzlich über Sicherheits- und Kontrollmechanismen für neue Technologien. Falls solche Tools die Betriebssicherheit beeinträchtigen, werden sie geprüft und entsprechende Sicherheitsmanuale entwickelt.

Sechs Kernpunkte der FMA-Richtlinien für den Einsatz von KI in der Finanzbranche:

• Einrichtung von Governance- und Verantwortlichkeitsstrukturen: Finanzinstitute sollen Verantwortung für KI-Systeme übernehmen, leitende Angestellte benennen und Strukturen sowie Risikomanagement und Mitarbeiterschulungen etablieren.
• Wertschätzung von Fairness und menschenzentrierter Prinzipien: Algorithmische Vorurteile sollen vermieden werden, um Ungerechtigkeit zu verhindern; generative KI-Ergebnisse müssen objektiv kontrolliert werden.
• Schutz der Privatsphäre und Kundenrechte: Datenschutz und ordnungsgemäße Verwaltung der Kundendaten sind sicherzustellen; bei KI-gestützten Dienstleistungen ist die Wahlfreiheit der Kunden zu respektieren, sowie Alternativen zu kommunizieren.
• Sicherung der Systemstabilität und -sicherheit: KI-Systeme müssen robust und sicher sein, um Schäden zu vermeiden; bei Nutzung externer KI-Dienste ist ein angemessenes Risikomanagement und Überwachung erforderlich.
• Transparenz und Erklärbarkeit: KI-Operationen sollen transparent und nachvollziehbar sein; bei direkter Interaktion mit Verbrauchern ist eine aktive Offenlegung von Informationen notwendig.
• Förderung nachhaltiger Entwicklung: KI-Anwendungen sollen nachhaltige Prinzipien integrieren, Ungleichheiten verringern und Umwelt schützen; zudem sollen Mitarbeiterschulungen zur Anpassung an Veränderungen angeboten werden, um Arbeitsrechte zu wahren.

Bildquelle: Gemini AI generiert | Sechs Kernpunkte der FMA-Richtlinien für den Einsatz von KI (AI-Skizze)

Das Sekretariat für Datenentwicklung hat auf Sicherheitsfragen im Zusammenhang mit dem Hummer-Zuchtproblem reagiert.

Am selben Tag erklärte der Leiter des Sekretariats für Datenentwicklung, Lin Yijing, in einer Anhörung, dass Taiwan aktiv an der Entwicklung souveräner KI arbeitet, um die Nutzung von KI-Modellen in Regierung und kritischer Infrastruktur im Inland zu gewährleisten und gesetzlich zu regulieren. Er erwähnte auch die kürzlich von Nvidia eingeführte Plattform NemoClaw, die den Schutz der KI-Agenten vor Sicherheitsrisiken verbessern soll.

Zur Schaffung eigener Rechenkapazitäten in Taiwan hat das Sekretariat Anträge von Foxconn auf Investitionen in Rechenzentren erhalten und arbeitet mit dem Finanzministerium sowie der FMA an der Öffnung für Investitionen der Versicherungsbranche, um die Abhängigkeit von ausländischen KI-Modellen zu verringern.

Was steht im chinesischen „Hummer-Sicherheitsmanual“?

OpenClaw wurde vom österreichischen Ingenieur Peter Steinberger entwickelt und war zunächst in der Tech-Community sehr populär. Das Installieren und Nutzen von OpenClaw wurde als „Hummer-Zucht“ bezeichnet. Kürzlich hat sich dieser Trend nach China ausgebreitet, wobei die Allgemeinbevölkerung ebenfalls Hummer züchtet und sogar kostenpflichtige Installationsdienste von Ingenieuren in Anspruch nehmen.

Dazu hat das chinesische Ministerium für öffentliche Sicherheit ein „Sicheres Hummer-Zucht-Handbuch“ veröffentlicht, das vor Risiken wie Übernahme der Kontrolle durch Angreifer, Datendiebstahl und Manipulation von Meinungen warnt. Es wird empfohlen, die Operationen streng zu beschränken und OpenClaw möglichst in isolierten Umgebungen wie virtuellen Maschinen oder Sandboxes auszuführen.

Wo Hummer gezüchtet wird, wird auch wieder abgebaut

Obwohl der Hummer-Zuchttrend anhält, zeigt die chinesische Community Anzeichen eines Wandels: Statt nur zu installieren, wird nun vermehrt auf kostenpflichtiges Entfernen von Hummern gesetzt.

Laut einem Bericht der BBC, der Experten zitiert, liegt der Grund für den Rückgang in den hohen technischen Anforderungen und Betriebskosten von OpenClaw, da jede Aktion Ressourcen und AI-Modelle erfordert.

Zudem besteht ein erhebliches Sicherheitsrisiko: Das chinesische Nationale Zentrum für Cybersicherheitsnotfälle warnt, dass unsachgemäßer Gebrauch zu Diebstahl sensibler Daten wie Fotos und Zahlungsinformationen führen kann, sowie zu Fehlern, bei denen KI Anweisungen falsch interpretiert und Daten versehentlich gelöscht werden. Für den durchschnittlichen Nutzer ist die tatsächliche Funktionalität der Software derzeit gering, was den Abwärtstrend beim Entfernen erklärt.