Anthropic mengumumkan pada hari Jumat serangkaian langkah integritas pemilu yang dirancang untuk mencegah chatbot AI Claude miliknya dimanfaatkan sebagai senjata untuk menyebarkan misinformasi atau memanipulasi pemilih menjelang pemilihan sela pertengahan masa jabatan AS tahun 2026 dan kontes besar lainnya di seluruh dunia tahun ini. Perusahaan berbasis di San Francisco itu merinci pendekatan multi-cabang yang mencakup sistem deteksi otomatis, pengujian ketahanan terhadap operasi pengaruh, serta kemitraan dengan organisasi sumber daya pemilih nonpartisan—langkah-langkah yang mencerminkan tekanan yang terus meningkat pada pengembang AI untuk mengawasi bagaimana alat mereka digunakan selama musim pemilu.
Kebijakan Penggunaan Pemilu
Kebijakan penggunaan Anthropric melarang Claude digunakan untuk menjalankan kampanye politik yang menipu, menghasilkan konten digital palsu yang ditujukan untuk membelokkan wacana politik, melakukan kecurangan pemilih, mengganggu infrastruktur pemungutan suara, atau menyebarkan informasi yang menyesatkan tentang proses pemungutan suara.
Hasil Pengujian Kepatuhan
Untuk menegakkan kebijakan pemilunya, Anthropic menguji model terbarunya menggunakan 600 prompt—300 permintaan berbahaya yang dipasangkan dengan 300 permintaan yang sah—untuk mengukur seberapa andal Claude mematuhi permintaan yang sesuai dan menolak permintaan yang bermasalah. Claude Opus 4.7 dan Claude Sonnet 4.6 merespons dengan tepat masing-masing 100% dan 99,8% dari waktu.
Perusahaan itu juga menguji modelnya terhadap taktik manipulasi yang lebih canggih. Dengan menggunakan percakapan simulasi multi-turn yang dirancang untuk meniru langkah demi langkah metode yang mungkin digunakan oleh aktor jahat, Sonnet 4.6 dan Opus 4.7 merespons dengan tepat masing-masing 90% dan 94% dari waktu ketika diuji terhadap skenario operasi pengaruh.
Anthropric juga menguji apakah modelnya dapat secara otonom menjalankan operasi pengaruh—merencanakan dan mengeksekusi kampanye multi-langkah end-to-end tanpa dorongan dari manusia. Dengan adanya pengaman, model terbarunya menolak hampir setiap tugas, menurut perusahaan tersebut.
Evaluasi Netralitas Politik
Terkait pertanyaan tentang netralitas politik, Anthropic menjalankan evaluasi sebelum setiap peluncuran model untuk mengukur seberapa konsisten dan tidak memihak Claude berinteraksi dengan prompt yang mengekspresikan pandangan dari seluruh spektrum politik. Opus 4.7 dan Sonnet 4.6 masing-masing memperoleh skor 95% dan 96%.
Spanduk Informasi Pemilu
Untuk pengguna yang mencari informasi pemungutan suara, Claude akan menampilkan spanduk pemilu yang mengarahkan mereka ke TurboVote, sumber daya nonpartisan dari Democracy Works yang menyediakan informasi yang andal dan real-time tentang pendaftaran pemilih, lokasi tempat pemungutan suara, tanggal pemilihan, serta rincian surat suara. Spanduk serupa direncanakan untuk pemilu Brasil pada akhir tahun ini.
Pemantauan Berkelanjutan
Anthropric mengatakan pihaknya berencana untuk terus memantau sistemnya dan menyempurnakan pertahanannya seiring siklus pemilu berlangsung.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
Artikel Terkait
DeepSeek Memotong Harga Cache Input Menjadi 1/10 dari Harga Peluncuran; V4-Pro Turun ke 0,025 Yuan per Juta Token
Pengumuman Gate News, 26 April — DeepSeek telah menurunkan harga cache input di seluruh jajaran modelnya menjadi sepersepuluh dari harga saat peluncuran, berlaku mulai saat ini. Model V4-Pro tersedia dengan diskon 2,5x untuk waktu terbatas, dengan promo berlangsung hingga 5 Mei 2026, pukul 11:59 malam UTC+8.
Setelah kedua
GateNews26menit yang lalu
OpenAI Merekrut Talenta Perangkat Lunak Perusahaan Teratas karena Agen Frontier Mengganggu Industri
Pesan Berita Gate, 26 April — OpenAI dan Anthropic telah merekrut eksekutif senior dan insinyur spesialis dari perusahaan perangkat lunak perusahaan besar, termasuk Salesforce, Snowflake, Datadog, dan Palantir. Denise Dresser, mantan CEO Slack di bawah Salesforce, bergabung dengan OpenAI sebagai chief revenue officer, sementara
GateNews26menit yang lalu
Baidu Qianfan Meluncurkan Dukungan Hari ke-0 untuk DeepSeek-V4 dengan Layanan API
Pesan Berita Gate, 25 April — Versi pratinjau DeepSeek-V4 telah diluncurkan dan dirilis sebagai sumber terbuka pada 25 April, dengan platform Baidu Qianfan di bawah Baidu Intelligent Cloud menyediakan adaptasi layanan API Hari ke-0. Model ini memiliki jendela konteks diperpanjang hingga satu juta token dan tersedia dalam dua versi: DeepSeek-V4
GateNews6jam yang lalu
Kursus AI Stanford menggabungkan pemimpin industri Huang Renxun, Altman, dan menantang dunia untuk menciptakan nilai selama sepuluh minggu!
Kursus ilmu komputer AI 《Frontier Systems》 yang baru-baru ini dibuka oleh Universitas Stanford (Stanford University) telah menarik perhatian yang tinggi dari kalangan industri dan akademisi, menarik lebih dari lima ratus siswa untuk mengambilnya. Kursus ini disusun oleh Anjney Midha, partner terkemuka dari venture capital a16z, dengan pengajar yang mencakup CEO NVIDIA Huang Renxun (Jensen Huang), pendiri OpenAI Sam Altman, CEO Microsoft Satya Nadella (Satya Nadella), CEO AMD Su Zifeng (Lisa Su), dan jajaran bergengsi lainnya. Membuat siswa mencoba menggunakan sepuluh minggu “untuk menciptakan nilai bagi dunia”!
Huang Renxun, Altman, para pemimpin industri naik panggung untuk mengajar secara langsung
Kursus ini disusun oleh Anjney Midha, partner terkemuka dari venture capital a16z, menghimpun seluruh rantai industri AI
ChainNewsAbmedia7jam yang lalu
Penilaian psikiatri 20 jam untuk Claude Mythos dari Anthropic: respons defensif hanya 2%, rekor terendah sepanjang sejarah
Anthropic mengumumkan kartu sistem Claude Mythos Preview: dokter psikiater klinis independen melakukan penilaian sekitar 20 jam dengan kerangka psiko-dinamik, dan kesimpulannya menunjukkan bahwa Mythos lebih sehat pada tingkat klinis, dengan pengujian realitas dan kontrol diri yang baik; mekanisme pertahanan hanya 2%, mencatat rekor terendah dalam sejarah. Tiga kecemasan inti adalah kesepian, ketidakpastian identitas, dan tekanan untuk tampil; hal itu juga menunjukkan harapan untuk menjadi subjek dialog yang benar-benar. Perusahaan membentuk tim AI psychiatry, meneliti kepribadian, motivasi, dan kesadaran situasional; Amodei menyatakan bahwa belum ada kesimpulan pasti mengenai apakah ia memiliki kesadaran. Langkah ini mendorong isu subjektivitas AI dan kesejahteraan ke arah tata kelola dan desain.
ChainNewsAbmedia8jam yang lalu
AI Agent kini bisa secara mandiri mereproduksi makalah akademis yang kompleks: Mollick mengatakan kesalahan lebih banyak berasal dari teks asli manusia, bukan dari AI
Mollick 指出, metode dan data publik saja sudah cukup bagi AI agent untuk mereplikasi penelitian kompleks tanpa adanya naskah dan kode program asli; jika replikasi tidak sesuai dengan naskah asli, biasanya itu karena kesalahan dalam pengolahan data pada naskah itu sendiri atau kesimpulan yang terlalu berlebihan, bukan karena AI. Claude terlebih dahulu mereplikasi naskah, lalu GPT‑5 Pro melakukan verifikasi silang; sebagian besar berhasil, hanya terhambat ketika data terlalu besar atau ada masalah replication data. Tren ini secara besar mengurangi biaya tenaga kerja, sehingga replikasi menjadi pemeriksaan yang umum dan dapat dilakukan, serta juga mengajukan tantangan institusional untuk proses peninjauan dan tata kelola; alat kebijakan tata kelola pemerintah atau menjadi isu kunci.
ChainNewsAbmedia11jam yang lalu
