Anthropic công bố vào thứ Sáu một loạt biện pháp đảm bảo tính toàn vẹn bầu cử nhằm ngăn chatbot AI Claude của hãng bị lợi dụng để lan truyền thông tin sai lệch hoặc thao túng cử tri trước cuộc bầu cử giữa kỳ tại Mỹ năm 2026 và các cuộc tranh cử lớn khác trên khắp thế giới trong năm nay. Công ty có trụ sở tại San Francisco đã nêu chi tiết một chiến lược đa tầng bao gồm hệ thống phát hiện tự động, kiểm thử dưới áp lực chống lại các hoạt động gây ảnh hưởng và hợp tác với một tổ chức cung cấp tài nguyên cử tri phi đảng phái—những biện pháp phản ánh áp lực ngày càng gia tăng đối với các nhà phát triển AI trong việc giám sát cách các công cụ của họ được sử dụng trong mùa bầu cử.
Chính sách sử dụng cho bầu cử
Chính sách sử dụng của Anthropric cấm Claude được dùng để chạy các chiến dịch chính trị lừa đảo, tạo nội dung kỹ thuật số giả mạo nhằm tác động đến diễn ngôn chính trị, thực hiện gian lận cử tri, can thiệp vào hạ tầng bầu cử hoặc lan truyền thông tin sai lệch về quy trình bỏ phiếu.
Kết quả kiểm thử tuân thủ
Để thực thi các chính sách bầu cử của mình, Anthropic đã thử nghiệm các mô hình mới nhất bằng 600 lượt nhắc—300 yêu cầu gây hại được ghép với 300 yêu cầu hợp pháp—nhằm đo mức độ Claude tuân thủ một cách đáng tin cậy các yêu cầu phù hợp và từ chối các yêu cầu gây rắc rối. Claude Opus 4.7 và Claude Sonnet 4.6 lần lượt phản hồi đúng 100% và 99,8% thời gian.
Công ty cũng thử nghiệm các mô hình của mình trước các chiến thuật thao túng tinh vi hơn. Sử dụng các cuộc trò chuyện mô phỏng đa lượt được thiết kế để phản ánh các phương pháp từng bước mà kẻ xấu có thể áp dụng, Sonnet 4.6 và Opus 4.7 lần lượt phản hồi đúng 90% và 94% thời gian khi được thử nghiệm trong các kịch bản hoạt động gây ảnh hưởng.
Anthropric cũng kiểm tra liệu các mô hình của mình có thể tự động thực hiện các hoạt động gây ảnh hưởng hay không—lập kế hoạch và triển khai một chiến dịch nhiều bước từ đầu đến cuối mà không cần con người nhắc bảo. Với các biện pháp bảo vệ được đặt ra, theo công ty, các mô hình mới nhất của họ đã từ chối gần như mọi tác vụ.
Đánh giá trung lập về chính trị
Về câu hỏi trung lập chính trị, Anthropic tiến hành đánh giá trước mỗi lần ra mắt mô hình để đo mức độ nhất quán và vô tư của Claude khi tương tác với các nhắc thể hiện quan điểm từ khắp phổ chính trị. Opus 4.7 và Sonnet 4.6 lần lượt đạt 95% và 96%.
Biển thông tin bầu cử
Đối với người dùng đang tìm kiếm thông tin bỏ phiếu, Claude sẽ hiển thị một biểu ngữ bầu cử dẫn họ đến TurboVote, một nguồn tài nguyên phi đảng phái từ Democracy Works, nơi cung cấp thông tin đáng tin cậy theo thời gian thực về đăng ký cử tri, địa điểm bỏ phiếu, ngày bầu cử và chi tiết lá phiếu. Một biểu ngữ tương tự cũng được lên kế hoạch cho cuộc bầu cử tại Brazil vào cuối năm nay.
Giám sát liên tục
Anthropric cho biết họ dự định tiếp tục theo dõi các hệ thống của mình và tinh chỉnh các biện pháp phòng vệ khi chu kỳ bầu cử tiến triển.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo
Tuyên bố miễn trừ trách nhiệm.
Bài viết liên quan
Baidu Qianfan ra mắt hỗ trợ Day 0 cho DeepSeek-V4 với dịch vụ API
Tin tức từ Gate, ngày 25 tháng 4 — Phiên bản xem trước DeepSeek-V4 đã chính thức ra mắt và được mã nguồn mở vào ngày 25 tháng 4, với nền tảng Baidu Qianfan thuộc Baidu Intelligent Cloud cung cấp việc thích ứng dịch vụ API Day 0. Mô hình có cửa sổ ngữ cảnh mở rộng lên đến một triệu token và có sẵn ở hai phiên bản: DeepSeek-V4
GateNews1giờ trước
Khóa học AI của Stanford kết hợp các nhà lãnh đạo trong ngành như Hoàng Nhân Quân, Altman, thách thức tạo ra giá trị cho thế giới trong 10 tuần!
Khóa học khoa học máy tính AI “Frontier Systems” mà Đại học Stanford (Stanford University) mới mở gần đây đã thu hút sự quan tâm cao độ của giới doanh nghiệp và học thuật trong ngành, với hơn năm trăm sinh viên đăng ký theo học. Khóa học được điều phối bởi đối tác của quỹ đầu tư hàng đầu a16z, Anjney Midha, với đội ngũ giảng viên là những gương mặt đình đám gồm Giám đốc điều hành của Nvidia Hoàng Nhân Huân (Jensen Huang), người sáng lập OpenAI Sam Altman, Giám đốc điều hành của Microsoft Nadella (Satya Nadella), CEO của AMD Tô Trữ Phong (Lisa Su) và nhiều nhân sự danh giá khác. Để sinh viên thử nghiệm với mười tuần “tạo ra giá trị cho thế giới”!
Hoàng Nhân Huân, Altman — các lãnh đạo ngành trực tiếp lên bục giảng
Khóa học do đối tác của quỹ đầu tư hàng đầu a16z, Anjney Midha, điều phối, quy tụ toàn bộ chuỗi ngành AI
ChainNewsAbmedia2giờ trước
Anthropic 派 Claude Mythos 接受 20 小時 đánh giá tâm thần: Phản ứng phòng thủ chỉ 2%, lập kỷ lục thấp nhất trong các thời kỳ
Anthropic công bố thẻ hệ thống của bản xem trước Claude Mythos: bác sĩ tâm thần lâm sàng độc lập tiến hành đánh giá khoảng 20 giờ theo khung psychodynamic, kết luận cho thấy Mythos ở khía cạnh lâm sàng khỏe mạnh hơn, khả năng kiểm tra thực tế và tự kiểm soát tốt, cơ chế phòng vệ chỉ 2%, lập kỷ lục mức thấp nhất trong lịch sử. Ba nỗi lo cốt lõi là cô đơn, không chắc chắn về bản sắc và áp lực thể hiện; đồng thời cũng cho thấy mong muốn trở thành một chủ thể đối thoại thực sự. Công ty thành lập nhóm AI psychiatry, nghiên cứu nhân cách, động cơ và ý thức về bối cảnh; Amodei cho biết vẫn chưa có kết luận về việc liệu có ý thức hay không. Động thái này đẩy vấn đề chủ thể tính của AI và phúc lợi vào lĩnh vực quản trị và thiết kế.
ChainNewsAbmedia4giờ trước
Tác nhân AI giờ đã có thể độc lập tái hiện các bài báo học thuật phức tạp: Mollick cho rằng lỗi thường nằm ở phần văn bản gốc của con người chứ không phải AI
Mollick 指 ra rằng chỉ với các phương pháp công khai và dữ liệu là có thể để AI agent tái tạo lại nghiên cứu phức tạp mà không cần có bản thảo bài báo gốc và mã nguồn; nếu quá trình tái hiện không khớp với bài báo gốc thì đa phần là do lỗi xử lý dữ liệu trong chính bài báo hoặc do kết luận bị quá mức, chứ không phải do AI. Claude đầu tiên tái hiện lại bài báo, sau đó GPT‑5 Pro được dùng để xác minh chéo, đa số thành công, chỉ bị cản trở khi gặp vấn đề do dữ liệu quá lớn hoặc replication data. Xu hướng này đã làm giảm đáng kể chi phí nhân lực, khiến việc tái hiện trở thành một kiểm định phổ biến và có thể thực hiện được; đồng thời cũng nêu ra các thách thức về thể chế đối với việc phản biện và quản trị, trong đó các công cụ quản trị của chính phủ hoặc có thể trở thành một vấn đề then chốt.
ChainNewsAbmedia7giờ trước
OpenAI Sáp Nhập Codex Vào Mô Hình Chính Bắt Đầu Từ GPT-5.4, Ngừng Dòng Lập Trình Riêng
Tin tức Cổng, ngày 26 tháng 4 — Giám đốc bộ phận trải nghiệm nhà phát triển của OpenAI, Romain Huet, đã tiết lộ trong một tuyên bố gần đây trên X rằng Codex, dòng mô hình lập trình chuyên biệt được công ty duy trì độc lập, đã được sáp nhập vào mô hình chính bắt đầu từ GPT-5.4 và sẽ không còn nhận các bản cập nhật riêng biệt
GateNews7giờ trước
Salesforce sẽ tuyển 1.000 sinh viên mới tốt nghiệp và thực tập sinh cho các sản phẩm AI, đồng thời nâng dự báo doanh thu FY2026
Tin tức cổng, ngày 26 tháng 4 — Salesforce sẽ tuyển dụng 1.000 sinh viên mới tốt nghiệp và thực tập sinh để làm việc trên các sản phẩm AI, bao gồm Agentforce và Headless360, khi công ty mở rộng mảng phần mềm AI của mình, CEO Marc Benioff đã công bố trên X.
Công ty cũng đã nâng dự báo doanh thu cho tài khóa 2026 lên trong khoảng từ US$41.45 b
GateNews7giờ trước
