OpenAI vs. Kẻ Xấu — Khi AI Được Dùng Để Chống Lại Việc Lạm Dụng AI

Hai Năm Báo Cáo Mối Đe Dọa — Một Mẫu Hình Rõ Ràng Nổi Lên

Kể từ khi công bố báo cáo mối đe dọa đầu tiên vào tháng 2/2024, OpenAI đã ngăn chặn và báo cáo hơn 40 mạng lưới vi phạm chính sách sử dụng. Bức tranh hiện ra qua tất cả các báo cáo này là nhất quán: các tác nhân đe dọa không dùng AI để phát minh ra phương pháp tấn công hoàn toàn mới. Họ dùng AI để di chuyển nhanh hơn, nhân rộng các chiến thuật cũ và giảm chi phí gây hại ở quy mô lớn. Sự phân biệt đó quan trọng hơn vẻ ngoài của nó.

Trong hai năm kể từ khi OpenAI bắt đầu công bố các báo cáo này, một mẫu hình rõ ràng đã xuất hiện: các tác nhân đe dọa thường kết hợp AI với các công cụ truyền thống hơn như website và tài khoản mạng xã hội. Hoạt động đe dọa hiếm khi giới hạn ở một nền tảng — và cũng không phải lúc nào cũng giới hạn ở một mô hình AI. Đối thủ kết hợp nhiều công cụ, sử dụng các mô hình khác nhau ở các giai đoạn khác nhau trong quy trình hoạt động.

Kẻ Xấu Đang Thực Sự Làm Gì?

Phạm vi hoạt động độc hại được ghi nhận qua các báo cáo của OpenAI trải rộng nhiều danh mục:

• Mạng lưới lừa đảo: Các hoạt động có nguồn gốc từ Cambodia, Myanmar và Nigeria dùng ChatGPT để dịch tin nhắn, tạo nội dung mạng xã hội, tạo nhân vật đầu tư gian lận và xây dựng danh tính lãng mạn hoặc nghề nghiệp giả mạo ở quy mô lớn. Một số người điều hành thậm chí yêu cầu mô hình xóa dấu gạch ngang dài — một dấu hiệu phong cách nổi tiếng của văn bản do AI tạo ra — để che giấu việc sử dụng AI.
• Chiến dịch mạng liên kết nhà nước: Các nhóm liên kết Trung Quốc (được đặt mã là KEYHOLE PANDA và VIXEN PANDA) dùng ChatGPT để kiểm tra xâm nhập, thu thập thông tin đăng nhập, trinh sát mạng và gỡ lỗi phần mềm độc hại nhắm vào ngành bán dẫn Đài Loan và mạng quốc phòng liên bang Mỹ. Một nhóm nói tiếng Nga (Operation ScopeCreep) dùng mô hình để phát triển lặp đi lặp lại một bộ công cụ phần mềm độc hại Windows mô-đun được phân phối qua công cụ game bị trojanize.
• Chiến dịch ảnh hưởng bí mật: Một chiến dịch liên kết Trung Quốc tạo ra nội dung chính trị Mỹ gây chia rẽ và đẩy qua các hồ sơ trên X và Bluesky. Các chiến dịch liên kết Iran (Sneer Review, High Five) đẩy tuyên truyền qua các nền tảng mạng xã hội. Một chiến dịch thậm chí tạo ra một bài luận theo phong cách nội bộ, được viết để bắt chước tài liệu an ninh công cộng chính thức của Trung Quốc, mô tả chi tiết cách điều hành chiến dịch ảnh hưởng — bao gồm cả mốc thời gian, nền tảng được nhắm mục tiêu và hướng dẫn duy trì tài khoản.
• Kế hoạch tuyển dụng lừa đảo: Các tác nhân liên kết Triều Tiên dùng ChatGPT để tạo CV giả mạo thuyết phục, tin đăng tuyển dụng và thông tin liên lạc HR để thâm nhập các công ty công nghệ phương Tây và tuyển dụng "laptop mule" không biết gì — người Mỹ nhận thiết bị của công ty sau đó bị các tác nhân đe dọa truy cập từ xa.

Thống Kê Đáng Ngạc Nhiên

Đây là phát hiện đi ngược lại câu chuyện thống lĩnh: ChatGPT được dùng để phát hiện lừa đảo nhiều gấp khoảng ba lần so với để thực hiện chúng. Các điều tra viên OpenAI phát hiện điều này trong khi điều tra các mạng lưới lừa đảo — họ thấy hàng triệu người dùng độc lập tìm đến ChatGPT để xác minh liệu một tin nhắn, lời mời làm việc hoặc cơ hội đầu tư đáng ngờ có hợp pháp không. Chính mô hình đang bị một trung tâm lừa đảo ở Cambodia lạm dụng cũng đang được các nạn nhân tiềm năng trên toàn thế giới sử dụng để bảo vệ bản thân. Sự bất đối xứng đó dễ bị bỏ qua trong các tin tức chỉ tập trung vào phía mối đe dọa.

OpenAI Đang Phản Công Như Thế Nào?

Cách tiếp cận của OpenAI kết hợp các điều tra viên con người với các công cụ AI của chính mình — sử dụng AI như "bộ khuếch đại lực lượng" cho các nhóm bảo mật. Mỗi lần sử dụng độc hại đều để lại dấu vân tay kỹ thuật số: các mẫu lệnh bất thường, chuỗi token lặp lại và các tín hiệu hành vi mà các điều tra viên được đào tạo có thể truy ngược lại người điều hành. Khi hoạt động vi phạm chính sách, OpenAI cấm các tài khoản liên quan và chia sẻ phát hiện với các đối tác ngành, nhà cung cấp cloud và cơ quan thực thi pháp luật để cho phép triệt phá rộng hơn.

Công ty đã tăng cường đáng kể khả năng phát hiện kể từ các báo cáo đầu tiên, và công khai hợp tác với các đồng nghiệp — bao gồm Google và Anthropic — để xây dựng bức tranh đầy đủ hơn về bối cảnh mối đe dọa AI. Không một công ty nào nhìn thấy toàn bộ bức tranh, và sự minh bạch đó là một phần của chiến lược phòng thủ.

Bài Học Lớn Hơn

Thông tin quan trọng nhất từ hai năm báo cáo mối đe dọa không phải về bất kỳ chiến dịch đơn lẻ nào — mà là về bản chất của mối đe dọa. Kẻ xấu không nhận được khả năng mới lạ, chưa từng có tiền lệ từ AI. Họ nhận được tốc độ, quy mô và rào cản gia nhập thấp hơn. Một vụ lừa đảo từng đòi hỏi một nhóm nhỏ giờ chỉ cần một người với tài khoản ChatGPT. Đó là sự thay đổi thực sự — và việc phòng thủ phải theo kịp cùng tốc độ.

Báo cáo mối đe dọa công khai của OpenAI, tự nó, là một hình thức phòng thủ: bằng cách làm cho các chiến thuật này trở nên rõ ràng, nó tăng chi phí sử dụng chúng và giúp mỗi nền tảng, nhà nghiên cứu và tổ chức xây dựng khả năng phát hiện tốt hơn. Cuộc đua vũ trang là thực — nhưng sự hợp tác ở phía bên kia cũng vậy.