Báo cáo tháng 10 của OpenAI cho thấy các tác nhân mạng trên toàn cầu đang chủ yếu tích hợp trí tuệ nhân tạo (AI) vào quy trình tấn công sẵn có nhằm nâng cao hiệu suất, thay vì phát triển những công cụ hay phương thức tấn công hoàn toàn mới.
Theo OpenAI, phần lớn hoạt động bị phát hiện liên quan đến việc sử dụng AI để hỗ trợ các tác vụ quen thuộc như phát triển mã độc, xây dựng hạ tầng điều khiển, tạo email lừa đảo tinh vi hơn, cũng như thu thập thông tin về mục tiêu.
Báo cáo nêu rõ: “Các nhóm bị chặn hầu hết đều kết hợp AI vào quy trình hiện có, chứ không xây dựng quy trình mới dựa trên AI."
Báo cáo cũng chỉ ra rằng nhiều nhóm người dùng đã tận dụng các mô hình ngôn ngữ lớn (LLM) để khai thác kiến thức trong nhiều lĩnh vực kỹ thuật khác nhau, từ phát triển ứng dụng đến cấu hình hệ thống mạng, thường theo hướng chuyên biệt hóa từng tài khoản cho từng nhiệm vụ cụ thể.
Một số mạng lưới người dùng khác được xác định là sử dụng nền tảng AI để tạo nội dung trực tuyến, bao gồm bài viết, hình ảnh và video, phục vụ các chiến dịch truyền thông hoặc quảng bá quan điểm nhất định. Tuy nhiên, hầu hết các tài khoản này hoạt động không hiệu quả, với mức độ tương tác rất thấp.
Ngoài ra, OpenAI cũng ghi nhận hiện tượng các trung tâm lừa đảo và tội phạm mạng sử dụng ChatGPT để hỗ trợ hoạt động gian lận trực tuyến tại Myanmar và Campuchia. Một số trường hợp cho thấy AI được dùng không chỉ để soạn thảo nội dung, mà còn để quản lý lịch làm việc, nhân sự và tài chính.
Tuy vậy, OpenAI nhấn mạnh rằng AI cũng đang được sử dụng tích cực trong việc phòng chống gian lận. Theo ước tính, người dùng ChatGPT để xác định và tránh các vụ lừa đảo nhiều gấp 3 lần so với việc sử dụng để lừa đảo.”
Phần lớn các yêu cầu độc hại bị hệ thống từ chối, song báo cáo lưu ý rằng vẫn tồn tại “vùng xám” - nơi các yêu cầu mang tính kỹ thuật hoặc nghiên cứu có thể bị lợi dụng cho mục đích không mong muốn.
Dù vậy, OpenAI khẳng định các đoạn mã hoặc nội dung được tạo ra không mang tính độc hại cho đến khi bị sử dụng sai mục đích bên ngoài nền tảng./.
OpenAI công bố tính năng tích hợp ứng dụng cho ChatGPT
Tính năng mới, mang tên Apps SDK, cho phép ChatGPT tương tác với nhiều ứng dụng khác nhau để chọn nhạc, tìm kiếm bất động sản hoặc khám phá các trang web đặt phòng khách sạn và vé máy bay.
