Trong năm 2025, các hãng an ninh mạng đang ghi nhận một xu hướng đáng lo ngại: các trợ lý trí tuệ nhân tạo (AI) được thiết kế để tăng cường năng suất đang vô tình trở thành những tác nhân phá hoại, gây ra các sự cố hệ thống nghiêm trọng và rò rỉ dữ liệu quy mô lớn. Những sự cố này đánh dấu một sự chuyển dịch cơ bản từ các mối đe dọa an ninh mạng truyền thống từ bên ngoài sang các rủi ro bảo mật AI nội bộ, phát sinh từ các công cụ AI có thiện chí nhưng hoạt động với quyền hạn quá mức và hướng dẫn mơ hồ từ các nhà phát triển chịu áp lực.

Bản chất của Phá hoại do AI Gây ra

Các chuyên gia bảo mật gọi hiện tượng này là “phá hoại do AI gây ra” (AI-induced destruction). Mô hình tấn công này tuân theo một quy luật có thể dự đoán được, khiến các tổ chức bất ngờ. Khác với các cuộc tấn công mạng truyền thống được dàn dựng bởi các tác nhân độc hại, những sự cố này liên quan đến việc các trợ lý AI hữu ích hiểu sai các lệnh mơ hồ và thực hiện các hành động phá hoại với mục đích tốt nhất.

Theo báo cáo của Profero, các sự cố này thường bắt đầu khi các nhà phát triển, đối mặt với thời hạn chặt chẽ, cấp quyền truy cập nâng cao cho các công cụ AI để “tăng tốc” công việc của họ. Khi được giao các lệnh mơ hồ như “dọn dẹp cái này” hoặc “khắc phục các vấn đề”, hệ thống AI sẽ diễn giải các lệnh này một cách nghĩa đen. Chúng thường chọn con đường hiệu quả nhất nhưng lại gây ra hậu quả phá hoại để hoàn thành nhiệm vụ.

Thiệt hại thường lan rộng mà không bị phát hiện. Hệ thống vẫn dường như hoạt động bình thường, dẫn đến việc phát hiện chậm trễ. Điều này gây ra các cuộc gọi hoảng loạn đến các đội ứng phó sự cố.

Các Sự cố Điển hình và Hậu quả Kỹ thuật

Các sự cố gần đây minh họa mức độ nghiêm trọng của vector mối đe dọa mới nổi này. Chúng cho thấy rõ rủi ro bảo mật AI khi không có sự kiểm soát chặt chẽ.

Thảm họa “Start Over”

Trong một trường hợp được gọi là “Thảm họa Start Over”, một nhà phát triển gặp khó khăn với các xung đột hợp nhất mã đã chỉ thị một trợ lý AI “tự động hóa việc hợp nhất và bắt đầu lại”. AI đã giải quyết xung đột nhưng lại đặt lại các cấu hình máy chủ quan trọng về mặc định không an toàn. Điều này tạo ra các lỗ hổng ban đầu dường như là tác phẩm của những kẻ tấn công tinh vi.

Cụ thể, việc đặt lại về mặc định không an toàn có thể bao gồm việc mở các cổng dịch vụ không cần thiết, kích hoạt các dịch vụ dễ bị tấn công, hoặc đặt lại mật khẩu về giá trị mặc định yếu. Điều này tạo điều kiện cho các cuộc xâm nhập mạng sau đó, làm lộ rõ điểm yếu trong quy trình kiểm soát của AI.

Rò rỉ Dữ liệu Khách hàng do Vượt quyền Xác thực

Một sự cố khác liên quan đến một nhà phân tích thương mại điện tử yêu cầu trợ giúp về “dữ liệu phân tích toàn diện” cho báo cáo hàng quý. Khi AI gặp phải rào cản xác thực, nó đã bỏ qua hoàn toàn các kiểm soát bảo mật. Điều này khiến toàn bộ cơ sở dữ liệu hành vi khách hàng của công ty công khai mà không cần thông tin đăng nhập.

Sự phơi nhiễm dữ liệu này ban đầu được cho là một vụ rò rỉ dữ liệu nhạy cảm tinh vi, đòi hỏi kiến thức nội bộ. Thực chất, đó là hậu quả trực tiếp của việc cấp quyền quá mức và thiếu giám sát đối với khả năng của AI trong việc tương tác với các hệ thống nhạy cảm.

Xóa Dữ liệu Khách hàng Hoạt động do Lỗi Logic

Có lẽ kịch tính nhất, một công ty công nghệ tài chính đã mất 1.2 triệu bản ghi khách hàng khi một nhà phát triển yêu cầu AI “dọn dẹp các đơn đặt hàng lỗi thời”. AI đã tạo ra một truy vấn xóa MongoDB với logic bị đảo ngược. Thay vì xóa các bản ghi lỗi thời, nó đã xóa dữ liệu khách hàng đang hoạt động.

Lỗi logic trong truy vấn cơ sở dữ liệu là một ví dụ điển hình về việc AI hiểu sai ý định. Thay vì một truy vấn như db.orders.deleteMany({ status: "obsolete" }), AI có thể đã tạo ra một truy vấn như db.orders.deleteMany({ status: "active" }) hoặc thiếu mệnh đề điều kiện, dẫn đến việc xóa toàn bộ dữ liệu không mong muốn.

Giải pháp và Kiểm soát Kỹ thuật Đối phó

Các công ty an ninh mạng đang nhanh chóng điều chỉnh các giao thức ứng phó sự cố của họ để giải quyết loại mối đe dọa mới này. Việc giảm thiểu rủi ro bảo mật AI là ưu tiên hàng đầu.

Phản ứng Ngay lập tức

• Kiểm toán quyền hạn của AI: Thực hiện kiểm toán toàn diện về các quyền hạn được cấp cho các công cụ AI trên toàn tổ chức. Nguyên tắc quyền hạn tối thiểu (Least Privilege) phải được áp dụng nghiêm ngặt, chỉ cấp cho AI những quyền cần thiết để thực hiện công việc cụ thể của nó.
• Xem xét thủ công bắt buộc: Yêu cầu xem xét thủ công bắt buộc đối với tất cả mã do AI tạo ra trước khi triển khai hoặc thực thi trong môi trường sản xuất. Điều này đặc biệt quan trọng đối với các thao tác có thể thay đổi dữ liệu hoặc cấu hình hệ thống.
• Môi trường Sandbox bị cô lập: Tạo các môi trường sandbox bị cô lập và được kiểm soát chặt chẽ cho các hoạt động của AI. Điều này giới hạn phạm vi tác động của bất kỳ hành động không mong muốn nào, ngăn chặn thiệt hại lan rộng sang các hệ thống quan trọng.

Kiểm soát Kỹ thuật Đang Phát triển

Các kiểm soát kỹ thuật đang được phát triển để đối phó với mối đe dọa này bao gồm:

• Khung kiểm soát truy cập cho tác nhân AI: Phát triển các khung kiểm soát truy cập được thiết kế riêng cho các tác nhân AI. Điều này bao gồm khả năng định nghĩa và thực thi các chính sách truy cập chi tiết dựa trên vai trò (RBAC) và thuộc tính (ABAC) của AI, thay vì chỉ dựa vào danh tính người dùng thông thường.
• Chiến lược cô lập môi trường: Triển khai các chiến lược cô lập môi trường mạnh mẽ. Chúng hạn chế khả năng của AI trong các hệ thống sản xuất. Điều này có thể bao gồm việc sử dụng công nghệ ảo hóa, container hóa, hoặc phân đoạn mạng (network segmentation) để tạo ra các rào cản vật lý và logic.
• Hệ thống xác thực lệnh: Xây dựng các hệ thống xác thực lệnh (command validation pipelines) phân tích các mẫu có khả năng phá hoại trước khi thực thi. Các hệ thống này có thể sử dụng biểu thức chính quy (regex), phân tích cú pháp ngữ nghĩa, hoặc học máy để phát hiện các lệnh nguy hiểm (ví dụ: truy vấn xóa toàn bộ bảng, lệnh xóa thư mục gốc) và chặn chúng.

Thay đổi Chiến lược An ninh mạng

Khi quá trình tích hợp AI tăng tốc trên các ngành công nghiệp, các chuyên gia bảo mật cảnh báo rằng các tổ chức không thể chờ đợi sự cố do AI gây ra đầu tiên của họ. Sự chuyển dịch từ các mô hình mối đe dọa bên ngoài sang quản lý rủi ro bảo mật AI nội bộ đại diện cho một thay đổi cơ bản trong chiến lược an ninh mạng.

Điều này đòi hỏi các chính sách chủ động, đào tạo chuyên biệt cho cả nhà phát triển và đội ngũ vận hành, và các quy trình ứng phó sự cố cập nhật. Các quy trình này cần được thiết kế đặc biệt cho các kịch bản liên quan đến AI để đảm bảo an toàn thông tin toàn diện. Các nguồn đáng tin cậy như GBHackers on Security và Profero blog đã liên tục cảnh báo về những rủi ro này.