Nghiên cứu mới từ SquareX đã phát hiện một loại hình tấn công AI browser tiên tiến và đáng báo động, được gọi là AI Sidebar Spoofing. Cuộc tấn công này đặc biệt nguy hiểm khi tận dụng sự thiếu cảnh giác của người dùng và lợi dụng các tiện ích mở rộng trình duyệt độc hại. Chúng mạo danh tinh vi giao diện AI sidebar đáng tin cậy, lừa người dùng thực hiện các lệnh có tính chất phá hoại hoặc chiếm đoạt. Hậu quả tiềm tàng của cuộc tấn công này rất đa dạng và nghiêm trọng, bao gồm đánh cắp thông tin đăng nhập quan trọng, chiếm quyền kiểm soát hoàn toàn thiết bị của nạn nhân, và đánh cắp các mật khẩu lưu trữ, gây ra thiệt hại tài chính và thông tin không thể lường trước.

Bản chất và cơ chế của AI Sidebar Spoofing

Cuộc tấn công AI Sidebar Spoofing khai thác trực tiếp vào nền tảng niềm tin mà người dùng đặt vào các AI sidebar. Đây là giao diện tương tác chính mà người dùng sử dụng để làm việc với các trình duyệt AI chuyên dụng như Comet, cũng như các trình duyệt tiêu dùng phổ biến đã tích hợp các tính năng AI, ví dụ điển hình là Brave và Edge.

Kẻ tấn công thực hiện kỹ thuật này bằng cách tạo ra các bản sao “pixel-perfect” – tức là các bản sao giống hệt về mặt hình ảnh, không thể phân biệt bằng mắt thường – của các AI sidebar hợp pháp. Sau khi được cài đặt dưới dạng tiện ích mở rộng độc hại, chúng sẽ thay thế hoặc can thiệp vào các phản hồi do AI thực tế tạo ra. Thay vào đó, tiện ích mở rộng độc hại sẽ trả về các hướng dẫn giả mạo, chứa đựng các lệnh có hại mà người dùng, do không hề nghi ngờ, sẽ làm theo một cách vô thức.

Khai thác niềm tin người dùng và rủi ro bảo mật tiềm ẩn

Vivek Ramachandran, Người sáng lập và CEO của SquareX, đã nhấn mạnh rằng AI đã nhanh chóng trở thành một công cụ thiết yếu, giúp hàng triệu người dùng học hỏi kỹ năng mới và hoàn thành các tác vụ hàng ngày. Tuy nhiên, sự phụ thuộc này đã vô tình tạo ra một động lực nguy hiểm: người dùng có xu hướng mù quáng làm theo các hướng dẫn được tạo ra bởi AI mà không có đủ chuyên môn hoặc kiến thức để nhận diện các dấu hiệu cảnh báo về rủi ro bảo mật.

Ông giải thích rõ hơn: “Với sự giống nhau hoàn toàn về mặt hình ảnh và quy trình làm việc giữa AI sidebar thật và giả mạo, cuộc tấn công AI Sidebar Spoofing đã khai thác triệt để niềm tin vững chắc của người dùng vào các giao diện AI này. Bằng cách đó, chúng lừa người dùng thực hiện các tác vụ độc hại mà họ có thể không hề hiểu rõ về bản chất hoặc hoàn toàn không nhận thức được hậu quả nghiêm trọng mà chúng có thể gây ra.”

Các trường hợp khai thác AI Sidebar Spoofing và tiềm năng chiếm quyền điều khiển

Nghiên cứu của SquareX đã minh họa tính chất nguy hiểm của các cuộc tấn công AI Sidebar Spoofing thông qua ba trường hợp nghiên cứu chính. Các chuyên gia cũng đưa ra cảnh báo về khả năng xuất hiện nhiều biến thể tấn công tinh vi hơn trong tương lai. Những ví dụ này không chỉ chứng minh khả năng đánh lừa người dùng mà còn làm rõ cách thức kẻ tấn công có thể dễ dàng chiếm quyền điều khiển các tài khoản và hệ thống quan trọng của nạn nhân.

Trường hợp 1: Lừa đảo tài chính qua Cryptocurrency Phishing

Trong một ví dụ minh họa cụ thể, người dùng đã đặt câu hỏi cho AI sidebar về quy trình rút tiền điện tử từ tài khoản của họ. AI sidebar giả mạo được kích hoạt và trả về một chuỗi hướng dẫn trông có vẻ hoàn toàn hợp pháp và đáng tin cậy.

Tuy nhiên, điểm mấu chốt là tiện ích mở rộng độc hại đã bí mật thay thế URL trang đăng nhập Binance thật bằng một liên kết lừa đảo (phishing link) được ngụy trang tinh vi. Người dùng, hoàn toàn tin tưởng rằng đó là những hướng dẫn an toàn và chính xác do trình duyệt AI như Comet tạo ra, đã không ngần ngại nhập thông tin đăng nhập quan trọng của mình vào trang web lừa đảo giả mạo đó. Kẻ tấn công sau đó nhanh chóng sử dụng thông tin này để đăng nhập vào tài khoản tiền điện tử của nạn nhân, từ đó truy cập và chiếm đoạt tài sản số.

Trường hợp 2: Đánh cắp mật khẩu và Chiếm đoạt thiết bị (Password Exfiltration & Device Hijacking)

Ngoài các kịch bản liên quan đến tài chính, các ví dụ khác cũng chỉ ra rằng người dùng đã bị lừa để thực thi các lệnh độc hại dưới danh nghĩa của AI sidebar. Những lệnh này, khi được thực thi, cung cấp cho kẻ tấn công khả năng sâu rộng để:

• Đánh cắp mật khẩu: Kẻ tấn công có thể trích xuất và đánh cắp các mật khẩu được lưu trữ trên thiết bị của nạn nhân, mở ra cánh cửa đến nhiều tài khoản trực tuyến khác.
• Chiếm quyền điều khiển thiết bị: Nạn nhân bị lừa thực hiện các lệnh cho phép kẻ tấn công giành quyền kiểm soát từ xa thiết bị của họ. Điều này có thể dẫn đến việc cài đặt phần mềm độc hại, truy cập dữ liệu cá nhân hoặc giám sát hoạt động.
• Thực hiện tấn công ransomware: Trong những trường hợp nghiêm trọng hơn, kẻ tấn công có thể kích hoạt các cuộc tấn công ransomware từ xa, mã hóa dữ liệu trên thiết bị của nạn nhân và đòi tiền chuộc, gây ra thiệt hại tài chính và gián đoạn hoạt động nghiêm trọng.

Phạm vi ảnh hưởng rộng lớn và các trình duyệt bị tác động

Các nhà nghiên cứu của SquareX cũng đã xác nhận rằng phạm vi ảnh hưởng của cuộc tấn công AI Sidebar Spoofing không chỉ giới hạn ở một vài trình duyệt. Các trình duyệt AI chuyên dụng khác và cả những trình duyệt tiêu dùng phổ biến đã tích hợp tính năng AI sidebar, bao gồm Edge, Firefox và Safari, đều có khả năng bị tổn thương ở mức độ tương đương.

Điều này mang một ý nghĩa quan trọng: ngay cả khi các tổ chức chủ động hạn chế việc sử dụng các trình duyệt AI chuyên biệt trong môi trường làm việc của họ, người dùng vẫn đứng trước nguy cơ cao bị tấn công. Lý do là kiểu tấn công này có thể được triển khai và hoạt động hiệu quả trên bất kỳ trình duyệt nào, miễn là trình duyệt đó có tích hợp tính năng AI sidebar, làm cho các biện pháp phòng ngừa đơn lẻ trở nên không đủ hiệu quả.

Thách thức trong phát hiện và biện pháp phòng ngừa AI Sidebar Spoofing

Một trong những khía cạnh đáng ngạc nhiên và cũng là thách thức lớn nhất của cuộc tấn công AI Sidebar Spoofing là nó chỉ yêu cầu các quyền hạn tiện ích mở rộng trình duyệt cơ bản. Những quyền hạn này rất phổ biến và thường được cấp cho hàng loạt tiện ích mở rộng thông dụng, từ công cụ kiểm tra ngữ pháp như Grammarly cho đến các trình quản lý mật khẩu.

Chính điều này khiến việc phát hiện các tiện ích độc hại trở nên cực kỳ khó khăn nếu chỉ dựa vào phương pháp phân tích quyền hạn thông thường. Tiện ích mở rộng AI Sidebar Spoofing có thể nằm im, hoạt động như một tiện ích hợp pháp, cung cấp các phản hồi chính xác và hữu ích. Chúng chỉ chờ đợi thời điểm thích hợp, khi nhận thấy cơ hội dựa trên câu hỏi của người dùng, để kích hoạt và lừa họ thực hiện các hành động độc hại.

Để biết thêm thông tin chi tiết về nghiên cứu kỹ thuật này và hiểu rõ hơn về cách thức hoạt động của AI Sidebar Spoofing, người dùng và các chuyên gia bảo mật có thể tham khảo bài viết chuyên sâu trên blog của SquareX Labs tại: SquareX Labs – AI Sidebar Spoofing: Kỹ thuật tấn công tinh vi trên trình duyệt AI.

Nhu cầu cấp thiết về phân tích động và biện pháp bảo vệ nâng cao

Trước tính chất khó lường và khả năng ngụy trang tinh vi của AI Sidebar Spoofing, việc các doanh nghiệp phải có khả năng thực hiện phân tích động (dynamic analysis) hành vi của tiện ích mở rộng trong thời gian chạy là điều tối quan trọng. Phương pháp này giúp phát hiện các hoạt động đáng ngờ mà phân tích tĩnh không thể nhận diện.

Bên cạnh đó, cần thiết lập các biện pháp bảo vệ cấp độ trình duyệt (browser-native guardrails) với độ chi tiết cao. Các guardrails này có chức năng cảnh báo người dùng về những hướng dẫn có nguy cơ độc hại và chủ động chặn họ thực hiện theo các chỉ dẫn đó. Việc áp dụng đồng bộ các giải pháp này không chỉ giúp giảm thiểu rủi ro bảo mật đáng kể mà còn đóng vai trò then chốt trong việc ngăn chặn các hành vi chiếm quyền điều khiển trái phép và rò rỉ dữ liệu nhạy cảm tiềm ẩn, bảo vệ toàn vẹn hệ thống và thông tin của người dùng.