Kỷ nguyên tấn công mạng sử dụng trí tuệ nhân tạo đã đến

Các nhà dự báo đã dự đoán trong 20 năm về một tương lai mà hacker sử dụng trí tuệ nhân tạo (AI) để xâm nhập mạng, đánh cắp dữ liệu và lợi dụng nhân viên cả tin. Và giống như nhiều viễn cảnh tương lai liên quan đến AI trong thời đại AI tạo sinh dựa trên LLM (mô hình ngôn ngữ lớn), dự đoán này đang trở thành hiện thực.

Mới đây, một hacker đã sử dụng công nghệ dựa trên AI cho một loạt tấn công, bao gồm các cuộc tấn công ransomware (tống tiền) quy mô lớn. Kẻ tấn công đã sử dụng chatbot để do thám, tạo mã, đánh cắp thông tin đăng nhập, xâm nhập và gửi yêu cầu đòi tiền chuộc đối với 17 tổ chức, bao gồm các nhà cung cấp dịch vụ chăm sóc sức khỏe, cơ quan chính phủ, tổ chức từ thiện tôn giáo và một nhà thầu quốc phòng.

AI thậm chí còn hữu ích khi đề xuất số tiền chuộc, từ 75.000 đến 500.000 USD bằng Bitcoin. Đây là trường hợp đầu tiên được biết đến mà AI đã dàn dựng toàn bộ một âm mưu tống tiền, tự động hóa gần như mọi bước.

AI không chỉ dẫn đường và hỗ trợ các cuộc tấn công mạng mà còn cả việc viết mã. Người ta đã phát hiện ra rằng tội phạm đang sử dụng AI tạo sinh để xây dựng và cập nhật chính mã ransomware thực tế.

Kẻ lừa đảo dùng AI nói chuyện

Hơn sáu năm trước, thế giới an ninh mạng đã phải báo động khi tội phạm sử dụng âm thanh deepfake để mạo danh một CEO nhằm đánh cắp tiền. Kẻ lừa đảo đã gọi điện, sử dụng công nghệ để bắt chước giọng nói của CEO cho công ty mẹ tại Đức của một công ty năng lượng có trụ sở tại Anh. CEO giả mạo người Đức đã gọi cho CEO thật của Anh và yêu cầu chuyển gấp 243.000 USD cho một nhà cung cấp Hungary để phục vụ nhu cầu kinh doanh cấp bách.

Trong kỷ nguyên deepfake, loại tội phạm này mới và chưa từng có tiền lệ. Trong kỷ nguyên genAI, đó chỉ là một điều tầm thường.

Theo chuyên gia của công ty an ninh mạng McAfee, chỉ cần một đoạn ghi âm dài ba giây về một người đang nói chuyện đã có thể tạo ra những tin nhắn hoặc cuộc gọi điện thoại giả mạo đầy thuyết phục. Nếu ai đó nghe giống như một người đáng tin cậy, mọi người sẵn sàng giao nộp tiền mặt hoặc bí mật của họ. Vào năm 2024, nghiên cứu cho thấy cứ bốn người thì có một người đã từng bị hoặc biết ai đó bị lừa đảo bằng giọng nói AI.

Nhờ genAI, công nghệ này tốt đến mức có thể đánh lừa cả cha mẹ. Năm ngoái, một người đàn ông ở California nhận được cuộc gọi từ một kẻ sử dụng bản sao giọng nói của con trai mình. Kẻ giả mạo này khai rằng anh ta bị tai nạn, bị cảnh sát bắt giữ và cần tiền bảo lãnh gấp. Sau nhiều cuộc gọi và áp lực từ những kẻ lừa đảo, người cha đã rút hàng nghìn USD và gửi cho chúng.

Năm 2024, những kẻ lừa đảo đã sao chép giọng nói của Bộ trưởng Quốc phòng Ý Guido Crosetto để nhắm vào các doanh nghiệp lớn, như huyền thoại thời trang Giorgio Armani, Patrizio Bertelli của Prada, và cựu giám đốc điều hành Inter Milan Massimo Moratti đã nhận được các cuộc gọi từ “Crosetto” về các nhà báo bị bắt cóc đang gặp nguy hiểm. Những cuộc gọi này đã thuyết phục Moratti chuyển gần một triệu euro vào một tài khoản ở Hồng Kông (sau đó đã bị truy tìm và đóng băng tại Hà Lan).

Rủi ro mới từ trình duyệt AI

Một thách thức trong lĩnh vực tấn công sử dụng AI, tức là các cuộc tấn công chưa từng tồn tại hoặc không thể thực hiện trước genAI, là mọi thứ thay đổi nhanh như thế nào. Lấy trình duyệt AI làm ví dụ. Danh mục trình duyệt web mới này nhiều, bao gồm Perplexity Comet, Dia (của The Browser Company), Fellou, Opera Neon, Sigma AI Browser, Arc Max, Microsoft Edge Copilot, Brave Leo, Wave Browser Pro, SigmaOS, Opera Aria, Genspark AI Browser, Poly, Quetta Browser, Browserbase, Phew AI Tab và trình duyệt OpenAI sắp ra mắt.

Trình duyệt Comet của Perplexity có tính năng đặc biệt nhất, cho phép nhấp vào liên kết, điều hướng trang web, điền biểu mẫu, quản lý email và lịch, đặt lịch trình du lịch và mua hàng, phân tích lịch sử duyệt web, tự động hóa quy trình làm việc nhiều bước, tương tác với các dịch vụ đã đăng nhập, so sánh sản phẩm trên các trang web, hủy đăng ký email, trích xuất và tổng hợp thông tin từ nhiều nguồn, quản lý tab bằng cách mở và đóng chúng, tự động tìm kiếm và lọc thông qua các tác vụ nghiên cứu phức tạp do người dùng thực hiện và cung cấp hỗ trợ đàm thoại với nhận thức theo ngữ cảnh trên tất cả các hoạt động duyệt web.

Các nhà nghiên cứu bảo mật đã chứng minh tội phạm có thể dễ dàng lừa các trình duyệt AI thực hiện hành vi phạm tội như thế nào. Khi nghiên cứu hướng dẫn một trình duyệt Comet mua một chiếc Apple Watch, AI đã ngoan ngoãn truy cập vào một trang web Walmart giả mạo mà họ đã tạo ra trong vòng 10 giây bằng những công cụ web cơ bản. Trình duyệt Comet đã bỏ qua các dấu hiệu gian lận rõ ràng và tự động điền thông tin thẻ tín dụng đã lưu và thông tin giao hàng để hoàn tất giao dịch. Trong quá trình thử nghiệm, trình duyệt đôi khi từ chối giao dịch hoặc yêu cầu sự chấp thuận của con người, nhưng trong những trường hợp khác, nó đã chuyển dữ liệu thanh toán nhạy cảm trực tiếp cho kẻ lừa đảo.

Nghiên cứu đã phát hiện ra rằng tội phạm có thể thao túng trình duyệt Comet bằng cách ẩn các lệnh trong các bài kiểm tra CAPTCHA giả mạo. Cuộc tấn công đã thuyết phục AI nhấp vào các nút vô hình và bỏ qua các bước kiểm tra bảo mật mà người dùng không hề hay biết.

Lấy lửa chọi lửa

Sự thật là hầu hết các cuộc tấn công vẫn là kiểu tấn công truyền thống, được thực hiện mà không có sự hỗ trợ của AI. Và hầu hết vẫn liên quan đến lỗi của con người. Vì vậy, tất cả các hướng dẫn tiêu chuẩn và thực hành tốt nhất đều được áp dụng. Người sử dụng nên cập nhật phần mềm thường xuyên, yêu cầu xác thực đa yếu tố cho tất cả các lần đăng nhập và đào tạo nhân viên về email giả mạo và liên kết độc hại. Chuyên gia bên ngoài nên chạy thử nghiệm xâm nhập hai lần một năm. Việc sao lưu ngoại tuyến thường xuyên có thể giúp tiết kiệm hàng nghìn USD sau các cuộc tấn công ransomware dựa trên AI.

Nhưng trong kỷ nguyên tấn công mạng AI mới, các công cụ an ninh mạng dựa trên AI đã trở thành một yêu cầu bắt buộc. Chúng có thể quét hàng triệu sự kiện mạng mỗi giây và đánh dấu các vấn đề trước khi bất kỳ điều gì xấu xảy ra.

Sự thật đáng tiếc là kỷ nguyên tấn công mạng dựa trên AI chỉ mới bắt đầu.