Trong những năm gần đây, các kỹ thuật Máy học (ML) đã được triển khai rộng rãi cho các nhiệm vụ thị giác máy tính, đặc biệt là các bài toán phân loại trực quan, trong đó các thuật toán mới được báo cáo đạt được hoặc thậm chí vượt qua hiệu suất của con người. Sự thành công của các thuật toán ML đã dẫn đến sự bùng nổ về nhu cầu. Để mở rộng hơn nữa và đơn giản hóa việc sử dụng các thuật toán ML, các dịch vụ dựa trên đám mây được cung cấp bởi Amazon, Google, Microsoft, Clarifai và các công ty đám mây công cộng khác đã phát triển các công cụ ML-as-a-service. Do đó, người dùng và các công ty có thể dễ dàng hưởng lợi từ các ứng dụng ML mà không cần phải đào tạo hoặc lưu trữ các mô hình của riêng họ.
Không giống như các cuộc tấn công thông thường chống lại các ứng dụng web, chẳng hạn như SQL injection và XSS, có những phương pháp tấn công rất đặc biệt dành cho các ứng dụng học máy. Rõ ràng, cả các công ty điện toán đám mây công cộng và các công ty bảo mật truyền thống đều không quan tâm nhiều đến các cuộc tấn công và phòng thủ mới này (tấn công đối kháng).
Phần trình bày của Hao Xin (XLab - Baidu Security) tại sự kiện BlackHat Asia 2020 tập trung vào API đám mây của các công ty đám mây công cộng và khám phá các cuộc tấn công chống lại các ứng dụng học máy. Tiếp đó, tác giả cũng mô tả các biện pháp phòng thủ và giảm thiểu hiệu quả ảnh hưởng của loại tấn công đối kháng này. Mặc dù nghiên cứu tập trung vào API Cloud cho lĩnh vực nhận diện hình ảnh (API Cloud Vision), một số bài toán về tấn công và phòng thủ có thể áp dụng cho các ứng dụng học máy khác như ứng dụng xử lý ngôn ngữ tự nhiên (NLP) và ứng dụng xử lý giọng nói, nhận diện tấn công mạng, kiểm thử bảo mật....
Baidu Security cũng cung cấp một công cụ mã nguồn mở - AdvBox tương ứng với dự án của họ. Advbox là một loạt bộ công cụ bảo mật mô hình AI từ dự án Mã nguồn mở Baidu, bao gồm các tính năng tạo, phát hiện và bảo vệ các mẫu đối kháng, cũng như các trường hợp tấn công và phòng thủ cho các ứng dụng AI khác nhau.
Mã nguồn AdvBox: https://github.com/advboxes/AdvBox
Nguồn tham khảo: https://www.blackhat.com/asia-20/briefings/schedule/#attacking-and-defen...
Thông tin chi tiết: https://www.facebook.com/inseclab/
Hải Băng - Cộng tác viên Truyền thông trường Đại học Công nghệ Thông tin
