Bài báo:
Rethinking Adversarial Robustness: The Role of Input Transformations
Nhóm tác giả:
• Nguyễn Thị Mỹ Hạnh – KHMT 2024 – Tác giả chính
• Trần Nhật Khoa – KHTN 2022 – Đồng tác giả
Giảng viên hướng dẫn:
• ThS. Phan Minh Quân
• TS. Lương Ngọc Hoàng
Tóm tắt:
Mặc dù các mạng nơ-ron sâu (DNN) đã đạt được nhiều thành công trong thị giác máy tính, chúng vẫn dễ bị tấn công bởi các mẫu đối kháng. Phần lớn các nghiên cứu trước đây tạo ảnh đối kháng bằng cách thêm nhiễu sau khi dữ liệu đầu vào đã qua bước biến đổi. Một nghiên cứu gần đây xem xét bối cảnh thực tế hơn, trong đó nhiễu được áp dụng trực tiếp lên ảnh gốc trước khi thực hiện biến đổi và dự đoán của mô hình, cho thấy các mô hình có xu hướng bền vững hơn do kẻ tấn công không biết phép biến đổi và chỉ có thể truy cập ảnh thô.
Tuy nhiên, các nghiên cứu trước vẫn chưa cung cấp một đánh giá toàn diện trên nhiều loại mô hình và phương pháp tấn công khác nhau. Bài báo thực hiện đánh giá độ bền vững của các mô hình thị giác trước nhiều dạng tấn công đối kháng trong cả hai trường hợp áp dụng nhiễu trước và sau bước biến đổi. Kết quả thực nghiệm trên nhiều mô hình và phương pháp tấn công, bao gồm tấn công hộp trắng và hộp đen, cho thấy các mô hình vẫn rất dễ bị tổn thương trước tấn công hộp trắng trong mọi trường hợp, trong khi hiệu quả của tấn công hộp đen giảm đáng kể khi nhiễu được áp dụng trước bước biến đổi. Đáng chú ý, các tấn công dựa trên khung hình (frame-based attack) hầu như không gây ảnh hưởng khi nhiễu chỉ được áp dụng lên ảnh đầu vào thô.
"Chúng em xin gửi lời cảm ơn chân thành đến ThS. Phan Minh Quân và TS. Lương Ngọc Hoàng đã tận tình hướng dẫn, đóng góp nhiều ý kiến chuyên môn quý báu và luôn hỗ trợ chúng em trong suốt quá trình thực hiện đề tài. Sự chỉ dẫn và kinh nghiệm của các Thầy là nguồn động lực quan trọng giúp chúng em hoàn thành công trình này"
RIVF là hội nghị khoa học quốc tế thường niên trong lĩnh vực công nghệ tính toán và truyền thông, được IEEE bảo trợ kỹ thuật; các bài báo được xuất bản trong kỷ yếu IEEE Xplore. RIVF 2025 diễn ra từ ngày 18–20/12/2025 tại Trường Đại học Văn Lang, TP. Hồ Chí Minh, tập trung vào các chủ đề như trí tuệ nhân tạo, học máy, thị giác máy tính, xử lý dữ liệu, mạng và an toàn thông tin.
Thông tin chi tiết: https://www.facebook.com/share/p/1HYkzMs4Mx/
