Tại sự kiện về phát triển hạ tầng số và phần mềm mã nguồn mở diễn ra ngày 26/7 tại Hà Nội, các chuyên gia đã nhấn mạnh về sự trỗi dậy mạnh mẽ của trí tuệ nhân tạo (AI) trong các doanh nghiệp Việt Nam. Tuy nhiên, đi kèm với những lợi ích vượt trội, AI cũng đặt ra những thách thức an ninh mạng không nhỏ.
Ông Đào Việt Hùng, Giám đốc quốc gia Akamai Technologies Việt Nam, chỉ ra rằng, các doanh nghiệp Việt đang ngày càng ứng dụng rộng rãi các nền tảng mở và tích hợp chatbot AI để tối ưu hóa hiệu suất và nâng cao trải nghiệm người dùng. Mặc dù vậy, mô hình AI cũng trở thành mục tiêu tấn công, đặc biệt là hình thức “đầu độc nội dung”.
“Đầu độc” AI là một phương thức tấn công tinh vi, trong đó kẻ xấu liên tục cung cấp thông tin sai lệch cho mô hình AI, với mục đích “dạy lại” hệ thống. Khi dữ liệu độc hại này không bị phát hiện, hệ thống sẽ tiếp tục sử dụng thông tin sai lệch, dẫn đến rò rỉ dữ liệu hoặc tạo ra các lỗ hổng bảo mật để tin tặc khai thác và truy cập trái phép vào cơ sở dữ liệu.
Ông Hùng dẫn chứng những trường hợp thực tế đáng báo động. Ví dụ, chatbot bán hàng trực tuyến của một hãng xe hơi đã bị khách hàng lợi dụng để “mua” xe mới với giá chỉ 1 đô la Mỹ. Kẻ tấn công đã khai thác các lỗ hổng trong quá trình tương tác, khiến chatbot chấp nhận yêu cầu phi lý này. Trong một sự cố khác, tin tặc đã thành công trong việc đánh cắp tài liệu mật và sơ đồ tổ chức nội bộ của một công ty thông qua việc đặt các câu hỏi được thiết kế đặc biệt cho chatbot AI.
Phần mềm mã nguồn mở, với mã lập trình công khai, cho phép các doanh nghiệp tùy biến chatbot AI theo nhu cầu riêng. Tuy nhiên, tính linh hoạt này cũng tạo ra nguy cơ bị “đầu độc” nếu không có các biện pháp bảo mật phù hợp.
Ông Vũ Thế Bình, Phó chủ tịch kiêm Tổng thư ký Hiệp hội Internet Việt Nam, nhấn mạnh rằng hạ tầng mở vẫn tiếp tục phát triển và đóng vai trò then chốt trong đổi mới sáng tạo. Theo ông, hơn 90% doanh nghiệp hiện đang sử dụng nền tảng hoặc phần mềm mở dưới nhiều hình thức khác nhau.
Một khảo sát của Red Hat năm 2024 cho thấy 82% lãnh đạo công nghệ coi nền tảng mở là yếu tố then chốt để thúc đẩy chuyển đổi số và tăng tốc đổi mới. Các nền tảng nguồn mở như Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry ngày càng trở nên quan trọng trong việc vận hành các hệ thống AI, IoT, 5G/6G và cloud native.
Để giải quyết vấn đề này, ông Hùng đề xuất giải pháp “AI bảo vệ AI”. Hệ thống bảo mật AI tích hợp nhiều lớp bảo vệ dữ liệu, có khả năng tự động phân loại thông tin an toàn và phát hiện dữ liệu có nguy cơ tấn công, từ đó đưa ra các biện pháp xử lý nhanh chóng và phù hợp. Giải pháp này hứa hẹn sẽ là một công cụ đắc lực để bảo vệ các hệ thống AI khỏi các cuộc tấn công ngày càng tinh vi.
Admin
Nguồn: VnExpress
