Phát triển AI phải song hành với vấn đề an ninh mạng và an toàn thông tin

Tại sự kiện Vietnam Security Summit 2024, Thượng tá Nguyễn Anh Tuấn – Phó giám đốc Trung tâm Dữ liệu quốc gia về dân cư (Bộ Công an) cho biết AI là công nghệ quan trọng nhất trong cuộc cách mạng công nghệ 4.0, có thể mang lại lợi ích to lớn, đột phá cho phát triển kinh tế của các quốc gia nhưng cũng tiềm ẩn rất nhiều rủi ro, tác động tiêu cực đến an ninh quốc gia, trật tự xã hội trên toàn thế giới.

Theo báo cáo chỉ số AI năm 2022 của Đại học Stanford (Mỹ), từ năm 2010 – 2021, số bài công bố khoa học về AI tăng gấp 2 lần.

Trên cơ sở khai thác, tổng hợp và sàng lọc dữ liệu để tính toán xác suất rủi ro dựa trên các mô hình thuật toán, AI còn có thể cung cấp thông tin và dự báo thông minh về các tình huống liên quan đến cơ sở hạ tầng quan trọng hoặc các vấn đề an sinh xã hội quốc gia, đồng thời nắm bắt kịp thời những thay đổi về nhận thức, tâm lý xã hội để hỗ trợ đưa ra các quyết sách phù hợp.

Tuy nhiên, AI cũng tiềm ẩn rủi ro và thách thức về pháp lý, thách thức về an toàn thông tin, an ninh mạng, lừa đảo trực tuyến…

Theo ông Trần Đăng Khoa – Phó cục trưởng Cục An toàn thông tin (Bộ TT-TT), 26 hình thức lừa đảo trên không gian mạng đang diễn ra thường xuyên tại Việt Nam. Trong đó 72,6% là lừa đảo trực tiếp vào tài chính, còn 26,4% là các dạng lừa đảo trực tuyến, 1% là dạng khác.

Theo ông Tuấn, những phần mềm độc hại được hỗ trợ bởi AI có thể được cài vào các file tài liệu. Khi người dùng đăng tải file tài liệu có chứa mã độc có thể xâm nhập vào hệ thống. Ngoài ra, hacker có thể sử dụng công nghệ đặc biệt của AI, mô phỏng hệ thống để tìm điểm yếu tấn công, tăng khả năng tấn công vào các lỗ hổng bảo mật.

Đáng chú ý, ông Tuấn cũng nhắc tới việc AI có thể tạo ra nhiều ứng dụng có hình ảnh, tên gọi giả mạo ứng dụng, trang web của Bộ Công an để người dân tải về, cài đặt và cung cấp các thông tin như số CCCD, mật khẩu đăng nhập…

Đã chặn rất nhiều website lừa đảo trực tuyến

Theo đại diện Cục An toàn thông tin (Bộ TT-TT), thời gian qua, Bộ TT-TT đã thực hiện nhiều giải pháp, ngăn chặn 11.554 website/blog, có 3.052 website lừa đảo trực tuyến. Bảo vệ hơn 10,7 triệu người dân trước các tấn công lừa đảo trực tuyến, vi phạm pháp luật trên không gian mạng.

Trong 4 tháng đầu năm 2024, chặn 2.418 website/blog, có 449 website lừa đảo trực tuyến. Bảo vệ gần 700 nghìn người dân. Tổ chức Chiến dịch Tháng hành động tuyên truyền về nhận diện và phòng chống lừa đảo trực tuyến, lan tỏa tới 20,85 triệu người dùng với 2,1 tỉ lượt xem.

Cơ sở dữ liệu chống lừa đảo trực tuyến quốc gia cảnh báo 123.417 địa chỉ website giả mạo, liên quan đến lừa đảo trực tuyến kết nối trực tiếp với trình duyệt Cốc Cốc, Zalo, Safegate.

Để giảm thiểu các rủi ro mà AI gây ra, Thượng tá Nguyễn Anh Tuấn đề xuất nước ta cần sớm hoàn thiện hành lang pháp lý về AI để đón đầu xu hướng; ban hành văn bản quy định về đạo đức trong quá trình sản xuất, ứng dụng, sử dụng AI (bảo vệ quyền riêng tư, dữ liệu cá nhân, quyền con người…) của các đơn vị trong và ngoài nước.

Ban hành các văn bản quy định trách nhiệm của nhà cung cấp dịch vụ trong quá trình phát triển, sản xuất, ứng dụng, sử dụng AI ; tiêu chuẩn kỹ thuật đối với các hệ thống có sử dụng, ứng dụng, kết nối, cung cấp dịch vụ AI…

Nghiên cứu, ứng dụng trí tuệ nhân tạo để chống lại rủi ro về trí tuệ nhân tạo. Phát triển AI phải được song hành với vấn đề an ninh mạng và ATTT để tránh bị tấn công, chiếm quyền điều khiển gây ra các hậu quả nghiêm trọng.

Phó cục trưởng Cục An toàn thông tin cho biết nhiệm vụ trọng tâm bảo đảm an toàn thông tin năm 2024 của Bộ TT-TT là tiếp tục duy trì và nâng cao hiệu quả mô hình “4 lớp”; phạm vi giám sát, bảo vệ cho 100% hệ thống thông tin; đồng thời kiểm tra, đánh giá an toàn thông tin định kỳ, duy trì kết nối ổn định, chia sẻ đầy đủ dữ liệu giám sát theo thời gian thực về Hệ thống giám sát quốc gia.