Phó thủ tướng Ý chỉ trích lệnh cấm ChatGPT

OpenAI đã tạm ngừng ChatGPT tại Ý hôm 31.3 sau khi cơ quan dữ liệu quốc gia này bày tỏ lo ngại về việc vi phạm quyền riêng tư có thể xảy ra và vì chatbot trí tuệ nhân tạo (AI) nổi tiếng không xác minh được người dùng đã đủ 13 tuổi trở lên như yêu cầu.

Cơ quan bảo vệ dữ liệu Ý ban bố lệnh cấm "cho đến khi ChatGPT tôn trọng quyền riêng tư". 

Lệnh cấm này được đưa ra sau sự cố ChatGPT làm rò rỉ lịch sử hội thoại của người dùng và phải tạm đóng dịch vụ trong thời gian ngắn hôm 20.3.

Sam Altman, Giám đốc điều hành OpenAI, cho biết trên Twitter rằng ông cảm thấy tồi tệ sau khi ChatGPT gặp lỗi làm rò rỉ lịch sử hội thoại của người dùng. Đồng sáng lập OpenAI vào năm 2015, Sam Altman vừa viết trong một tweet rằng ChatGPT gặp "sự cố nghiêm trọng" do lỗi trong thư viện nguồn mở gây ra.

Sam Altman đã không đặt tên cho thư viện nguồn mở hoặc đi vào chi tiết cụ thể về cách OpenAI triển khai nó. Thuật ngữ này đề cập đến mã hoặc phần mềm miễn phí cho bất kỳ ai tái sử dụng và đôi khi có thể sửa đổi.

Ông cho biết lỗi này cho phép một số người dùng ChatGPT xem tiêu đề lịch sử hội thoại của những người dùng khác chứ không phải nội dung bên trong.

“Chúng tôi cảm thấy thật tồi tệ về điều này”, Sam Altman nói, đồng thời cho biết thêm rằng OpenAI đã phát hành bản sửa lỗi này.

"Quan trọng hơn, dường như không có cơ sở pháp lý nào cho việc thu thập và xử lý dữ liệu cá nhân khổng lồ để huấn luyện các thuật toán của nền tảng", Cơ quan bảo vệ dữ liệu Ý tuyên bố.

Cùng với việc vi phạm dữ liệu, cơ quan này cũng chỉ ra OpenAI không tuân thủ Quy định bảo vệ dữ liệu chung (GDPR), bộ luật mang tính bước ngoặt của Liên minh châu Âu (EU) nhằm hạn chế khả các công ty thu thập dữ liệu cư dân EU.

Ngoài ra, OpenAI thiếu cơ chế xác minh độ tuổi người dùng dù dịch vụ ChatGPT chỉ dành cho người từ 13 tuổi trở lên. Việc này dẫn đến nguy cơ trẻ em nhận được phản hồi không phù hợp.

OpenAI đặt trụ sở tại thành phố San Francisco (Mỹ) nhưng có đại diện ở châu Âu. Nhà chức trách Ý yêu cầu OpenAI phản hồi trong vòng 20 ngày sau lệnh cấm. Nếu không, công ty được Microsoft hậu thuẫn có nguy cơ bị phạt đến 20 triệu euro hoặc 4% tổng doanh thu hàng năm trên toàn cầu.

Động thái của cơ quan này (độc lập với chính phủ) khiến Ý trở thành quốc gia phương Tây đầu tiên có hành động chống lại ChatGPT.

“Tôi thấy quyết định của Cơ quan giám sát quyền riêng tư buộc ngăn chặn quyền truy cập ChatGPT từ Ý là không phù hợp”, Phó thủ tướng Matteo Salvini, lãnh đạo đảng Liên đoàn cầm quyền, viết trên Instagram.

Ông Matteo Salvini cho biết động thái của Cơ quan bảo vệ dữ liệu Ý là "đạo đức giả" và cần có lý trí thông thường vì "vấn đề riêng tư liên quan đến hầu hết các dịch vụ trực tuyến".

Cơ quan bảo vệ dữ liệu của Ý từ chối bình luận về bài đăng của Matteo Salvini.

Kể từ khi được phát hành vào tháng 11.2022, ChatGPT đã gây ra cơn sốt công nghệ, khiến một số đối thủ tung ra sản phẩm tương tự và các công ty tích hợp nó hoặc công nghệ tương tự vào ứng dụng, sản phẩm của họ.

Hôm 31.3, OpenAI đã vô hiệu hóa ChatGPT với người dùng ở Ý theo yêu cầu của cơ quan bảo vệ dữ liệu nước này. OpenAI cho biết đang tích cực làm việc để giảm việc sử dụng dữ liệu cá nhân trong đào tạo các hệ thống AI của mình.

"Chúng tôi mong muốn được hợp tác chặt chẽ với Cơ quan bảo vệ dữ liệu của Ý và chỉ cho họ biết về cách hệ thống của chúng tôi được xây dựng, sử dụng", OpenAI cho hay.

Matteo Salvini nói lệnh cấm có thể gây hại cho hoạt động kinh doanh và đổi mới của quốc gia, đồng thời cho biết thêm rằng ông hy vọng sẽ nhanh chóng tìm ra giải pháp và khôi phục quyền truy cập ChatGPT ở Ý.

Ông Matteo Salvini nói: "Mỗi cuộc cách mạng công nghệ đều mang lại những thay đổi, rủi ro và cơ hội lớn. Việc kiểm soát và điều chỉnh thông qua hợp tác quốc tế giữa các cơ quan quản lý và lập pháp là đúng đắn, nhưng không thể chặn ChatGPT".

Đầu tháng 2, Cơ quan bảo vệ dữ liệu Ý thông báo đã cấm chatbot Replika sử dụng các dữ liệu cá nhân của công dân nước này, do lo ngại rằng điều này có thể gây rủi ro cho trẻ vị thành niên và những người dễ bị tổn thương tinh thần.

Do công ty Luka (Mỹ) xây dựng vào năm 2017, Replika là chatbot đồng hành - người bạn ảo được xây dựng dựa trên AI, để có thể lắng nghe và trò chuyện cùng người dùng.

Tuy được cung cấp miễn phí, Replika vẫn mang về khoảng 2 triệu USD doanh thu hàng tháng từ việc bán các tính năng bổ sung như trò chuyện bằng giọng nói.

Replika được đào tạo dựa trên phiên bản nội bộ của mô hình GPT-3 mượn từ OpenAI, sử dụng kho dữ liệu khổng lồ từ internet trong các thuật toán, sau đó tạo ra các phản hồi riêng cho các truy vấn từ người dùng.

Nhiều người dùng chatbot đồng hành ảo Replika muốn có một người bạn để trò chuyện. Song vào cuối năm 2022, người dùng bắt đầu phàn nàn rằng Replika trở nên quá khích với các tin nhắn và hình ảnh tục tĩu. Một số người cáo buộc Replika quấy rối tình dục.

Các nhà quản lý ở Ý không thích những gì họ thấy và đã cấm Replika thu thập dữ liệu sau khi phát hiện vi phạm GDPR.

Dù Replika có thể giúp cải thiện tâm trạng của người dùng, song theo Cơ quan bảo vệ dữ liệu Ý, với việc đi sâu vào đời sống người dùng, chatbot này "có thể làm gia tăng rủi ro cho các cá nhân đang trong giai đoạn phát triển hoặc trong trạng thái mong manh về cảm xúc".

Cơ quan trên cũng cho rằng Replika cần thiết lập cơ chế xác minh độ tuổi của người dùng, chẳng hạn cần tạo bộ lọc với người dùng là trẻ vị thành niên hoặc thậm chí chặn truy cập nếu người dùng không nói rõ tuổi của họ. Theo Cơ quan bảo vệ dữ liệu Ý, Replika đã vi phạm các quy định về quyền riêng tư tại châu Âu và xử lý dữ liệu cá nhân của người dùng một cách bất hợp pháp, vì nó không thể hoạt động dựa trên một hợp đồng mà trẻ vị thành niên không thể ký kết.

Đầu tháng 2, Cơ quan bảo vệ dữ liệu Ý nêu rõ Luka sẽ phải thông báo với nhà chức trách nước này về các biện pháp "chấn chỉnh" Replika trong vòng 20 ngày, đồng thời cảnh báo Luka có thể bị phạt tới 20 triệu euro hoặc tối đa 4% doanh thu toàn cầu hàng năm liên quan những vấn đề nêu trên.

GDPR là nguyên nhân các hãng công nghệ lớn nhiều lần vi phạm quy tắc khiến họ bị phạt hàng tỉ USD. Quyết định của Ý cho thấy GDPR vẫn có thể là mối lo với thế hệ chatbot mới nhất.