Các chuyên gia về an toàn trẻ em trực tuyến hôm 27.11 cảnh báo rằng trẻ em đang sử dụng trình tạo hình ảnh trí tuệ nhân tạo (AI) ở trường để tạo ra nội dung không đứng đắn về những đứa trẻ khác.

Mối lo học sinh dùng AI tạo hình ảnh giả mạo không đứng đắn về bạn cùng lớp

Sơn Vân | 27/11/2023, 22:11

Các chuyên gia về an toàn trẻ em trực tuyến hôm 27.11 cảnh báo rằng trẻ em đang sử dụng trình tạo hình ảnh trí tuệ nhân tạo (AI) ở trường để tạo ra nội dung không đứng đắn về những đứa trẻ khác.

The UK Safer Internet Centre (UKSIC) ở Vương quốc Anh đang kêu gọi "hành động khẩn cấp" để giúp trẻ em hiểu những rủi ro liên quan đến những hình ảnh AI như vậy, mà tổ chức này cho rằng theo pháp lý được coi là nội dung lạm dụng tình dục trẻ em.

UKSIC cho biết dù trẻ em có thể tạo ra những hình ảnh này vì tò mò nhưng chúng có khả năng nhanh chóng vượt khỏi tầm kiểm soát và lan truyền trên mạng, đồng thời được sử dụng để lạm dụng hoặc tống tiền trẻ em.

Emma Hardy, Giám đốc UKSIC, nói những hình ảnh AI mang tính chân thực và có thể so sánh với những bức ảnh chuyên nghiệp.

Bà cho hay: “Khả năng lạm dụng AI là rất đáng sợ. Đây không phải là một số rủi ro về mặt lý thuyết. Đó là điều chúng ta đang thấy ở đây và bây giờ. Chúng ta phải đưa ra các biện pháp để ngăn chặn việc lạm dụng công nghệ này. Hiện tại, nếu không kiểm soát và không được quy định, AI có thể làm cho trẻ em trở nên ít an toàn”.

UKSIC cho biết đã nhận được một số lượng nhỏ báo cáo từ các trường học và kêu gọi các trường đảm bảo hệ thống giám sát của họ có thể ngăn chặn tài liệu bất hợp pháp một cách hiệu quả.

David Hardy, Giám đốc UKSIC, nói: “Những đứa trẻ không phải lúc nào cũng nhận thức được mức độ nghiêm trọng của những gì chúng đang làm, song những kiểu hành vi có hại này cần được lường trước khi các công nghệ mới, như trình tạo hình ảnh AI, trở nên dễ tiếp cận hơn với công chúng.

Dù số lượng vụ việc hiện còn ít và chúng ta đang ở giai đoạn đầu tiên của vấn đề nhưng cần thấy các bước được thực hiện ngay bây giờ, trước khi các trường học trở nên quá tải sự việc và vấn đề trở nên lớn hơn".

moi-lo-hoc-sinh-dung-ai-tao-hinh-anh-gia-mao-khong-dung-dan-ve-ban-cung-lop.jpg
Một số trẻ em đang sử dụng công cụ AI để tạo ra những hình ảnh không đứng đắn về bạn học cùng lớp - Ảnh: Getty Images

AI giả mạo là mối lo ngại lớn

Sự nổi lên của công cụ tạo hình ảnh AI đã gây ra nhiều tranh cãi.

Vào tháng 9, những bức ảnh khỏa thân giả của các cô gái trẻ do AI tạo ra đã gây phẫn nộ ở một thị trấn nhỏ thuộc Tây Ban Nha.

AI cũng đã được sử dụng để nhân bản giọng nói, khiến cho những người như ca sĩ Bad Bunny phản đối mạnh mẽ trước một bài hát TikTok dùng giọng anh được tạo ra bằng công nghệ này.

Đó là một cuộc tranh luận quan trọng trong cuộc đình công SAG-AFTRA (Hiệp hội đại diện cho các diễn viên Hollywood) năm nay khi những hãng phim Hollywood đang khám phá việc sử dụng "bản sao kỹ thuật số" diễn viên được tạo ra bởi AI.

Quỹ Nhi đồng Liên Hợp Quốc cảnh báo những nguy cơ với trẻ em liên quan AI

AI gây sốt trong giới công nghệ thời gian qua, đặc biệt sau khi công ty khởi nghiệp OpenAI (Mỹ) tung ra chatbot AI ChatGPT và mô hình ngôn ngữ lớn GPT-4.

Công nghệ tiên tiến này chứng tỏ tiềm năng thay đổi cuộc sống của nhiều người lao động, nhưng cũng được cho là “con dao hai lưỡi", đặc biệt với trẻ em.

Quỹ Nhi đồng Liên Hợp Quốc (UNICEF) và Diễn đàn Kinh tế thế giới đã đưa ra báo cáo cảnh báo những nguy cơ với trẻ em liên quan AI, trong đó có quyền riêng tư, vấn đề an toàn, các tác động với tâm lý và hành vi. Những nguy cơ này có thể xuất phát từ truyền thông xã hội.

Các thuật toán dựa trên AI học và lưu trữ những nội dung mà trẻ em hay bất kỳ ai tìm kiếm cũng như tương tác, ngay cả khi nội dung đó có thể gây hại cho trẻ em hoặc những người xung quanh các bé. Các mạng xã hội đã thực hiện nhiều biện pháp để ngăn chặn nguy cơ này nhưng vẫn chưa thể loại bỏ hoàn toàn.

Trẻ em cũng có thể bất cẩn hơn khi chia sẻ thông tin cá nhân trên mạng, theo đó trẻ dễ trở thành nạn nhân của các vụ xâm nhập dữ liệu trái phép. Báo cáo cũng cho rằng AI có thể làm trầm trọng thêm tình trạng bất bình đẳng và thiên vị.

Chẳng hạn, các trường sử dụng công nghệ AI và học máy để sắp xếp các đơn dự tuyển sinh của học sinh, sinh viên có thể vô tình loại trừ một số ứng viên.

Học máy là một lĩnh vực trong AI tập trung vào việc phát triển các thuật toán và mô hình máy tính có khả năng học hỏi từ dữ liệu và cải thiện hiệu suất của chúng theo thời gian mà không cần lập trình cụ thể. Các hệ thống học máy có khả năng tự động tìm hiểu và áp dụng kiến thức từ dữ liệu để thực hiện các nhiệm vụ cụ thể như phân loại, dự đoán, nhận dạng mẫu và tối ưu hóa quyết định.

Những ứng dụng của học máy rất đa dạng và bao gồm trong lĩnh vực như xử lý ngôn ngữ tự nhiên, thị giác máy tính, xe tự hành, dự đoán thời tiết, quản lý dữ liệu lớn...

Học máy đã có sự tiến bộ đáng kể trong thập kỷ gần đây, nhờ sự phát triển của các mô hình học sâu (deep learning) và khả năng xử lý dữ liệu lớn (big data), mang lại nhiều cơ hội và tiềm năng trong việc giải quyết các vấn đề phức tạp và cải thiện hiệu suất trong nhiều lĩnh vực khác nhau.

Ông Seth Bergeson, một nghiên cứu sinh thuộc Diễn đàn Kinh tế thế giới, dẫn một thí dụ tương tự. Tại Anh, một thuật toán AI đánh giá không chính xác bài kiểm tra Chứng chỉ giáo dục phổ thông bậc cao của học sinh, làm tiêu tan hy vọng của nhiều học sinh muốn dự tuyển vào các trường đại học hàng đầu.

Giới chuyên gia cũng đề cập vấn đề liên quan đến quyền tự chủ và ra quyết định, theo đó AI gắn chặt với đời sống đến mức khó có thể không phụ thuộc vào công nghệ này.

Để ngăn chặn cũng như giảm thiểu các nguy cơ, giới chuyên gia cho rằng giáo dục chính là giải pháp quan trọng. Trẻ em cần hiểu cách thức hoạt động của những công nghệ này để có thể nắm được những lợi ích, rủi ro tiềm ẩn và cách sử dụng hiệu quả chúng.

Giáo sư Aimee Roundtree tại Đại học bang Texas (Mỹ( nhấn mạnh cần dạy cho trẻ những điều căn bản về AI bằng ngôn ngữ đơn giản và dễ hiểu. Giáo dục trải nghiệm qua phần mềm giúp người dùng khám phá các thuật toán và công nghệ AI theo phương thức trực quan cũng là biện pháp hữu ích.

Các chuyên gia khác cho rằng điều quan trọng không chỉ là hiểu mà còn biết cách tương tác với AI, gồm cả việc bồi dưỡng các kỹ năng như tư duy phản biện và sáng tạo để có thể bổ sung cho AI, cũng như giải quyết những vấn đề như phụ thuộc quá nhiều vào AI để đưa ra quyết định.

Trên hết, các chuyên gia nhấn mạnh sự cần thiết phải dạy trẻ em về AI có trách nhiệm, sử dụng AI một cách an toàn và có đạo đức.

Seth Bergeson lưu ý trẻ em và thanh thiếu niên cần hiểu rằng AI có mặt hạn chế, còn nhiều sai sót nghiêm trọng, có thể đưa ra những kết quả thiên vị và định kiến. Những người trẻ cần được đào tạo để suy nghĩ nghiêm túc và quyết định cách thức cũng như mức độ sử dụng các mô hình AI.

Bài liên quan
Vụ dùng deepfake chiếm 622.000 USD ở Trung Quốc khiến dân hoang mang về lừa đảo bằng AI
Một vụ lừa đảo ở miền bắc Trung Quốc bằng công nghệ deepfake tinh vi, trong đó nạn nhân đã chuyển 4,3 triệu nhân dân tệ cho thủ phạm. Vụ việc làm dấy lên lo ngại về tiềm năng của các kỹ thuật trí tuệ nhân tạo (AI) trong việc hỗ trợ tội phạm tài chính.

(0) Bình luận
Nổi bật Một thế giới
Việt Nam phải trở thành cường quốc an ninh mạng
5 giờ trước Nhịp đập khoa học
Đến năm 2030, Việt Nam trở thành một trong những trung tâm bảo đảm an toàn thông tin mạng, an ninh mạng hàng đầu châu Á. Mục tiêu là Việt Nam trở thành cường quốc an toàn không gian mạng.
Đừng bỏ lỡ
Mới nhất
POWERED BY ONECMS - A PRODUCT OF NEKO
Mối lo học sinh dùng AI tạo hình ảnh giả mạo không đứng đắn về bạn cùng lớp