Instagram dùng AI kiểm duyệt tự động các 'bình luận độc hại'

Là một mạng xã hội chia sẻ ảnh và video, người dùng Instagram lâu nay luôn bức bối với những nhận xét ác ý, khiếm nhã hoặc miệt thị. Tuy nhiên giờ đây công nghệ trí thông minh nhân tạo đã được sử dụng để giải quyết gần như triệt để vấn đề này.

Hồi cuối năm ngoái, Instagram vốn thuộc sở hữu của Facebook, đã đưa ra tùy chọn để người dùng lọc ra những bình luận mà họ cho rằng không phù hợp. Trong các mức tùy chọn cho phép che phần bình luận không phù hợp hoặc loại bỏ hoàn toàn bình luận có nội dung không tốt.

Ngày 29.6, Instagram đã thông báo rằng hệ thống kiểm duyệt này không còn là tùy chọn nữa mà sẽ là mặc định thực thi, và công việc này sẽ được thực hiện bởi AI chuyên kiểm duyệt bình luận.

"Nhiều người dùng nói với chúng tôi rằng những bình luận độc hại không khuyến khích họ sử dụng Instagram và thể hiện mình một cách tự do", CEO và cũng là đồng sáng lập Instagram Kevin Systrom cho biết.

"Để giúp họ, chúng tôi đã phát triển một bộ lọc để chặn các nhận xét xúc phạm đối với các bài đăng và bình luận trong video trực tuyến", ông Systrom nói thêm.

AI kiểm duyệt thông minh vì nó sử dụng và học hỏi từ một bộ dữ liệu thử nghiệm. Có nghĩa là AI có thể phát hiện ra những bình luận gây khó chịu với người dùng mà trước đây nó không thể phát hiện, và bộ máy kiểm duyệt này thậm chí còn có thể phân tích ngữ cảnh của bình luận để xác định xem đây có phải là một "bình luận độc hại" hay không.

Tóm lại, cùng một từ viết "bậy" nhưng tùy theo ngữ cảnh, độ thân thiết của bạn và người đăng tải ảnh, video trên Instagram mà AI sẽ quyết định có lọc nội dung bình luận hay không.

Ngoài ra, khi một bình luận được xem là "bình luận độc hại" và bị kiểm duyệt thì mọi người sử dụng Instagram sẽ không thấy được bình luận này trừ chính người đăng bình luận.

Instagram sử dụng AI kiểm duyệt nội dung phát triển dựa trên DeepText một AI kiểm duyệt nội dung của Facebook cho thấy mối quan hệ khăng khít hơn giữa hai hãng công nghệ. Facebook dùng DeepText để kiểm duyệt các nội dung không lành mạnh, đặc biệt là tuyên truyền chủ nghĩa khủng bố, dù vậy AI của Instagram sẽ không hoạt động giống DeepText của Facebook.

"Facebook và Instagram là hai nền tảng và những trải nghiệm người dùng khác nhau - từ mô hình cho đến cách bình luận. Dù chúng tôi cùng chia sẻ mục tiêu là tạo ra các cộng đồng người dùng an toàn, nhưng cách tiếp cận của chúng tôi là không giống nhau. Hệ thống kiểm duyệt mà Instagram mới đưa vào hoạt động là bước đi tuyệt vời để hai công ty cùng nhau có thể rút ra những bài học chung", một phát ngôn viên của Facebook nói với Variety.

Thiên Hà