Buộc đóng dấu văn bản do AI tạo ra, lợi bất cập hại?

Hãng khẳng định thay đổi này gần như không thể nhận biết bằng mắt thường. Tuy nhiên, một số chuyên gia lo ngại việc can thiệp vào tính ngẫu nhiên vốn có của mô hình ngôn ngữ lớn (LLM) có thể khiến chất lượng văn bản bị ảnh hưởng.

Khi văn bản do AI tạo ra không còn hoàn toàn “ngẫu nhiên”

Người dùng ngày nay đã quá quen với những dấu hiệu đặc trưng của văn bản do AI tạo ra: lạm dụng một số từ ngữ như “bối cảnh”, sử dụng quá nhiều dấu gạch ngang dài hay liên tục dùng cấu trúc “không phải X mà là Y”. Những đặc điểm này đôi khi khiến một văn bản dù được viết trôi chảy vẫn dễ bị nhận ra là sản phẩm của chatbot.

Giờ đây, Anthropic (công ty đứng sau Claude) đang chuẩn bị thay đổi cách mô hình tạo ra văn bản. Theo công bố của hãng, Claude sẽ được tích hợp một cơ chế watermark (dấu ấn kĩ thuật số) để có thể nhận diện nội dung do AI tạo ra, nhằm đáp ứng các yêu cầu pháp lí mới tại EU.

Điểm đáng chú ý là watermark này không phải một dòng chữ hay kí hiệu được chèn trực tiếp vào văn bản. Anthropic dự kiến can thiệp vào chính quá trình mô hình lựa chọn từ ngữ. Ở mỗi bước tạo câu, LLM thường có nhiều khả năng khác nhau cho từ tiếp theo và sử dụng yếu tố ngẫu nhiên để lựa chọn.

Chẳng hạn, khi mô tả một ngày nhiều mây, mô hình có thể chọn “âm u” thay vì “nhiều mây”. Khi nói về một dòng nước, nó có thể dùng “mạch nước” thay vì “dòng chảy”. Những lựa chọn rất nhỏ như vậy tạo nên tính tự nhiên và sự đa dạng trong văn bản.

Anthropic cho biết cơ chế mới sẽ điều chỉnh những lựa chọn ngẫu nhiên này theo một cách rất tinh vi. Kết quả vẫn trông hoàn toàn bình thường đối với người đọc, nhưng một mô hình phát hiện có khóa giải mã có thể nhận ra một dạng mẫu thống kê đặc biệt và xác định văn bản có khả năng được tạo bởi Claude.

Tuy nhiên, John Gruber, một cây viết công nghệ lâu năm, cho rằng đây là sự can thiệp không cần thiết vào quá trình sáng tạo của AI. Theo ông, nếu buộc mô hình phải lựa chọn từ theo một quy luật nhất định để tạo watermark, Claude có thể mất đi một phần khả năng lựa chọn từ ngữ tối ưu.

Lo ngại này xuất phát từ một điểm khá trực quan: Nếu mô hình có nhiều lựa chọn và bị giới hạn trong việc lựa chọn, nó có thể đôi khi sử dụng một từ kém chính xác hoặc kém phù hợp hơn.

Nhưng theo Steven Murdoch, giáo sư khoa học máy tính tại University College London, tác động này nhiều khả năng không đáng kể. Bởi Claude vốn đã sử dụng yếu tố ngẫu nhiên trong quá trình tạo văn bản.

“Ngẫu nhiên” không phải một tính năng phụ mà là thành phần quan trọng giúp các LLM tránh rơi vào trạng thái lặp đi lặp lại. Nếu mọi lần chạy cùng một câu lệnh đều dẫn tới chính xác một chuỗi từ giống nhau, mô hình có thể dễ dàng mắc kẹt trong những vòng lặp và tạo ra văn bản kém tự nhiên.

Theo cách đó, watermark của Anthropic không loại bỏ tính ngẫu nhiên mà chỉ biến nó từ hoàn toàn ngẫu nhiên thành một dạng ngẫu nhiên có kiểm soát. Về mặt thống kê, người đọc bình thường vẫn không thể phân biệt.

Watermark không chỉ để “bắt” người dùng gian lận

Tranh luận về chất lượng văn bản thực chất phản ánh một câu hỏi lớn hơn: AI có nên được nhận diện một cách bắt buộc hay không?

Một trong những mục tiêu rõ ràng của watermark là hạn chế việc con người sử dụng nội dung do chatbot tạo ra rồi nhận đó là sản phẩm của mình. Điều này đặc biệt đáng chú ý trong giáo dục, nghiên cứu và các lĩnh vực đòi hỏi tính xác thực của nội dung.

Nếu một bài luận, báo cáo hay tài liệu được tạo phần lớn bằng AI nhưng không được khai báo, watermark có thể cung cấp thêm một công cụ để các tổ chức kiểm tra nguồn gốc văn bản. Khác với những công cụ chỉ phân tích phong cách viết, watermark được cài trực tiếp vào quá trình tạo nội dung và về lí thuyết có thể đáng tin cậy hơn.

Tuy nhiên, còn một lí do khác ít được chú ý: AI đang phải đối mặt với ngày càng nhiều nội dung do chính AI tạo ra. Các mô hình ngôn ngữ lớn cần một lượng dữ liệu khổng lồ để huấn luyện. Khi internet ngày càng tràn ngập văn bản do chatbot sản xuất, nguy cơ các thế hệ AI tương lai được huấn luyện trên chính những nội dung do AI tạo ra cũng tăng lên.

Điều này có thể dẫn tới hiện tượng thường được gọi là “model collapse”, tức là sự suy giảm chất lượng khi mô hình liên tục học từ dữ liệu tổng hợp do các mô hình trước đó tạo ra. Thay vì tiếp xúc với sự đa dạng và những sai lệch tự nhiên của dữ liệu con người, AI có thể dần học lại những khuôn mẫu do AI tạo ra, khiến kiến thức và khả năng biểu đạt bị thu hẹp.

Trong tình cảnh đó, watermark có thể đóng vai trò như một dấu hiệu nguồn gốc dữ liệu, giúp các nhà phát triển nhận biết đâu là nội dung do AI tạo ra trước khi đưa chúng vào quá trình huấn luyện.

Vì vậy, tranh luận về watermark không đơn giản là chuyện Claude có viết “hay” hơn hay kém đi nữa. Nó nằm ở điểm giao giữa chất lượng mô hình, quyền xác định nguồn gốc nội dung và sự phát triển bền vững của chính hệ sinh thái AI.

Anthropic cho rằng những thay đổi mới sẽ không tạo ra khác biệt đáng kể đối với người dùng. Nếu đánh giá của Murdoch là chính xác, Claude vẫn có thể lựa chọn giữa “dòng chảy” và “mạch nước” một cách tự nhiên như trước, chỉ khác ở chỗ những lựa chọn tưởng như ngẫu nhiên ấy giờ đây để lại một dấu vết mà con người không nhìn thấy.

Và có lẽ nghịch lí lớn nhất là để chứng minh một văn bản được tạo bởi AI, Anthropic không cần bắt Claude viết khác đi một cách rõ rệt. Thay vào đó, họ chỉ cần khiến sự ngẫu nhiên của nó… bớt ngẫu nhiên hơn một chút.

Bùi Tú