Tin tưởng AI quá mức đã lộ ra nguy cơ thiên kiến tự động hóa

Cùng với sự tiện lợi mà AI mang lại là một rủi ro ngày càng rõ rệt: Con người có thể đang trao cho máy móc nhiều niềm tin hơn mức cần thiết. Khi AI đưa ra câu trả lời sai nhưng được trình bày với vẻ tự tin, nguy cơ không chỉ nằm ở công nghệ mà còn nằm ở cách con người phản ứng trước công nghệ. Theo tiến sĩ Trần Nhật Quang, giảng viên Công nghệ thông tin và nghiên cứu viên về đạo đức AI tại RMIT Việt Nam, đây chính là hiện tượng được gọi là “thiên kiến tự động hóa” (automation bias).

Khi con người bắt đầu tin tưởng AI nhiều hơn chính mình

Một bác sĩ nhận được một tin nhắn tư vấn gửi cho bệnh nhân với giọng điệu chuyên nghiệp, đầy sự đồng cảm và có vẻ hoàn toàn phù hợp. Người gửi là bác sĩ quen thuộc, người chưa từng mắc sai sót nghiêm trọng trong quá khứ. Tuy nhiên, nội dung trong tin nhắn lại chứa những thông tin không chính xác, có thể gây hậu quả nghiêm trọng.

Điều đáng chú ý là sai sót này không xuất phát trực tiếp từ năng lực chuyên môn của bác sĩ. Tin nhắn ban đầu được tạo bởi AI, sau đó được bác sĩ xem xét và gửi đi. Vấn đề nằm ở chỗ trong quá trình phê duyệt, con người đã quá tin tưởng vào hệ thống và không kiểm tra đủ kỹ nội dung do máy tạo ra.

Đây không phải là một giả thuyết về tương lai. Một nghiên cứu được công bố trên tạp chí npj Digital Medicine năm 2025 đã chỉ ra những rủi ro tương tự trong việc sử dụng AI hỗ trợ giao tiếp y tế.

Theo tiến sĩ Trần Nhật Quang, giảng viên Công nghệ thông tin và nghiên cứu viên về đạo đức AI tại RMIT Việt Nam, đây là biểu hiện của một xu hướng đáng lo ngại: Con người đang dần có xu hướng chấp nhận kết quả do máy móc đưa ra chỉ vì nó được tạo bởi một hệ thống được xem là thông minh.

Ông cho rằng vấn đề không nằm ở việc AI có khả năng hỗ trợ con người hay không, mà nằm ở cách con người điều chỉnh mức độ tin tưởng dành cho công nghệ. “Chúng ta đang dần tin tưởng máy móc quá dễ dàng”, ông Quang cảnh báo.

Hiện tượng này được gọi là thiên kiến tự động hóa, xu hướng con người tin vào đề xuất của hệ thống máy tính hơn cả phán đoán của chính mình, ngay cả khi những đề xuất đó có thể sai.

Trong thực tế, vấn đề này đã xuất hiện ở nhiều lĩnh vực. Năm 2025, một luật sư tại Mỹ đã bị tòa án xử phạt sau khi nộp văn bản pháp lí có chứa các trích dẫn án lệ không tồn tại do AI tạo ra. Sai sót không đến từ việc sử dụng AI, mà đến từ việc nội dung do AI cung cấp không được kiểm chứng đầy đủ trước khi đưa vào hồ sơ pháp lí.

Trong giáo dục, một số trường đại học từng gặp tranh cãi khi sử dụng công cụ phát hiện nội dung do AI tạo ra để đánh giá sinh viên. Sau khi nhận nhiều khiếu nại và phát hiện công cụ không đạt độ chính xác như kỳ vọng, một số cơ sở đã phải dừng sử dụng.

Những trường hợp này cho thấy một nghịch lí của thời đại AI: Công nghệ càng trở nên mạnh mẽ, con người đôi khi càng có xu hướng giảm mức độ cảnh giác.

Khi một hệ thống đưa ra câu trả lời nhanh chóng, trôi chảy và có vẻ chắc chắn, người dùng dễ quên rằng AI không thực sự hiểu vấn đề theo cách con người hiểu. Nó dự đoán câu trả lời dựa trên dữ liệu và mô hình đã được huấn luyện, nhưng vẫn có thể tạo ra thông tin sai lệch.

Nguy hiểm hơn, sự phụ thuộc lâu dài có thể làm suy giảm khả năng phản biện của con người. Thay vì đóng vai trò kiểm soát cuối cùng, con người có nguy cơ trở thành một “con dấu phê duyệt” cho những quyết định do máy móc đề xuất.

Khi con người trở thành “vùng hấp thụ trách nhiệm” cho sai lầm của AI

Bên cạnh thiên kiến tự động hóa, một vấn đề đạo đức khác cũng đang được đặt ra trong kỷ nguyên AI: Ai sẽ chịu trách nhiệm khi hệ thống thông minh đưa ra quyết định sai?

Nhà nhân loại học người Mỹ Madeleine Clare Elish từng đưa ra khái niệm “vùng hấp thụ trách nhiệm” (moral crumple zone) để mô tả hiện tượng con người trở thành nơi gánh chịu hậu quả khi các hệ thống công nghệ phức tạp thất bại.

Khái niệm này lấy cảm hứng từ vùng hấp thụ lực trong thiết kế ô tô, nơi được tạo ra để giảm tác động của va chạm lên hành khách. Nhưng trong các hệ thống AI, con người đôi khi lại trở thành “vùng hấp thụ” cho những sai sót của máy móc.

Một ví dụ điển hình là vụ tai nạn xe tự hành thử nghiệm của Uber năm 2018 tại Tempe, bang Arizona, khiến một người đi bộ thiệt mạng. Cuộc điều tra cho thấy vụ việc liên quan đến nhiều yếu tố, bao gồm hạn chế của hệ thống tự lái và sự thiếu tập trung của người giám sát an toàn trong xe. Cuối cùng, người chịu trách nhiệm pháp lí lại là con người đang ngồi trong xe, dù phần lớn quyết định vận hành đến từ một hệ thống tự động.

Trong bối cảnh AI ngày càng được đưa vào các lĩnh vực quan trọng như y tế, tư pháp, tài chính hay quản lí xã hội, nguy cơ này có thể trở nên phức tạp hơn. Con người vẫn được yêu cầu giám sát và chịu trách nhiệm, nhưng nếu quá quen với việc dựa vào máy móc, khả năng phát hiện sai sót sẽ suy giảm.

Theo các chuyên gia, giải pháp không phải là loại bỏ AI khỏi quá trình ra quyết định, mà là thiết kế một cách sử dụng AI an toàn hơn.

Về mặt công nghệ, các hệ thống AI cần được xây dựng theo hướng khuyến khích người dùng suy nghĩ trước khi chấp nhận câu trả lời. AI nên đóng vai trò hỗ trợ phân tích thay vì đưa ra kết luận cuối cùng mà không cần kiểm chứng.

Về mặt con người, việc đào tạo kỹ năng sử dụng AI cần bao gồm cả nhận thức về giới hạn của công nghệ. Người dùng cần hiểu rằng AI có thể tạo ra thông tin sai, có thể thể hiện sự tự tin giả tạo và có thể đưa ra kết luận thiếu căn cứ.

Về mặt pháp lí, nhiều quốc gia cũng đang bắt đầu xây dựng khung quản lí nhằm bảo đảm con người vẫn giữ vai trò kiểm soát trong những quyết định quan trọng. Đạo luật AI của Liên minh châu Âu đặt yêu cầu về giám sát của con người đối với các hệ thống AI rủi ro cao. Tại Mỹ, các chính sách gần đây cũng nhấn mạnh việc hạn chế sự phụ thuộc quá mức vào AI trong những lĩnh vực ảnh hưởng trực tiếp đến con người.

Tại Việt Nam, Luật Trí tuệ nhân tạo có hiệu lực từ ngày 1/3/2026 cũng nhấn mạnh việc bảo đảm duy trì sự kiểm soát và khả năng can thiệp của con người đối với mọi quyết định và hành vi của hệ thống AI. Quy định này tuy không đề cập trực tiếp nhưng đã bao gồm xử lý vấn đề thiên kiến tự động hóa.

Cuối cùng, vấn đề cốt lõi không nằm ở việc AI thông minh đến đâu, mà nằm ở cách con người sử dụng trí thông minh đó.

AI có thể trở thành công cụ mạnh mẽ giúp con người ra quyết định tốt hơn. Nhưng nếu sự tiện lợi khiến con người từ bỏ khả năng đặt câu hỏi, kiểm chứng và phản biện, chính công nghệ từng được tạo ra để hỗ trợ lại có thể trở thành nguồn rủi ro mới.

Chung sống an toàn với AI không có nghĩa là nghi ngờ mọi câu trả lời của máy móc. Đó là duy trì một nguyên tắc đơn giản: AI có thể hỗ trợ con người, nhưng không thể thay thế trách nhiệm phán đoán của con người.