Trợ lí AI đặt nhầm chuyến đi, ai phải chịu bồi thường?
Khi các trợ lí AI ngày càng làm việc thay con người, một câu hỏi pháp lí và kinh doanh mới xuất hiện: Nếu AI đặt nhầm khách sạn hay máy bay, ai sẽ chịu trách nhiệm cho thiệt hại?
AI đang tạo ra một tầng trung gian mới giữa khách du lịch với các doanh nghiệp cung cấp dịch vụ, từ hãng hàng không, khách sạn, công ty bảo hiểm đến đơn vị tư vấn lữ hành. Khác với các công cụ tìm kiếm hay chatbot trước đây chỉ hỗ trợ người dùng tham khảo thông tin, các trợ lí AI (hay tác nhân AI) đang tiến tới khả năng tự đưa ra quyết định, thực hiện đặt chỗ và thanh toán thay con người.
Khi trợ lí AI không chỉ tìm kiếm mà còn quyết định và thanh toán
Tại Skift Commerce Summit diễn ra ở New York, Abhinav Anand, Giám đốc mảng Thẻ giá trị, Cho vay và Thương mại của Citi cho biết câu hỏi về trách nhiệm của các tác nhân AI đang là vấn đề lớn nhất mà ngân hàng, mạng lưới thanh toán, doanh nghiệp bán hàng và các công ty công nghệ AI phải tìm cách giải quyết.
Theo quan điểm của Citi, trách nhiệm nên thuộc về công ty đứng sau phát triển và cung cấp công cụ đó. Anand nhấn mạnh nghĩa vụ này cần được đặt lên “công ty thực sự đưa tác nhân AI ra thị trường”.
Lập luận trên xuất phát từ một thực tế: khi người dùng giao cho AI quyền thực hiện giao dịch, họ không nhất thiết kiểm soát được từng quyết định mà hệ thống đưa ra. Một du khách có thể yêu cầu AI đặt chuyến đi kéo dài một tuần đến Lisbon, bao gồm vé máy bay, khách sạn và bảo hiểm. AI sẽ tự lựa chọn chuyến bay, chấp nhận điều khoản, nhập thông tin thẻ và hoàn tất thanh toán.
Nhưng nếu hệ thống chọn nhầm phòng khách sạn không được hoàn tiền, mua bảo hiểm loại trừ chính rủi ro mà khách hàng quan tâm hoặc bỏ sót quy định hành lí khiến hành khách phải trả thêm 200 USD tại sân bay, ai sẽ bồi thường?
Daniel Green, đồng sáng lập kiêm Giám đốc công nghệ (CTO) của Faye, cho rằng đây không chỉ là câu chuyện về lỗi kĩ thuật mà là vấn đề phân bổ trách nhiệm trong một mô hình kinh doanh mới. Theo ông, ngành du lịch đang chứng kiến sự hình thành của tầng trung gian AI, trong đó các tác nhân không còn chỉ tìm kiếm thông tin mà đã được giao quyền quyết định và thanh toán.
Điều đáng chú ý là một số điều khoản sử dụng dịch vụ AI hiện nay có xu hướng chuyển phần lớn rủi ro về phía khách hàng. Green dẫn trường hợp điều khoản của Muse thuộc Meta quy định người dùng chịu trách nhiệm đối với các giao dịch mà hệ thống thực hiện thay mặt họ. Một tác nhân AI khác thậm chí tự xác định mình là đại diện pháp lí của người dùng, khiến những cam kết được đưa ra có tính ràng buộc với khách hàng, trong khi giới hạn trách nhiệm của chính nó ở mức 100 USD.
Như vậy, người dùng trao quyền quyết định cho AI nhưng vẫn có thể phải gánh toàn bộ hậu quả khi hệ thống hành động sai. Đây là khoảng trống cần được giải quyết trước khi các tác nhân AI trở thành phương thức giao dịch phổ biến trong ngành du lịch.
Trách nhiệm sau một quyết định của AI
Theo Green, ngành du lịch vốn đã có những nguyên tắc phân định trách nhiệm tương đối rõ ràng khi giao dịch được thực hiện thông qua con người. Nếu nhân viên cửa hàng báo sai giá, chủ doanh nghiệp phải chịu trách nhiệm về hành động của họ.
Nguyên tắc tương tự cũng đang được áp dụng đối với các hệ thống AI do doanh nghiệp triển khai. Green dẫn trường hợp Air Canada năm 2024, khi hãng hàng không này lập luận chatbot của mình là một thực thể riêng biệt và phải chịu trách nhiệm đối với thông tin sai lệch mà nó cung cấp. Tuy nhiên, một hội đồng xét xử tại Canada đã bác bỏ lập luận đó và yêu cầu hãng hàng không chịu trách nhiệm.
Tại Anh, cơ quan quản lí cạnh tranh cũng đã nhấn mạnh doanh nghiệp phải chịu trách nhiệm về hành động của các tác nhân AI tương tự như đối với nhân viên, kể cả khi công nghệ được phát triển bởi một bên thứ ba.
Tuy nhiên, tình huống trở nên phức tạp hơn khi tác nhân AI hoạt động trên thiết bị cá nhân của khách hàng, thay vì được triển khai trực tiếp bởi hãng hàng không hay khách sạn. Trong trường hợp này, AI dường như đại diện cho chính người dùng. Theo nguyên tắc đại diện pháp lí thông thường, người ủy quyền có thể phải chịu trách nhiệm đối với hành động của đại diện trong phạm vi được giao.
Đây chính là điểm khác biệt khiến các giao dịch du lịch do AI thực hiện trở nên khó xử lí. Nếu một hãng hàng không sử dụng chatbot riêng và chatbot đặt sai dịch vụ, trách nhiệm thuộc về hãng. Nhưng nếu khách hàng sử dụng một tác nhân AI độc lập để đặt vé, khách sạn và bảo hiểm, các nhà cung cấp dịch vụ có thể không biết ai phải chịu trách nhiệm khi giao dịch phát sinh sai sót.
Hệ quả là nhiều doanh nghiệp lựa chọn cách hạn chế hoặc chặn giao dịch từ các tác nhân AI bên thứ ba. Delta không chấp nhận các giao dịch đặt chỗ thông qua một số tác nhân AI bên ngoài, trong khi Amazon từng ngừng cho phép Muse truy cập nền tảng chỉ sau khoảng hai tuần kể từ khi công cụ này ra mắt.
Hoàn thiện hạ tầng và cơ chế bảo vệ
Dù còn nhiều trở ngại, triển vọng ứng dụng AI trong du lịch vẫn rất lớn. Laura Houldsworth, Giám đốc điều hành khu vực châu Á - Thái Bình Dương của Booking.com, hình dung một hành trình trong đó khi chuyến bay bị hoãn, AI có thể tự động thông báo cho khách sạn, điều chỉnh đặt chỗ nhà hàng và lùi thời gian đón xe tại sân bay.
Đây là mô hình du lịch liền mạch mà các doanh nghiệp đang hướng tới: Hành khách không cần tự liên hệ từng nhà cung cấp để xử lí những thay đổi phát sinh trong chuyến đi.
Tuy nhiên, công nghệ hiện tại chưa đủ để hiện thực hóa tầm nhìn này. Martha Waslen, nhà sáng lập kiêm CEO DayAway, cho rằng hệ thống công nghệ tại nhiều khách sạn vẫn phân mảnh, phụ thuộc vào những nền tảng cũ được chắp vá qua nhiều năm. Nếu chưa hợp nhất và đơn giản hóa hạ tầng, các khách sạn khó có thể khai thác AI một cách hiệu quả để cải thiện trải nghiệm khách hàng.
Nadia Omer, CEO AirAsia MOVE, cũng chỉ ra một khía cạnh khác của vấn đề. Theo bà, con người có khả năng xử lí những quy trình phức tạp tốt đến mức đôi khi không nhận ra chi phí và công sức đang phải bỏ ra. Khi tự động hóa khiến từng bước xử lí trở nên hữu hình, doanh nghiệp mới nhận thấy mức độ phức tạp mà nhân viên đã âm thầm gánh chịu trong thời gian dài.
Điều này cho thấy AI không chỉ giúp tự động hóa hoạt động du lịch mà còn phơi bày những điểm yếu trong cấu trúc vận hành vốn tồn tại từ lâu.
Để giải quyết vấn đề trách nhiệm, Green đề xuất ba hướng triển khai. Thứ nhất, mỗi giao dịch do AI thực hiện cần có một hồ sơ ủy quyền có thể xác thực, ghi rõ những gì khách hàng cho phép, chẳng hạn ngày đi, mức giá tối đa, điều kiện hoàn tiền và phạm vi bảo hiểm. Nhờ đó, có thể xác định AI đã thực hiện đúng yêu cầu hay vượt quá quyền hạn được giao.
Ông dẫn ví dụ American Express đã công bố cơ chế bảo vệ giao dịch do AI thực hiện vào tháng 4, trong đó phạm vi bảo vệ đối với sai sót được gắn với việc giao dịch có đi chệch khỏi ý định đã được xác thực của khách hàng hay không. Những yêu cầu chung chung như tìm lựa chọn tốt nhất sẽ khó tạo cơ sở để xác định trách nhiệm tương tự.
Thứ hai, các điều khoản dịch vụ cần được trình bày theo định dạng mà máy móc có thể đọc và hiểu chính xác. Những quy định về hoàn tiền, hành lí hay điều khoản loại trừ bảo hiểm nếu chỉ nằm trong các tệp PDF phức tạp có thể khiến AI bỏ sót thông tin quan trọng. Khi đó, sai sót không nên mặc nhiên bị xem là lỗi của khách hàng.
Thứ ba, các công ty cung cấp tác nhân AI cần có cơ chế bảo hiểm trách nhiệm nghề nghiệp tương tự những gì đang áp dụng với các đơn vị tư vấn và đặt dịch vụ du lịch. Nếu doanh nghiệp kiếm lợi từ việc đứng giữa khách hàng và nhà cung cấp, họ cũng cần có năng lực tài chính để chịu trách nhiệm đối với những sai sót phát sinh trong phạm vi được ủy quyền.
Rajnish Kumar, đồng sáng lập kiêm đồng CEO tập đoàn ixigo, cho rằng cuối cùng điều khách du lịch quan tâm vẫn là những vấn đề rất thực tế: đặt chỗ có được thực hiện đúng cam kết hay không, những thay đổi có được xử lí suôn sẻ không, tiền hoàn được trả nhanh đến đâu và sự cố có được giải quyết hay không.
Đây cũng là thước đo quan trọng đối với thế hệ dịch vụ du lịch ứng dụng AI. Công nghệ có thể giúp hành trình trở nên thuận tiện hơn, nhưng nếu trách nhiệm vẫn bị bỏ ngỏ khi hệ thống mắc lỗi, niềm tin của khách hàng sẽ khó theo kịp tốc độ phát triển của tự động hóa. Nói cách khác, AI có thể đảm nhận việc đặt chuyến đi, nhưng doanh nghiệp đứng sau nó không thể đứng ngoài khi chuyến đi ấy gặp trục trặc.