Ứng dụng AI trong thương mại điện tử và vấn đề bảo mật dữ liệu

Cục Thương mại điện tử và Kinh tế số (Bộ Công Thương) ngày 18.7 đã có báo cáo về các vấn đề về đạo đức khi ứng dụng AI trong TMĐT. Theo đó, hiện nay, những thách thức và quan ngại về mặt đạo đức liên quan đến AI bao gồm các mối lo ngại về quyền riêng tư dữ liệu, thiên kiến thuật toán, sự cân bằng mong manh giữa tùy biến theo người dùng và quyền riêng tư của người dùng cũng như tầm quan trọng của khung pháp lý để đảm bảo việc ứng dụng AI một cách có đạo đức trong TMĐT.

Ứng dụng AI trong TMĐT chủ yếu dựa vào việc phân tích các bộ dữ liệu khổng lồ, bao gồm hành vi, sở thích và tương tác của người dùng. Mặc dù cách tiếp cận dựa trên dữ liệu này giúp tăng cường hiệu quả xây dựng nội dung và đề xuất nhưng cũng gây ra những lo ngại đáng kể về quyền riêng tư dữ liệu. Người tiêu dùng ngày càng nhận thức được giá trị và độ nhạy cảm của thông tin cá nhân của họ, điều này khiến họ lo ngại về cách các nền tảng TMĐT thu thập, lưu trữ và sử dụng dữ liệu.

Việc thu thập bừa bãi dữ liệu người dùng cho mục đích ứng dụng AI có thể dẫn đến vi phạm quyền riêng tư và truy cập trái phép. Khách hàng có thể không thoải mái với ý tưởng rằng lịch sử duyệt web, xu hướng mua hàng và sở thích cá nhân của họ được sử dụng để cung cấp thông tin cho các thuật toán. Tạo sự cân bằng giữa việc cung cấp trải nghiệm được “may đo riêng” theo từng cá nhân và tôn trọng quyền riêng tư của người dùng là điều quan trọng để đảm bảo rằng các nền tảng TMĐT duy trì được niềm tin khách hàng.

Thiên kiến thuật toán, một thách thức phổ biến trong các hệ thống AI, có ý nghĩa sâu sắc đối với trải nghiệm về sự công bằng và không thiên vị của người tiêu dùng trong TMĐT. Các thuật toán AI học hỏi từ dữ liệu lịch sử truy cập và nếu dữ liệu này chứa sự thiên vị, thuật toán có thể vô tình duy trì và thậm chí làm trầm trọng thêm các sự thiên vị ​​hiện có. Điều này có thể dẫn đến kết quả phân biệt đối xử, tác động không tương xứng đến các nhóm nhân khẩu học nhất định.

Trong TMĐT, thiên kiến thuật toán có thể biểu hiện trong các đề xuất sai lệch về sản phẩm, chênh lệch về giá hoặc nhắm mục tiêu phân biệt đối xử trong tiếp thị. Ví dụ: các thuật toán thiên kiến có thể dẫn đến việc một số người dùng nhất định được hiển thị các sản phẩm có giá cao hơn hoặc nhận được các khuyến mại khác nhau dựa trên các yếu tố như chủng tộc, giới tính hoặc tình trạng kinh tế xã hội.

Việc giải quyết thiên kiến thuật toán đòi hỏi nỗ lực phối hợp từ các nhà phát triển và nhà khoa học dữ liệu để đảm bảo rằng dữ liệu đa dạng, mang tính đại diện và không có những sự thiên vị cố hữu. Kiểm toán thường xuyên và minh bạch trong quy trình ra quyết định bằng thuật toán là điều cần thiết để xác định và khắc phục sai lệch một cách hiệu quả.

"Các nền tảng TMĐT phải triển khai các biện pháp bảo mật mạnh mẽ, bao gồm chính sách thu thập dữ liệu rõ ràng và minh bạch, cơ chế chấp thuận của người dùng và ẩn danh thông tin nhận dạng cá nhân nếu có thể. Trao đổi, thỏa thuận với người dùng về cách dữ liệu của họ sẽ được sử dụng có thể thúc đẩy cảm giác họ đã kiểm soát trải nghiệm trực tuyến của bản thân.

Việc này cũng cần được thực hiện một cách cẩn trọng, nếu như một nền tảng thể hiện sự thấu hiểu quá sâu sắc về người dùng hoặc spam họ bằng những đề xuất liên tục, có thể dẫn đến trải nghiệm tiêu cực cho người dùng. Việc đạt được sự cân bằng phù hợp sẽ đảm bảo rằng việc ứng dụng AI nâng cao mức độ tương tác của người dùng mà không vượt quá giới hạn xâm phạm quyền riêng tư hoặc gây ra trải nghiệm khó chịu", Cục Thương mại điện tử và Kinh tế số cho hay

Để giải quyết các mối quan ngại về đạo đức liên quan đến việc ứng dụng AI trong thương mại điện tử, cơ quan này cho rằng khung pháp lý đóng một vai trò quan trọng. Các quy định có thể liên quan đến bảo mật dữ liệu, hướng dẫn về tính minh bạch của thuật toán và các biện pháp giảm thiểu thiên kiến thuật toán. Các nền tảng thương mại điện tử phải tuân thủ các quy định này, điều chỉnh các hoạt động của mình để tuân thủ các tiêu chuẩn đạo đức. Những cân nhắc về đạo đức cần được đưa vào quá trình phát triển và các tổ chức nên chủ động tham gia vào các cuộc thảo luận về đạo đức có liên quan.

Nhìn chung, việc ứng dụng AI để hỗ trợ trong TMĐT mang lại cả cơ hội và thách thức, đặc biệt là trong vấn đề đạo đức. Những lo ngại về quyền riêng tư dữ liệu, thiên kiến thuật toán, sự cân bằng mong manh giữa khả năng tùy biến và quyền riêng tư của người dùng cũng như tầm quan trọng của khung pháp lý đều cần được chú trọng. Bằng cách giải quyết những thách thức này một cách chủ động, các nền tảng TMĐT có thể tạo dựng niềm tin với người dùng, thúc đẩy trải nghiệm người tiêu dùng công bằng và không thiên vị, đồng thời góp phần vào sự tiến bộ có trách nhiệm của công nghệ AI trên thị trường kỹ thuật số. Cân nhắc về đạo đức phải được đặt lên hàng đầu khi TMĐT tiếp tục phát triển trong kỷ nguyên cá nhân hóa được hỗ trợ bởi AI.