Samsung cấm nhân viên dùng generative AI sau khi dữ liệu nhạy cảm rò rỉ trên ChatGPT
Thế giới số - Ngày đăng : 11:02, 02/05/2023
Generative AI là một loại trí tuệ nhân tạo mà máy tính được lập trình để tự động tạo ra nội dung mới, như văn bản, hình ảnh, âm thanh và video. Nó khác với các hệ thống AI khác như máy học sâu (deep learning) hoặc học máy (machine learning) trong việc dự đoán kết quả từ dữ liệu đã có sẵn. Thay vì dựa trên dữ liệu huấn luyện, hệ thống generative AI có khả năng tự tạo ra dữ liệu mới và phong phú hơn.
Theo truyền thông Hàn Quốc, một nhân viên Samsung Electronics đã sao chép mã nguồn từ cơ sở dữ liệu bán dẫn bị lỗi để dán vào ChatGPT và yêu cầu chatbot AI của OpenAI tìm cách khắc phục. Trong trường hợp khác, một nhân viên của công ty lớn nhất Hàn Quốc đã chia sẻ mã bí mật để tìm cách khắc phục thiết bị bị lỗi. Một nhân viên Samsung Electronics gửi toàn bộ nội dung cuộc họp đến ChatGPT và yêu cầu chatbot này tạo biên bản tóm tắt nội dung.
Sau khi biết về những rò rỉ, Samsung Electronics đã cố gắng kiểm soát thiệt hại bằng cách gửi cảnh báo đến các quản lý và nhân viên của mình về nguy cơ tiềm ẩn của việc rò rỉ thông tin bí mật. Tất nhiên, công ty không thể xóa bỏ hay khôi phục các dữ liệu này vì chúng được lưu trữ trên các máy chủ của OpenAI. Điều đáng nói là gần 1 tháng trước, Samsung Electronics từng dỡ bỏ lệnh cấm nhân viên sử dụng ChatGPT do lo ngại các vấn đề rò rỉ dữ liệu bí mật.
Hôm 1.5, Samsung Electronics đã thông báo cho nhân viên về chính sách mới là "cấm sử dụng các công cụ generative AI phổ biến như ChatGPT" thông qua một bản ghi nhớ mà hãng tin Bloomberg thấy được. Công ty có trụ sở tại thành phố Suwon (Hàn Quốc) lo ngại rằng dữ liệu truyền tới các nền tảng AI như Google Bard và Bing được lưu trữ trên các máy chủ bên ngoài, gây khó khăn cho việc truy xuất và xóa, đồng thời có thể bị tiết lộ cho những người dùng khác, theo bản ghi nhớ.
Samsung Electronics đã tiến hành cuộc khảo sát vào tháng trước về việc sử dụng các công cụ AI trong nội bộ và cho biết 65% số người được hỏi tin rằng các dịch vụ đó gây rủi ro bảo mật. Đầu tháng 4, kỹ sư Samsung Electronics đã vô tình làm rò rỉ mã nguồn nội bộ khi đưa nó lên ChatGPT, theo bản ghi nhớ. Chưa rõ thông tin bao gồm những gì và đại diện Samsung Electronics từ chối bình luận.
“Mối quan tâm đến các nền tảng generative AI như ChatGPT đang tăng lên cả trong và ngoài nước. Dù mối quan tâm này tập trung vào tính hữu ích và hiệu quả của các nền tảng này, nhưng cũng có những lo ngại ngày càng tăng về rủi ro bảo mật do generative AI gây ra”, Samsung Electronics thông báo với nhân viên.
Samsung Electronics là công ty lớn mới nhất bày tỏ lo ngại về công nghệ này. Hồi tháng 2, sau khi ChatGPT khuấy động sự quan tâm đến generative AI, một số ngân hàng Phố Wall gồm JPMorgan Chase & Co, Bank of America và Citigroup đã cấm hoặc hạn chế sử dụng chatbot của OpenAI.
Ý từng tạm cấm ChatGPT cuối tháng 3 vì lo ngại về quyền riêng tư, nhưng đã đảo ngược quyết định của mình hôm 28.4 sau khi OpenAI giải quyết các yêu cầu của cơ quan quản lý.
Các quy tắc mới từ Samsung Electronics cấm sử dụng các hệ thống AI trên máy tính, máy tính bảng và smarphone thuộc sở hữu của công ty, cũng như trên mạng nội bộ. Điều này không ảnh hưởng đến các thiết bị của Samsung Electronics được bán cho người tiêu dùng, chẳng hạn như smartphone Android và máy tính xách tay chạy Windows.
Samsung Electronics yêu cầu nhân viên sử dụng ChatGPT và các công cụ khác trên thiết bị cá nhân không gửi bất kỳ thông tin hoặc dữ liệu cá nhân nào liên quan đến công ty có thể làm rò rỉ tài sản trí tuệ của mình. Không những thế, Samsung Electronics cảnh báo rằng việc vi phạm các chính sách mới có thể dẫn đến việc bị sa thải.
“Chúng tôi yêu cầu bạn tuân thủ nghiêm ngặt các hướng dẫn bảo mật và nếu không làm như vậy có thể dẫn đến vi phạm hoặc lộ thông tin công ty dẫn đến bị kỷ luật, thậm chí chấm dứt hợp đồng lao động”, Samsung Electronics cho biết trong bản ghi nhớ.
Trong khi đó, Samsung Electronics đang tạo ra các công cụ AI nội bộ của riêng mình để dịch và tóm tắt tài liệu cũng như để phát triển phần mềm. Samsung Electronics cũng đang tìm cách ngăn chặn việc tải thông tin nhạy cảm của công ty lên các dịch vụ bên ngoài.
Bản ghi nhớ cho biết: “Samsung Electronics đang xem xét các biện pháp bảo mật để tạo môi trường an toàn cho việc sử dụng generative AI để nâng cao năng suất và hiệu quả của nhân viên. Song cho đến khi các biện pháp này được chuẩn bị xong, chúng tôi tạm thời hạn chế việc sử dụng generative AI”.
Hôm 25.4, OpenAI đã giới thiệu “chế độ ẩn danh" cho ChatGPT, không lưu lại lịch sử cuộc trò chuyện của người dùng hoặc sử dụng chúng để cải thiện AI.
OpenAI cũng lên kế hoạch cho phiên bản ChatGPT Business với tính năng điều khiển dữ liệu bổ sung. Tính năng này có thể sẽ được cung cấp cho các doanh nghiệp hoặc tổ chức sử dụng ChatGPT để tương tác với khách hàng hoặc người dùng của họ. Ngoài ra, nó cũng có thể cho phép nhà quản lý doanh nghiệp kiểm soát quyền truy cập vào dữ liệu người dùng, quản lý quyền riêng tư, hoặc theo dõi các cuộc trò chuyện để đảm bảo tuân thủ các quy định và chính sách của doanh nghiệp
Động thái trên diễn ra khi sự chú ý ngày càng tăng về cách ChatGPT và các chatbot AI khác quản lý dữ liệu hàng trăm triệu người dùng, thường được sử dụng để cải thiện hoặc huấn luyện AI.
Nhân viên Samsung Electronics không phải là những người duy nhất chia sẻ dữ liệu với ChatGPT. Nghiên cứu gần đây được thực hiện bởi hãng an ninh mạng Cyberhaven cho thấy 3,1% khách hàng sử dụng AI của họ có lúc gửi dữ liệu bí mật công ty vào hệ thống. Cyberhaven ước tính một công ty khoảng 100.000 nhân viên có thể chia sẻ dữ liệu bí mật với OpenAI hàng trăm lần mỗi tuần.
Những tuần gần đây, một số công ty lớn như Amazon hay Walmart đều đưa ra cảnh báo nhân viên không chia sẻ thông tin nhạy cảm với chatbot AI.
Dù đầu tư hàng tỉ USD vào OpenAI, Microsoft cảnh báo nhân viên không được chia sẻ dữ liệu nhạy cảm nội bộ với ChatGPT.
Đầu tháng 1, một nhân viên Microsoft hỏi trong diễn đàn nội bộ rằng liệu có được phép sử dụng ChatGPT hay các ứng dụng AI khác của OpenAI tại nơi làm việc không.
Đáp lại, một kỹ sư cấp cao từ văn phòng giám đốc công nghệ (CTO) của Microsoft trả lời rằng họ được phép, miễn là không chia sẻ thông tin bí mật với ChatGPT.
"Vui lòng không gửi dữ liệu nhạy cảm đến điểm cuối OpenAI, vì họ có thể sử dụng dữ liệu đó để đào tạo các mô hình trong tương lai", kỹ sư cấp cao viết trong một bài đăng nội bộ, mà trang Insider nhìn thấy.
Samsung Electronics hôm 27.4 đã báo cáo lợi nhuận hàng quý tồi tệ nhất trong 14 năm, đổ lỗi cho việc người tiêu dùng mua sắm thiết bị điện tử chậm lại và tình trạng dư thừa chip toàn cầu đã ảnh hưởng đến hoạt động kinh doanh bộ nhớ cốt lõi của hãng.
Công ty lớn nhất Hàn Quốc cho biết trong một tuyên bố rằng lợi nhuận hoạt động quý 1/2023 giảm còn 640 tỉ won (478,6 triệu USD), giảm 95% so với một năm trước đó.
Samsung Electronics đã báo cáo thu nhập ròng quý 1/2023 là 1,4 ngàn tỉ won (1,05 tỉ USD), thấp hơn so với ước tính trung bình của các nhà phân tích là 1,45 ngàn tỉ won. Doanh thu của Samsung Electronics ở quý 1/2023 giảm 18% xuống còn 63,75 ngàn tỉ won.
Bộ phận chip của Samsung Electronics, thường là lớn nhất công ty, đã lỗ 4,58 ngàn tỉ won ở ba tháng đầu năm 2023. Đây là khoản lỗ hoạt động đầu tiên trong bộ phận chip của Samsung Electronics kể từ năm 2009.
Samsung Electronics cho biết "chi tiêu chung của người tiêu dùng chậm lại trong bối cảnh môi trường kinh tế vĩ mô toàn cầu không chắc chắn". Ngoài ra, Samsung Electronics cũng đổ lỗi cho nhu cầu về chip nhớ suy yếu, vốn thường mang lại khoảng một nửa lợi nhuận cho công ty, và giá chip giảm.
Dù vậy, nhà sản xuất chip nhớ lớn nhất thế giới nhận thấy nhu cầu về các thành phần lưu trữ đang dần phục hồi, như các quan chức của SK Hynix (hãng chip nhớ lớn thứ hai thế giới cũng của Hàn Quốc) bày tỏ một ngày trước đó.
Samsung Electronics cho biết giá tiếp tục giảm và tổn thất định giá tăng lên trong bối cảnh tâm lý suy yếu cùng tác động liên tục từ việc điều chỉnh hàng tồn kho của khách hàng do những bất ổn bên ngoài kéo dài. Nhu cầu về bộ nhớ dự kiến sẽ dần phục hồi vào nửa cuối năm 2023 trong bối cảnh mức tồn kho của khách hàng có thể sẽ giảm.
Samsung Electronics cũng kỳ vọng sự phục hồi của smartphone và màn hình trong nửa cuối năm 2023, nhờ nhu cầu tăng từ thị trường Trung Quốc.
Khoản lỗ trong bộ phận chip của Samsung Electronics làm nổi bật những lo ngại về suy thoái công nghệ rộng hơn mà Apple và Intel cũng đang phải đối mặt. Samsung Electronics cung cấp chip nhớ và màn hình cho iPhone của Apple, đối thủ cạnh tranh trên thị trường smartphone của họ.
Samsung Electronics là trung tâm sự suy giảm trong ngành công nghiệp bộ nhớ trị giá 160 tỉ USD toàn cầu, đại diện cho sự suy thoái công nghệ rộng lớn hơn sau sự bùng nổ của hoạt động internet và doanh số bán thiết bị trong đại dịch. Lo ngại về lạm phát và suy thoái kinh tế đã dẫn đến sự sụt giảm mạnh về chi tiêu của người tiêu dùng cùng doanh nghiệp vào năm 2022, kéo theo đó là sự sụt giảm doanh số bán hàng điện tử trên toàn thế giới.
Để đảo ngược tình trạng trượt giá chip, Samsung Electronics đã thông báo trong tháng 4 rằng đang bắt đầu cắt giảm sản xuất chất bán dẫn “có ý nghĩa”. Bất chấp điều đó, Samsung Electronics cho biết việc đầu tư vào chip nhớ trong năm 2023 sẽ tương tự như 2022 khi hãng tìm cách bảo vệ khả năng cạnh tranh lâu dài của mình.
Động thái bất thường trên, cùng với những dự đoán lạc quan hơn về nhu cầu PC và smartphone, dự kiến sẽ đưa ngành công nghiệp này thoát khỏi tình trạng suy thoái trong năm 2023.
Doanh số bán hàng tốt của dòng smartphone hàng đầu Galaxy 23 giúp Samsung Electronics bù đắp thâm hụt trong lĩnh vực chip ở quý 1/2023. Tuy nhiên, các nhà phân tích dự đoán tình hình trong quý 2/2023 sẽ trở nên tồi tệ hơn và thậm chí dẫn đến khoản lỗ lợi nhuận đầu tiên của Samsung Electronics kể từ năm 2008.
Hwang Min-seong, nhà phân tích tại Samsung Securities, nói với hãng tin Yonhap: “Chúng ta không thể loại trừ khả năng Samsung chuyển sang sắc đỏ khi hiệu ứng của smartphone mới giảm đi”.
Sự sụt giảm lợi nhuận gần đây đã không ngăn cản Samsung Electronics thực hiện các khoản đầu tư táo bạo. Vào tháng 3, Samsung Electronics đã tiết lộ kế hoạch đầu tư 227 tỉ USD trong hai thập kỷ tới để xây dựng trung tâm chip lớn nhất thế giới ở Yongin, phía nam thủ đô Seoul, Hàn Quốc.
Kế hoạch xây dựng trung tâm chip lớn nhất thế giới nằm trong nỗ lực của chính phủ Hàn Quốc nhằm đầu tư mạnh vào các ngành công nghệ mũi nhọn, bao gồm chip, màn hình và pin. Đây là các lĩnh vực mà những gã khổng lồ công nghệ Hàn Quốc đã tạo được chỗ đứng vững chắc trên thị trường.
Phấn lớn các chip tiên tiến nhất trên thế giới đều được sản xuất bởi Samsung Electronics và TSMC.
TSMC là nhà sản xuất chip theo hợp đồng lớn nhất thế giới, có trụ sở ở Đài Loan.