Gửi bình luận
OpenAI cho biết đã loại bỏ tài khoản của những người dùng từ một số nước mà công ty này tin rằng sử dụng công nghệ của họ cho các mục đích độc hại, gồm cả lừa đảo tài chính, giám sát và thao túng dư luận.
Hành vi này là cách những người dùng đó có thể sử dụng trí tuệ nhân tạo (AI) để chống lại Mỹ và người dân nước này, theo OpenAI. Công ty cho biết đã sử dụng các công cụ AI để phát hiện các chiến dịch đó.
OpenAI không tiết lộ có bao nhiêu tài khoản đã bị cấm hoặc những hành động này diễn ra trong khoảng thời gian nào.
Trong một trường hợp, người dùng đã sử dụng ChatGPT để tạo các bài viết bằng tiếng Tây Ban Nha với nội dung bôi nhọ Mỹ, sau đó chúng được đăng trên các hãng tin chính thống ở Mỹ Latinh dưới danh nghĩa một công ty Trung Quốc.
Ở một trường hợp khác, các tác nhân độc hại đã sử dụng AI để tạo sơ yếu lý lịch và hồ sơ trực tuyến cho những ứng viên giả mạo, nhằm mục đích gian lận để xin việc tại các công ty phương Tây.
Một nhóm tài khoản ChatGPT khác có vẻ liên quan đến đường dây lừa đảo tài chính tại Campuchia đã sử dụng công nghệ của OpenAI để dịch và tạo bình luận trên các nền tảng mạng xã hội và giao tiếp, gồm cả X và Facebook.
Chính phủ Mỹ bày tỏ lo ngại về các cáo buộc Trung Quốc sử dụng AI lan truyền thông tin sai lệch và làm suy yếu an ninh của Mỹ cùng đồng minh của nước này.
ChatGPT của OpenAI là chatbot AI phổ biến nhất, với số lượng người dùng hoạt động hàng tuần đã vượt 400 triệu. OpenAI đang đàm phán để huy động 40 tỉ USD với mức định giá công ty đến 300 tỉ USD. Đây có thể là vòng gọi vốn lớn nhất từ trước đến nay của một công ty tư nhân.
Cuối tháng 5.2024, OpenAI từng cho biết đã phá vỡ 5 hoạt động gây ảnh hưởng bí mật nhằm tìm cách sử dụng các mô hình AI cho hoạt động lừa đảo trên internet.
OpenAI tiết lộ các tác nhân độc hại đã sử dụng mô hình AI của họ để tạo ra bình luận ngắn, bài viết dài bằng nhiều ngôn ngữ, tạo tên và tiểu sử cho một số tài khoản mạng xã hội trong ba tháng.
Các chiến dịch này, gồm tác nhân đe dọa từ Nga, Trung Quốc, Iran và Israel, cũng tập trung vào vấn đề như Nga tấn công Ukraine, cuộc xung đột tại Gaza, bầu cử ở Ấn Độ, chính trị tại châu Âu và Mỹ, cùng những vấn đề khác, theo OpenAI.
OpenAI cho biết các hoạt động lừa đảo là “nỗ lực nhằm thao túng dư luận hoặc gây ảnh hưởng đến kết quả chính trị”.
Báo cáo của OpenAI, công ty có trụ sở tại thành phố San Francisco (Mỹ) được Microsoft hậu thuẫn, làm dấy lên mối lo ngại về an toàn về khả năng lạm dụng AI tạo sinh, công nghệ có thể tạo ra văn bản, hình ảnh, âm thanh giống con người nhanh chóng và dễ dàng.
OpenAI tuyên bố các chiến dịch lừa đảo đã không được hưởng lợi từ việc tăng cường tương tác hoặc phạm vi tiếp cận nhờ các dịch vụ của công ty này.
Ngoài ra, OpenAI nói các hoạt động đó không chỉ sử dụng tài liệu do AI tạo ra mà còn gồm cả văn bản viết thủ công hoặc meme được sao chép từ khắp nơi trên internet.
Cuối tháng 2.2024, OpenAI thông báo xóa các tài khoản được sử dụng bởi một số nhóm hacker từ Iran, Triều Tiên, Trung Quốc và Nga đang lạm dụng ChatGPT nhằm thực hiện các hành vi độc hại.
OpenAI cho biết sẽ tiếp tục theo dõi và ngăn chặn các hacker bằng cách sử dụng công nghệ giám sát chuyên dụng lẫn thông tin từ đối tác và những nhóm bảo mật thuộc nhiều tổ chức, công ty an ninh mạng trên thế giới.
OpenAI sắp ra mắt GPT-4.5 và GPT-5, hứa hẹn các mô hình AI tương lai cho phép nội dung người lớn
Đối mặt với sự trỗi dậy của DeepSeek, OpenAI gần đây phá vỡ sự im lặng về hai mô hình AI được mong đợi là GPT-4.5 và GPT-5.
Sam Altman cho biết hai phiên bản GPT-4.5 và GPT-5 dự kiến sẽ ra mắt trong vòng vài “tuần hoặc tháng” tới.
Ngoài ra, Sam Altman cũng tiết lộ công ty sẽ đơn giản hóa danh mục sản phẩm của mình, vì hệ thống hiện tại với nhiều mô hình khác nhau và tùy chọn mô hình gây ra không ít khó khăn cho cả nhà phát triển lẫn người dùng.
“Chúng tôi muốn AI chỉ hoạt động theo cách bạn mong đợi. Chúng tôi nhận ra rằng danh mục mô hình và sản phẩm của mình đã trở nên quá phức tạp. Chúng tôi cũng ghét tùy chọn mô hình như các bạn và muốn quay trở lại với AI thống nhất đầy ma thuật”, ông chia sẻ.
GPT-4.5, có tên mã nội bộ là Orion, sẽ đánh dấu sự kết thúc các mô hình AI của OpenAI không sử dụng phương pháp lập luận theo chuỗi và mở đường cho GPT-5. Phiên bản GPT-5 sẽ tích hợp những ưu điểm tốt nhất của cả hai dòng mô hình GPT và o.
Mô hình AI không sử dụng phương pháp lập luận theo chuỗi thường gặp khó khăn với các nhiệm vụ lý luận phức tạp, đặc biệt là trong các lĩnh vực như vật lý và toán học.
Mô hình o3 (ra mắt vào tháng 12.2024) sẽ đóng vai trò quan trọng trong GPT-5. OpenAI có kế hoạch tích hợp o3 vào GPT-5 và sẽ không còn phát hành nó dưới dạng một mô hình độc lập nữa.
GPT-5 sẽ có nhiều cấp độ khác nhau. Người dùng miễn phí sẽ được tiếp cận với phiên bản tiêu chuẩn, trong khi thuê bao Plus (20 USD/tháng) và Pro (200 USD/tháng) sẽ có quyền truy cập vào phiên bản mạnh mẽ hơn với các tính năng nâng cao như giọng nói, canvas, tìm kiếm và Deep Research.
Deep Research là tác tử AI được tối ưu hóa cho duyệt web và phân tích dữ liệu, có khả năng thực hiện nghiên cứu nhiều bước trên internet cho các nhiệm vụ phức tạp mà theo OpenAI, "hoàn thành trong vài chục phút những gì con người phải mất nhiều giờ".
Bạn chỉ cần cung cấp một yêu cầu là Deep Research sẽ “tìm kiếm, phân tích và tổng hợp hàng trăm nguồn trực tuyến để tạo ra một báo cáo toàn diện ở cấp độ của nhà phân tích nghiên cứu”.
Deep Research phục vụ cho các chuyên gia trong lĩnh vực tài chính, khoa học, chính sách và kỹ thuật, cung cấp những thông tin chi tiết đáng tin cậy và toàn diện. Tính năng này cũng hữu ích với những người mua sắm đang tìm kiếm các đề xuất được cá nhân hóa về giao dịch mua đòi hỏi phải nghiên cứu cẩn thận, chẳng hạn ô tô, đồ gia dụng và đồ nội thất.
Kết quả gồm các trích dẫn và tóm tắt rõ ràng, giúp dễ dàng xác minh. Về cơ bản, Deep Research giúp tinh giản quá trình nghiên cứu tốn thời gian, cung cấp thông tin chuyên sâu hiệu quả chỉ từ một truy vấn.
Trong loạt bài đăng trên mạng xã hội X, Sam Altman đã mô tả Deep Research là "giống một siêu năng lực, hoạt động như nhóm chuyên gia sẵn sàng hỗ trợ bạn".
Sam Altman cho biết Deep Research có thể "sử dụng internet, thực hiện nghiên cứu, lập luận phức tạp và trả về cho bạn một báo cáo", xử lý các nhiệm vụ "mất nhiều giờ/ngày và tốn hàng trăm USD".
Dù rất tốn nhiều tài nguyên tính toán và hoạt động còn chậm, ông tuyên bố "Deep Research là hệ thống AI đầu tiên có thể thực hiện nhiều nhiệm vụ phức tạp, có giá trị như vậy".
Deep Research mất từ 5 đến 30 phút để hoàn thành công việc và bạn sẽ nhận được thông báo khi nghiên cứu xong. Kết quả cuối cùng là một báo cáo được gửi qua ChatGPT.
Hiện báo cáo chỉ có văn bản nhưng OpenAI cho biết trong những tuần tới, họ sẽ thêm hình ảnh nhúng, biểu đồ dữ liệu và các kết quả phân tích khác để tăng thêm độ rõ ràng và ngữ cảnh.
Deep Research hiện có sẵn như một phần gói Pro của OpenAI (giá 200 USD/tháng), với 100 truy vấn có sẵn mỗi tháng trên web. Nó sẽ có trên ứng dụng dành cho thiết bị di động và PC vào cuối tháng 2. Tính năng này cũng sẽ sớm khả dụng với khách hàng Plus, Team và Enterprise trước khi đến với gói miễn phí của OpenAI.
Sam Altman kêu gọi mọi người "hãy thử nghiệm Deep Research với công việc khó khăn nhất mà bạn phải giải quyết bằng cách sử dụng internet và xem điều gì sẽ xảy ra".
Tuy nhiên, OpenAI cảnh báo rằng Deep Research “có thể gặp khó khăn trong việc phân biệt thông tin có thẩm quyền với tin đồn và đang có điểm yếu trong việc hiệu chỉnh độ tin cậy (chưa thể đánh giá chính xác mức độ đáng tin cậy của thông tin đưa ra – PV), không thể hiện rõ thông tin chưa chắc chắn khiến người dùng có thể hiểu nhầm".
Theo OpenAI, khi Deep Research mới ra mắt, người dùng cũng có thể thấy các lỗi định dạng nhỏ trong báo cáo và trích dẫn, với các nhiệm vụ có thể mất nhiều thời gian hơn để bắt đầu.
"Chúng tôi kỳ vọng tất cả những vấn đề này sẽ nhanh chóng được cải thiện khi có thêm người dùng và thời gian", OpenAI cho hay.
Sam Altman tin rằng Deep Research sẽ có tác động đáng kể và có thể thực hiện "khoảng 5% nhiệm vụ trong nền kinh tế hiện nay".
OpenAI vừa cập nhật nguyên tắc hướng dẫn của mình và cam kết rằng các mô hình AI trong tương lai sẽ mang lại nhiều quyền tự do hơn khi xử lý các chủ đề gây tranh cãi.
Bộ quy tắc Model Spec mở rộng gồm 63 trang của OpenAI đặt ra những quy tắc rõ ràng nhằm đảm bảo rằng các mô hình AI của họ không né tránh hoặc hạn chế thảo luận về các chủ đề nhạy cảm. OpenAI cho biết bản cập nhật này được thiết kế để tăng tính minh bạch và cho phép người dùng kiểm soát nhiều hơn cách AI phản hồi, thúc đẩy tinh thần tự do trí tuệ.
Bộ quy tắc mới quy định rằng các mô hình AI không nên định hướng người dùng theo bất kỳ chương trình nghị sự nào, dù chỉ là một cách tinh vi.
Bằng cách này, OpenAI muốn ngăn chặn bất kỳ sự thiên vị nào có thể loại bỏ một số quan điểm nhất định. Động thái đó diễn ra trong bối cảnh các nhà phê bình, gồm cả những nhân vật có tầm ảnh hưởng như Elon Musk và David Sacks, cáo buộc các mô hình hiện tại quá thận trọng hoặc mang tính “thức tỉnh” quá mức.
Bộ quy tắc Model Spec cũng đề cập đến cách AI nên xử lý các tình huống phức tạp và gây tranh cãi, chẳng hạn các vấn đề đạo đức và các chủ đề nhạy cảm về mặt lịch sử.
Bản cập nhật cũng ghi nhận phản hồi từ người dùng về việc yêu cầu một chế độ “dành cho người lớn” để xử lý nội dung nhạy cảm. Theo đó, mô hình AI của OpenAI sẽ cho phép một số nội dung dành cho người lớn như văn học khiêu dâm trong các bối cảnh phù hợp, nhưng nội dung khiêu dâm trả thù và deepfake vẫn bị cấm nghiêm ngặt.
Trong cuộc phỏng vấn với trang The Verge trước khi phát hành bản hướng dẫn cập nhật, Joanne Jang (Trưởng bộ phận sản phẩm của OpenAI) nói: “Chúng tôi không thể tạo ra một mô hình với cùng bộ tiêu chuẩn hành vi mà mọi người trên thế giới đều yêu thích”.
