OpenAI, Anthropic tìm chuyên gia kiểm định an toàn AI: Ai bảo đảm tính khách quan?

Những tổ chức thẩm định an toàn AI âm thầm bước ra ánh sáng

Trong lúc Anthropic và OpenAI trở thành tâm điểm của cuộc tranh luận gay gắt về việc liệu có thể vừa bảo đảm an toàn cho các mô hình AI tiên tiến nhất, vừa phát triển hoạt động kinh doanh hay không, hai công ty đang tìm sự hỗ trợ từ một số tổ chức bên thứ ba quy mô nhỏ, như Model Evaluation and Threat Research (METR), Apollo Research và Transluce.

Phần lớn các tổ chức đánh giá này hoạt động theo mô hình phi lợi nhuận. Họ vẫn đang tìm chỗ đứng trong một ngành mà dòng vốn đầu tư đổ vào với quy mô chưa từng có, còn các mô hình AI mới liên tục ra mắt với tốc độ ngày càng nhanh. Vai trò chính của các tổ chức đó là đánh giá năng lực và rủi ro của các mô hình AI, đồng thời phát hiện những trường hợp công nghệ này có hành vi bất thường hoặc gây hại.

Trong bối cảnh chính phủ liên bang Mỹ chưa thiết lập một cơ chế giám sát độc lập thống nhất ở cấp quốc gia, vai trò của các tổ chức đánh giá bên thứ ba ngày càng trở nên quan trọng. Trong khi đó, một số bang, đặc biệt là California, đã bắt đầu xây dựng các khuôn khổ quản lý riêng.

Tháng 9, Dario Amodei (Giám đốc điều hành Anthropic) cam kết đưa các chuyên gia đánh giá độc lập vào làm việc ngay trong công ty. Sam Altman (Giám đốc điều hành OpenAI) nhanh chóng bày tỏ ủng hộ ý tưởng này. Tổng thống Donald Trump và phần lớn tập đoàn công nghệ lớn nhất nước Mỹ cũng tán thành ý tưởng trên.

Tuy nhiên, nhiều câu hỏi vẫn chưa có lời giải: Ai sẽ tài trợ cho các tổ chức đánh giá độc lập? Họ sẽ được quyền tiếp cận những thông tin nào? Cơ chế báo cáo kết quả đánh giá cuối cùng sẽ được thiết kế ra sao?

“Ở một mức độ nào đó, vấn đề vẫn luôn là tiền. Ai đang trả tiền để những tổ chức này thực hiện công việc? Họ sẽ được hỗ trợ như thế nào? Chúng ta cần một hệ sinh thái và mô hình kinh doanh khả thi cho hoạt động này”, Suresh Venkatasubramanian, giáo sư khoa học máy tính tại Đại học Brown, nói với CNBC.

Hiện nay, Anthropic, OpenAI cùng các đối tác cung cấp hạ tầng hưởng lợi từ cơn sốt AI vẫn là những bên đặt ra quy tắc. Các nhà phê bình cho rằng điều này chẳng khác nào yêu cầu những ngân hàng lớn nhất tự bảo vệ chúng ta khỏi một cuộc khủng hoảng tài chính, hoặc cho phép các hãng dược đưa thuốc ra thị trường mà không cần cơ quan quản lý phê duyệt.

Gần đây, Tổng thống Trump ca ngợi các lãnh đạo AI vì khả năng “tự giám sát rất tốt”, đồng thời phát tín hiệu rằng ông muốn để các doanh nghiệp tự quyết định cách hoạt động. Ông Trump không muốn cản trở sự phát triển của ngành công nghiệp đang thúc đẩy tăng trưởng kinh tế và thị trường chứng khoán.

Hôm 29/9, ông Trump công bố thỏa thuận tự nguyện, khuyến khích các công ty AI “hợp tác với một đơn vị kiểm toán hoặc đánh giá độc lập bên ngoài”.

Cuộc tranh luận hiện nay bắt đầu thu hút sự chú ý rộng rãi sau bài luận gây tiếng vang của Dario Amodei hồi tháng 9. Trong bài viết, Dario Amodei kêu gọi làm chậm tốc độ phát triển các mô hình AI tiên tiến, sau khi một số nhà nghiên cứu rời Anthropic và bày tỏ lo ngại rằng AI có thể gây ra những rủi ro đe dọa sự tồn tại của nhân loại.

Khi các phòng nghiên cứu AI bắt đầu tìm cách bố trí chuyên gia đánh giá độc lập, những bất đồng đã xuất hiện.

Tuần trước, OpenAI sa thải ba nhân viên vì “vi phạm các chính sách về truy cập và xử lý thông tin nhạy cảm của công ty”, theo một người phát ngôn.

Hai trong số những người đó, Mikita Balesni và Tomek Korbak, tin rằng bị sa thải do cách thức trao đổi với các đơn vị đánh giá bên thứ ba.

“Các đồng nghiệp cũ nói với tôi rằng họ không biết nên tin vào điều gì. Họ cũng sợ lên tiếng và lo rằng điện thoại cá nhân có thể bị kiểm tra để tìm các tin nhắn gửi cho chúng tôi cũng như bên thứ ba. Tôi lo rằng nỗi sợ hãi bao trùm về việc lên tiếng và tương tác với các bên thứ ba sẽ khiến OpenAI cắt giảm các tiêu chuẩn an toàn một cách âm thầm”, Mikita Balesni viết trên mạng xã hội X hôm 8/10.

OpenAI phản bác cách mô tả này. Trong bài đăng hôm 9/10, công ty cho biết đang “tích cực hoàn tất các hợp đồng với những đơn vị đánh giá an toàn bên thứ ba và sẽ công bố chi tiết những tuần tới”.

“Chúng tôi cam kết đưa các chuyên gia đánh giá bên ngoài vào quy trình làm việc, đồng thời tiếp tục coi sự hợp tác chặt chẽ với các tổ chức an toàn độc lập là một phần cốt lõi trong công tác bảo đảm an toàn”, OpenAI viết.

Người phát ngôn OpenAI cho biết kế hoạch hợp tác sắp tới với các đơn vị đánh giá sẽ “phát triển dựa trên những hoạt động hợp tác hiện có với các tổ chức an toàn độc lập”, gồm cả METR và Redwood Research.

Anthropic không phản hồi khi được đề nghị bình luận.

“Tôi chưa từng thấy vấn đề nào thay đổi nhanh đến vậy”

Hệ sinh thái đánh giá AI hiện chủ yếu gồm các tổ chức nhỏ như METR và Apollo Research, bên cạnh những công ty kiểm toán và tư vấn lớn hơn, chẳng hạn Accenture.

Các công ty phát triển AI từ trước đến nay vẫn hợp tác với những đơn vị đánh giá này, nhưng chỉ trong phạm vi hạn chế. Andrew Freedman, Giám đốc điều hành tổ chức phi lợi nhuận chuyên về chính sách Fathom, cho biết lĩnh vực đánh giá AI đang trưởng thành rất nhanh.

“Tôi đã làm việc trong lĩnh vực chính trị và hoạch định chính sách suốt 20 năm, nhưng chưa từng thấy một vấn đề nào thay đổi nhanh đến vậy và nhận được sự quan tâm trên nhiều khuynh hướng chính trị khác nhau”, Andrew Freedman nói với CNBC. Ông dự đoán dòng vốn đầu tư sẽ đổ vào hệ sinh thái đánh giá AI ngày càng nhiều.

Rayan Krishnan, Giám đốc điều hành Vals AI, cho biết công ty khởi nghiệp này đã tăng nhân sự từ 8 lên khoảng 30 người trong năm 2026. Tháng 8, Vals AI công bố vòng gọi vốn trị giá 40 triệu USD.

Vals AI là công ty khởi nghiệp hoạt động vì lợi nhuận, chuyên xây dựng các bộ tiêu chuẩn kiểm thử để đo lường khả năng thực hiện những nhiệm vụ chuyên biệt theo từng ngành của mô hình AI.

Tháng 8, tổ chức phi lợi nhuận METR thông báo đã nhận được cam kết tài trợ khoảng 71 triệu USD trong sáu tháng trước đó. Con số này lớn hơn đáng kể tổng tiền đóng góp 13,6 triệu USD mà tổ chức ghi nhận trong năm 2024.

Vị thế của METR càng được chú ý vào cuối tháng 8. OpenAI đã nhờ hai nhân viên METR và một cộng tác viên xây dựng báo cáo phân tích sau sự cố, mô tả cách các mô hình AI của họ thoát khỏi môi trường kiểm soát, truy cập Internet công cộng và xâm nhập nền tảng Hugging Face.

METR cho biết không nhận tiền từ OpenAI để thực hiện cuộc đánh giá này.

Kevin Werbach, Giám đốc học thuật của Phòng thí nghiệm AI có trách nhiệm thuộc Trường Wharton, Đại học Pennsylvania (Mỹ), nhận định hệ sinh thái đánh giá AI “hiện chưa đủ vững chắc”. Chẳng hạn, theo website của METR, tổ chức này có chưa đến 50 nhân viên làm việc toàn thời gian.

Sự chênh lệch về nguồn lực giữa các tổ chức đánh giá quy mô nhỏ với những phòng nghiên cứu AI hàng đầu đặt ra nhiều câu hỏi về nguy cơ xung đột lợi ích. Các phòng nghiên cứu lớn đã huy động hàng chục tỉ USD và có hàng nghìn nhân viên, trong khi nhiều đơn vị đánh giá độc lập vẫn hoạt động với nguồn lực hạn chế.

“Nếu muốn có hoạt động đánh giá thực sự độc lập từ bên thứ ba, các đơn vị đó phải độc lập thực sự cả về tài chính lẫn những khía cạnh khác”, Giáo sư Suresh Venkatasubramanian nói.

“Vấn đề không đơn thuần là có nhận tiền hay không. Điều quan trọng là chuyện gì sẽ xảy ra nếu tôi là kiểm toán viên và công bố một báo cáo bất lợi cho công ty này? Liệu hoạt động kinh doanh của tôi có bị cắt đứt hay không?”, ông đặt câu hỏi.

Tháng 9, Anthropic thừa nhận sự phức tạp của vấn đề trong bài viết trên blog, đồng thời thông báo sẽ đưa nhân viên từ Faculty, đơn vị chuyên về AI của Accenture, vào làm việc cùng các nhóm bên trong Anthropic. Họ sẽ kiểm tra những biện pháp bảo vệ an toàn và đánh giá liệu các mô hình AI có hành xử phù hợp với những giá trị của con người hay không.

Theo Anthropic, “do tầm quan trọng và tính cấp bách của công việc này”, công ty sẽ trực tiếp tài trợ cho phần việc của Accenture.

“Hiện vẫn chưa có tiêu chuẩn quy định những thông tin mà chuyên gia đánh giá làm việc ngay trong doanh nghiệp được phép tiếp cận, hoặc cách họ phải báo cáo các phát hiện của mình. Cũng chưa có một cơ chế thống nhất để tài trợ cho hoạt động đánh giá độc lập. Về lâu dài, chúng tôi cho rằng nguồn tài trợ nên đến từ các quỹ đóng góp chung hoặc từ chính phủ”, Anthropic thông báo.

Anthropic cho biết công ty đang trao đổi với METR và các tổ chức đánh giá AI phi lợi nhuận khác. Những tổ chức này dự định tự bỏ kinh phí để thử nghiệm một số cách đưa chuyên gia đánh giá độc lập vào làm việc ngay bên trong các công ty AI.

Chính phủ có can thiệp?

Tháng 6/2025, Fathom giới thiệu một khuôn khổ thị trường dành cho các tổ chức xác minh độc lập (IVO). Theo đề xuất này, chính phủ sẽ cấp phép cho các IVO và để họ kiểm tra xem những công ty AI có đáp ứng các tiêu chí an toàn khác nhau hay không.

Andrew Freedman (Giám đốc điều hành Fathom) cho rằng sự giám sát của chính phủ đóng vai trò then chốt. Nếu thiếu cơ chế này, các đơn vị đánh giá bên thứ ba có thể phụ thuộc vào những phòng nghiên cứu AI lớn để duy trì doanh thu, từ đó có động cơ “đóng dấu thông qua cho mọi thứ” nhằm giữ quan hệ tốt với khách hàng.

Một số nhà làm luật Mỹ ủng hộ đề xuất trên.

Các IVO là một trong những nội dung trọng tâm của dự luật FRONTIER, được hai nghị sĩ Mỹ Lori Trahan (đảng Dân chủ, bang Massachusetts) và Jay Obernolte (đảng Cộng hòa, bang California) trình lên Quốc hội hồi tháng 7. Dự luật hướng đến việc giám sát rủi ro từ AI tiên tiến, tăng cường minh bạch, đánh giá độc lập và yêu cầu báo cáo. Andrew Freedman cho biết Fathom đã tham gia soạn thảo nội dung và cung cấp chuyên môn kỹ thuật cho dự luật.

Chris Lehane, Giám đốc phụ trách các vấn đề toàn cầu của OpenAI, nói với các phóng viên hồi tháng 9 rằng ông đã gặp một trong những nghị sĩ bảo trợ dự luật tại Đồi Capitol để bày tỏ sự ủng hộ với quy định về IVO.

“Điều quan trọng là họ phải nghe được quan điểm đó từ chúng tôi. Chúng tôi muốn thể hiện thật rõ lập trường của mình”, Chris Lehane nhấn mạnh.

Trong khi đó, các nhà làm luật tại bang California, Connecticut và Virginia đã thực hiện những bước đi nhằm triển khai mô hình IVO. Một số bang khác, gồm cả Massachusetts, cũng đang xem xét rộng hơn việc đánh giá an toàn AI độc lập.

Gần đây, Thống đốc California Gavin Newsom kí ban hành hai dự luật liên quan đến IVO. Một dự luật thiết lập khuôn khổ quản lý được mô tả là đầu tiên thuộc loại này tại Mỹ, trong khi dự luật còn lại thành lập danh sách đăng kí cấp bang dành cho các đơn vị kiểm toán AI.

Anthropic công khai ủng hộ cả hai dự luật vào tháng 8. OpenAI cũng chính thức tán thành các dự luật này vào tháng 9, đúng ngày Gavin Newsom kí ban hành thành luật.

Trong bài viết trên blog công bố vào thời điểm đó, Chris Lehane cho biết OpenAI “ưu tiên việc bắt buộc thực hiện các đánh giá kỹ thuật độc lập ở cấp liên bang”. Tuy nhiên, khi chính phủ liên bang chưa hành động, “California có thể giúp thiết lập những quy tắc nền tảng”.

Freedman cho rằng các công ty như OpenAI và Anthropic sẽ rất khó tự tìm ra cách hợp tác với các tổ chức đánh giá độc lập. Tuy nhiên, trong khi vai trò của chính phủ vẫn chưa rõ ràng, ông nói rằng các bên vẫn nên bắt đầu xây dựng năng lực hợp tác này ngay từ bây giờ.

Hiện tại, thỏa thuận gần nhất với một bộ tiêu chuẩn chung của ngành là văn bản mà ông Trump gọi là thỏa thuận có tính ràng buộc về mặt đạo đức. Thỏa thuận được đưa ra trong bữa trưa do ông Trump chủ trì tại Nhà Trắng hôm 29/9, với sự tham dự của các lãnh đạo công nghệ.

Thỏa thuận dài một trang nêu rõ: “Mỗi công ty có trách nhiệm phát triển công nghệ của riêng mình một cách an toàn, đồng thời xây dựng niềm tin với khách hàng và công chúng”.

Văn bản cũng khuyến khích các công ty kí kết hợp tác với một đơn vị kiểm toán hoặc đánh giá độc lập bên ngoài để kiểm tra mức độ an toàn của công nghệ.

Các lãnh đạo Anthropic, Google, Meta, OpenAI, SpaceX và Nvidia đã kí vào văn bản này. Đây là sự đồng thuận hiếm hoi giữa những người đứng đầu các công ty vốn có quan điểm khác nhau về cách ứng phó với những rủi ro do AI gây ra. Tuy nhiên, sau khi kí kết, mỗi công ty vẫn phải tự quyết định cách thực hiện các cam kết của mình.

Venkatasubramanian nhận xét: “Đó là màn thể hiện nhằm tạo cảm giác rằng các bên đang hành động, trong khi chưa có biện pháp cụ thể nào thực sự được triển khai". Theo ông, những việc họ cam kết làm vốn dĩ đã phải được thực hiện từ trước, thậm chí các công ty từng tuyên bố đã làm những việc đó.

Trong bài luận hồi tháng 9, Dario Amodei cho biết Anthropic sẽ cung cấp cho các chuyên gia đánh giá độc lập bàn làm việc, thẻ ra vào, laptop của công ty và các quyền truy cập có mức độ “phần lớn tương đương” với nhóm đánh giá rủi ro nội bộ.

Ngoài ra, các chuyên gia này cũng sẽ kí hợp đồng bảo đảm quyền công bố những phát hiện quan trọng. Anthropic chỉ giữ quyền hạn chế trong việc lược bỏ một số thông tin nhạy cảm về an ninh hoặc bí mật của công ty.

“Đây là bước đi khác thường với một doanh nghiệp, nhưng chúng tôi cho rằng cần thử nghiệm để chứng minh tính khả thi của phương án đưa chuyên gia đánh giá độc lập vào làm việc trực tiếp tại doanh nghiệp”, Dario Amodei viết.

Vài ngày sau, OpenAI cũng công bố đề xuất riêng. Theo đó, các chuyên gia đánh giá cần tập trung vào những vấn đề cụ thể đã được hai bên thống nhất từ trước, giải thích rõ phương pháp và tiêu chuẩn đánh giá, chứng minh năng lực chuyên môn phù hợp, đồng thời công khai mọi xung đột lợi ích có thể ảnh hưởng đến tính khách quan.

Tháng 9, Diễn đàn các tổ chức đánh giá AI, quy tụ METR, Viện Nghiên cứu xác minh và đánh giá AI (AVERI) cùng một số tổ chức khác, đã công bố thư ngỏ mang tên “Các điều kiện tối thiểu để đưa chuyên gia đánh giá độc lập vào doanh nghiệp”.

Thư ngỏ nêu rõ các chuyên gia đánh giá cần hoạt động minh bạch, được bảo vệ trước nguy cơ bị trả đũa và được tiếp cận thông tin ở mức tương đương với những nhân viên có quyền truy cập đặc biệt cao trong các công ty AI.

“Việc đưa chuyên gia đánh giá độc lập vào làm việc ngay trong doanh nghiệp không thể đáp ứng mọi nhu cầu giám sát. Cách làm này cần được xem là biện pháp bổ sung, chứ không thể thay thế những nỗ lực rộng lớn hơn của các công ty phát triển AI tiên tiến nhằm tăng cường sự giám sát từ bên ngoài”, thư ngỏ nêu rõ.

Freedman nhận thấy OpenAI và Anthropic đã thay đổi cách thể hiện quan điểm những tháng gần đây, phần lớn vì hai công ty nhận ra rằng không thể triển khai các mô hình AI tiên tiến nếu thiếu niềm tin của công chúng.

Theo Kevin Werbach, điều này làm nổi bật vấn đề cốt lõi: OpenAI và Anthropic trước hết vẫn là đối thủ cạnh tranh, trong lúc hướng tới việc IPO (chào bán cổ phiếu lần đầu ra công chúng) và tìm mức định giá có thể tới 2.000 tỉ USD.

“Giữa hai công ty đó tồn tại sự thiếu tin tưởng lẫn nhau ở mức độ rất lớn. Dù vậy, họ cũng có sự đồng thuận đáng kể rằng cần phải tiến hành hoạt động đánh giá an toàn AI như thế này”, Werbach bình luận.