OpenAI hậu thuẫn startup AI chống khủng bố sinh học bằng AI
Valthos đang phát triển các công cụ nhằm bảo vệ nhân loại trước nguy cơ tấn công bằng vũ khí sinh học - điều có thể được thúc đẩy bởi sự tiến bộ nhanh chóng của AI.
Một kịch bản ác mộng: Kẻ khủng bố không có nhiều chuyên môn, sử dụng trí tuệ nhân tạo (AI) để tạo ra siêu vi rút kết hợp thời gian ủ bệnh của HIV với khả năng lây nhiễm của sởi và tỷ lệ tử vong của đậu mùa. Center for AI Safety (*) đã mô tả đây là “kết cục tồi tệ nhất” của cuộc cách mạng AI trong một báo cáo gần đây. Đó cũng chính là điều khiến bà Kathleen McMahon mất ngủ.
Kathleen McMahon là đồng sáng lập kiêm Giám đốc điều hành Valthos, công ty khởi nghiệp phần mềm an ninh sinh học có trụ sở tại thành phố New York (Mỹ). Hôm 24.10, công ty gồm 9 thành viên này chính thức ra mắt sau thời gian ẩn mình, với 30 triệu USD vốn đầu tư từ OpenAI, Founders Fund và Lux Capital.
Phần mềm của Valthos thu thập dữ liệu sinh học từ các nguồn thương mại và chính phủ, gồm cả hệ thống giám sát chất lượng không khí hoặc nước thải, rồi sử dụng công cụ AI để xác định các mối đe dọa mới nổi và đánh giá rủi ro.
Valthos cũng đang phát triển các hệ thống AI để cập nhật thiết kế của các biện pháp đối phó y tế với mối đe dọa đang biến đổi, đồng thời có kế hoạch hợp tác với những hãng dược phẩm để sản xuất và phân phối.
“Cách duy nhất để ngăn chặn một cuộc tấn công là phải phát hiện sớm, cập nhật biện pháp ứng phó và triển khai nhanh chóng”, Kathleen McMahon nói.
Bà từng là lãnh đạo lâu năm của bộ phận khoa học sự sống tại Palantir Technologies, công ty phần mềm phân tích dữ liệu lớn của Mỹ, nổi tiếng với các sản phẩm phục vụ chính phủ, quân đội và doanh nghiệp trong việc xử lý, phân tích và trực quan hóa dữ liệu phức tạp.
Kathleen McMahon thành lập Valthos cùng Tess van Stekelenburg, đối tác đầu tư của quỹ Lux Capital, người có bằng cấp về sinh học và khoa học thần kinh tính toán. Van Stekelenburg cho biết bà đã tìm kiếm một hãng chuyên về phòng thủ sinh học để đầu tư suốt nhiều năm, trước khi quyết định thành lập Valthos cùng Kathleen McMahon.
Phòng thủ sinh học là tập hợp các biện pháp, chiến lược và công nghệ nhằm phòng ngừa, phát hiện và ứng phó với các mối đe dọa sinh học, gồm dịch bệnh tự nhiên, tai nạn phòng thí nghiệm hoặc tấn công bằng vũ khí sinh học do con người tạo ra.
Công nghệ quốc phòng đang trở thành lĩnh vực nóng trong đầu tư mạo hiểm khi các quỹ tại Thung lũng Silicon (Mỹ) đổ hàng tỉ USD vào máy bay không người lái (drone) tự hành, công nghệ hạt nhân tiên tiến và các dự án an ninh quốc gia khác. Tuy nhiên, đầu tư cho lĩnh vực công nghệ sinh học, gồm cả phòng thủ chống vũ khí sinh học, đã giảm xuống mức thấp nhất trong hơn một thập kỷ, theo dữ liệu từ hãng nghiên cứu PitchBook.
Cùng lúc đó, sự phát triển mạnh mẽ của AI khiến những rủi ro trong công nghệ sinh học trở nên nghiêm trọng hơn. Hồi đầu năm 2025, Ủy ban An ninh Quốc gia về Công nghệ Sinh học Mới nổi của Mỹ đã ban hành một báo cáo về lĩnh vực này, kêu gọi đầu tư nhiều hơn.
“Sẽ có một khoảnh khắc ChatGPT của ngành công nghệ sinh học. Nếu Trung Quốc đạt được điều đó trước, dù chúng ta có chạy nhanh đến đâu cũng sẽ không thể bắt kịp”, các tác giả viết.
Center for AI Safety (Trung tâm An toàn AI) là tổ chức phi lợi nhuận có trụ sở tại thành phố San Francisco (Mỹ), hoạt động với mục tiêu nghiên cứu, cảnh báo và giảm thiểu các rủi ro do AI gây ra cho nhân loại.
Center for AI Safety được thành lập vào năm 2022 bởi Dan Hendrycks, nhà nghiên cứu nổi tiếng trong lĩnh vực an toàn AI, từng cộng tác với nhiều dự án của Google và các phòng thí nghiệm AI hàng đầu. Tổ chức này tập trung vào các chủ đề như kiểm soát mô hình ngôn ngữ lớn, nguy cơ AI tự chủ vượt khỏi kiểm soát, tác động của AI với sinh học tổng hợp, rủi ro hệ thống nếu các hệ thống AI tiên tiến bị lạm dụng.
Center for AI Safety thu hút sự chú ý toàn cầu vào năm 2023 khi công bố “Tuyên bố về rủi ro AI”, được ký bởi hơn 350 chuyên gia và lãnh đạo công nghệ, trong đó có Sam Altman (Giám đốc điều hành OpenAI), Demis Hassabis (Giám đốc điều hành Google DeepMind) và Geoffrey Hinton (“cha đẻ của AI hiện đại”). Bản tuyên bố khẳng định rằng “giảm thiểu nguy cơ tuyệt chủng do AI nên là ưu tiên toàn cầu, ngang với đại dịch và chiến tranh hạt nhân”.
Ngoài nghiên cứu, Center for AI Safety còn hợp tác với các tổ chức chính phủ, học viện và công ty công nghệ để xây dựng tiêu chuẩn đạo đức, khung pháp lý và hướng dẫn kỹ thuật cho việc phát triển AI an toàn.
Khoản đầu tư đầu tiên của OpenAI trong lĩnh vực an ninh sinh học
Các công ty phát triển mô hình ngôn ngữ lớn cho biết đang tự tiến hành đánh giá rủi ro và phát triển biện pháp ngăn chặn việc lạm dụng công nghệ cho mục đích tội phạm. Jason Kwon, Giám đốc chiến lược tại OpenAI, nói Valthos là khoản đầu tư đầu tiên của “cha đẻ ChatGPT” trong lĩnh vực an ninh sinh học. Tuy nhiên, ông cũng gợi ý rằng công ty có thể mở rộng hơn ở mảng này.
“Chúng ta cần một hệ thống công nghệ đối trọng để làm cho toàn bộ mạng lưới trở nên vững chắc hơn”, Jason Kwon nói. Ông cho biết OpenAI “liên tục phát triển các biện pháp bảo vệ” để ngăn chặn việc ChatGPT bị sử dụng sai mục đích, đồng thời nhấn mạnh rằng an ninh sinh học hiệu quả đòi hỏi một mạng lưới đa dạng các bên liên quan. “Chúng ta phải xây dựng một hệ sinh thái”, Jason Kwon nhấn mạnh.
Chính phủ liên bang Mỹ gần đây đã cắt giảm ngân sách cho các dự án phòng thủ sinh học, trong khi khu vực tư nhân cũng giảm chi tiêu, một phần vì đầu tư vào công nghệ sinh học không phải lúc nào cũng sinh lợi.
“Vấn đề là liệu số tiền đầu tư này có đủ và liệu chúng ta có thể triển khai giải pháp đúng cách hay không. Các công ty tư nhân rất khó vượt qua ‘thung lũng chết’ đầu tư và tìm ra con đường dẫn đến thành công”, Daniel Regan, chuyên gia an ninh sinh học tại Council on Strategic Risks (*), nhận xét.
Tuy nhiên, AI và sự chú trọng ngày càng tăng vào công nghệ quốc phòng có thể đang thay đổi cục diện, giúp các công ty như Valthos phát triển. Delian Asparouhov, đối tác của quỹ đầu tư mạo hiểm Founders Fund, cho biết vài năm trước, việc đầu tư vào một công ty như Valthos là điều “không thể tưởng tượng được”, nhưng những đột phá công nghệ gần đây đã làm tăng cả nguy cơ tạo ra vũ khí sinh học bằng AI lẫn cơ hội để ngăn chặn chúng.
“Trước năm 2025, chủ đề này chỉ là lời đồn đại, nhưng giờ nó thực sự đã trở thành vấn đề nóng hổi”, ông Delian Asparouhov nói.
Delian Asparouhov quen biết Tess van Stekelenburg kể từ khi công ty Lux của bà hỗ trợ hãng sản xuất thuốc không gian Varda Space Industries.
Do chính phủ Mỹ sẽ là khách hàng chính của Valthos, Giám đốc điều hành Kathleen McMahon cho biết công ty khởi nghiệp này sẽ áp dụng những kinh nghiệm mà bà học được tại Palantir Technologies trong làm việc với các quan chức cũng như khách hàng thương mại. “Chúng tôi cần gặp gỡ và hỗ trợ các nhà vận hành ngay tại nơi họ làm việc”, bà nói.
Brandon Reeves, đối tác của quỹ đầu tư mạo hiểm Lux Capital, nói hiện có rất ít công ty khởi nghiệp xây dựng công cụ cho lĩnh vực an ninh sinh học. Tuy nhiên, ông tin rằng Valthos sẽ là công ty đầu tiên trong làn sóng mới tập trung vào lĩnh vực này.
“Chúng ta mới chỉ ở giai đoạn khởi đầu, nhưng tôi tin rằng mối đe dọa này nên được xem là nghiêm trọng tương đương với hạt nhân hoặc tấn công mạng”, Brandon Reeves nhận định.
Council on Strategic Risks (Hội đồng về Rủi ro Chiến lược) là tổ chức nghiên cứu và tư vấn phi lợi nhuận có trụ sở tại Washington D.C (thủ đô Mỹ), chuyên tập trung vào việc phân tích, dự báo và giảm thiểu các mối đe dọa an ninh toàn cầu có thể ảnh hưởng đến hòa bình và ổn định quốc tế.
Council on Strategic Risks được thành lập vào năm 2018 bởi một nhóm chuyên gia an ninh quốc gia, nhà khoa học và cựu quan chức chính phủ Mỹ. Mục tiêu của tổ chức là giúp các chính phủ, tổ chức quốc tế và khu vực tư nhân hiểu rõ hơn về những rủi ro chiến lược mới nổi, gồm vũ khí hủy diệt hàng loạt, biến đổi khí hậu, đại dịch sinh học, công nghệ tiên tiến như AI và sinh học tổng hợp, cũng như các mối đe dọa lai.
Mối đe dọa lai là khái niệm dùng để chỉ những hình thức tấn công hoặc gây bất ổn kết hợp nhiều phương tiện, chiến thuật và lĩnh vực khác nhau, gồm cả quân sự, chính trị, kinh tế, công nghệ, mạng và thông tin, nhằm đạt được mục tiêu chiến lược mà không cần tuyên chiến công khai.