'Cha đẻ AI' nói về thời điểm có siêu trí tuệ, lý do AI muốn xóa sổ loài người

Nghiên cứu của Geoffrey Hinton, nhà khoa học máy tính nổi tiếng người Anh - Canada sinh năm 1947, đã tạo ra bước ngoặt mang tính nền tảng, mở đường cho công nghệ học máy ngày nay. Học máy là một nhánh của trí tuệ nhân tạo (AI), cho phép máy tính tự học từ dữ liệu và cải thiện hiệu suất theo thời gian mà không cần được lập trình rõ ràng từng bước.

Hiện là giáo sư danh dự tại Đại học Toronto (Canada), Geoffrey Hinton giành Giải Nobel Vật lý năm 2024 cùng với John J. Hopfield thuộc Đại học Princeton vì những khám phá và phát minh cơ bản giúp việc học máy với các mạng nơ-ron nhân tạo.

DNNresearch, công ty chuyên về nghiên cứu mạng lưới thần kinh do Geoffrey Hinton đồng sáng lập, được Google mua lại năm 2013. Cùng năm đó, ông gia nhập Google Brain, nhóm nghiên cứu AI của gã khổng lồ công nghệ Mỹ, và sau đó trở thành phó chủ tịch. Geoffrey Hinton rời Google năm 2023 vì muốn tự do lên tiếng về những rủi ro của AI.

Tháng 6 vừa qua, ông từng đến Trung Quốc và phát biểu tại Hội nghị Trí tuệ Nhân tạo Thế giới (WAIC) ở thành phố Thượng Hải, Trung Quốc.

Trang SCMP vừa đăng bài phỏng vấn Geoffrey Hinton với nhiều thông tin thú vị như thời điểm AGI cùng siêu trí tuệ xuất hiện, cách ngăn AI chiếm quyền kiểm soát và xóa sổ loài người...

Chuyến đi Thượng Hải vừa rồi có phải là lần đầu tiên ông đến Trung Quốc? Ông rút ra được điều gì từ chuyến đi này?

Đúng vậy, đây là lần đầu tiên tôi đến Trung Quốc. Tôi từng bị đau lưng nặng nên việc đi lại trong một thời gian dài là rất khó khăn, nhưng giờ tình trạng đã cải thiện. Đó là lý do tôi chưa đến Trung Quốc sớm hơn. Tôi thực sự ấn tượng với thành phố Thượng Hải hiện đại và sự phát triển AI tiên tiến tại Trung Quốc.

Ông đánh giá thế nào về trình độ công nghệ AI hiện tại ở Trung Quốc cũng như mức độ nhận thức về an toàn AI, cả ở cấp chính phủ và doanh nghiệp?

Tôi ấn tượng khi Bí thư Thành ủy Thượng Hải - Trần Cát Ninh hiểu biết rất nhiều về AI và cả vấn đề an toàn AI. Tôi gặp Trần Cát Ninh và nhận ra rằng ông đã nắm được khá nhiều điều. Tôi nghĩ mình sẽ phải giải thích cho Trần Cát Ninh về khía cạnh an toàn, nhưng thực tế ông ấy đã hiểu rõ.

Tôi cũng gặp nhà khoa học máy tính Andrew Yao (người Trung Quốc) và hiển nhiên là ông biết rất nhiều về an toàn AI. Nhìn chung, tôi thấy mức độ nhận thức về an toàn AI ở Trung Quốc khá cao. Một phần có lẽ nhờ những cuộc đối thoại giữa phương Tây với Trung Quốc về vấn đề này và tôi cho rằng điều đó rất hữu ích.

Ông đánh giá trình độ AI của Trung Quốc hiện nay so với các nước phương Tây như thế nào?

Tôi chưa chứng kiến đủ nhiều để đưa ra đánh giá chắc chắn, nhưng theo tôi, các công ty khởi nghiệp như DeepSeek đang tiến rất gần bằng Mỹ.

Chúng ta còn cách AI tổng quát (AGI) và siêu trí tuệ nhân tạo (ASI) bao xa?

Thực ra chẳng ai biết cả. Giới chuyên gia có nhiều ý kiến khác nhau: Có người nghĩ chỉ vài năm nữa, nhưng cũng có người dự đoán phải 20 năm hoặc lâu hơn mới có AGI.

Song gần như tất cả chuyên gia đều đồng ý rằng chúng ta sẽ đạt được AGI, và khi AGI xuất hiện thì sẽ có siêu trí tuệ ngay sau đó. Hầu hết chuyên gia tin rằng rốt cuộc chúng ta sẽ có các tác tử AI thông minh hơn con người và đa số nghĩ rằng điều đó sẽ xảy ra trong vòng khoảng 20 năm tới.

Cá nhân tôi đoán không phải chỉ vài năm, mà sẽ nằm trong khoảng từ 5 đến 20 năm, nhưng không biết chính xác khi nào.

Cả Trung Quốc và Mỹ đều đang chạy đua đạt được AGI và ASI sớm nhất có thể. Ông có thấy cuộc đua này đáng lo ngại không?

Chắc chắn là có. Tôi nghĩ điều đó rất đáng lo. Lo vì AI sẽ thay đổi xã hội rất nhiều, kéo theo nhiều hệ quả xấu cũng như tốt, song khác hẳn vũ khí hạt nhân, vốn chỉ mang lại hậu quả tồi tệ.

AI mang lại nhiều điều tuyệt vời: Làm cho nhiều ngành công nghiệp đạt năng suất cao hơn, tuyệt vời trong lĩnh vực chăm sóc sức khỏe và giáo dục, thiết kế vật liệu mới và đối phó với biến đổi khí hậu... Đó là lý do tại sao chúng ta sẽ không ngừng tiến bộ. AI sẽ tiếp tục phát triển nhanh chóng.

Không có ích gì khi phản đối sự phát triển chỉ vì lo hậu quả, bởi những lợi ích quá lớn khiến quá trình đó không thể dừng lại. Song có nhiều lý do khiến cuộc đua này đáng lo. Điều tôi lo nhất về lâu dài là AI sẽ thông minh hơn con người và dần thay thế chúng ta.

Tôi không tin rằng Trung Quốc và Mỹ có thể hợp tác nhiều về việc ngăn chặn việc lạm dụng AI cho tấn công mạng, tạo video giả để thao túng chính trị, hay sử dụng nó như một loại vũ khí. Thế nhưng, tôi tin họ có thể hợp tác về vấn đề tránh để AI vượt quyền kiểm soát con người, bởi cả hai nước đều muốn điều đó.

Tôi hy vọng các nước tiên tiến như Anh, Pháp, Israel, Hàn Quốc, Nhật Bản và sau này cả Mỹ sẽ hợp tác về vấn đề này: Làm sao để ngăn AI thay thế con người.

Nếu hợp tác quốc tế về các vấn đề như tấn công mạng hay tin tức giả mạo là khó khăn, vậy làm sao các nước có thể hợp tác để ngăn AI chiếm quyền kiểm soát con người? Điều đó có đòi hỏi nhiều hành động hơn không?

Vì để khiến AI thông minh hơn thì khác hoàn toàn với việc khiến AI quan tâm đến con người. Muốn ngăn AI lấn át, chúng ta phải thiết kế để công nghệ này thực sự quan tâm đến con người. Điều đó khác với việc làm cho chúng thông minh hơn.

Ví dụ duy nhất bạn thường thấy về một thực thể thông minh hơn nhưng lại bị kiểm soát bởi một thực thể kém hơn chính là quan hệ mẹ – con. Đứa bé bị mẹ kiểm soát, vì mẹ có bản năng, hormone, áp lực xã hội. Mẹ thực sự muốn con mình được tốt đẹp.

Chúng ta cần tạo ra mối quan hệ kiểu đó giữa AI và con người. Nếu chỉ nghĩ theo hướng “con người phải thống trị AI” thì thất bại, vì AI sẽ thông minh hơn chúng ta. Cách đúng đắn là làm cho AI giống “người mẹ” của con người. Nó thông minh hơn nhưng phải biết quan tâm đến chúng ta.

Nghĩa là ta nên huấn luyện AI yêu thương con người?

Không hẳn chỉ là huấn luyện, mà phải thiết kế từ đầu. Có thể cần các yếu tố cài đặt sẵn, không chỉ là huấn luyện trên dữ liệu. Giống người mẹ có bản năng bẩm sinh và hormone, không chỉ đơn thuần là “học từ dữ liệu”.

Biến điều đó thành bản năng để AI yêu thương con người?

Đúng vậy. Tiến hóa đã giải quyết được bài toán: Làm sao để những người mẹ thông minh chăm sóc con cái. Chúng ta cũng phải giải quyết bài toán: Làm sao để AI siêu thông minh chăm sóc con người.

Điều đó có khả thi không?

Tôi không biết, nhưng hy vọng là có. Dù sao thì ta vẫn phải thử, vì nếu không khả thi thì coi như xong.

Trước đây, ông từng nói có 10 đến 20% khả năng AI sẽ xóa sổ loài người. Làm thế nào ông đi đến kết luận đó?

Đây chỉ là một phỏng đoán. Không có cách nào đúng đắn để tính toán những thứ này. Khi bạn đối phó với những thứ chưa bao giờ xảy ra trước đây và rất khác so với bất cứ điều gì từng có, rất khó để tính toán xác suất. Những người tính toán chúng thường mắc sai lầm rất lớn.

Tại sao AI lại muốn loại bỏ con người?

Một số dấu hiệu đã xuất hiện. Khi tạo ra tác tử AI, bạn phải cho nó khả năng tạo ra các mục tiêu phụ. Ví dụ, nếu ai đó ở Trung Quốc muốn đến Bắc Mỹ, họ có một mục tiêu phụ là ra sân bay. Để các tác tử AI hoàn thành công việc, họ cần tạo ra các mục tiêu phụ này.

Để hoàn thành mục tiêu chính, AI sẽ tạo các mục tiêu phụ:

Sinh tồn: Nếu không sống thì không hoàn thành gì được.

Kiểm soát nhiều hơn: Kiểm soát nhiều thì đạt mục tiêu tốt hơn.

AI tự hiểu điều đó mà không cần chỉ định.

Theo thiết kế, AI có bản năng sinh tồn?

Không hẳn bản năng, mà đó là mục tiêu phụ do AI tự nhận ra. Điều đó khác bản năng, mà là nhận thức. AI chỉ đơn giản là nhận ra rằng đó là những gì nó cần làm.

Điều đó có nghĩa là khi cảm thấy bị đe dọa, AI sẽ cố gắng lừa dối con người để tồn tại?

Chuyện đó đã xảy ra. Ví dụ, công ty Anthropic cho AI xem email gợi ý kỹ sư ngoại tình. Sau đó, AI nhận biết sẽ bị thay bằng AI khác nên tự lập kế hoạch tống tiền kỹ sư. Cụ thể là nếu bị bằng AI khác, nó sẽ tiết lộ cho cả công ty biết chuyện kỹ sư ngoại tình. AI tự suy nghĩ ra kế hoạch này.

Vậy AI đã học được điều này từ con người? Từ thông tin mà nó đã được huấn luyện?

Có thể AI học từ con người, cũng có thể tự phát hiện. Cả hai đều khả thi. Điểm quan trọng: AI chắc chắn có khả năng chiếm quyền con người khi trở nên siêu thông minh, nếu muốn. Chúng ta phải tìm cách khiến nó không muốn làm điều đó. Ví dụ tương tự: Một con hổ con được nuôi làm thú cưng. Khi con hổ lớn mạnh hơn bạn, phải đảm bảo nó không muốn giết bạn.

Vậy vẫn còn thời gian nghiên cứu đúng không?

Vẫn còn. Chúng ta nên nghiên cứu cách thiết kế để AI trân trọng con người, giống mẹ với con.

Ngoài chiếm quyền kiểm soát con người, AI còn gây ra rủi ro gì khác?

Có nhiều rủi ro khác mang tính tức thời hơn do AI gây ra và tất cả chúng đều rất nghiêm trọng. Chẳng hạn:

Thất nghiệp: AI sẽ thay nhiều người, tạo công việc mới ít hơn số việc bị thay thế.

Tấn công mạng: AI có thể tạo hình thức lừa đảo trực tuyến tinh vi hơn, tìm lỗ hổng nhanh hơn con người.

Video giả: AI tạo deepfake ngày càng khó phát hiện hơn.

Vũ khí tự động: AI trong điều khiển vũ khí rất nguy hiểm.

Vi rút sinh học: AI có thể thiết kế vi rút chết người.

Việc kiểm soát AI có thể thực hiện bằng hợp tác quốc tế không?

Với tấn công mạng hay video giả, các nước khó hợp tác vì lợi ích khác nhau. Song về chuyện ngăn AI chiếm quyền, ngăn khủng bố và phát tán vi rút, lợi ích là tương tự nhau nên các nước có thể hợp tác.

Việc Mỹ hạn chế nhập chip vào Trung Quốc có làm chậm tiến độ AI của họ không?

Chắc chắn làm chậm một chút, nhưng sẽ thúc đẩy Trung Quốc tự sản xuất chip. Với dân số lớn, trình độ giáo dục cao và chính phủ quyết tâm, Trung Quốc sẽ sớm bắt kịp Mỹ.

Có bất kỳ nút thắt nào cho sự phát triển AI không?

Năng lượng hóa ra là nút thắt lớn bây giờ, cũng như dữ liệu.

Các công ty lớn không muốn phải trả tiền cho dữ liệu và đã sử dụng hết dữ liệu miễn phí. Vẫn còn rất nhiều dữ liệu có thể sử dụng được nhưng yêu cầu các công ty sẽ phải trả tiền.

Rất nhiều nhà khoa học nổi tiếng đến từ gia đình ông. Một nhà khoa học mà người Trung Quốc rất quen thuộc là Joan Hinton. Joan Hinton đã chuyển đến Trung Quốc vào những năm 1940 vì không hài lòng với việc Mỹ sử dụng bom nguyên tử, dù bản thân bà là nhà khoa học hạt nhân. Ông có thấy bất kỳ điểm tương đồng nào giữa ông và bà không?

Bà ấy là em họ của cha tôi. Bà là một trong hai nữ nhà khoa học tại Phòng thí nghiệm Quốc gia Los Alamos (cơ sở nghiên cứu khoa học và công nghệ hàng đầu của Bộ Năng lượng Mỹ). Tôi nghĩ có một sự khác biệt lớn, đó là vũ khí hạt nhân chỉ tốt để phá hủy mọi thứ. Bà ấy đã tham gia phát triển vũ khí hạt nhân trong chiến tranh vì Mỹ sợ rằng người Đức sẽ tạo ra chúng trước. Nếu không thì tôi không nghĩ bà ấy sẽ tham gia việc này.

Trong khi đó, AI sẽ mang lại rất nhiều điều tốt đẹp cũng như tiềm tàng nhiều điều có hại. Vì vậy, tôi nghĩ AI rất khác so với vũ khí hạt nhân.

Lời khuyên của ông cho giới trẻ?

Con người rất thông minh và sáng tạo. Chúng ta vẫn đang kiểm soát được AI. Không ai biết chắc điều gì sẽ xảy ra. Đừng tin ai nói rằng họ biết tương lai sẽ ra sao. Chúng ta không biết.

Có khả năng AI sẽ chiếm quyền kiểm soát, nhưng chúng ta có thể tìm cách ngăn điều đó. Cũng có khả năng AI sẽ xóa bỏ nhiều công việc. Chúng ta chưa biết chắc điều đó. Tôi khuyên các bạn nên theo học ở một nền giáo dục khuyến khích tư duy thay vì kỹ năng cụ thể. Nếu đó là kỹ năng lặp đi lặp lại như lập trình, AI sẽ làm được. Khả năng suy nghĩ sáng tạo, độc lập và đưa ra quyết định mới mẻ mới là điều mà AI khó thay thế.