Cựu nhân sự OpenAI và Anthropic cảnh báo: AI có thể trở thành rủi ro lớn nhất với nhân loại trong thập kỷ tới

Jacob Coxon, 27 tuổi, mới đây quyết định rời Anthropic. Trong các bài đăng trên X, anh cho rằng những công ty đang phát triển các hệ thống AI tiên tiến đang chấp nhận một mức rủi ro rất lớn, thậm chí có thể đe dọa đến sự tồn vong của nhân loại.

Theo Coxon, nhiều người vẫn chưa đánh giá đúng tốc độ mà AI đang tiến bộ. Trong tương lai không xa, các hệ thống AI có thể vượt con người ở ngày càng nhiều lĩnh vực, đồng thời có khả năng tác động đến hệ thống máy tính, thay đổi nhiều ngành nghề và tự tìm cách tiếp cận các nguồn lực cần thiết.

Điều khiến những nhận định này thu hút sự chú ý là Coxon từng trực tiếp làm việc trong ngành. Anh từng có thời gian nghiên cứu tại OpenAI trước khi chuyển sang Anthropic, hai cái tên đang đứng ở tuyến đầu của cuộc đua phát triển AI hiện nay.

Không giống những nội dung công nghệ thường được lan truyền qua truyền thông hay quảng cáo facebook, những cảnh báo của Coxon xuất phát từ chính trải nghiệm của một người từng tham gia vào quá trình nghiên cứu và phát triển các hệ thống AI.

Khả năng AI gây thảm họa được đánh giá trên 10%

Nhận định của Coxon sau đó nhận được sự đồng tình từ Evan Hubinger, nhà nghiên cứu chuyên về AI alignment tại Anthropic.

Hubinger cho rằng Coxon có lý khi nói rằng những người trực tiếp xây dựng AI thực sự nhận thức được khả năng công nghệ này có thể gây ra hậu quả nghiêm trọng, thậm chí dẫn tới kịch bản con người mất kiểm soát hoàn toàn.

Đáng chú ý, Hubinger tự đánh giá xác suất AI có thể tiêu diệt toàn bộ nhân loại trong vòng một thập kỷ tới là trên 10%.

Con số này không phải một dự đoán chắc chắn về tương lai mà là đánh giá chủ quan về mức độ rủi ro. Tuy nhiên, nó gây chú ý bởi Hubinger đang làm việc trong lĩnh vực AI alignment – một lĩnh vực tập trung vào việc bảo đảm AI hoạt động phù hợp với mục tiêu và giá trị của con người.

Theo Hubinger, Anthropic đang nỗ lực giải quyết bài toán này nhưng hiện chưa có một kế hoạch đủ chắc chắn để xử lý vấn đề alignment khi AI đạt tới mức siêu trí tuệ.

Ông cũng phân biệt khá rõ giữa AI hiện tại và những hệ thống có thể xuất hiện trong tương lai. Các mô hình hiện nay được đánh giá là có rủi ro tương đối thấp, trong khi mối lo lớn hơn nằm ở những AI có khả năng tự cải thiện.

Nếu một hệ thống có thể tự thiết kế, điều chỉnh và phát triển thế hệ AI tiếp theo mà không cần con người can thiệp đáng kể, tốc độ tiến bộ có thể tăng lên rất nhanh. Khi đó, việc giám sát và kiểm soát hệ thống sẽ trở nên khó khăn hơn nhiều.

Cuộc đua AI khiến chính người trong ngành lo ngại

Những cảnh báo trên xuất hiện trong bối cảnh các công ty công nghệ lớn vẫn đang liên tục nâng cấp năng lực của những mô hình AI mới.

Theo Coxon, ngành AI đang tiến gần hơn tới viễn cảnh xuất hiện các hệ thống có khả năng tự cải thiện, trong khi những biện pháp an toàn hiện tại chưa chắc đã đủ để bảo đảm con người duy trì quyền kiểm soát.

Đây cũng là nghịch lý đáng chú ý của cuộc đua AI: chính những người tham gia xây dựng công nghệ lại là một trong những nhóm lên tiếng mạnh mẽ nhất về những nguy cơ tiềm ẩn.

Steven Adler, đồng sáng lập tổ chức phi lợi nhuận Guidelight AI Standards và từng nghiên cứu về an toàn AI tại OpenAI, cho rằng các cảnh báo từ người trong cuộc càng cho thấy ngành công nghệ cần đánh giá lại cách tiếp cận hiện nay.

Trước đó, khoảng 1.400 nhà nghiên cứu AI đã ký thư ngỏ kêu gọi chính phủ Mỹ xây dựng các công cụ cần thiết để chủ động kiểm soát tốc độ phát triển của những hệ thống AI tiên tiến.

OpenAI và Anthropic cũng từng thừa nhận rủi ro

Lo ngại về khả năng AI gây ra thảm họa trên quy mô toàn cầu không phải vấn đề mới.

Năm 2023, nhiều nhà nghiên cứu và lãnh đạo trong ngành, trong đó có CEO OpenAI Sam Altman và CEO Anthropic Dario Amodei, từng ký tuyên bố kêu gọi xem việc giảm nguy cơ tuyệt chủng do AI gây ra trở thành một ưu tiên toàn cầu. Mức độ rủi ro này được đặt cạnh những mối đe dọa lớn như đại dịch và chiến tranh hạt nhân.

Bản thân OpenAI cũng thừa nhận ngành AI vẫn còn nhiều vấn đề chưa được giải quyết. Nhà khoa học trưởng Jakub Pachocki gần đây cho rằng chưa công ty AI nào có thể giải quyết hoàn toàn bài toán alignment và giám sát ở mức cần thiết để vừa tăng năng lực AI với tốc độ cao vừa bảo đảm an toàn trong dài hạn.

Ông đồng thời kêu gọi các công ty cân nhắc giảm tốc độ phát triển cho đến khi ngành này có được những tiêu chuẩn an toàn chung. Việc phối hợp giữa các chính phủ cũng được xem là yếu tố quan trọng khi AI tiếp tục phát triển.

Tại Mỹ, một số nghị sĩ đã bắt đầu thúc đẩy các đề xuất nhằm kiểm soát quá trình phát triển và triển khai những hệ thống AI tiên tiến. Dù vậy, cách thức quản lý ngành công nghệ này vẫn chưa đạt được sự đồng thuận rộng rãi.

Câu hỏi lớn nhất hiện nay không đơn thuần là AI có thể phát triển nhanh đến đâu, mà là con người có thể kiểm soát được tốc độ đó hay không. Khi những người trực tiếp xây dựng công nghệ cũng cảnh báo về những rủi ro tiềm tàng, vấn đề an toàn AI ngày càng trở thành chủ đề được quan tâm, không khác cách các chiến dịch quảng cáo facebook phải liên tục thay đổi để thích ứng với một môi trường công nghệ ngày càng phức tạp.

Cuộc đua AI vì thế đang đứng trước một bài toán khó: tiếp tục tăng tốc để không bị đối thủ bỏ lại phía sau, hay chậm lại để có thêm thời gian xây dựng những cơ chế đủ mạnh nhằm kiểm soát công nghệ.