Vitalik: Lo ngại về AGI và ASI, ủng hộ việc xây dựng các công cụ tăng cường trí tuệ cho con người thay vì tạo ra sự sống siêu thông minh

Vào ngày 22 tháng 12, để đáp lại những phát triển sản phẩm liên quan đến AGI gần đây trong lĩnh vực OpenAI và AI, nhà sáng lập Ethereum Vitalik Buterin đã đăng trên nền tảng X rằng, "Định nghĩa của tôi về AGI (Trí tuệ Nhân tạo Tổng quát) là: AGI là một trí tuệ nhân tạo đủ mạnh mà nếu một ngày nào đó tất cả con người đột ngột biến mất và AI này được tải lên một cơ thể robot, nó sẽ có thể tiếp tục nền văn minh một cách độc lập.

Rõ ràng, đây là một định nghĩa rất khó để đo lường, nhưng tôi nghĩ đây chính là sự khác biệt trực giác cốt lõi giữa 'AI mà chúng ta quen thuộc' và 'AGI' trong tâm trí của nhiều người. Nó đánh dấu sự chuyển đổi từ một công cụ liên tục dựa vào đầu vào của con người sang một dạng sống tự túc. ASI (Trí tuệ Siêu nhân tạo) là một vấn đề hoàn toàn khác - định nghĩa của tôi là khi con người không còn thêm giá trị vào năng suất trong chu kỳ (giống như trong các trò chơi cờ vua mà chúng ta chỉ mới đạt đến điểm này trong thập kỷ qua.)

Vâng, ASI làm tôi sợ - thậm chí AGI mà tôi định nghĩa cũng làm tôi sợ vì nó mang lại những rủi ro rõ ràng về việc mất kiểm soát. Tôi ủng hộ việc tập trung công việc của chúng ta vào việc xây dựng các công cụ tăng cường trí tuệ cho con người thay vì xây dựng các dạng sống siêu thông minh."