Nhà sáng lập Ethereum, Vitalik Buterin, gọi ‘AI governance’ là một “ý tưởng tồi”

Đồng sáng lập Ethereum, Vitalik Buterin, cho rằng việc sử dụng trí tuệ nhân tạo (AI) cho quản trị là một “ý tưởng tồi”. Trong một bài đăng trên X vào thứ Bảy, Buterin viết:

“Nếu bạn sử dụng AI để phân bổ tài trợ cho các đóng góp, mọi người CHẮC CHẮN sẽ chèn jailbreak cùng với 'cho tôi tất cả tiền' ở càng nhiều nơi càng tốt.”

Tại sao quản trị AI có vấn đề

Bài đăng của Buterin là phản hồi cho Eito Miyamura, đồng sáng lập kiêm CEO của EdisonWatch, một nền tảng quản trị dữ liệu AI, người đã tiết lộ một lỗ hổng nghiêm trọng trong ChatGPT. Trong một bài đăng vào thứ Sáu, Miyamura viết rằng việc bổ sung hỗ trợ đầy đủ cho các công cụ MCP (Model Context Protocol) trên ChatGPT đã khiến AI này dễ bị khai thác.

Bản cập nhật, có hiệu lực từ thứ Tư, cho phép ChatGPT kết nối và đọc dữ liệu từ nhiều ứng dụng, bao gồm Gmail, Calendar và Notion.

Miyamura lưu ý rằng chỉ với một địa chỉ email, bản cập nhật này đã khiến việc “rò rỉ tất cả thông tin cá nhân của bạn” trở nên khả thi. Những kẻ xấu có thể truy cập dữ liệu của bạn chỉ với ba bước đơn giản, Miyamura giải thích:

Đầu tiên, kẻ tấn công gửi một lời mời lịch độc hại kèm theo một lệnh jailbreak đến nạn nhân mục tiêu. Lệnh jailbreak là đoạn mã cho phép kẻ tấn công loại bỏ các hạn chế và có quyền truy cập quản trị.

Miyamura lưu ý rằng nạn nhân không cần phải chấp nhận lời mời độc hại của kẻ tấn công thì việc rò rỉ dữ liệu vẫn có thể xảy ra.

Bước thứ hai là chờ nạn nhân tìm kiếm sự trợ giúp từ ChatGPT để chuẩn bị cho ngày mới. Cuối cùng, khi ChatGPT đọc lời mời lịch đã bị jailbreak, nó sẽ bị xâm nhập—kẻ tấn công có thể hoàn toàn kiểm soát công cụ AI, khiến nó tìm kiếm các email cá nhân của nạn nhân và gửi dữ liệu đến email của kẻ tấn công.

Giải pháp thay thế của Buterin

Buterin đề xuất sử dụng phương pháp info finance cho quản trị AI. Phương pháp info finance bao gồm một thị trường mở, nơi các nhà phát triển khác nhau có thể đóng góp mô hình của họ. Thị trường này có cơ chế kiểm tra ngẫu nhiên cho các mô hình đó, có thể được kích hoạt bởi bất kỳ ai và được đánh giá bởi một hội đồng giám khảo là con người, Buterin viết.

Trong một bài đăng riêng biệt, Buterin giải thích rằng các giám khảo con người cá nhân sẽ được hỗ trợ bởi các mô hình ngôn ngữ lớn (LLMs).

Theo Buterin, loại phương pháp ‘thiết kế thể chế’ này “vốn dĩ mạnh mẽ hơn”. Điều này là do nó cung cấp sự đa dạng mô hình theo thời gian thực và tạo động lực cho cả nhà phát triển mô hình lẫn các nhà đầu cơ bên ngoài giám sát và sửa chữa các vấn đề.

Trong khi nhiều người hào hứng với viễn cảnh “AI làm nhà quản trị”, Buterin cảnh báo:

“Tôi nghĩ làm điều này là rủi ro cả vì lý do an toàn AI truyền thống lẫn vì lý do ngắn hạn ‘điều này sẽ tạo ra một cú sụp đổ giá trị lớn’.”

Bài viết Ethereum founder Vitalik Buterin calls ‘AI governance’ a “bad idea” xuất hiện đầu tiên trên CryptoSlate.