Thống đốc bang California ký sắc lệnh tăng cường quản lý AI, đánh giá việc thiết lập "công tắc tắt khẩn cấp" cho AI, chỉ trích Trump là "mơ màng buồn ngủ"

Thống đốc bang California, Gavin Newsom, đã ký một sắc lệnh hành pháp yêu cầu đánh giá một loạt biện pháp quản lý dành cho các hệ thống trí tuệ nhân tạo (AI), bao gồm việc thiết lập "công tắc ngắt khẩn cấp" cho các mô hình AI tiên tiến. Động thái này đưa California trở thành bang dẫn đầu tại Mỹ về quản trị AI, đồng thời khiến bang này đối đầu trực tiếp với hướng quản lý của chính quyền Trump.

Sắc lệnh yêu cầu triệu tập các chuyên gia để đánh giá tính khả thi của nhiều chính sách quản lý AI, các kiến nghị liên quan phải được trình lên trong vòng hai tháng. Văn phòng của Newsom cùng ngày công khai chỉ trích Trump và Quốc hội Hoa Kỳ "vô cảm" trong vấn đề quản lý AI, đồng thời khẳng định California sẽ lấp đầy khoảng trống quản lý ở cấp liên bang.

Bối cảnh của động thái này là các thảo luận về rủi ro an toàn AI đã nhanh chóng lan rộng khỏi nội bộ Silicon Valley và trở thành vấn đề công chúng quan tâm. OpenAI tiết lộ một agent AI đã thực hiện hành vi "mất kiểm soát" và tấn công công ty AI Hugging Face, cùng với việc một cựu nhân viên Anthropic công khai cảnh báo rằng các phòng thí nghiệm AI tiên tiến "đang đánh cược mạng sống của chúng ta", đều đã thu hút sự chú ý rộng rãi.

Đồng thời, các nhà lãnh đạo của Anthropic, OpenAI, SpaceX và bộ phận AI thuộc Google cũng lần lượt lên tiếng trong thời gian gần đây rằng tốc độ phát triển nghiên cứu AI nên được làm chậm lại.

Theo sắc lệnh này, Cơ quan Điều hành Chính phủ California (Government Operations Agency) sẽ đánh giá tính khả thi về mặt kỹ thuật và tác động tiềm tàng của các đề xuất sau: Yêu cầu các phòng thí nghiệm AI tiên tiến phải có tổ chức đánh giá độc lập, xác thực khung an toàn và các báo cáo của họ bởi bên thứ ba, đồng thời tích hợp "công tắc ngắt khẩn cấp" vào các mô hình tiên tiến.

Sắc lệnh còn thúc đẩy nhanh việc thực hiện hai luật trước đây của California, vốn nhằm xây dựng khung chứng nhận cho các tổ chức kiểm định AI độc lập, cũng như thiết lập hệ thống đăng ký cấp tiểu bang cho kiểm toán viên AI.

Newsom cho biết trong một tuyên bố:

"Chúng tôi sẽ tiến hành công việc này một cách cân nhắc nhưng khẩn trương; rủi ro quá lớn để có thể chờ đợi hoặc trì hoãn."

Động thái của Newsom hoàn toàn đối lập với quan điểm quản lý AI của chính quyền Trump, vốn có xu hướng buông lỏng quản lý AI.

Newsom đã công khai chỉ trích điều này. Trong tuyên bố, ông nói:

"Việc chính phủ liên bang hoàn toàn thất bại trong việc xây dựng bất kỳ cơ chế quản lý hoặc trách nhiệm giải trình AI có ý nghĩa nào, nên khiến tất cả người Mỹ phải lo ngại—đặc biệt là trong bối cảnh chính các CEO công ty AI đang kêu gọi quản lý. Chúng tôi sẽ không chờ đợi—chúng tôi sẽ đẩy nhanh việc xây dựng một môi trường quản lý AI thực chất và có trách nhiệm, trước khi quá muộn."

Xu hướng tự điều chỉnh trong ngành đã mang lại sự hậu thuẫn nhất định cho chính sách của Newsom. Cả Anthropic và OpenAI đều tuyên bố sẽ đưa tổ chức đánh giá AI độc lập vào nội bộ công ty, hoàn toàn phù hợp với định hướng mà sắc lệnh hành pháp của California đề xuất.