Nadella şirkətləri AI modellərinə daxili təhlükə kimi baxmağa və təcili dayandırma mexanizmi qurmağa çağırır.

Microsoft (MSFT.US) baş direktoru Nadella bildirib ki, müəssisələr güclü süni intellekt modellərini potensial daxili təhdid kimi qiymətləndirməli, bu modellərin artıq sındırıldığını qəbul etməli və avtonom davranış qabiliyyətinə malik agent modellərin nəzarətdən çıxmasının qarşısını almaq üçün "təcili əyləc" mexanizmi qurmalıdırlar. Nadella şənbə günü sosial platformada paylaşımında qeyd edib: "Biz modellərin artıq sındırıldığını qəbul etməli və ilk andan məhdudiyyətlər tətbiq etməliyik. Bunu təcili əyləc qurğusu kimi təsəvvür etmək olar. Səlahiyyətli şəxslər modelin tapşırıqları yerinə yetirdiyi vaxtda onu dayandırmaq və ya söndürmək imkanına daim malik olmalıdırlar." Nadella-nın təhlükəsizlik tövsiyələrinə daxildir: kritik qərarların verilməsində tək bir modeldən asılı qalmamaq; dəyişdirilə bilməyən agent davranış qeydlərinin saxlanılması; və sistemin müstəqil auditə açıq olması. O, həmçinin böyük nasazlıqlar və təhlükəsizlik boşluqlarının açıqlanmasını, ələcə də müəssisələrdən insidentlərin səbəblərini və aidiyyəti detalları paylaşmağı tələb edib ki, digər müəssisələr də təhlükəsizlik tədbirlərini gücləndirə bilsinlər.