Perbatasan Baru Keamanan AI: Pengujian Lintas Laboratorium untuk Menyatukan Industri
- Ilya Sutskever dari OpenAI mendorong pengujian lintas laboratorium untuk memperkuat keamanan AI di tengah kemajuan teknologi yang pesat dan risiko di seluruh industri. - Uji coba Claude berbasis browser dari Anthropic menyoroti tantangan keamanan seperti serangan prompt injection, sehingga mendorong strategi mitigasi yang lebih ditingkatkan. - Sebuah studi mengungkapkan tingkat kepatuhan yang rendah terhadap komitmen keamanan sukarela oleh perusahaan AI besar, termasuk Apple, sehingga mempertanyakan efektivitas regulasi mandiri. - Inisiatif Keamanan AI dari Cloud Security Alliance menawarkan kerangka kerja dan RiskRub.
Co-founder dan anggota dewan OpenAI, Ilya Sutskever, telah menyerukan penerapan pengujian lintas laboratorium sebagai langkah penting untuk memastikan keamanan sistem kecerdasan buatan (AI). Pernyataannya muncul di tengah meningkatnya kekhawatiran atas risiko yang terkait dengan kemajuan AI, dengan para pemimpin industri menekankan perlunya protokol keamanan kolaboratif dan terstandarisasi. Seruan Sutskever untuk pengujian lintas laboratorium sejalan dengan upaya yang lebih luas untuk memperkuat keamanan AI dan mengurangi potensi bahaya seiring teknologi ini terus berkembang dengan cepat [1].
Kebutuhan akan pendekatan kolaboratif seperti ini ditekankan oleh perkembangan terbaru dalam penerapan dan regulasi AI. Misalnya, Anthropic, salah satu pemain utama di sektor AI, telah memperkenalkan program percontohan untuk asisten AI-nya, Claude, yang dirancang untuk beroperasi langsung di browser pengguna. Inisiatif ini, yang bertujuan meningkatkan utilitas AI dengan mengintegrasikannya ke dalam alur kerja digital inti, juga menyoroti tantangan besar terkait keamanan dan keselamatan pada agen AI berbasis browser. Serangan prompt injection—di mana pelaku jahat memanipulasi perilaku AI dengan menyisipkan instruksi tersembunyi—telah muncul sebagai risiko utama, mendorong Anthropic untuk menerapkan strategi mitigasi yang kuat seperti izin tingkat situs, konfirmasi tindakan, dan classifier canggih untuk mendeteksi pola mencurigakan [2].
Risiko semacam ini tidak terbatas pada perusahaan individu. Sebuah studi terbaru dari peneliti di Brown, Harvard, dan Stanford menemukan bahwa banyak perusahaan AI belum sepenuhnya memenuhi komitmen keselamatan sukarela mereka, terutama setelah janji keselamatan AI dari pemerintahan Biden pada tahun 2023. Apple, misalnya, menunjukkan kinerja buruk dalam evaluasi, dengan bukti kepatuhan hanya pada satu dari delapan komitmen. Studi ini menyoroti keterbatasan regulasi mandiri di industri yang berkembang pesat dan menimbulkan pertanyaan tentang efektivitas langkah sukarela dalam memastikan akuntabilitas dan keamanan [5].
Menanggapi tantangan ini, Cloud Security Alliance (CSA) meluncurkan AI Safety Initiative pada akhir 2023, yang mempertemukan para pemimpin industri, lembaga pemerintah, dan institusi akademik untuk mengembangkan alat dan kerangka kerja praktis dalam manajemen risiko AI. Inisiatif ini menyediakan daftar periksa kesiapan AI, kerangka tata kelola, dan pedoman keamanan bagi organisasi, dengan tujuan menyelaraskan kemajuan teknologi dengan ekspektasi regulasi. Secara khusus, CSA juga telah memperkenalkan RiskRubric.ai, sebuah sistem penilaian yang mengevaluasi keamanan, transparansi, dan keandalan large language models (LLMs), menawarkan pendekatan berbasis data bagi perusahaan dalam mengadopsi AI [4].
Upaya kolaboratif untuk meningkatkan keamanan AI juga didukung oleh ekosistem pendanaan dan program hibah yang terus berkembang. Organisasi seperti Long-Term Future Fund, Survival and Flourishing Fund, dan AI Safety Fund memberikan dukungan finansial kepada peneliti, pengusaha, dan institusi yang bekerja pada mitigasi risiko AI. Inisiatif ini bertujuan mengatasi risiko eksistensial jangka panjang sekaligus mendorong inovasi yang bertanggung jawab. Selain itu, perusahaan modal ventura seperti Juniper Ventures dan Mythos Ventures berinvestasi pada startup yang mengembangkan alat untuk meningkatkan keamanan, kepatuhan, dan tata kelola AI [6].
Seruan untuk pengujian lintas laboratorium, seperti yang diadvokasi oleh Sutskever, merupakan langkah penting untuk mengatasi tantangan sistemik ini. Dengan memungkinkan standar bersama dan evaluasi transparan di seluruh laboratorium pengembangan AI, industri dapat membangun kepercayaan dan akuntabilitas yang lebih besar. Pendekatan ini sangat penting seiring sistem AI menjadi semakin kompleks dan canggih, sehingga diperlukan upaya bersama untuk mengevaluasi potensi risiko sebelum diterapkan. OpenAI, Anthropic, dan pemangku kepentingan utama lainnya memiliki peluang—dan tanggung jawab—untuk memimpin transisi ini dengan mengadopsi protokol keamanan kolaboratif dan menetapkan preseden untuk inovasi AI yang bertanggung jawab [1].
Disclaimer: Konten pada artikel ini hanya merefleksikan opini penulis dan tidak mewakili platform ini dengan kapasitas apa pun. Artikel ini tidak dimaksudkan sebagai referensi untuk membuat keputusan investasi.
Kamu mungkin juga menyukai
Musuh bebuyutan jarang bekerja sama! Elon Musk dan Sam Altman mendukung seruan Dario Amodei untuk "memperlambat AI secara global"
Anthropic Amodei mengeluarkan seruan untuk "memperlambat AI secara global," dan secara mengejutkan, dua rivalnya yaitu Musk dan Altman, sama-sama memberikan dukungan terbuka. Tiga raksasa itu sepakat untuk membuka akses evaluasi level karyawan kepada pihak ketiga dan menerapkan perlambatan yang terkoordinasi; Altman bahkan secara langsung mengumumkan bahwa OpenAI tidak akan melakukan IPO tahun ini. Pengunduran diri seorang peneliti dan serentetan AI yang lepas kendali telah memicu kepanikan lama di industri ini.
Penilaian terbaru Goldman Sachs: Kenaikan suku bunga ≠ Penurunan saham AS, pertumbuhan laba adalah kunci pasar bullish
Goldman Sachs percaya bahwa suku bunga tinggi merupakan hambatan bagi pasar saham, namun bukan kekuatan yang mengakhiri pasar bullish. Imbal hasil obligasi pemerintah AS bertenor 30 tahun melonjak ke 5,3%, namun data historis menunjukkan bahwa rata-rata imbal hasil saham AS mencapai +9% dalam 12 bulan setelah kenaikan suku bunga. Neraca perusahaan berada pada tingkat terkuat dalam 20 tahun terakhir, investasi AI dan gelombang merger & akuisisi terus mendorong ekspektasi laba. Diperkirakan laba per saham S&P 500 pada tahun 2026 akan mencapai 340 dolar AS, meningkat 24% dibanding tahun sebelumnya.
Wall Street menambah lagi short seller Lululemon (LULU.US)! Setelah harga saham anjlok 81% dari puncaknya, BMO memperingatkan masa-masa sulit masih di depan
BMO Capital Markets percaya bahwa transformasi Lululemon dari kerugian tidak akan berlangsung cepat atau mudah. Perusahaan pakaian olahraga ini sedang menyerahkan pangsa pasar kepada para pesaingnya, dan penurunan penjualan terus semakin dalam.
Harga kripto
Lainnya
