Perdebatan soal keamanan AI kini semakin bergeser dari pertanyaan tentang kualitas jawaban chatbot menuju pertanyaan yang jauh lebih serius: bagaimana jika model AI yang sangat canggih dicuri, disalahgunakan, atau diberi akses ke sistem penting? Pemerintah Inggris sedang merespons risiko tersebut dengan rencana memperkuat pertahanan sibernya.
Dalam laporan yang terbit 12 Oktober 2026, The Guardian menyebut Menteri AI Inggris Kanishka Narayan akan mendorong pengembang teknologi AI frontier untuk meningkatkan upaya keselamatan. Pemerintah juga menilai Inggris tidak bisa sepenuhnya mengandalkan perusahaan teknologi untuk mengawasi model mereka sendiri.
Masalahnya bukan hanya AI yang salah menjawab
Model AI generasi baru semakin mampu menjalankan tugas kompleks, menggunakan alat, memahami konteks panjang, dan berinteraksi dengan sistem digital. Kemampuan tersebut membuat AI lebih berguna, tetapi sekaligus memperbesar dampak jika kontrol keamanannya gagal.
Risiko yang dibicarakan pemerintah Inggris mencakup kemungkinan model canggih dicuri oleh pihak yang bermusuhan. Geoffrey Irving, mantan kepala ilmuwan UK AI Security Institute, memperingatkan bahwa perusahaan AI belum tentu memiliki perlindungan yang cukup kuat untuk mencegah pencurian model yang belum dirilis.
Dalam konteks keamanan nasional, model frontier bukan lagi sekadar perangkat lunak konsumen. Model tersebut dapat menjadi aset teknologi yang bernilai tinggi dan berpotensi membantu aktivitas siber, analisis informasi, atau otomatisasi operasi.
Inggris tidak ingin perusahaan menjadi satu-satunya pengawas
Salah satu pesan utama pemerintah Inggris adalah perlunya pengawasan di luar perusahaan pembuat AI. Alasannya cukup jelas: kepentingan komersial perusahaan dan kepentingan keamanan publik tidak selalu identik.
Perusahaan tentu memiliki insentif untuk merilis produk lebih cepat. Pemerintah, sebaliknya, harus memikirkan dampak terhadap infrastruktur nasional, lembaga publik, dan masyarakat luas.
Pendekatan ini bukan berarti semua pengembangan AI harus dihentikan. Yang didorong adalah mekanisme pengujian, pengamanan, dan tata kelola yang dapat berjalan sebelum teknologi dipakai dalam situasi berisiko tinggi.
Ancaman pencurian model semakin penting
Model AI membutuhkan investasi besar untuk dilatih. Di balik sebuah model frontier terdapat komputasi, data, algoritma, infrastruktur, serta penelitian bertahun-tahun.
Jika model tersebut dicuri, pihak lain dapat memperoleh kemampuan yang seharusnya membutuhkan investasi dan waktu jauh lebih besar untuk dibangun. Risiko ini berbeda dari serangan siber biasa karena yang menjadi target bukan hanya data pengguna, tetapi juga aset intelektual dan kemampuan komputasi strategis.
Karena itu, keamanan lingkungan pengembangan AI menjadi semakin penting. Akses internal, kredensial, sistem penyimpanan model, pipeline pelatihan, serta perangkat pengembang semuanya dapat menjadi bagian dari permukaan serangan.
AI juga dapat mempercepat pertahanan siber
Menariknya, teknologi yang sama juga dapat digunakan untuk menghadapi ancaman tersebut. AI dapat membantu tim keamanan menganalisis log, menemukan pola anomali, memeriksa kode, dan mempercepat investigasi insiden.
Program keamanan AI dari perusahaan seperti Anthropic juga menunjukkan arah tersebut. Pada Oktober 2026, Anthropic memperluas Cyber Verification Program untuk memberi akses model yang lebih kuat kepada tim keamanan yang telah diverifikasi. Program tersebut dibangun dari inisiatif sebelumnya yang membantu menemukan puluhan ribu kerentanan serius dalam perangkat lunak.
Ini menciptakan perlombaan baru. Penyerang dapat menggunakan AI untuk mempercepat pencarian kelemahan, sementara defender juga menggunakan AI untuk menemukan dan memperbaiki kelemahan lebih cepat.
Kenapa dibutuhkan ‘rem darurat’?
Ketika AI mulai memiliki kemampuan bertindak melalui sistem digital, kontrol manusia menjadi semakin penting. Salah satu konsep yang muncul adalah mekanisme penghentian atau emergency brake yang memungkinkan operasi AI dihentikan ketika perilakunya keluar dari batas yang ditentukan.
Kontrol semacam ini tidak menyelesaikan seluruh masalah. Namun, ia memberi organisasi sebuah lapisan pengaman ketika model salah memahami instruksi, mengalami kompromi, atau digunakan dalam konteks yang tidak direncanakan.
Selain tombol penghentian, organisasi membutuhkan pembatasan hak akses. AI yang hanya perlu membaca dokumen tidak seharusnya otomatis mendapat izin mengubah database. AI yang membuat rekomendasi keamanan juga tidak selalu harus memiliki kemampuan menjalankan perubahan produksi.
Apa artinya bagi perusahaan dan pengguna?
Perkembangan ini akan semakin terasa ketika AI agent digunakan di tempat kerja. Perusahaan perlu memperlakukan agen AI seperti komponen perangkat lunak yang memiliki identitas, hak akses, dan risiko keamanan sendiri.
Prinsip dasarnya cukup sederhana: berikan akses minimum yang dibutuhkan, catat aktivitasnya, batasi tindakan berisiko, dan sediakan mekanisme penghentian. Organisasi juga perlu menguji bagaimana AI bereaksi terhadap instruksi berbahaya, data yang salah, dan upaya manipulasi.
Bagi pengguna biasa, implikasinya adalah kita mungkin akan semakin sering berhadapan dengan sistem AI yang dapat melakukan tindakan nyata, bukan hanya menghasilkan teks. Karena itu, keamanan dan transparansi akan menjadi bagian penting dari kualitas sebuah produk AI.
Era AI membutuhkan standar keamanan baru
Langkah Inggris memperlihatkan bahwa perlombaan AI mulai memasuki fase kebijakan dan keamanan yang lebih matang. Pertanyaannya bukan lagi siapa yang dapat membuat model paling pintar, tetapi siapa yang mampu membuatnya cukup aman untuk digunakan dalam skala besar.
Jika AI menjadi bagian dari infrastruktur ekonomi dan pemerintahan, standar keamanannya tidak bisa hanya bergantung pada janji perusahaan. Pengujian independen, kontrol akses, perlindungan model, audit, dan mekanisme penghentian akan semakin penting.
Teknologi AI kemungkinan tetap berkembang cepat. Tantangannya sekarang adalah memastikan pertumbuhan kemampuan tersebut tidak berjalan jauh lebih cepat daripada kemampuan manusia untuk mengamankannya.
Sumber: The Guardian, 12 Oktober 2026; Reuters, 6 Oktober 2026.
Leave a comment