Perlombaan membangun model AI yang semakin kuat kini berjalan berdampingan dengan perlombaan memastikan sistem tersebut tetap dapat dikendalikan. Pada 14 Oktober 2026, Nvidia menyatakan akan menyediakan sumber daya komputasi senilai US$250 juta selama lima tahun untuk mendukung riset keamanan AI di Inggris.
Komitmen itu menempatkan salah satu perusahaan terbesar di industri chip AI lebih jauh ke dalam agenda keselamatan model. Nvidia mengatakan sebagian dukungan, sekitar US$50 juta per tahun, akan diarahkan ke pengujian keamanan agentic AI. Bagi peneliti, akses komputasi menjadi salah satu kebutuhan paling mahal ketika mereka ingin menguji model pada skenario yang kompleks.
Bukan sekadar donasi komputasi
Nilai utama program ini bukan hanya angka US$250 juta, tetapi kemampuan menjalankan eksperimen dalam skala yang lebih besar. Pengujian AI safety membutuhkan simulasi, evaluasi, red teaming, serta eksperimen berulang pada model dan agen yang berbeda. Semua itu memerlukan GPU, penyimpanan, jaringan, dan lingkungan eksperimen yang stabil.
Nvidia menyebut dukungan tersebut akan membantu sejumlah inisiatif penelitian di Inggris, termasuk proyek BOLD di University of Oxford serta riset keselamatan robotika di Imperial College London dan program di University College London. Langkah tersebut juga mendukung ambisi Inggris untuk menjadi salah satu pusat global dalam tata kelola dan keamanan AI.
Mengapa agentic AI mendapat perhatian khusus?
Model AI generatif biasa menghasilkan teks, kode, gambar, atau keluaran lain berdasarkan permintaan. Agen AI menambahkan kemampuan untuk menjalankan serangkaian tindakan, menggunakan alat, membaca konteks, dan mengejar tujuan melalui beberapa langkah.
Kemampuan tersebut meningkatkan nilai praktis AI, tetapi juga memperbesar ruang kesalahan. Agen yang diberi akses ke email, file, browser, sistem internal, atau alat pemrograman dapat melakukan lebih banyak hal daripada chatbot pasif. Karena itu, evaluasi keamanan tidak cukup hanya mengukur apakah jawaban model benar atau salah.
Riset keselamatan perlu menguji perilaku nyata
Peneliti keamanan AI perlu melihat bagaimana sistem bereaksi ketika instruksi saling bertentangan, ketika data berbahaya masuk ke konteks, atau ketika agen menghadapi target yang tidak sesuai dengan tujuan awal. Pengujian semacam ini sering kali membutuhkan lingkungan yang dapat diulang sehingga hasil dari berbagai model dapat dibandingkan.
Dukungan komputasi yang besar dapat membantu peneliti menjalankan lebih banyak skenario dan mengevaluasi perubahan model secara berkala. Ini penting karena kemampuan AI berubah cepat, sementara metode pengujian keamanan harus mengejar perkembangan tersebut.
Inggris ingin mengambil posisi strategis
Inggris telah berupaya membangun posisi sebagai negara yang berpengaruh dalam keamanan AI. Kehadiran AI Security Institute dan berbagai program riset membuat negara tersebut memiliki ekosistem yang relatif kuat untuk menguji kemampuan dan risiko model canggih.
Investasi Nvidia memperkuat sisi infrastrukturnya. Dalam praktiknya, kemampuan penelitian bukan hanya soal talenta, tetapi juga akses ke perangkat keras yang mampu menjalankan eksperimen modern. Ketersediaan komputasi dapat menentukan seberapa cepat tim akademik dan institusi keamanan menguji hipotesis.
Apa artinya bagi industri AI?
Komitmen Nvidia juga menunjukkan bahwa keamanan AI semakin dianggap sebagai bagian dari infrastruktur teknologi, bukan sekadar urusan kebijakan. Perusahaan pembuat chip berada di posisi unik karena menyediakan fondasi komputasi untuk model-model AI dan pada saat yang sama dapat membantu penelitian tentang bagaimana komputasi tersebut digunakan secara aman.
Namun, pendanaan dan komputasi bukan pengganti tata kelola. Peneliti masih membutuhkan data evaluasi yang baik, metodologi yang transparan, akses terhadap model, serta aturan yang memungkinkan temuan keamanan ditindaklanjuti.
Masalah terbesar justru bisa datang dari kecepatan perubahan
Model baru muncul lebih cepat daripada siklus penelitian tradisional. Sebuah metode evaluasi yang efektif untuk model hari ini bisa kehilangan relevansi ketika sistem baru mendapatkan kemampuan penggunaan alat, memori, atau otonomi yang lebih tinggi.
Karena itu, nilai program seperti yang diumumkan Nvidia terletak pada kemampuan memperluas kapasitas pengujian. Semakin banyak eksperimen yang dapat dijalankan, semakin besar peluang peneliti menemukan pola kegagalan sebelum teknologi tersebut digunakan secara luas.
Keamanan AI menjadi bagian dari kompetisi teknologi
Perkembangan ini memperlihatkan perubahan penting dalam industri. Kompetisi AI tidak lagi hanya tentang siapa yang mempunyai model paling pintar, tetapi juga siapa yang mampu membangun sistem yang dapat dipercaya. Infrastruktur evaluasi, pengujian agen, keamanan model, dan kemampuan merespons insiden akan menjadi bagian dari rantai teknologi AI.
Dengan menyediakan komputasi senilai US$250 juta, Nvidia membantu memperbesar kapasitas penelitian Inggris. Tantangan berikutnya adalah memastikan sumber daya tersebut menghasilkan evaluasi yang terbuka, dapat direplikasi, dan benar-benar memengaruhi cara model AI dirancang serta digunakan.
Sumber: Reuters, 14 Oktober 2026.
Leave a comment