Bank mulai menggunakan AI untuk mendeteksi ancaman, menganalisis transaksi, membantu layanan pelanggan, dan mempercepat pekerjaan internal. Namun ketika sistem berubah menjadi AI agent yang dapat mengambil tindakan dengan sedikit pengawasan, regulator harus menjawab pertanyaan baru: siapa yang bertanggung jawab ketika agent salah bertindak?
Reuters melaporkan pada 13 Oktober 2026 bahwa regulator perbankan Amerika Serikat dan Eropa meningkatkan pengawasan terhadap risiko AI. Beberapa regulator menanyakan bagaimana bank menggunakan AI agent untuk pertahanan siber, bagaimana tindakan sistem dipantau, serta apakah keputusan agent dapat dilacak dan diaudit.
AI Agent Mengubah Cara Bank Mengelola Risiko
AI tradisional biasanya memberikan rekomendasi kepada manusia. Agentic AI bergerak lebih jauh karena sistem dapat menjalankan beberapa langkah untuk mencapai tujuan tertentu. Dalam keamanan siber, misalnya, agent dapat mengidentifikasi anomali, memprioritaskan risiko, dan membantu mempercepat respons.
Keuntungan tersebut menarik bagi bank karena serangan siber dapat berkembang lebih cepat daripada proses manual. Namun semakin besar kewenangan agent, semakin besar pula konsekuensi jika sistem salah membaca situasi atau memperoleh akses yang terlalu luas.
Pertanyaan Regulator Mulai Lebih Spesifik
Regulator di AS dilaporkan menanyakan batasan yang diterapkan bank terhadap sistem AI agent, bagaimana aktivitasnya dipantau, dan apakah manusia tetap terlibat dalam keputusan penting. Mereka juga memperhatikan kemampuan bank untuk menghentikan sistem otonom jika diperlukan.
Pertanyaan tersebut menunjukkan perubahan pendekatan. Regulator tidak hanya menilai apakah perusahaan memiliki kebijakan AI, tetapi juga ingin mengetahui bagaimana kebijakan tersebut bekerja ketika sistem benar-benar digunakan di lingkungan produksi.
Risiko Terbesar Ada pada Akses
Salah satu prinsip keamanan yang relevan adalah least privilege: sistem hanya mendapatkan akses yang benar-benar diperlukan. AI agent yang memiliki akses ke banyak sistem internal dapat menjadi titik risiko baru jika kredensialnya disalahgunakan atau modelnya dipengaruhi input berbahaya.
Karena itu, bank perlu memisahkan kemampuan agent berdasarkan tingkat risiko. Membaca dokumen internal memiliki konsekuensi berbeda dari mengubah data rekening, menjalankan transaksi, atau memodifikasi konfigurasi keamanan.
Ketergantungan Pihak Ketiga Juga Disorot
Bank tidak selalu membangun seluruh sistem AI sendiri. Mereka dapat menggunakan model dari penyedia cloud, vendor keamanan, atau perusahaan teknologi lain. Ketergantungan tersebut membuat peta risiko menjadi lebih panjang.
Jika penyedia AI mengalami gangguan, perubahan model, atau insiden keamanan, bank harus tetap mampu mengendalikan operasinya. Karena itu, pemetaan vendor dan rencana pemulihan menjadi semakin penting seiring meningkatnya penggunaan AI.
Pemulihan Sama Pentingnya dengan Pencegahan
Keamanan modern tidak bisa menjamin bahwa semua serangan akan dicegah. Bank membutuhkan kemampuan untuk pulih ketika sesuatu gagal. Reuters mengutip pandangan pakar bahwa pemulihan cepat sama pentingnya dengan pencegahan, termasuk memiliki salinan data kritis yang bersih dan aman secara terpisah.
Konsep ini menjadi semakin penting ketika AI agent terhubung dengan sistem operasional. Bank harus memiliki jalur untuk menonaktifkan agent, mengembalikan konfigurasi, memeriksa log, dan mengambil alih proses secara manual.
Apa yang Perlu Disiapkan Bank?
Pertama, setiap agent harus memiliki batas kewenangan yang jelas. Kedua, aktivitasnya perlu dicatat sehingga keputusan dapat ditelusuri. Ketiga, sistem harus diuji dengan skenario kegagalan dan serangan, bukan hanya skenario normal.
Keempat, perusahaan harus memiliki mekanisme human override yang benar-benar dapat digunakan ketika kondisi darurat muncul. Kelima, ketergantungan pada vendor eksternal perlu dimasukkan ke dalam rencana kesinambungan bisnis.
AI Tetap Akan Dipakai, tetapi dengan Kontrol Lebih Ketat
Peningkatan pengawasan regulator tidak berarti bank akan berhenti menggunakan AI. Justru sebaliknya, tekanan tersebut dapat mendorong adopsi yang lebih matang. Sistem yang memiliki audit trail, batas akses, pengujian keamanan, dan mekanisme pemulihan lebih mudah dipercaya untuk menangani pekerjaan penting.
Bagi industri keuangan, pertanyaan paling penting bukan apakah AI agent akan digunakan, melainkan seberapa jauh kewenangan yang pantas diberikan kepada sistem tersebut. Semakin dekat AI dengan uang, data sensitif, dan infrastruktur kritis, semakin kuat pula kontrol yang dibutuhkan.
Sumber: Reuters, 13 Oktober 2026, mengenai peningkatan pengawasan regulator perbankan AS dan Eropa terhadap risiko AI dan penggunaan AI agent.
Leave a comment