Bank of England Soroti Ledakan AI: Risiko Makin Besar, Pengawasan Tak Bisa Ditinggalkan

NARATIVE.ID — Gubernur Bank of England Andrew Bailey menilai perkembangan kecerdasan buatan atau artificial intelligence (AI) telah memasuki fase yang tidak lagi bisa dipandang hanya sebagai inovasi teknologi. Menurutnya, peningkatan kemampuan AI juga membawa risiko yang semakin besar terhadap sistem keuangan dan keamanan digital.

Bailey mengatakan risiko dari perkembangan AI generasi terbaru nyata dan semakin signifikan. Namun, ia menilai pembahasan tidak seharusnya langsung berhenti pada soal regulasi.

“Risikonya nyata dan semakin signifikan,” kata Bailey dalam tulisan yang diterbitkan Bank of England pada 30 September 2026.

Menurut Bailey, persoalan yang lebih mendasar adalah memastikan manusia tetap memiliki kemampuan untuk mengintervensi sistem AI ketika dibutuhkan.

Ia menyoroti bahwa AI generasi terbaru tidak hanya mengolah pengetahuan manusia, tetapi juga semakin mampu menggunakan hasil kerjanya sendiri untuk memperbaiki kinerja berikutnya.

Kondisi tersebut, kata Bailey, dapat menciptakan proses tertutup ketika sistem terus belajar dari hasilnya sendiri dan semakin sulit diawasi.

“Tanpa mekanisme intervensi yang efektif, proses ini menyerupai lingkaran tertutup di mana model secara bertahap mengatur dirinya sendiri,” ujarnya.

Bailey menilai kemampuan tersebut menjadi tantangan serius karena sistem AI yang sangat kuat berpotensi beroperasi di luar kerangka pengawasan sosial dan kelembagaan.

Meski demikian, ia menegaskan bahwa perkembangan AI bukan berarti harus dihentikan.

Menurut Bailey, teknologi tersebut tetap memiliki potensi besar untuk mendorong penemuan ilmiah, meningkatkan produktivitas, serta memperkuat pertumbuhan ekonomi.

“Potensi manfaatnya sangat besar,” kata Bailey. Ia menyebut AI dapat mendorong penemuan ilmiah, meningkatkan produktivitas, dan berkontribusi terhadap kemakmuran ekonomi.

Namun, menurutnya, manfaat tersebut hanya dapat diperoleh secara aman apabila masyarakat tetap memiliki kemampuan untuk menetapkan batas serta mengubah batas tersebut ketika teknologi berkembang.

Bailey mengatakan pengujian model sebelum dan sesudah digunakan harus menjadi bagian utama dari sistem pengawasan.

“Pengujian yang ketat adalah hal yang penting jika kita ingin memahami perilaku sistem yang semakin kompleks, menemukan kerentanan, dan membangun kepercayaan terhadap sistem pengamannya,” ujarnya.

Ia juga mengingatkan bahwa pengujian tidak akan menghilangkan seluruh kegagalan.

“Model akan berperilaku tidak terduga. Mereka akan menunjukkan kelemahan dalam asumsi kita,” kata Bailey. Menurutnya, kondisi tersebut justru menunjukkan mengapa pengujian tetap diperlukan.

Sebagai gubernur bank sentral Inggris, Bailey menilai isu tersebut berkaitan langsung dengan stabilitas keuangan.

Menurutnya, AI generasi terbaru meningkatkan skala dan kecanggihan ancaman siber terhadap sistem pembayaran, infrastruktur pasar keuangan, bank, serta institusi penting lainnya.

“Kita tidak lagi bisa memandang ketahanan jaringan pembayaran, infrastruktur pasar keuangan, bank, dan institusi penting secara terpisah dari perkembangan AI,” katanya.

Bank of England menilai lembaga keuangan sendiri akan semakin banyak menggunakan AI dalam operasional mereka.

Karena itu, pengujian terhadap kemampuan dan karakteristik model AI dinilai penting untuk menentukan bagaimana teknologi tersebut dapat digunakan secara aman, termasuk untuk pertahanan siber, perdagangan otomatis, maupun sistem pembayaran.

Bailey menegaskan bank sentral tidak dapat hanya menunggu perkembangan teknologi berjalan dengan sendirinya.

“Bank sentral memiliki tanggung jawab untuk menjaga stabilitas seluruh sistem. Kita tidak bisa berdiri di pinggir dan berasumsi bahwa kemajuan teknologi akan menyelesaikan persoalan ini dengan sendirinya,” ujarnya.

Menurut Bailey, pertanyaan utama ke depan bukan apakah AI harus diterima atau ditolak, tetapi bagaimana memastikan manusia tetap memiliki kemampuan untuk mengendalikan sistem ketika teknologinya semakin kuat.