AS Dorong Industri AI Awasi Diri Sendiri, Empat Lapis Kontrol Jadi Standar Baru

NARATIVE.ID — Pemerintah Amerika Serikat mendorong perusahaan pengembang kecerdasan buatan menerapkan sistem pengawasan berlapis terhadap model AI mereka sendiri, di tengah meningkatnya kekhawatiran terhadap kemampuan sistem canggih yang dapat mengakses jaringan, menjalankan perintah, dan bertindak di luar skenario yang diperkirakan pengembang.

Kebijakan tersebut dituangkan dalam White House Accord on Super Intelligence, kesepakatan yang diumumkan 29 September 2026 dan ditandatangani sejumlah perusahaan teknologi besar, termasuk OpenAI, Anthropic, Google, Meta, Nvidia, dan xAI.

Dalam dokumen itu, perusahaan pengembang model AI frontier diminta menerapkan empat lapisan kontrol dan audit.

Lapisan pertama berupa pengawasan internal terhadap kemampuan dan perilaku model selama proses pelatihan maupun setelah digunakan. Fokusnya mencakup risiko keamanan siber, biosekuriti, ancaman kimia, serta pencegahan agar model tidak meretas atau mengakses sistem teknis secara tidak disengaja.

Lapisan kedua meminta perusahaan memiliki fungsi kepatuhan internal yang memastikan sistem pengawasan benar-benar berjalan.

Lapisan ketiga melibatkan pihak independen untuk menguji efektivitas kontrol dan menemukan kelemahan yang mungkin luput dari pengembang.

Sementara lapisan keempat menempatkan pengawasan di tingkat dewan perusahaan, sehingga persoalan keamanan tidak hanya menjadi tanggung jawab tim teknis.

Presiden AS Donald Trump menyebut pendekatan tersebut sebagai bentuk “tremendous self-regulation” atau pengawasan mandiri dalam skala besar. Ia juga menyebut kesepakatan itu “morally binding”, meski bukan regulasi hukum yang dapat langsung dikenai sanksi apabila dilanggar.

BBC World Service kemudian mengangkat kesepakatan itu dalam program Business Daily dengan pertanyaan utama apakah industri AI benar-benar mampu mengatur dirinya sendiri ketika persaingan teknologi semakin cepat.

Perdebatan tersebut muncul karena perusahaan AI berada dalam posisi ganda: mereka menjadi pihak yang mengembangkan teknologi, sekaligus pihak yang diminta mengawasi potensi risikonya sendiri.

Sejumlah pengamat menilai komitmen sukarela dapat membantu membentuk standar minimum industri, tetapi efektivitasnya tetap bergantung pada transparansi perusahaan, kualitas audit eksternal, dan kesediaan pengembang mengungkap insiden keamanan secara terbuka.

Kesepakatan White House juga muncul bersamaan dengan perubahan terminologi resmi pemerintahan AS.

Melalui perintah eksekutif pada 29 September 2026, pemerintahan Trump mulai menggunakan istilah “Super Intelligence” dan “SI” untuk menggantikan istilah Artificial Intelligence dan AI dalam berbagai komunikasi dan dokumen nonstatutory pemerintah federal.

Gedung Putih menyatakan istilah baru tersebut dipilih karena dinilai lebih mencerminkan kemampuan sistem frontier yang berkembang melampaui sekadar otomatisasi tugas manusia.

Namun, kesepakatan pengawasan mandiri tetap memicu kritik.

Sejumlah pengamat hukum dan teknologi menilai sifatnya yang sukarela dapat membatasi daya paksa. Mereka juga menyoroti bahwa pengawasan diri tidak selalu cukup ketika teknologi yang diawasi memiliki potensi risiko luas bagi keamanan publik.

Meski demikian, White House Accord menandai perubahan penting dalam tata kelola AI di Amerika Serikat.

Jika sebelumnya pembahasan lebih banyak berkutat pada regulasi dari pemerintah, kini perusahaan teknologi didorong membangun mekanisme kontrol internal yang lebih formal dan dapat diaudit.

Perkembangan ini terjadi ketika kemampuan AI bergerak dari sekadar chatbot menuju AI agent, yaitu sistem yang dapat menggunakan perangkat lunak, menjelajah jaringan, mengambil keputusan, dan menjalankan serangkaian tugas secara relatif mandiri.

Semakin besar kemampuan tersebut, semakin besar pula tekanan terhadap perusahaan teknologi untuk membuktikan bahwa sistem mereka tidak hanya canggih, tetapi juga dapat diawasi.