--- title: "Mahalnya Rasa Aman Bernama \"Human in the Loop\"" description: Menyelami tantangan pengawasan manusia dalam era AI di perbankan. Temukan bagaimana mengoptimalkan kontrol dan tanggung jawab di tengah otomatisasi. image: https://ked-consulting.com/hubfs/AI-Generated%20Media/Images/Solitary%20Analyst%20At%20Polished%20Desk%20In%20Modern%20Bank%20Office.png --- [Skip to content](https://ked-consulting.com/id/insights/the-expensive-comfort-of-a-human-in-the-loop#main-content) - [Bahasa Indonesia](https://ked-consulting.com/id/insights/the-expensive-comfort-of-a-human-in-the-loop) - [English](https://ked-consulting.com/insights/the-expensive-comfort-of-a-human-in-the-loop) Bahasa Indonesia Show submenu for translations ![MagicEraser\_250105\_170415-3](https://ked-consulting.com/hs-fs/hubfs/MagicEraser_250105_170415-3.png?width=1685&height=335&name=MagicEraser_250105_170415-3.png) - [Beranda](https://ked-consulting.com/id/) - Konsultasi Show submenu for Konsultasi - [Konsultasi AI](https://ked-consulting.com/id/ai-advisory-ked-consulting) - [Konsultasi EA](https://ked-consulting.com/id/enterprise-architecture-advisory) - [Konsultasi Cloud](https://ked-consulting.com/id/cloud-advisory) - [Tinjauan Arsitektur TI](https://ked-consulting.com/id/architecture-review) - [Konsultasi GRC TI](https://ked-consulting.com/id/itgrc-advisory) - Solusi Show submenu for Solusi - Strategi & Tata Kelola Show submenu for Strategi & Tata Kelola - [Manajemen Enterprise Architecture](https://ked-consulting.com/id/ea-management-platform) - [Platform GRC TI](https://ked-consulting.com/id/itgrc-platform) - Arsitektur Software Show submenu for Arsitektur Software - [Manajemen Hutang Teknis](https://ked-consulting.com/id/technical-debt-management) - DevOps & Hyper Automation Show submenu for DevOps & Hyper Automation - [Cloud FinOps](https://ked-consulting.com/id/cloud-finops) - [Managed AIOps](https://ked-consulting.com/id/managed-aiops) - [Application Performance Monitoring](https://ked-consulting.com/id/synthetic-monitoring) - [KEDInsights](https://ked-consulting.com/id/insights) - [Tentang Kami](https://ked-consulting.com/id/about) Open main navigation Close main navigation - [Beranda](https://ked-consulting.com/id/) - Konsultasi Show submenu for Konsultasi - [Konsultasi AI](https://ked-consulting.com/id/ai-advisory-ked-consulting) - [Konsultasi EA](https://ked-consulting.com/id/enterprise-architecture-advisory) - [Konsultasi Cloud](https://ked-consulting.com/id/cloud-advisory) - [Tinjauan Arsitektur TI](https://ked-consulting.com/id/architecture-review) - [Konsultasi GRC TI](https://ked-consulting.com/id/itgrc-advisory) - Solusi Show submenu for Solusi - Strategi & Tata Kelola Show submenu for Strategi & Tata Kelola - [Manajemen Enterprise Architecture](https://ked-consulting.com/id/ea-management-platform) - [Platform GRC TI](https://ked-consulting.com/id/itgrc-platform) - Arsitektur Software Show submenu for Arsitektur Software - [Manajemen Hutang Teknis](https://ked-consulting.com/id/technical-debt-management) - DevOps & Hyper Automation Show submenu for DevOps & Hyper Automation - [Cloud FinOps](https://ked-consulting.com/id/cloud-finops) - [Managed AIOps](https://ked-consulting.com/id/managed-aiops) - [Application Performance Monitoring](https://ked-consulting.com/id/synthetic-monitoring) - [KEDInsights](https://ked-consulting.com/id/insights) - [Tentang Kami](https://ked-consulting.com/id/about) - - [Bahasa Indonesia](https://ked-consulting.com/id/insights/the-expensive-comfort-of-a-human-in-the-loop) - [English](https://ked-consulting.com/insights/the-expensive-comfort-of-a-human-in-the-loop) Bahasa Indonesia Show submenu for translations - [Hubungi kami](https://ked-consulting.com/contact) [Hubungi kami](https://ked-consulting.com/contact?hsLang=id) [All posts](https://ked-consulting.com/id/insights/all) November 7, 2026 # Mahalnya Rasa Aman Bernama "Human in the Loop" By  [KED Consulting](https://ked-consulting.com/id/insights/author/ked-consulting)  ·  4 minute read Setiap kali sebuah bank mempresentasikan rencana pemanfaatan AI di depan direksi atau komite risiko, hampir selalu ada satu slide yang membuat ruangan lebih tenang. Isinya kurang lebih sama: keputusan akhir tetap di tangan manusia. Kalimat itu benar, dan memang seharusnya begitu. OJK menempatkan pengawasan manusia sebagai salah satu nilai inti dalam tata kelola AI perbankan. Namun ada pertanyaan yang jarang muncul di slide berikutnya. **Apa yang terjadi pada manusia itu ketika jumlah keputusan AI naik sepuluh kali lipat, sementara jumlah orangnya tetap?** Akhir Oktober lalu, dua publikasi penting menyentuh pertanyaan ini dari arah berbeda. Jawabannya kurang nyaman bagi siapa pun yang menganggap human in the loop sebagai solusi yang sudah selesai. ### **Checker yang Menandatangani Semuanya** Bankir mana pun mengenal prinsip maker-checker. Satu orang membuat transaksi, orang lain memeriksa dan menyetujuinya. Prinsip ini menjadi tulang punggung kontrol internal selama puluhan tahun, dan bekerja dengan baik selama volume masih masuk akal. Sekarang bayangkan sang maker bukan lagi seorang staf, tetapi agen AI yang mampu menyiapkan ratusan analisis KYC atau rangkuman kasus transaksi mencurigakan dalam satu jam. Checker-nya tetap satu orang dengan delapan jam kerja dan antrean yang terus bertambah. Pada titik tertentu, pemeriksaan berubah menjadi formalitas. Bukan karena orangnya malas, tetapi karena output AI terlihat rapi, biasanya benar, dan target harian harus tercapai. FSB menyebut gejala ini secara eksplisit. Pengawasan manusia dapat melemah karena ketergantungan berlebihan dan automation bias. Di sinilah letak paradoksnya. **Kontrol yang paling kita andalkan justru paling cepat melemah ketika AI mulai berhasil.** ### **Ke Mana Sebenarnya Biaya Itu Mengalir** Riset McKinsey yang terbit 26 Oktober 2026 tentang agentic AI di pencegahan kejahatan finansial memberi angka yang patut direnungkan. Untuk satu tugas agen layanan nasabah di perbankan, biaya token hanya sekitar 20 sampai 25 persen dari biaya operasional variabel. Porsi terbesar, sekitar 70 sampai 75 persen, justru habis untuk pengawasan manusia. Secara intuitif, banyak business case AI dihitung dari sisi lisensi, compute, dan integrasi. Angka McKinsey menunjukkan bahwa komponen termahal mungkin justru tidak tercantum di sana. McKinsey juga mencatat bahwa sekitar 60 persen biaya sebuah tugas agentik terkait penyempurnaan jawaban, bukan pembuatan jawaban pertama. Logikanya sederhana. Jika setiap kasus harus ditinjau manusia dengan proporsi tetap, biaya pengawasan akan tumbuh linear mengikuti volume. Semakin sukses adopsinya, semakin berat bebannya. Angka ini tentu perlu dibaca sesuai konteksnya. Ini adalah temuan dari beberapa kasus penerapan, bukan survei industri yang representatif. Namun arahnya cukup jelas untuk mengubah cara kita menghitung nilai AI. ### **Pertanyaan yang Sama, Jawaban yang Berbeda** Ada temuan lain yang lebih halus tetapi sama pentingnya. Dalam sepuluh evaluasi alur onboarding nasabah di satu bank, ambang persetujuan ditetapkan minimal 80 persen untuk akurasi dan 70 persen untuk konsistensi. Konsistensi yang terukur berkisar antara 72 dan 100 persen. Pada evaluasi terlemah, kira-kira satu dari empat percobaan menghasilkan jawaban berbeda untuk input yang sama. Menurut McKinsey, inkonsistensi ini menumpuk pada pertanyaan yang membutuhkan interpretasi, bukan pada fakta yang mudah dicek. Ini kabar penting bagi reviewer. **Bagian yang paling sulit dicek manusia justru bagian di mana AI paling mungkin berubah-ubah.** Artinya, menambah reviewer saja tidak cukup. Yang perlu dibangun adalah cara mengukur perilaku agen secara sistematis, termasuk konsistensinya, sebelum dan sesudah agen itu berjalan di produksi. ### **Regulator Sudah Mengganti Pertanyaannya** Laporan final FSB tentang 12 sound practices adopsi AI yang terbit 15 Oktober 2026 bukan aturan yang mengikat, melainkan kumpulan praktik yang dapat disesuaikan. Namun nadanya menarik. FSB menyatakan bahwa agen AI menjadi tantangan tersendiri bagi pengawasan manusia, mengingat pemantauan real-time oleh manusia tidak lagi praktis ketika penggunaannya meluas. FSB lalu menawarkan arah yang lebih struktural. Tidak semua agen membutuhkan otonomi dan akses yang sama. Setiap agen sebaiknya memiliki identitas unik agar tindakannya dapat ditelusuri dan dibedakan dari pengguna manusia. Jika AI dipakai untuk memantau AI lain, sistem pemantau itu harus independen dari yang dipantau. FSB juga mengingatkan risiko deskilling, yaitu ketika ketergantungan pada AI justru mengikis keahlian yang dibutuhkan untuk mengawasinya. Di dalam negeri, OJK sudah lama menegaskan bahwa output AI tidak bisa langsung menjadi dasar keputusan material seperti persetujuan kredit tanpa verifikasi profesional. OJK juga mengamati pergeseran dari machine learning ke generative dan agentic AI. Bulan lalu, Ketua OJK menyebut frontier AI sebagai tantangan baru bagi pengawasan perbankan. Data PERBANAS dan IBM yang dikutip Katadata menunjukkan adopsi AI di perbankan nasional mencapai 57,9 persen pada kuartal pertama 2026. Prinsipnya tidak berubah. Manusia tetap bertanggung jawab. Yang berubah adalah pertanyaan praktisnya: bagaimana memastikan tanggung jawab itu nyata, bukan sekadar tanda tangan. ### **Pengawasan Adalah Keputusan Desain** Sebagai ilustrasi, bayangkan skenario hipotetis berikut. Sebuah bank meluncurkan agen AI untuk menyusun rekomendasi awal penanganan alert AML. Setiap rekomendasi tetap harus disetujui analis. Tiga bulan kemudian, volume naik tiga kali lipat, waktu tinjauan per kasus turun dari belasan menit menjadi kurang dari dua menit, dan tingkat persetujuan tanpa perubahan mendekati seratus persen. Di atas kertas, kontrolnya berjalan sempurna. Dalam kenyataan, tidak ada yang benar-benar tahu apakah kontrol itu masih bekerja. Skenario seperti ini memperlihatkan bahwa kualitas pengawasan adalah sifat dari desain sistem, bukan semata disiplin individu. Beberapa implikasinya cukup luas. **Bagi strategi dan investasi TI,** biaya pengawasan harus masuk ke business case sejak awal. **Bagi arsitektur,** identitas agen, logging, dan lapisan pemantauan perilaku perlu dirancang sebagai komponen inti, bukan tambahan belakangan. **Bagi tata kelola dan risiko,** intensitas pengawasan perlu disesuaikan dengan materialitas keputusan dan tingkat otonomi agen, dan bank perlu mampu menunjukkan bukti bahwa pengawasan itu efektif. ### **Lima Langkah untuk Memulai** 1. **Hitung biaya pengawasan yang sebenarnya.** Ambil satu use case AI yang sudah berjalan dan ukur waktu manusia yang dihabiskan untuk meninjau, mengoreksi, dan mengulang output. Angka ini sering lebih menentukan kelayakan ekonomi daripada biaya lisensi. 2. **Klasifikasikan keputusan berdasarkan materialitas dan otonomi.** Tidak semua output perlu ditinjau dengan cara yang sama. Langkah awal yang praktis adalah memetakan use case ke dalam tiga tingkat, misalnya tinjauan penuh, tinjauan berbasis sampel, dan pemantauan statistik, lalu menyepakatinya bersama fungsi risiko dan kepatuhan. 3. **Jadikan konsistensi sebagai kriteria persetujuan.** Sebelum agen masuk produksi, uji dengan input yang sama berulang kali. Sertakan ambang konsistensi di samping akurasi dalam setiap gerbang persetujuan. 4. **Ukur apakah reviewer masih benar-benar meninjau.** Pantau indikator seperti waktu tinjauan per kasus dan tingkat persetujuan tanpa perubahan. Sesekali sisipkan kasus uji dengan kesalahan yang disengaja untuk melihat apakah kesalahan itu tertangkap. 5. **Bangun fondasi identitas dan jejak audit untuk agen.** Berikan identitas unik, batasi hak akses sesuai tugasnya, dan pastikan setiap tindakan agen dapat ditelusuri. Ini memudahkan pemantauan dan menyiapkan bukti yang kelak akan diminta pengawas. Urutannya penting. Pengukuran dan klasifikasi sebaiknya didahulukan karena keduanya menentukan di mana manusia paling dibutuhkan. Desain arsitektur dan alat pemantauan menyusul dengan dasar yang lebih jelas. ### **Manusia yang Layak Dipertahankan** Tidak ada yang salah dengan prinsip bahwa manusia harus tetap memegang kendali. Yang perlu ditinjau ulang adalah asumsi bahwa kehadiran manusia di setiap langkah otomatis membuat sistem aman. Di era agentic AI, nilai seorang reviewer tidak terletak pada berapa banyak output yang ia setujui, tetapi pada keputusan mana yang benar-benar membutuhkan penilaiannya. Bank yang mampu menempatkan manusia di titik yang tepat akan mendapatkan manfaat AI tanpa kehilangan kendali. Jadi, pertanyaan yang layak dibawa ke rapat komite berikutnya bukan lagi "apakah ada manusia di dalam prosesnya?", melainkan **"apakah manusia itu masih benar-benar mengawasi?"** Bagikan: [facebook-f icon](http://www.facebook.com/share.php?u=https://ked-consulting.com/id/insights/the-expensive-comfort-of-a-human-in-the-loop) [linkedin-in icon](http://www.linkedin.com/shareArticle?mini=true&url=https://ked-consulting.com/id/insights/the-expensive-comfort-of-a-human-in-the-loop) [twitter icon](https://twitter.com/intent/tweet?url=https://ked-consulting.com/id/insights/the-expensive-comfort-of-a-human-in-the-loop) [pinterest-p icon](http://pinterest.com/pin/create/link/?url=https://ked-consulting.com/id/insights/the-expensive-comfort-of-a-human-in-the-loop) [envelope icon](mailto:?body=https://ked-consulting.com/id/insights/the-expensive-comfort-of-a-human-in-the-loop) ### KED Consulting Indonesia Stock Exchange Tower 1. Jl. Jend. Sudirman Kav 52-53 Jakarta Selatan Indonesia 12190. [facebook-f icon](https://www.facebook.com/profile.php?id=61560968952272&mibextid=LQQJ4d) [linkedin-in icon](https://www.linkedin.com/company/karya-ekosistem-digital/) [twitter icon](https://x.com/kedconsulting?s=21&t=K3mH9dtyPEfFNdD8urwGUQ) [instagram icon](https://www.instagram.com/ked.consulting?igsh=MThtd3d3NWR2YnBoMQ%3D%3D&utm_source=qr) **Konsultasi** [Konsultasi AI](https://ked-consulting.com/id/ai-advisory-ked-consulting?hsLang=id) [Konsultasi EA](https://ked-consulting.com/id/enterprise-architecture-advisory?hsLang=id) [Konsultasi Cloud](https://ked-consulting.com/id/cloud-advisory?hsLang=id) [Tinjauan Arsitektur TI](https://ked-consulting.com/id/architecture-review?hsLang=id) [Konsultasi GRC TI](https://ked-consulting.com/itgrc-advisory?hsLang=id)   **Solusi** [Enterprise Architecture Management](https://ked-consulting.com/ea-management-platform?hsLang=id)  [IT GRC Platform](https://ked-consulting.com/itgrc-platform?hsLang=id) [Technical Debt Management](https://ked-consulting.com/technical-debt-management?hsLang=id) [Cloud FinOps](https://ked-consulting.com/cloud-finops?hsLang=id) [Managed AIOps](https://ked-consulting.com/managed-aiops?hsLang=id) [Application Performance Monitoring](https://ked-consulting.com/synthetic-monitoring?hsLang=id) [Karir](https://ked-consulting.com/id/consulting-partnership?hsLang=id) [KEDInsights](https://ked-consulting.com/insights?hsLang=id) [Tentang KED Consulting](https://ked-consulting.com/id/about?hsLang=id) [Kebijakan Privasi](https://ked-consulting.com/id/privacy-policy?hsLang=id) [Persyaratan dan Kondisi](https://ked-consulting.com/id/tnc?hsLang=id) [Hubungi Kami](https://ked-consulting.com/id/contact?hsLang=id) © 2026 KED Consulting ```json { "@context" : "https://schema.org", "@type" : "BlogPosting", "author" : { "@type" : "Person", "name" : "KED Consulting", "url" : "https://ked-consulting.com/id/insights/author/ked-consulting" }, "dateModified" : "2026-11-07T13:26:12.192Z", "datePublished" : "2026-11-07T13:26:12.000Z", "headline" : "Mahalnya Rasa Aman Bernama \"Human in the Loop\"", "image" : [ "https://ked-consulting.com/hubfs/AI-Generated%20Media/Images/Solitary%20Analyst%20At%20Polished%20Desk%20In%20Modern%20Bank%20Office.png" ], "mainEntityOfPage" : { "@id" : "https://ked-consulting.com/id/insights/the-expensive-comfort-of-a-human-in-the-loop", "@type" : "WebPage" }, "publisher" : { "@type" : "Organization", "logo" : { "@type" : "ImageObject", "url" : "https://ked-consulting.com/hubfs/KEDConsulting-round-1.png" }, "name" : "KED Consulting" } } ``` ```json { "@context" : "http://schema.org", "@type" : "Article", "author" : { "@type" : "Person", "name" : [ "KED Consulting" ], "url" : "https://ked-consulting.com/id/insights/author/ked-consulting" }, "datePublished" : "2026-11-07T13:26:12+0000", "description" : "Menyelami tantangan pengawasan manusia dalam era AI di perbankan. Temukan bagaimana mengoptimalkan kontrol dan tanggung jawab di tengah otomatisasi.", "headline" : "Mahalnya Rasa Aman Bernama "Human in the Loop"", "image" : "https://47392781.fs1.hubspotusercontent-na2.net/hubfs/47392781/AI-Generated%20Media/Images/Solitary%20Analyst%20At%20Polished%20Desk%20In%20Modern%20Bank%20Office.png", "publisher" : { "@type" : "Organization", "logo" : { "@type" : "ImageObject", "url" : "https://47392781.fs1.hubspotusercontent-na1.net/hubfs/47392781/KEDConsulting-round-1.png" }, "name" : "KED Consulting" }, "url" : "https://ked-consulting.com/id/insights/the-expensive-comfort-of-a-human-in-the-loop" } ```