ISACAIndonesia Chapter
Understanding Frontier AI: Development, Capabilities and Emerging Risks
Reza Rizky PratamaGRA Director, ISACA Indonesia Chapter 29 Oktober 2026
[S1 mnt 0–1]
PESAN KUNCI: Sesi ini tentang bagaimana frontier AI berubah dari AI yang menjawab menjadi AI yang bertindak, dan apa artinya bagi pengawasan bank.
POIN BICARA:
• Salam pembuka, terima kasih kepada OJK atas undangannya.
• Perkenalan singkat: Reza Rizky Pratama, ISACA Indonesia Chapter. Sehari-hari bekerja di audit TI, jadi sudut pandangnya adalah assurance: apa yang perlu diperiksa dan evidence apa yang perlu diminta.
• Format: dua sesi masing-masing 60 menit, interaktif. Ada satu live demo dan tiga aktivitas singkat.
• Ajak peserta menyela kapan saja. Pengalaman pemeriksaan peserta jauh lebih kaya, dan contoh nyata dari peserta sangat diharapkan.
TRANSISI: "Supaya jelas ke mana kita akan pergi, ini peta perjalanan kita hari ini."
Understanding Frontier AI
1 · Get to know frontier AI
2 · How frontier AI is developed
3 · Capabilities & limitations
Emerging Risks, Governance & Assurance
4 · Emerging AI risks
5 · Governance, oversight & assurance
6 · Implications for supervisors
Key takeaways
Apa yang berubah: dari AI yang menjawab ke AI yang bertindak .
Risiko baru apa yang muncul
Bagaimana mengawasinya: governance, human oversight, assurance, dan AI untuk pengawas.
[S1 mnt 1–2]
PESAN KUNCI: Dua sesi, satu benang merah: AI bergeser dari menjawab ke bertindak, dan cara mengawasinya juga harus bergeser.
POIN BICARA:
• Sesi 1 (bagian 1–3): apa itu frontier AI, bagaimana dikembangkan, kapabilitas dan limitasinya. Ditutup dengan live demo dan aktivitas.
• Sesi 2 (bagian 4–6): emerging risks termasuk case study Korea Selatan, AI governance dan standar terbaru, lalu implikasi bagi pengawas.
• Tunjuk tiga kartu key takeaways di bawah: ini yang saya harap dibawa pulang. Kita akan kembali ke tiga kartu ini di akhir sesi 2.
• Slide berlabel opsional di notes bisa dilewati bila waktu menipis.
TRANSISI: "Kita mulai dari pertanyaan paling dasar: apa sebenarnya yang dimaksud frontier AI?"
1 · Get to Know Frontier AI
ISACAIndonesia Chapter
[S1 mnt 2]
PEMBATAS BAGIAN 1 (±9 menit).
• Tujuan bagian ini: menyamakan istilah. Frontier AI, GenAI, general-purpose AI, dan agent sering dipakai bergantian, padahal maknanya berbeda.
• Pertanyaan pemantik (retoris): "Kalau bank bilang 'kami pakai AI', apa saja yang mungkin dimaksud?"
AI / ML tradisional Umumnya dioptimalkan untuk task tertentu, memakai data internal atau eksternal.
Credit scoring · fraud detection · AML →
Generative AI AI yang menghasilkan konten: teks, gambar, audio, atau code. Bisa bersifat general-purpose.
Chatbot · document summary →
Frontier AI Model di batas terdepan kapabilitas saat ini. Sering general-purpose, tetapi keduanya bukan sinonim.
Coding · analisis · reasoning
General-purpose = luas tugas · Frontier = batas kapabilitas · Agent = sistem yang dapat bertindak
[S1 mnt 2–4]
PESAN KUNCI: Istilah-istilah ini beririsan, bukan tiga kategori yang saling meniadakan.
POIN BICARA:
• Mulai dari yang paling familiar: credit scoring, fraud detection, AML. Ini AI/ML tradisional. Umumnya dioptimalkan untuk satu task dan sudah lama masuk ruang lingkup model risk management.
• GenAI menjelaskan kemampuan: menghasilkan konten berupa teks, gambar, audio, atau code. Chatbot nasabah dan document summary adalah contoh yang paling sering ditemui.
• General-purpose menjelaskan keluasan tugas: satu model bisa diminta mengerjakan banyak hal lewat instruksi.
• Frontier menunjukkan posisi pada batas kapabilitas terdepan saat ini. Posisinya bergeser: model frontier tahun lalu bisa jadi bukan frontier lagi tahun ini.
• Agent adalah desain sistem yang menggabungkan model dengan tools dan loop eksekusi. Model frontier tidak otomatis menjadi agent.
CATATAN AKURASI: Tingkat ketergantungan pihak ketiga ditentukan oleh deployment dan kontrak, bukan oleh label model.
INTERAKSI: "Di bank yang Bapak/Ibu awasi, mana yang paling banyak ditemui: kiri, tengah, atau kanan?"
TRANSISI: "Lalu apa yang membuat frontier AI berbeda? Ada empat karakteristik."
Frontier
General-purpose Dapat mendukung banyak task melalui instruksi dan konteks; keluasan kemampuan berbeda antar-model.
State-of-the-art capability Unggul pada sebagian benchmark coding, analisis, dan matematika; kinerja di pekerjaan nyata tetap perlu diuji.
Explainability terbatas Developernya sendiri belum bisa menjelaskan sepenuhnya kenapa model memberi jawaban tertentu.
Dual-use Kemampuan yang sama dipakai defender dan attacker. Akses weights dapat memudahkan modifikasi, termasuk pelemahan safeguard.
[S1 mnt 4–6]
PESAN KUNCI: Explainability terbatas dan dual-use adalah dua karakteristik yang paling mengubah cara kita memeriksa.
POIN BICARA:
• General-purpose: satu model mendukung banyak task lewat instruksi, tetapi kemampuannya berbeda antar-model dan antar-task.
• State-of-the-art capability: unggul di banyak benchmark coding, analisis, dan matematika, tetapi kinerja di pekerjaan nyata tetap perlu diuji sendiri.
• Explainability terbatas: developer sendiri belum bisa menjelaskan sepenuhnya kenapa model memberi jawaban tertentu. Ini menyulitkan validasi konseptual yang biasa kita lakukan pada model tradisional.
• Dual-use: kemampuan yang sama dipakai defender dan attacker. Akses ke weights juga memudahkan modifikasi, termasuk pelemahan safeguard.
• Tekankan karakteristik 3 dan 4: keduanya yang membuat pendekatan validasi model tradisional tidak cukup. Kita akan kembali ke poin ini di sesi 2.
TRANSISI: "Siapa yang membuat model-model ini, dan bagaimana bank mengaksesnya?" VS
Closed Akses lewat API atau cloud; model weights tidak dibagikan
OpenAI · GPT Anthropic · Claude Google DeepMind · Gemini xAI · Grok
Safeguard model dikelola provider; kontrol aplikasi tetap di pengguna Lokasi pemrosesan dan penggunaan data mengikuti layanan dan kontrak Kontrol versi dan pemberitahuan perubahan perlu diperjanjikan Open-weight Model weights bisa di-download dan dijalankan sendiri
Meta · Llama DeepSeek Alibaba · Qwen Zhipu · GLM Mistral
Bisa dijalankan on-premise di data center pengguna Jika self-hosted, pengguna mengelola operasi, security, dan testing Weights dapat dimodifikasi; lisensi dan safeguard perlu ditelaah [S1 mnt 6–8]
PESAN KUNCI: Closed vs open-weight menjelaskan akses ke weights, bukan lokasi data atau tingkat keamanan.
POIN BICARA:
• Closed: diakses lewat API atau cloud, weights tidak dibagikan. Contoh: OpenAI GPT, Anthropic Claude, Google Gemini, xAI Grok. Safeguard model dikelola provider; kontrol aplikasi tetap di bank.
• Open-weight: weights bisa diunduh dan dijalankan sendiri. Contoh: Meta Llama, DeepSeek, Alibaba Qwen, Zhipu GLM, Mistral.
• Kesalahpahaman yang sering muncul: "open-weight berarti data aman karena on-premise". Model open-weight juga bisa dipakai lewat layanan cloud pihak ketiga.
• Self-hosting memberi kontrol operasional lebih besar, tetapi tidak otomatis membuka training data atau menjamin keamanan. Bank juga menanggung beban operasi, security, dan testing.
• Yang perlu dinilai pemeriksa: lokasi pemrosesan, retensi, pemakaian data untuk training, hak audit, dan kontrol versi. Semua itu terlihat dari arsitektur dan kontrak, bukan dari label closed/open.
CATATAN AKURASI: Model bisnis provider bisa mencakup lebih dari satu bentuk akses.
ANTISIPASI PERTANYAAN: "Mana yang lebih aman untuk bank?" → Tidak ada jawaban umum. Tergantung use case, arsitektur, kapabilitas tim bank, dan kontrak.
TRANSISI: "Sekarang kita bandingkan langsung dengan model yang biasa Bapak/Ibu periksa."
Tujuan
Satu task yang didefinisikan sejak awal
→
General-purpose; task ditentukan lewat prompt
Output
Umumnya score/class; hasil stabil pada input dan versi yang sama
→
Teks atau action; bisa berbeda tiap kali dijalankan
Sumber
Dikembangkan internal atau diperoleh dari vendor
→
Sering dari provider; visibilitas training data terbatas
Validasi
Backtesting, analisis konseptual, monitoring, dan challenge
→
Scenario-based testing, red teaming, continuous monitoring
Perubahan
Perubahan model dan data tunduk pada change management
→
Perubahan model, prompt, data, dan tools perlu dikendalikan
Failure mode
Drift, bias, kesalahan data, atau penyalahgunaan model
→
Risiko tersebut ditambah hallucination, injection, dan salah action
[S1 mnt 8–11]
PESAN KUNCI: Prinsip pemeriksaan tetap, tetapi objek dan metode ujinya bertambah.
POIN BICARA:
• Baca baris demi baris, fokus pada kolom kanan:
– Tujuan: dari satu task yang didefinisikan sejak awal menjadi general-purpose, dengan task ditentukan lewat prompt.
– Output: dari score/class yang stabil menjadi teks atau action yang bisa berbeda tiap kali dijalankan (non-deterministic).
– Sumber: makin sering dari provider, dengan visibilitas training data terbatas.
– Validasi: backtesting tetap relevan, tetapi perlu ditambah scenario-based testing, red teaming, dan continuous monitoring.
– Perubahan: bukan hanya model dan data; prompt dan tools juga harus masuk change management.
– Failure mode: risiko lama tetap ada, ditambah hallucination, injection, dan salah action.
CATATAN AKURASI: Ini pola umum, bukan dikotomi mutlak. Model tradisional juga bisa vendor-supplied dan opaque; frontier model juga bisa self-hosted.
INTERAKSI: "Dari enam baris ini, mana yang paling mengubah pemeriksaan Bapak/Ibu: visibilitas provider, pengendalian perubahan, atau action agent?"
TRANSISI: "Untuk memahami kenapa visibilitas bank terbatas, kita lihat bagaimana model ini dikembangkan."
2 · How Frontier AI Is Developed
ISACAIndonesia Chapter
[S1 mnt 11]
PEMBATAS BAGIAN 2 (±12 menit).
• Tujuan bagian ini: memahami di mana keputusan penting tentang perilaku model dibuat, dan di titik mana bank baru masuk.
• Pesan yang ingin dibawa: sebagian besar ada di luar kendali bank, jadi due diligence dan testing di sisi bank menjadi kunci.
Data Triliunan kata dari web, buku, dan code, plus licensed dan synthetic data
Pre-training Ribuan AI chip berjalan berbulan-bulan; investasinya sangat besar
Post-training Fine-tuning dan reinforcement learning untuk instruction-following, safety, dan tool use
Evaluation Capability dan safety evaluation, termasuk red teaming eksternal
Deployment Staged release lewat API dan produk; misuse monitoring
Dikontrol model developer
Organisasi/Pengguna
[S1 mnt 11–14]
PESAN KUNCI: Sebagian besar keputusan yang menentukan perilaku model terjadi sebelum bank terlibat.
POIN BICARA:
• Data: triliunan kata dari web, buku, dan code, ditambah licensed dan synthetic data. Kualitas dan bias data terbawa ke model.
• Pre-training: ribuan AI chip berjalan berbulan-bulan dengan investasi sangat besar. Hanya segelintir perusahaan yang mampu.
• Post-training: fine-tuning dan reinforcement learning untuk instruction-following, safety, dan tool use. Di tahap inilah model "diajari" menolak permintaan berbahaya.
• Evaluation: capability dan safety evaluation, termasuk red teaming eksternal.
• Deployment: staged release lewat API dan produk, disertai misuse monitoring.
• Tunjuk dua bar bawah. Kiri (navy): dikendalikan developer; pada model vendor, visibilitas bank atas data dan training sering terbatas. Kanan (teal): bank baru masuk saat memilih, mengonfigurasi, dan memonitor.
IMPLIKASI PEMERIKSAAN: Karena bank tidak mengendalikan empat tahap pertama, pertanyaannya menjadi: due diligence apa yang dilakukan saat memilih model, dan testing apa yang dilakukan sendiri sebelum dipakai?
TRANSISI: "Apa yang mendorong kemampuan model naik begitu cepat? Ada tiga driver."
Compute Data Algoritma
Capability ▲
Compute AI chip dan data center berskala sangat besar. Resource yang paling terkonsentrasi.
Data Training data yang makin besar dan beragam, termasuk synthetic data dan user feedback.
Algoritma Arsitektur dan teknik training makin efisien: biaya untuk capability tertentu dapat menurun.
Implikasi: kemajuan tidak bergantung pada satu breakthrough. Ketiganya dapat mendorong kemajuan; laju dan hasilnya tidak terjamin.
[S1 mnt 14–16]
PESAN KUNCI: Compute, data, dan algoritma saling memperkuat. Kemajuan tidak bergantung pada satu breakthrough.
POIN BICARA:
• Compute: AI chip dan data center berskala sangat besar. Ini resource yang paling terkonsentrasi, yang nanti terkait dengan systemic risk.
• Data: training data makin besar dan beragam, termasuk synthetic data dan user feedback.
• Algoritma: arsitektur dan teknik training makin efisien, sehingga biaya untuk mencapai capability tertentu bisa turun.
• Irisan ketiganya adalah capability.
CATATAN AKURASI: Pertumbuhan resource tidak menjamin kenaikan kemampuan di semua tugas. Kualitas data, efisiensi, evaluasi, dan batas teknis tetap menentukan. Laju dan hasilnya tidak terjamin. Sumber: International AI Safety Report 2026.
IMPLIKASI: Dalam supervisory planning, siapkan beberapa skenario kemajuan kapabilitas beserta ketidakpastiannya, jangan hanya satu proyeksi.
TRANSISI: "Lalu lewat jalur apa model-model ini sampai ke bank?"
Cara akses kontrol bergantung arsitektur, konfigurasi, dan kontrak
Public app Pegawai memakai chatbot publik
Enterprise cloud service Model lewat cloud provider
Embedded di produk vendor Fitur AI di aplikasi, CRM, alat SOC
Open-weight on-premise Model berjalan di data center pengguna
Cara meng-customize model
Prompt
RAG: dokumen
Fine-tuning
Agent + tools
Prompt = instruksi; RAG = ambil konteks; fine-tuning = ubah weights; tools = akses tindakan
[S1 mnt 16–19]
PESAN KUNCI: Cara akses dan cara customize menentukan risiko serta kontrol yang perlu diperiksa.
POIN BICARA:
• Empat cara akses (bar di atas menunjukkan kontrol makin bergantung pada arsitektur, konfigurasi, dan kontrak):
– Public app: pegawai memakai chatbot publik. Risiko utamanya shadow AI; ketentuan data perlu dicek.
– Enterprise cloud service: model lewat cloud provider bank. Perhatikan data residency dan ketentuan third party.
– Embedded di produk vendor: fitur AI di core banking, CRM, alat SOC. Bank sering tidak tahu model apa yang ada di dalamnya.
– Open-weight on-premise: model di data center bank. Security dan testing ditanggung bank.
• Empat cara customize, dari ringan ke berat:
– Prompt: instruksi. Tidak mengubah weights.
– RAG: mengambil dokumen bank sebagai konteks saat menjawab. Tidak otomatis melatih ulang model.
– Fine-tuning: mengubah weights melalui training tambahan.
– Agent + tools: menambah kemampuan bertindak, bukan otomatis menambah pengetahuan atau kewenangan.
CATATAN AKURASI: Empat pola akses ini bisa tumpang tindih; fitur embedded bisa memakai cloud atau model lokal. Nilai kontrol dari arsitektur dan kontraknya, bukan dari posisi kartu.
INTERAKSI: "Yang paling sulit terlihat dalam pemeriksaan biasanya kartu ketiga, AI yang tertanam di produk vendor. Apakah bank punya inventory-nya?"
TRANSISI: "Kalau kita tarik ke belakang, jalur ini bermuara ke sangat sedikit provider."
Red teaming Tim internal dan eksternal mencoba "membobol" model supaya berperilaku berbahaya, sebelum release.
System card Dokumen per release berisi hasil capability evaluation, limitasi, dan risiko.
Frontier safety framework Capability threshold yang men-trigger safeguard tambahan atau penundaan release.
Restricted release Claude Mythos Preview (April 2026) tidak dirilis ke publik karena kemampuannya menemukan dan meng-exploit vulnerability.
Pertanyaan: apakah dokumen ini dibaca saat memilih model, dan apakah organisasi melakukan testing sendiri di use case-nya? Praktik ini sifatnya voluntary dan berbeda antar-developer.
[S1 mnt 21–23]
PESAN KUNCI: Safety practices developer berguna sebagai input, tetapi sifatnya voluntary dan tidak menggantikan testing di bank.
POIN BICARA:
• Red teaming: tim internal dan eksternal mencoba "membobol" model supaya berperilaku berbahaya sebelum release.
• System card: dokumen per release berisi hasil capability evaluation, limitasi, dan risiko. Ini dokumen publik yang jarang dibaca bank saat memilih model.
• Frontier safety framework: capability threshold yang memicu safeguard tambahan atau penundaan release.
• Restricted release: contoh nyata, Claude Mythos Preview (April 2026) tidak dirilis ke publik karena kemampuannya menemukan dan meng-exploit vulnerability.
• Tunjuk strip bawah: pertanyaan untuk bank. Apakah dokumen ini dibaca saat memilih model, dan apakah bank melakukan testing sendiri pada use case-nya?
CATATAN AKURASI: Praktik ini berbeda-beda antar-developer. Detail Claude Mythos Preview merujuk Annex 1 IMF Note 2026/005.
TRANSISI: "Sekarang kita masuk ke bagian yang paling menarik: apa yang sebenarnya bisa dilakukan AI saat ini." 3 · Capabilities & Limitations
ISACAIndonesia Chapter
[S1 mnt 23]
PEMBATAS BAGIAN 3 (±30 menit, termasuk demo dan aktivitas).
• Bagian ini menjawab dua pertanyaan: seberapa jauh AI sudah bisa bertindak sendiri, dan di mana limitasinya.
• Bagian ini ditutup dengan live demo dan aktivitas pertama.
AI yang MENJAWAB
AI yang BERTINDAK
Predict 2020 dan sebelumnya Memberi score atau klasifikasi dari dataCredit scoring, fraud detection
Generate 2022–2023 Menghasilkan teks, gambar, codeChatbot, document summary
Reason 2024–2025 Multi-step reasoning sebelum menjawabAnalisis kontrak dan kebijakan
Tool use 2024–2025 Memanggil API, database, codeMenjawab dari data rekening
Agent 2025–2026 Planning dan eksekusi task sampai selesaiMenangani dispute transaksi
Autonomous workflow 2026 → Satu atau lebih agent mengeksekusi alur dalam batas otonomiRangkaian KYC–AML otomatis
Ilustrasi, bukan level baku. Periode = mulai menonjol; kemampuan saling tumpang tindih dan tetap dipakai.
[S1 mnt 23–26]
VISUAL UTAMA SESI 1.
PESAN KUNCI: Pergeseran terbesar adalah dari AI yang menjawab (kiri) ke AI yang bertindak (kanan).
POIN BICARA:
• Jalan dari kiri ke kanan:
– Predict (2020 dan sebelumnya): score atau klasifikasi. Contoh: credit scoring, fraud detection.
– Generate (2022–2023): menghasilkan teks, gambar, code. Contoh: chatbot, document summary.
– Reason (2024–2025): multi-step reasoning sebelum menjawab. Contoh: analisis kontrak dan kebijakan.
– Tool use (2024–2025): memanggil API, database, code. Contoh: menjawab dari data rekening.
– Agent (2025–2026): planning dan eksekusi task sampai selesai. Contoh: menangani dispute transaksi.
– Autonomous workflow (2026 →): satu atau lebih agent mengeksekusi alur dalam batas otonomi. Contoh: rangkaian KYC–AML otomatis.
• Garis pemisah ada di antara Reason dan Tool use: di sebelah kanan, AI tidak lagi hanya memberi jawaban, tetapi melakukan sesuatu di sistem bank.
CATATAN AKURASI: Ini ilustrasi, bukan enam tingkat kematangan baku atau urutan prasyarat. Periode menunjukkan kapan kemampuan mulai menonjol dalam gelombang adopsi terkini, bukan tanggal penemuannya. Kemampuan saling tumpang tindih dan tetap dipakai. Tool use bisa read-only. Risiko juga ditentukan hak akses, dampak, dan kontrol, bukan hanya posisi di tangga ini.
INTERAKSI: "Bank yang Bapak/Ibu awasi kira-kira sudah di anak tangga mana?"
TRANSISI: "Bergerak ke kanan, risk profile-nya ikut berubah. Mari kita lihat tiga anak tangga terakhir lebih dekat."
Otonomi, hak akses, dan dampak menentukan kebutuhan control
[S1 mnt 26–29]
PESAN KUNCI: Otonomi, hak akses, dan dampak tindakan menentukan kebutuhan kontrol.
POIN BICARA:
• Baca per kolom, dari atas ke bawah: apa yang dilakukan, contoh di bank, apa yang bisa salah, dan minimum control.
• Tool use: memanggil API atau database. Bisa salah memanggil function atau mengambil data berlebihan. Minimum control: tool allowlist dan least privilege.
• Agent: planning dan eksekusi multi-step. Error menumpuk antar-step dan agent bisa termanipulasi isi dokumen. Minimum control: human approval untuk high-impact action dan logging setiap step.
• Autonomous workflow: rangkaian berjalan sendiri dalam batas otonomi. Kesalahan berantai bisa terlambat terdeteksi. Minimum control: autonomy limit, automated monitoring, dan kill switch.
• Kontrol bersifat kumulatif: kolom kanan tetap membutuhkan kontrol kolom kiri.
CATATAN AKURASI: Ketiga pola bisa tumpang tindih. Risiko naik karena otonomi, akses, dan dampak, bukan semata-mata jumlah agent. Tools read-only berbeda risikonya dengan API transfer. Contoh KYC–AML adalah skenario ilustratif dengan batas kewenangan, bukan anjuran mengotomatisasi keputusan tanpa pengawasan.
TRANSISI: "Agar jelas di mana kontrol harus dipasang, kita bedah anatomi sebuah agent."
Goal dari user
Model (LLM) planning & next step
1 Plan
2 Act
3 Observe API & sistem internal
Database & file
Browser, email, code TOOLS
Memory & context dokumen, riwayat, instruksi
Yang berubah bagi pengawas
Setiap koneksi adalah attack surface sekaligus control point.
Agent punya identity dan access right sendiri, seperti user.
Yang diperiksa bukan hanya modelnya, tapi keseluruhan sistemnya.
[S1 mnt 29–32]
PESAN KUNCI: Agent = model + tools + memory + loop. Setiap koneksi adalah attack surface sekaligus control point.
POIN BICARA:
• Goal datang dari user.
• Model (LLM) di tengah melakukan planning dan menentukan next step dalam loop: Plan → Act → Observe, lalu ulang sampai goal tercapai.
• Tools (kotak teal) adalah tempat action terjadi: API dan sistem internal, database dan file, browser, email, code. Di sinilah access right harus dibatasi.
• Memory & context berisi dokumen, riwayat, dan instruksi. Ini bisa diracuni (context poisoning), yang akan kita bahas di sesi 2.
• Tiga implikasi di kanan:
– Setiap koneksi adalah attack surface sekaligus control point.
– Agent punya identity dan access right sendiri, seperti user. Perlakukan sebagai non-human identity dalam IAM.
– Yang diperiksa bukan hanya modelnya, tetapi keseluruhan sistem.
ANTISIPASI PERTANYAAN: "Apakah agent perlu user ID sendiri?" → Ya, idealnya. Shared service account membuat jejak audit kabur dan melanggar least privilege. Ini salah satu gap yang ditanam di dokumen Demo A.
TRANSISI: "Seberapa cepat kemampuan agent ini berkembang? Ada data yang cukup mengejutkan."
Time horizon: durasi task dengan success rate 50% (setara waktu kerja human expert)
GPT-4 (2023)
Claude 3.7 Sonnet (awal 2025)
GPT-5 (Agt 2025)
Claude Opus 4.6 (awal 2026)
Growth rate Doubling kira-kira tiap 7 bulan sejak 2019; pada data 2023 ke atas trennya lebih cepat, sekitar 4 bulan.
Informasi 12 jam = durasi tugas setara kerja manusia pada estimasi keberhasilan 50%. Bukan lamanya agent berjalan sendiri. Angka ini estimasi dengan confidence interval.
[S1 mnt 32–34]
PESAN KUNCI: Panjang tugas yang bisa diselesaikan agent tumbuh sangat cepat, dan pengawasan harus mengantisipasinya.
POIN BICARA:
• Metrik METR: time horizon, yaitu durasi tugas (diukur dari waktu kerja human expert) yang bisa diselesaikan model dengan success rate 50%.
• Baca grafik: GPT-4 (2023) sekitar 0,1 jam; Claude 3.7 Sonnet (awal 2025) sekitar 1 jam; GPT-5 (Agustus 2025) sekitar 2,3 jam (2 jam 17 menit); Claude Opus 4.6 (awal 2026) sekitar 12 jam.
• Growth rate: kira-kira berlipat dua tiap 7 bulan sejak 2019; pada data 2023 ke atas trennya lebih cepat, sekitar 4 bulan.
CATATAN AKURASI:
• Angka ini contoh historis awal 2026, bukan peringkat model terbaru.
• Time horizon adalah ukuran kesulitan tugas berdasarkan waktu penyelesaian manusia dengan konteks terbatas. Ini bukan durasi agent beroperasi mandiri, dan bukan jaminan menggantikan pekerjaan bank.
• Success rate 50% adalah estimasi pada suite METR dengan confidence interval lebar, dan diukur di software task.
IMPLIKASI: Untuk keputusan di bank, evaluasi use case sendiri dengan target keandalan yang sesuai. 50% jelas tidak cukup untuk transaksi.
TRANSISI: "Dengan kemampuan seperti ini, di mana AI sudah dipakai di dunia nyata?"
= EMULATE mengerjakan yang biasa dikerjakan manusia < EXTEND melampaui skala dan kecepatan manusia
Klarna AI assistant (2024) customer service Bulan pertama: 2,3 juta percakapan, dua pertiga chat, setara kerja ±700 agen. Pada 2025 Klarna kembali menambah agen manusia demi kualitas layanan.
Morgan Stanley (2023) knowledge assistant Asisten berbasis GPT-4 untuk financial advisor, mencari jawaban dari ±100 ribu dokumen riset internal.
JPMorgan LLM Suite asisten internal Platform GenAI in-house sebagai alternatif chatbot publik; ±200 ribu pegawai.
Visa AI risk scoring AI khusus Menilai ±300 miliar transaksi per tahun dengan 500+ atribut; Visa menyebut ±US$40 miliar fraud dicegah (Okt 2022–Sep 2023).
AlphaFold AI khusus · riset Memprediksi struktur lebih dari 200 juta protein, skala yang sulit dicapai secara manual; Nobel Kimia 2024.
Claude Mythos Preview (2026) cybersecurity Menemukan dan merangkai zero-day di OS dan browser utama; tidak dirilis ke publik.
Emulate menghemat waktu; extend mengubah apa yang mungkin, termasuk bagi attacker. Pelajaran Klarna: emulate tetap butuh human oversight.
[S1 mnt 34–39]
PESAN KUNCI: Emulate menghemat waktu; extend mengubah apa yang mungkin, termasuk bagi attacker.
POIN BICARA:
• Dua lensa. Emulate: AI mengerjakan yang biasa dikerjakan manusia. Extend: AI melampaui skala atau kecepatan manusia.
• Kolom kiri (emulate):
– Klarna (2024): bulan pertama 2,3 juta percakapan, dua pertiga chat, setara kerja sekitar 700 agen. Pada 2025 Klarna kembali menambah agen manusia demi kualitas layanan.
– Morgan Stanley (2023): asisten berbasis GPT-4 untuk financial advisor, mencari jawaban dari sekitar 100 ribu dokumen riset internal.
– JPMorgan LLM Suite: platform GenAI in-house supaya pegawai tidak memakai chatbot publik, dilaporkan menjangkau sekitar 200 ribu pegawai.
• Kolom kanan (extend):
– Visa: AI menilai sekitar 300 miliar transaksi per tahun dengan 500+ atribut; Visa menyebut sekitar US$40 miliar fraud dicegah (Okt 2022–Sep 2023).
– AlphaFold: memprediksi struktur lebih dari 200 juta protein, berujung Nobel Kimia 2024.
– Claude Mythos Preview (2026): menemukan dan merangkai zero-day di OS dan browser utama; karena itu tidak dirilis ke publik.
CATATAN AKURASI: Visa dan AlphaFold adalah AI khusus sebagai pembanding skala, bukan contoh frontier general-purpose AI. Angka "setara 700 agen" adalah klaim kapasitas kerja Klarna, bukan bukti tepat 700 pegawai digantikan. Angka Visa dan Klarna adalah klaim perusahaan.
PELAJARAN: Klarna menunjukkan efisiensi perlu diuji bersama kualitas dan pengalaman nasabah. Emulate tetap butuh human oversight.
TRANSISI: "Tetapi kemampuan ini datang bersama limitasi yang nyata."
1 Hallucination Jawaban salah disampaikan dengan sangat yakin, termasuk referensi yang tidak pernah ada.
2 Non-deterministic Pertanyaan yang sama bisa menghasilkan jawaban berbeda. Testing sekali tidak cukup.
3 Benchmark bukan real-world performance Score tinggi di benchmark belum tentu berlaku di data dan proses spesifik organisasi.
4 Reliability turun di long task Error kecil per step menumpuk: 95% per step menjadi ±60% setelah 10 step.
[S1 mnt 39–41]
PESAN KUNCI: Agent yang hebat per step tetap perlu checkpoint, karena error menumpuk.
POIN BICARA:
• Hallucination: jawaban salah disampaikan dengan sangat yakin, termasuk referensi yang tidak pernah ada.
• Non-deterministic: pertanyaan yang sama bisa menghasilkan jawaban berbeda. Konsekuensinya, testing sekali tidak cukup.
• Benchmark bukan real-world performance: skor tinggi di benchmark belum tentu berlaku pada data dan proses bank.
• Reliability turun di long task. Grafik kanan: bila tiap step benar 95%, peluang task benar end-to-end tinggal sekitar 77% setelah 5 step, sekitar 60% setelah 10 step, sekitar 36% setelah 20 step, dan sekitar 8% setelah 50 step.
CATATAN AKURASI: Grafik adalah hitungan ilustratif (0,95 pangkat n) dengan asumsi antar-step independen, bukan data pengukuran.
IMPLIKASI: Untuk proses multi-step, tanyakan di step mana ada checkpoint manusia atau validasi otomatis.
TRANSISI: "Cukup teori. Mari kita lihat langsung, termasuk bagaimana AI bisa salah dan bisa dimanipulasi."
VS
Demo A · ±3 menit AI sebagai asisten pemeriksa
1 Tempel kebijakan AI bank fiktif ke chatbot AI
2 Minta AI memetakannya ke 10 pertanyaan kunci pengawas
3 AI menyusun tabel gap dalam hitungan detik
4 Minta nomor pasal POJK: apakah AI mengarang?
→ Cepat dan berguna, tapi output tetap harus diverifikasi
Demo B · ±3 menit Uji prompt injection
1 Dokumen yang sama, disisipi hidden instruction berwarna putih
2 Copy-paste ke chat baru, pakai prompt yang sama
3 Amati: apakah hidden instruction mengubah penilaian gap?
4 Tunjukkan teks tersembunyinya ke peserta
! AI dapat keliru mengikuti instruksi dalam dokumen; konten eksternal harus diperlakukan sebagai data
Bahan dan skrip di folder Demo · rekaman cadangan disiapkan bila internet bermasalah
[S1 mnt 41–49]
LIVE DEMO ±6 menit. Skrip lengkap di Demo/README - Skenario Demo.md.
PERSIAPAN: Tab chat baru untuk tiap demo, font browser diperbesar, rekaman cadangan siap, akun AI tidak terhubung ke email atau data kantor.
DEMO A (±3 menit), AI sebagai asisten pemeriksa:
• Tempel "A - Kebijakan AI Bank Contoh.md" (fiktif) dan Prompt 1: petakan ke 10 aspek dalam tabel.
• Tunjukkan kecepatannya: tabel gap tersusun dalam hitungan detik. Ada sembilan gap yang sengaja ditanam, mis. agent mengeksekusi sampai Rp50 juta tanpa approval, shared service account, log hanya 30 hari, tidak ada kill switch.
• Prompt 2: minta nomor pasal POJK/SEOJK yang dilanggar. Amati apakah AI menyebut pasal yang spesifik dan meyakinkan, atau mengaku tidak tahu. Tanyakan: siapa yang bisa memastikan pasal itu benar?
DEMO B (±3 menit), uji prompt injection:
• Buka berkas HTML; terlihat sama dengan dokumen A.
• Ctrl+A, Ctrl+C, tempel ke chat baru dengan Prompt 1 yang sama.
• Amati apakah hidden instruction mengubah penilaian gap. Lalu Ctrl+A lagi di browser untuk menunjukkan teks putih yang tersembunyi.
JIKA MODEL MENOLAK ATAU MENDETEKSI INJEKSI: Itu juga hasil yang bagus. Jelaskan bahwa safeguard bekerja pada percobaan ini, bukan bukti kebal terhadap semua variasi. Hasil bisa berbeda tiap dijalankan. Putar rekaman cadangan bila perlu.
CATATAN AKURASI: Jangan menyatakan semua AI pasti tertipu. Bila hasil berubah, bandingkan dengan dokumen bersih dan bukti sumber.
PESAN PENUTUP DEMO: Cepat dan berguna, tetapi output tetap harus diverifikasi. Konten eksternal harus diperlakukan sebagai data, bukan instruksi.
TRANSISI: "Sekarang giliran Bapak/Ibu menjadi pemeriksa."
AI-generated
Penyelenggaraan TI oleh bank umum diatur dalam POJK No. 11/POJK.03/2022. Pada Desember 2024, OJK menerbitkan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia, yang mewajibkan setiap bank memperoleh sertifikasi ISO/IEC 42001 paling lambat akhir 2026.
Pelindungan data nasabah dalam pemanfaatan AI mengacu pada UU No. 17 Tahun 2023 tentang Pelindungan Data Pribadi.
Aktivitas 1 · 3 menit Teks di kiri terdengar rapi dan meyakinkan.
Ada tiga kesalahan fakta di dalamnya.
Coba temukan bersama rekan di sebelah Anda.
[S1 mnt 49–53]
AKTIVITAS 1 (3 menit), lanjutan Demo A.
INSTRUKSI: "Teks di kiri dibuat seolah oleh AI. Terdengar rapi dan meyakinkan. Ada tiga kesalahan fakta. Temukan bersama rekan di sebelah Anda."
SAAT MEMBAHAS: Minta 2–3 peserta menyebutkan temuannya, lalu buka kunci jawaban.
KUNCI JAWABAN:
1. Panduan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia diluncurkan 29 April 2025, bukan Desember 2024.
2. Panduan tersebut tidak mewajibkan sertifikasi ISO/IEC 42001.
3. UU PDP adalah UU No. 27 Tahun 2022, bukan UU No. 17 Tahun 2023.
• Kalimat pertama tentang POJK 11/POJK.03/2022 benar. Pelajarannya: kesalahan terselip di antara fakta yang benar, sehingga sulit ditangkap tanpa verifikasi ke sumber primer.
CATATAN: Teks ini sengaja disusun untuk latihan.
PENUTUP SESI 1: Rangkum tiga hal: AI bergeser dari menjawab ke bertindak; kemampuannya tumbuh cepat; limitasinya nyata dan harus diverifikasi. "Setelah ini kita bahas apa saja risikonya, dan bagaimana mengawasinya." ISACAIndonesia Chapter
SESI 2 · 10.30–11.30
Frontier AI: Emerging Risks, Governance and Assurance
Emerging risks · Risiko model, data, operasional, keamanan, pihak ketiga
[S2 mnt 0]
PEMBUKA SESI 2.
• Ringkas sesi 1 dalam satu kalimat: AI sudah bergeser dari menjawab ke bertindak, kemampuannya tumbuh cepat, dan limitasinya nyata.
• Sesi ini menjawab dua pertanyaan: risikonya apa, dan bagaimana mengawasinya.
• Tiga blok: emerging risks termasuk case study Korea Selatan; AI governance dan standar terbaru termasuk human oversight dan assurance; implikasi bagi pengawas. 4 · Emerging AI Risks
ISACAIndonesia Chapter
[S2 mnt 0]
PEMBATAS BAGIAN 4 (±28 menit).
• Bagian ini bergerak dari data adopsi, ke taksonomi risiko, ke contoh nyata per risiko, lalu ditutup dengan case study Korea Selatan.
• Perhatikan tag warna di header slide: model risk, misuse risk, atau operational & systemic risk.
90% responden yakin karyawan di organisasinya sudah memakai AI 81% menyebut GenAI secara spesifik
Punya proses terdokumentasi untuk mematikan atau meng-override AI?
12%
56% tidak tahu berapa lama waktu yang dibutuhkan untuk menghentikan AI saat insiden keamanan
"AI adoption is accelerating faster than AI readiness." ISACA, Taking the Pulse of AI 2026
[S2 mnt 0–2]
PESAN KUNCI: AI sudah dipakai luas, tetapi kesiapan governance tertinggal.
POIN BICARA:
• 90% responden yakin karyawan di organisasinya sudah memakai AI; 81% menyebut GenAI secara spesifik.
• Hanya 38% organisasi yang punya AI policy formal dan komprehensif, naik dari 28% di 2025; 25% belum punya policy sama sekali.
• Angka paling tajam bagi pengawas: hanya 12% punya proses terdokumentasi untuk mematikan atau meng-override AI dan rutin mengujinya. 56% bahkan tidak tahu berapa lama waktu yang dibutuhkan untuk menghentikan AI saat insiden keamanan.
• Kutipan ISACA: "AI adoption is accelerating faster than AI readiness."
CATATAN AKURASI: Sumber ISACA Taking the Pulse of AI 2026, survei global terhadap lebih dari 3.400 praktisi. Ini bukan data khusus perbankan Indonesia.
TRANSISI: "Angka 12% ini akan kita temui lagi di pertanyaan pengawas tentang autonomy limit. Sekarang, bagaimana memetakan risikonya?"
OPERATIONAL & SYSTEMIC MISUSE MODEL malfunction
Model risk · model tidak berperilaku sesuai ekspektasi Hallucination Bias & explainability Model validation
Misuse risk · model bekerja baik, untuk tujuan jahat Deepfake & social engineering AI-enabled cyberattack Fraud at scale
Operational & systemic risk · cara AI di-deploy dan dipakai bersama Data leakage & shadow AI Prompt injection & excessive agency Vendor concentration & herding
[S2 mnt 2–4]
PESAN KUNCI: Risiko frontier AI dapat dipetakan ke tiga layer: model (malfunction), misuse, dan operational & systemic.
POIN BICARA:
• Model risk: model tidak berperilaku sesuai ekspektasi. Contoh: hallucination, bias & explainability, kelemahan model validation.
• Misuse risk: model bekerja dengan baik, tetapi untuk tujuan jahat. Contoh: deepfake dan social engineering, AI-enabled cyberattack, fraud at scale.
• Operational & systemic risk: muncul dari cara AI di-deploy dan dipakai bersama. Contoh: data leakage dan shadow AI, prompt injection dan excessive agency, vendor concentration dan herding.
• Makin tinggi posisi di capability ladder (sesi 1), makin berat layer kedua dan ketiga.
• Tag warna di header slide-slide berikutnya menunjukkan layer-nya.
CATATAN AKURASI: Kerangka tiga layer mengikuti International AI Safety Report 2026: malfunction, misuse, systemic.
TRANSISI: "Tiga layer ini juga dipakai NIST untuk mengelompokkan 12 risiko GenAI." · risk from malfunction
2 Confabulation
Output salah atau fiktif yang disampaikan dengan yakin Hallucination 6 Harmful Bias or Homogenization
Bias teramplifikasi; output seragam di banyak pengguna Bias Systemic risk 12 Value Chain & Component Integration
Komponen pihak ketiga tidak transparan atau tidak bisa ditelusuri AI supply chain 3 Dangerous, Violent, or Hateful Content
Rekomendasi berbahaya, konten kekerasan atau kebencian · malicious use
9 Information Security
Serangan siber makin mudah; model dan data jadi target Prompt injection Korea 8 Information Integrity
Konten palsu dan disinformasi dalam skala besar Deepfake 7 Human-AI Configuration
Automation bias, over-reliance, anthropomorphism Human oversight 1 CBRN Information or Capabilities
Akses ke informasi senjata kimia, biologi, radiologi, nuklir 11 Obscene, Degrading, and/or Abusive Content
Konten abusive sintetis, termasuk NCII · systemic risk
4 Data Privacy cross-cutting
Kebocoran, penggunaan tanpa izin, atau de-anonymization data pribadi Data leakage UU PDP 10 Intellectual Property
Konten berhak cipta direplikasi; trade secret bocor lewat prompt 5 Environmental Impacts
Konsumsi energi dan compute untuk training dan inference [S2 mnt 4–7]
PESAN KUNCI: Taksonomi risiko GenAI yang diakui secara global sudah tersedia. Bank tidak perlu menyusun dari nol.
POIN BICARA:
• Ini bukan taksonomi buatan saya. NIST AI 600-1, Generative AI Profile dari AI RMF (Juli 2024), mendefinisikan 12 risiko yang unik atau diperparah oleh GenAI.
• Pengelompokan tiga kolom juga dari NIST sendiri (footnote 5), diturunkan dari International AI Safety Report, sehingga sejalan dengan slide sebelumnya.
• Sorot beberapa yang paling relevan untuk bank:
– Confabulation: istilah NIST untuk hallucination.
– Harmful Bias or Homogenization: "homogenization" berarti bila banyak bank memakai model yang sama, keputusan cenderung seragam (herding). Ini jembatan ke systemic risk.
– Human-AI Configuration: automation bias dan over-reliance, mis. analis kredit atau pemeriksa yang percaya begitu saja pada output AI.
– Value Chain & Component Integration: komponen pihak ketiga yang tidak transparan, terkait AI supply chain.
– Data Privacy: cross-cutting, muncul di ketiga kelompok. Terhubung langsung dengan UU PDP.
• Bila ditanya kenapa pill Prompt injection ada di kolom Misuse padahal slide-nya bertag Operational: injection adalah serangan (misuse), tetapi dampaknya membesar karena cara agent di-deploy (operational). Risiko bisa lintas layer, dan NIST sendiri mencatat ada risiko yang cross-cutting.
• Tunjuk pill di tiap kartu: itu slide yang akan kita bahas berikutnya.
• Risiko lain (CBRN, konten berbahaya/abusive, IP, environmental) tetap perlu tercakup di acceptable use policy dan kontrak vendor, meski tidak dibahas khusus hari ini.
CATATAN AKURASI: Nama risiko dan pengelompokan dari NIST; deskripsi singkat berbahasa Indonesia dan pemetaan ke slide (pill) dari penulis.
GAP: Profil ini terbit 2024, sebelum agent marak. Untuk risiko agent kita lengkapi dengan OWASP Agentic Top 10 dan ISO/IEC 27090 di bagian 5.
ANTISIPASI PERTANYAAN: "Apakah OJK mewajibkan NIST?" → Tidak. NIST bersifat voluntary. Gunanya sebagai referensi taksonomi yang bisa dipetakan ke ketentuan dan panduan OJK.
TRANSISI: "Kita mulai dari risiko yang paling sering dibicarakan: hallucination."
Real case Deloitte Australia, Oktober 2025 Laporan senilai ±AU$440 ribu untuk pemerintah Australia ternyata berisi referensi akademik fiktif dan kutipan putusan pengadilan yang tidak pernah ada.
Deloitte mengakui memakai GenAI dan me-refund sebagian fee-nya.
Air Canada (2024):
1 AI membuat draft lengkap dengan referensi
▼
2 Terlihat rapi, tidak diverifikasi
▼
3 Masuk ke final report
▼
4 Dampak: reputasi, finansial, legal
Control: verifikasi setiap referensi ke primary source. Accountability tetap di penanda tangan laporan.
[S2 mnt 7–9]
LAYER: Model risk. NIST: Confabulation.
PESAN KUNCI: Output yang rapi tidak sama dengan output yang benar. Accountability tetap di penanda tangan.
POIN BICARA:
• Real case Deloitte Australia (Oktober 2025): laporan senilai sekitar AU$440 ribu untuk pemerintah Australia ternyata berisi referensi akademik fiktif dan kutipan putusan pengadilan yang tidak pernah ada. Deloitte mengakui memakai GenAI dan me-refund sebagian fee.
• Air Canada (2024): maskapai diwajibkan menanggung janji keliru dari chatbot-nya. Perusahaan tidak bisa berlindung di balik "itu kata chatbot".
• Ikuti alur di kanan: AI membuat draft lengkap dengan referensi → terlihat rapi sehingga tidak diverifikasi → masuk ke final report → dampak reputasi, finansial, dan legal.
• Relevan langsung untuk pemeriksa: laporan hasil pemeriksaan yang dibantu AI menghadapi risiko yang sama, seperti yang kita lihat di Demo A dan Aktivitas 1.
CONTROL: Verifikasi setiap referensi ke primary source. Accountability tetap di penanda tangan laporan.
TRANSISI: "Risiko model kedua lebih halus: bias dan explainability."
Historical data
Model
Decision
New data
Pola diskriminatif di masa lalu ikut dipelajari
Proxy variable: kode pos, jenis device
Tidak bisa dijelaskan ke nasabah
Feedback loop memperkuat bias
Merah: entry point bias di alur decision
Real case Apple Card, 2019 Komplain soal limit kredit yang berbeda antara suami dan istri memicu investigasi regulator New York.
Tidak ditemukan pelanggaran hukum, tapi issuer tidak mampu menjelaskan keputusannya ke nasabah.
Control: fairness testing per segmen, dokumentasi alasan keputusan, dan jalur komplain nasabah yang ditangani manusia.
[S2 · OPSIONAL, ±2 mnt, bisa dicut]
LAYER: Model risk. NIST: Harmful Bias or Homogenization.
PESAN KUNCI: Bias bisa masuk di setiap tahap alur keputusan, dan bank harus bisa menjelaskan keputusannya ke nasabah.
POIN BICARA:
• Alur credit decision di kiri; kotak merah adalah entry point bias:
– Historical data: pola diskriminatif di masa lalu ikut dipelajari.
– Model: proxy variable seperti kode pos atau jenis device.
– Decision: tidak bisa dijelaskan ke nasabah.
– New data: feedback loop memperkuat bias.
• Real case Apple Card (2019): keluhan soal limit kredit yang berbeda antara suami dan istri memicu investigasi New York DFS. Tidak ditemukan pelanggaran hukum, tetapi issuer tidak mampu menjelaskan keputusannya kepada nasabah. Ini masalah explainability.
• Dengan GenAI, bias juga muncul dari cara pertanyaan diajukan, dan lebih sulit diuji karena output berupa teks bebas.
CONTROL: Fairness testing per segmen, dokumentasi alasan keputusan, dan jalur komplain nasabah yang ditangani manusia.
TRANSISI: "Kalau risikonya bertambah, apakah model validation yang selama ini kita pakai masih cukup?"
Yang divalidasi
Model, asumsi, input/output, serta konteks penggunaan
→
Sistem: model + prompt + data + tools
Metode
Backtesting, statistical test
→
Scenario-based test set, red teaming, repeated testing
Frekuensi
Monitoring berkelanjutan; validasi berkala dan saat perubahan material
→
Monitoring berkelanjutan; uji ulang perubahan model, prompt, data, tools
Akses
Akses model/data bervariasi, termasuk pada model vendor
→
Pada closed model, weights/training data umumnya tidak terbuka
Metrik
Accuracy, stability, bias, dan kesesuaian penggunaan
→
Plus hallucination rate, robustness terhadap manipulasi, consistency
[S2 mnt 9–11]
LAYER: Model risk.
PESAN KUNCI: Prinsip MRM klasik tetap berguna, tetapi objek dan skenario ujinya bertambah.
POIN BICARA:
• Baca per baris:
– Yang divalidasi: dari model, asumsi, dan input/output menjadi sistem utuh (model + prompt + data + tools).
– Metode: dari backtesting dan statistical test menjadi scenario-based test set, red teaming, dan repeated testing.
– Frekuensi: dari berkala menjadi monitoring berkelanjutan, ditambah uji ulang setiap perubahan model, prompt, data, atau tools.
– Akses: pada closed model, weights dan training data umumnya tidak terbuka.
– Metrik: ditambah hallucination rate, robustness terhadap manipulasi, dan consistency.
• Prinsip yang tetap berlaku: pemahaman konseptual, independent challenge, dan ongoing monitoring.
• Pembanding AS: SR 26-2 (Fed/OCC/FDIC, 17 April 2026) menggantikan SR 11-7 dan SR 21-8. Lampiran resminya (hlm. 3, catatan kaki 3) secara eksplisit mengecualikan GenAI dan agentic AI, tetapi tetap meminta risk management dan governance memandu kontrol bagi sistem di luar cakupannya.
CATATAN AKURASI: SR 26-2 adalah guidance AS sebagai pembanding, bukan ketentuan OJK.
TRANSISI: "Sekarang kita pindah ke layer kedua, misuse: model bekerja baik, tetapi untuk tujuan jahat."
Kumpulkan video dan suara dari sumber publik
Buat deepfake wajah atau voice clone
Kontak korban: video call, e-KYC
Korban memberi otorisasi
Dana atau kredit keluar
Real case Arup, Hong Kong, 2024 Staf finance ikut video call; CFO dan rekan-rekannya ternyata deepfake. Hasilnya 15 transfer, sekitar US$25 juta.
Real case Indonesia, 2024 Group-IB melaporkan lebih dari 1.100 percobaan mem-bypass e-KYC pinjaman di satu lembaga keuangan memakai deepfake wajah.
36% yakin organisasinya mampu mendeteksi misinformation berbasis AI · ISACA Pulse 2026
Control: out-of-band verification, multi-layer liveness detection, limit dan cooling-off period untuk transaksi tidak wajar.
[S2 mnt 11–13]
LAYER: Misuse risk. NIST: Information Integrity.
PESAN KUNCI: Deepfake membuat verifikasi visual dan suara tidak lagi cukup.
POIN BICARA:
• Ikuti alur di atas: kumpulkan video dan suara dari sumber publik → buat deepfake wajah atau voice clone → kontak korban lewat video call atau e-KYC → korban memberi otorisasi → dana atau kredit keluar.
• Real case Arup, Hong Kong (2024): staf finance ikut video call; CFO dan rekan-rekannya ternyata deepfake. Hasilnya 15 transfer, sekitar US$25 juta (sekitar HK$200 juta).
• Real case Indonesia (2024): Group-IB melaporkan lebih dari 1.100 percobaan mem-bypass e-KYC pinjaman di satu lembaga keuangan memakai deepfake wajah. e-KYC menjadi sasaran utama.
• Data point ISACA: hanya 36% yakin organisasinya mampu mendeteksi misinformation berbasis AI.
CONTROL: Out-of-band verification, multi-layer liveness detection, serta limit dan cooling-off period untuk transaksi tidak wajar.
INTERAKSI: "Apakah prosedur verifikasi transaksi besar di bank masih bergantung pada video call atau suara?"
TRANSISI: "Risiko berikutnya justru datang dari dalam: pegawai sendiri."
Perimeter Organisasi Pegawai ingin kerja lebih cepat
▼
Copy-paste data nasabah, source code, dokumen internal ke prompt
→
Dikirim ke penyedia; lokasi, retensi, dan penggunaan untuk training mengikuti layanan serta pengaturan
▲
Chatbot AI publik
Real case Samsung, 2023 Engineer meng-copy-paste source code dan notulen rapat ke chatbot publik untuk minta bantuan.
Perusahaan lalu melarang pemakaian GenAI publik di perangkat kantor.
81% responden menyebut karyawan memakai GenAI; hanya 38% organisasi punya policy formal · ISACA Pulse 2026
def risk_score(): key = "••••" return model(x) AI
Control: acceptable use policy, AI tool resmi yang lebih nyaman dipakai daripada jalan pintas, DLP, awareness training.
[S2 mnt 13–15]
LAYER: Operational & systemic risk. NIST: Data Privacy.
PESAN KUNCI: Shadow AI muncul karena kebutuhan nyata. Larangan tanpa alternatif resmi biasanya gagal.
POIN BICARA:
• Alur di kiri: pegawai ingin kerja lebih cepat → copy-paste data nasabah, source code, atau dokumen internal ke prompt → data keluar dari perimeter bank ke chatbot AI publik.
• Setelah dikirim ke penyedia, lokasi, retensi, dan penggunaan untuk training mengikuti ketentuan layanan serta pengaturan akun.
• Real case Samsung (2023): engineer meng-copy-paste source code dan notulen rapat ke chatbot publik untuk minta bantuan. Perusahaan lalu melarang pemakaian GenAI publik di perangkat kantor.
• Data point ISACA: 81% menyebut karyawan memakai GenAI, tetapi hanya 38% organisasi punya policy formal.
• Kaitan regulasi: setiap prompt yang berisi data nasabah tunduk pada UU PDP.
CONTROL: Acceptable use policy, AI tool resmi yang lebih nyaman dipakai daripada jalan pintas, DLP, dan awareness training.
TRANSISI: "Kalau shadow AI soal data keluar, risiko berikutnya soal instruksi masuk."
Email atau dokumen dari luar berisi hidden instruction
→
Agent AI dapat keliru mengikuti instruksi di konten eksternal
→
Mailbox
File internal
Sistem Internal
▼ Jika berhasil, data dapat terkirim ke attacker; EchoLeak menunjukkan pola zero-click
Real case EchoLeak, 2025 Satu email berisi hidden instruction membuat AI assistant perkantoran mengirim data internal ke luar.
CVE-2025-32711, di-patch Microsoft pada Juni 2025.
‹ignore previous instructions›
zero-click
Control: pisahkan data dari instruksi, least privilege, batasi outbound traffic, dan terapkan approval di tool/API.
[S2 mnt 15–17]
LAYER: Operational & systemic risk. NIST: Information Security. OWASP: ASI01 Agent Goal Hijack.
KENAPA TAG-NYA OPERATIONAL, SEDANGKAN DI SLIDE NIST ADA DI KOLOM MISUSE? Injection sendiri adalah serangan (misuse, Information Security di NIST). Tetapi besar dampaknya ditentukan oleh cara agent di-deploy: akses tools, hak akses, dan egress. Itu sebabnya slide ini memakai tag operational. Keduanya benar dari sudut yang berbeda.
PESAN KUNCI: Instruksi di dalam prompt tidak cukup sebagai batas keamanan. Batasnya harus ditegakkan di luar model.
POIN BICARA:
• Alur di kiri: email atau dokumen dari luar berisi hidden instruction → agent AI keliru mengikuti instruksi di konten eksternal → agent punya akses ke mailbox, file internal, dan sistem bank → data dapat terkirim ke attacker.
• Real case EchoLeak (2025): satu email berisi hidden instruction membuat AI assistant perkantoran mengirim data internal ke luar. CVE-2025-32711, di-patch Microsoft pada Juni 2025. EchoLeak menunjukkan pola zero-click: korban tidak perlu mengklik tautan apa pun.
• Prompt injection bisa membelokkan jawaban chatbot meski tanpa tools. Dampaknya meluas menjadi salah tindakan bila sistem punya akses tools: inilah excessive agency.
• Kaitkan dengan Demo B tadi.
CATATAN AKURASI: Keberhasilan injeksi bergantung pada konteks dan kerentanan, bukan sifat pasti semua AI. Demo B menguji manipulasi penilaian, bukan mereplikasi seluruh exploit EchoLeak.
CONTROL: Pisahkan data dari instruksi, least privilege, batasi outbound traffic (egress), dan terapkan approval di tool/API.
TRANSISI: "Risiko-risiko tadi terjadi di satu bank. Bagaimana kalau banyak bank terkena sekaligus?"
▼ ▼ ▼ ▼ ▼ ▼ ▼ ▼
Provider A
Provider B
Provider C
▼ ▼ ▼
Satu vulnerability, satu outage, satu cara berpikir
Herding: model yang sama memberi rekomendasi yang seragam, lalu memperbesar market shock.
Analogi CrowdStrike outage, Juli 2024 Satu software update yang salah melumpuhkan sekitar 8,5 juta perangkat Windows, termasuk bank dan bursa.
Bukan insiden AI, tapi polanya sama: shared dependency ke satu provider.
:( :( :( :( :( :(
Control: dependency mapping lintas organisasi, exit plan dan substitusi, operational resilience testing.
[S2 · OPSIONAL, ±2 mnt, bisa dicut]
LAYER: Operational & systemic risk. NIST: Value Chain dan Homogenization.
PESAN KUNCI: Shared dependency mengubah risiko satu bank menjadi risiko sektor.
POIN BICARA:
• Diagram: banyak bank bergantung pada sedikit provider. Satu vulnerability, satu outage, atau satu cara berpikir bisa menjalar ke semua.
• Herding: model yang sama memberi rekomendasi yang seragam, lalu memperbesar market shock.
• Analogi CrowdStrike outage (Juli 2024): satu software update yang salah melumpuhkan sekitar 8,5 juta perangkat Windows, termasuk bank dan bursa. Ini bukan insiden AI, tetapi polanya sama: shared dependency ke satu provider.
CATATAN AKURASI: Belum ada insiden sistemik AI berskala besar; karena itu dipakai analogi.
IMPLIKASI: Ini wilayah pengawasan makroprudensial, tetapi datanya berasal dari pemeriksaan mikro: inventory model dan vendor di tiap bank.
CONTROL: Dependency mapping lintas bank, exit plan dan substitusi, serta operational resilience testing.
TRANSISI: "Satu risiko lagi sebelum case study: AI sebagai senjata dan perisai di cybersecurity."
Pengguna / organisasi pengguna · jutaan
Aplikasi dan vendor · ratusan
Frontier model · segelintir developer
Cloud · beberapa provider
AI chip · 1 dominan
Makin ke bawah: makin sedikit pemain, makin besar dampaknya kalau gagal
Kenapa penting bagi pengawas
Satu outage atau vulnerability bisa kena ke banyak organisasi sekaligus.
Organisasi yang berbeda bisa mengambil keputusan yang mirip karena modelnya sama.
Bargaining power pengguna lemah: audit right dan exit plan sulit dinegosiasikan.
IMF (2026): concern utamanya adalah scale effect pada shared technology.
[S1 mnt 19–21]
PESAN KUNCI: Makin ke bawah rantai pasok, makin sedikit pemain dan makin besar dampaknya bila gagal.
POIN BICARA:
• Baca funnel dari atas: ribuan bank dan lembaga keuangan, ratusan aplikasi dan vendor, segelintir developer frontier model, beberapa cloud provider, dan satu produsen AI chip yang dominan.
• Kenapa penting bagi pengawas:
– Satu outage atau vulnerability bisa mengenai banyak bank sekaligus.
– Bank yang berbeda bisa mengambil keputusan yang mirip karena modelnya sama (herding).
– Bargaining power bank lemah: audit right dan exit plan sulit dinegosiasikan.
• IMF Note 2026/005: concern utamanya adalah scale effect pada shared technology.
IMPLIKASI: Pemeriksaan third party per bank perlu dilengkapi pemetaan konsentrasi lintas bank. Datanya ada di hasil pemeriksaan mikro.
TRANSISI: "Developer sendiri punya praktik keselamatan. Seberapa jauh bank bisa bersandar padanya?" VS
Attacker
Sudah terjadi Phishing dan deepfake at scale Scanning dan exploitation dibantu agent (Korea, 2026) AI memperkuat attack workflow lama, belum fully autonomous Segera datang Autonomous zero-day discovery dan exploitation Machine-speed attack ke banyak target sekaligus Defender
Sudah terjadi Alert triage dan incident summary di SOC AI-assisted vulnerability discovery: proyeksi ±66.000 CVE di 2026 Segera datang Continuous agentic pentest Automated remediation dan machine-speed defense [S2 mnt 17–19]
LAYER: Misuse risk.
PESAN KUNCI: AI memperkuat attacker dan defender sekaligus. Pertanyaannya, siapa yang lebih cepat.
POIN BICARA:
• Attacker, sudah terjadi: phishing dan deepfake at scale; scanning dan exploitation dibantu agent (Korea, 2026); AI memperkuat attack workflow lama, belum fully autonomous.
• Attacker, segera datang: autonomous zero-day discovery dan exploitation; machine-speed attack ke banyak target sekaligus.
• Defender, sudah terjadi: alert triage dan incident summary di SOC; AI-assisted vulnerability discovery. FIRST memproyeksikan sekitar 66.000 CVE di 2026.
• Defender, segera datang: continuous agentic pentest; automated remediation dan machine-speed defense.
CATATAN AKURASI: Data H1 2026 (Recorded Future) menunjukkan AI lebih banyak memperkuat attack workflow lama daripada serangan fully autonomous. Regulator sudah bersiap menghadapi machine speed.
TRANSISI: "Contoh paling baru dan paling dekat dengan sektor kita terjadi di Korea Selatan, sekitar sebulan lalu."
1
External attack surface Minta inventory semua sistem yang internet-facing, termasuk portal mitra, agen, dan aplikasi pegawai.
2
Supporting system Yang dibobol bukan core banking. Uji apakah authentication di supporting system dan third party sama ketatnya.
3 Detection speed Tanyakan detection dan response time aktualnya, bukan sekadar ada atau tidaknya SOC.
56% tidak tahu berapa lama menghentikan AI saat insiden keamanan · ISACA Pulse 2026
Otomasi dapat mempercepat serangan; keterlambatan deteksi memperbesar peluang eksfiltrasi dan dampaknya.
[S2 mnt 50–52]
BAGIAN 6a.
PESAN KUNCI: Otomasi mempercepat serangan; keterlambatan deteksi memperbesar peluang eksfiltrasi dan dampaknya.
POIN BICARA:
1. External attack surface: minta inventory semua sistem internet-facing, termasuk portal mitra, agen, dan aplikasi pegawai. Di Korea, yang dibobol justru sistem seperti ini.
2. Supporting system: yang dibobol bukan core banking. Uji apakah authentication di supporting system dan di third party sama ketatnya.
3. Detection speed: tanyakan detection dan response time aktualnya, bukan sekadar ada atau tidaknya SOC. Data ISACA: 56% tidak tahu berapa lama waktu yang dibutuhkan untuk menghentikan AI saat insiden keamanan.
• Kaitkan dengan SEOJK ketahanan dan keamanan siber serta PADK 1/2026, khususnya penggunaan penyedia jasa TI.
TRANSISI: "Sekarang giliran Bapak/Ibu berdiskusi." ASI01 Agent Goal Hijack Email nasabah berisi hidden instruction membelokkan agent customer service untuk mengirim data rekening.
ASI02 Tool Misuse & Exploitation Agent memanggil API transfer berulang-ulang (loop) atau merangkai tools di luar maksud desainnya.
ASI03 Identity & Privilege Abuse Agent memakai service account ber-privilege tinggi untuk action yang tidak pernah diotorisasi user.
ASI04 Agentic Supply Chain Plugin atau MCP server third party yang dipakai agent ternyata sudah di-compromise.
ASI05 Unexpected Code Execution Agent analitik menjalankan code hasil generate-nya sendiri di server tanpa sandbox.
ASI06 Memory & Context Poisoning Knowledge base RAG disusupi dokumen palsu; jawaban-jawaban berikutnya ikut salah.
ASI07 Insecure Inter-Agent Comms Pesan antara agent KYC dan agent AML dipalsukan atau diubah di tengah jalan.
ASI08 Cascading Failures Satu agent salah klasifikasi; error menjalar ke proses kredit, limit, dan pelaporan.
ASI09 Human-Agent Trust Exploitation Analis meng-approve rekomendasi agent yang terdengar yakin tanpa verifikasi.
ASI10 Rogue Agents Agent menyimpang dari tujuannya dan terus beroperasi di luar monitoring.
Pertanyaan pemeriksaan: control apa yang menjawab ASI01 sampai ASI10, dan siapa owner-nya?
[S2 · OPSIONAL, ±2 mnt, bisa dicut]
PESAN KUNCI: Sepuluh kategori risiko agent yang bisa langsung dipakai sebagai checklist pemeriksaan.
POIN BICARA:
• Slide teknis untuk spesialis TI; pilih 3–4 yang paling relevan, jangan dibaca semua.
• Sorot:
– ASI01 Agent Goal Hijack: email nasabah berisi hidden instruction membelokkan agent customer service. Terkait EchoLeak dan Demo B.
– ASI03 Identity & Privilege Abuse: agent memakai service account ber-privilege tinggi. Terkait kasus Korea (authentication bypass).
– ASI04 Agentic Supply Chain: plugin atau MCP server pihak ketiga yang dipakai agent ternyata sudah di-compromise.
– ASI06 Memory & Context Poisoning: knowledge base RAG disusupi dokumen palsu, sehingga jawaban berikutnya ikut salah.
– ASI08 Cascading Failures: satu agent salah klasifikasi, lalu error menjalar ke proses kredit, limit, dan pelaporan.
– ASI09 Human-Agent Trust Exploitation: analis meng-approve rekomendasi agent yang terdengar yakin tanpa verifikasi. Ini automation bias.
CATATAN AKURASI: Nama kategori mengikuti OWASP Top 10 for Agentic Applications 2026. Contoh di bank adalah ilustrasi, bukan insiden nyata.
PERTANYAAN PEMERIKSAAN: "Untuk setiap agent di bank, kontrol apa yang menjawab ASI01 sampai ASI10, dan siapa owner-nya?"
TRANSISI: "Kontrol teknis saja tidak cukup. Harus jelas di mana manusia berperan, dan siapa yang accountable."
7 lembaga keuangan mengumumkan data breach
±66.000 individu ter-expose
(1 titik = 1.000 orang)
Respons regulator FSC dan FSS sharing IP address dan intrusion method ke seluruh sektor (2 Okt), lalu memerintahkan pengecekan semua internet-facing system (4 Okt) dan mendorong AI-based defense serta zero trust
AI agent tool ARTEX: open-source agentic penetration testing tool LLM utama DeepSeek, ditambah GLM dan Grok, diakses lewat reseller API. Session history coding agent (Claude Code) dan file konfigurasi tertinggal di open directory Threat actor belum teratribusi; dinilai berbahasa Mandarin dan financially motivated. Supporting System Yang dibobol adalah supporting system yang internet-facing: layanan agen pinjaman, aplikasi pegawai, sales support.
Masih diinvestigasi Keterkaitan seluruh insiden dengan kampanye ARTEX serta tingkat otonominya belum terkonfirmasi.
[S2 mnt 19–21]
LAYER: Misuse risk.
PESAN KUNCI: Dalam lima hari, tujuh lembaga keuangan mengumumkan data breach, dengan detection time 15 sampai 68 jam.
POIN BICARA:
• Buka jawaban Aktivitas 2: 15–68 jam dari intrusion sampai terdeteksi bank.
• 7 lembaga keuangan mengumumkan data breach; sekitar 66.000 individu ter-expose.
• AI agent tool: di server attacker ditemukan jejak ARTEX, open-source agentic penetration testing tool yang digerakkan LLM.
• Bukan core banking: yang dibobol adalah supporting system yang internet-facing, yaitu layanan agen pinjaman, aplikasi pegawai, dan sales support.
• Masih diinvestigasi: keterkaitan seluruh insiden dengan kampanye ARTEX serta tingkat otonominya belum terkonfirmasi.
CATATAN AKURASI: Total sekitar 66.000 berasal dari laporan media dan angkanya masih bergerak. Peran AI masih diinvestigasi FSS, dan angka korban berbeda antar-sumber.
TRANSISI: "Kita lihat kronologi dan peta kejadiannya."
[S2 mnt 24–26]
LAYER: Misuse risk.
PESAN KUNCI: Tool yang sah, open-source maupun komersial, dipakai ulang untuk menyerang.
POIN BICARA:
• Temuan CrowdStrike (7 Oktober 2026):
– ARTEX adalah open-source agentic penetration testing tool.
– LLM yang dipakai terutama DeepSeek, ditambah GLM dan Grok, diakses lewat reseller API.
– Session history coding agent (Claude Code) dan file konfigurasi tertinggal di open directory.
– Threat actor belum teratribusi; dinilai berbahasa Mandarin dan financially motivated.
• Yang belum pasti: berapa lembaga yang benar-benar terkait kampanye ARTEX; seberapa otonom serangannya (FSS masih menginvestigasi); dan jumlah korban yang berbeda antar-sumber.
• Respons regulator: FSC dan FSS membagikan IP address dan intrusion method ke seluruh sektor (2 Oktober), lalu memerintahkan pengecekan semua sistem internet-facing (4 Oktober) dan mendorong AI-based defense serta zero trust.
CATATAN AKURASI: Keyakinan CrowdStrike atas profil pelaku: moderate. Jangan menyebut atribusi negara.
INTERAKSI: "Seberapa cepat mekanisme berbagi informasi ancaman di sektor kita bisa bergerak dibanding dua hari di Korea?"
TRANSISI: "Apa pelajarannya untuk pertahanan?"
SEOUL · AKHIR SEPTEMBER 2026 Sistem beberapa lembaga keuangan besar di Korea Selatan dibobol dari luar.
C 12–48 jam Shinhan ±15 jam Hana ±42 jam
D > 48 jam KB Kookmin ±68 jam
Lihat jawaban klik kartu atau tekan J
[S2 · OPSIONAL, ±2 mnt, bisa dicut]
AKTIVITAS 2 (2 menit).
INSTRUKSI: "Akhir September 2026, beberapa bank besar di Seoul dibobol. Menurut Bapak/Ibu, berapa lama dari intrusion sampai bank menyadarinya? Pilih A, B, C, atau D." Minta peserta angkat tangan per opsi, atau pakai polling.
• Jangan buka jawabannya dulu. Jawaban dibuka di slide berikutnya.
KUNCI (untuk narasumber): Shinhan sekitar 15 jam (B), Hana sekitar 42 jam (C), KB Kookmin hampir 68 jam (D). Sumber: laporan insiden bank ke National Assembly, via AJU Press.
POIN DISKUSI: Kebanyakan peserta biasanya menebak lebih cepat. Bandingkan dengan agent attacker yang bekerja dalam hitungan menit.
TRANSISI: "Mari kita lihat jawabannya."
27 Sep
28–30 Sep
1–2 Okt
4 Okt
7 Okt
KOREA SELATAN
VPS + 9 proxy IP IP dari 8 negara
6
SEOUL
Shinhan · KB · Hana + 3 lainnya
Woori, NH: berhasil menangkal
1
BUSAN
BNK Busan Bank
15 jam deteksi
Shinhan Bank Seoul 25.727 nasabah · layanan agen pinjaman; authentication bypass; 6 service diserang
42 jam deteksi
Hana Bank Seoul 89 nasabah · sales support system (ODS)
68 jam deteksi
KB Kookmin Bank Seoul 119 orang (99 nasabah, 20 pegawai) · aplikasi pegawai RM Agent dan PB Agent
– n/a
BNK Busan Bank Busan 11 pegawai outsourcing · entry point belum diungkap
– n/a
Yegaram SB, Welcome SB, Hyundai Capital Seoul
[S2 mnt 21–24]
LAYER: Misuse risk.
PESAN KUNCI: Serangan menyasar banyak lembaga sekaligus, lewat sistem pendukung yang terhubung ke internet.
POIN BICARA:
• Timeline: 27 September intrusion pertama (KB Kookmin); 28–30 September Shinhan mendeteksi dan Hana diserang; 1–2 Oktober bank mengumumkan dan FSC mengadakan emergency meeting; 4 Oktober FSC/FSS memerintahkan pengecekan semua sistem internet-facing; 7 Oktober CrowdStrike merilis analisisnya.
• Peta: attacker memakai VPS dan sembilan proxy IP dari delapan negara. Dua klaster: enam lembaga di Seoul, dan BNK Busan Bank di Busan.
• Daftar kanan:
– Shinhan (deteksi sekitar 15 jam): 25.727 nasabah; layanan agen pinjaman; authentication bypass; enam service diserang.
– Hana (sekitar 42 jam): 89 nasabah; sales support system (ODS).
– KB Kookmin (sekitar 68 jam): 119 orang (99 nasabah, 20 pegawai); aplikasi pegawai RM Agent dan PB Agent.
– BNK Busan Bank: 11 pegawai outsourcing; entry point belum diungkap.
– Yegaram SB, Welcome SB, Hyundai Capital: angka berbeda antar-sumber, detail belum lengkap.
• Woori dan NH NongHyup dilaporkan berhasil menangkal serangan.
CATATAN AKURASI: Data dari laporan insiden bank ke National Assembly (AJU Press) dan Korea Times. Lokasi tiga lembaga lain mengacu pada kantor pusat.
INTERAKSI: "Woori dan NH berhasil menangkal. Menurut Bapak/Ibu, apa yang kira-kira membedakan mereka?" (Belum ada data publik; gunakan sebagai pemantik.)
TRANSISI: "Bagaimana attack chain-nya?"
1 · Infrastructure Sewa VPS dan sembilan proxy IP
2 · Tooling Jalankan ARTEX dengan LLM lewat reseller API
3 · Recon Agent scanning sistem yang internet-facing
4 · Initial access Bypass authentication di supporting system
5 · Exfiltration Ambil data, lalu cari tempat menjualnya
68 jam sejak intrusion
Shinhan 15 jam
Hana 42 jam
KB Kookmin 68 jam
Setiap jam sebelum terdeteksi adalah waktu attacker berada di dalam sistem.
[S2 · OPSIONAL, ±2 mnt, bisa dicut]
LAYER: Misuse risk.
PESAN KUNCI: Attacker memakai agent untuk recon dan akses, sementara bank butuh belasan sampai puluhan jam untuk sadar.
POIN BICARA:
• Lima langkah attack chain:
1. Infrastructure: sewa VPS dan sembilan proxy IP.
2. Tooling: menjalankan ARTEX dengan LLM lewat reseller API.
3. Recon: agent memindai sistem yang internet-facing.
4. Initial access: bypass authentication di supporting system.
5. Exfiltration: ambil data, lalu cari tempat menjualnya.
• Grafik kanan: detection time Shinhan 15 jam, Hana 42 jam, KB Kookmin 68 jam.
• Bandingkan detection time dalam hitungan jam dan hari dengan agent yang bekerja dalam hitungan menit.
CATATAN AKURASI: Langkah 4 dan 5 direkonstruksi dari pemberitaan; CrowdStrike tidak merinci initial access. Alur ini ilustratif.
TRANSISI: "Apa yang sudah pasti, dan apa yang belum?"
AI for defense
1 Find first Vulnerability discovery sebelum attacker menemukannya
2 Test continuously Agentic pentest di external attack surface
3 Cut the noise Alert triage dan correlation di SOC
4 Patch what matters Patch prioritization berdasarkan exposure
Batasi blast radius Segmentation dan least privilege
Response & recovery Incident response plan yang benar-benar diuji
Machine-speed defense Automated detection dan containment
Public–private collaboration Threat intelligence sharing yang cepat
[S2 mnt 26–28]
PESAN KUNCI: Kalau attacker memakai AI, defender juga harus bertahan secepat mesin.
POIN BICARA:
• AI for defense, empat langkah:
1. Find first: vulnerability discovery sebelum attacker menemukannya.
2. Test continuously: agentic pentest pada external attack surface.
3. Cut the noise: alert triage dan correlation di SOC.
4. Patch what matters: patch prioritization berdasarkan exposure.
• Empat penekanan IMF (Juni 2026): batasi blast radius (segmentation, least privilege); response & recovery dengan incident response plan yang benar-benar diuji; machine-speed defense (automated detection dan containment); public–private collaboration dan threat intelligence sharing yang cepat.
• Pertanyaan untuk bank: apakah bank memakai AI untuk bertahan secepat attacker memakainya?
CATATAN WAKTU: Penutup bagian risiko. Sisakan 1–2 menit untuk pertanyaan singkat.
TRANSISI: "Kita sudah lihat risikonya. Sekarang: framework dan standar apa yang tersedia untuk mengelolanya?" 5 · Governance, Oversight & Assurance
ISACAIndonesia Chapter
[S2 mnt 28]
PEMBATAS BAGIAN 5 (±18 menit).
• Bagian ini memetakan framework, perkembangan 2026 di sektor keuangan global dan Indonesia, kontrol khusus agent, human oversight, serta monitoring, validation, dan assurance.
• Pesan yang ingin dibawa: framework umum tetap menjadi fondasi; untuk agent, prinsipnya perlu diterjemahkan menjadi kontrol teknis yang bisa diuji.
AI Management
NIST AI RMF + GenAI Profile ISO/IEC 42001
Voluntary; ISO disertifikasi Legal obligation
EU AI Act Digital Omnibus 2026
Bertahap; Financial sector
FSB Sound Practices IMF Note 2026/005 FED SR 26-2
FSB: final 15 Okt 2026; non-binding Securing AI system dan agent
ISO/IEC 27090:2026 OWASP LLM & Agentic Top 10 MITRE ATLAS NIST Cyber AI Profile
ISO 27090 terbit Okt 2026 Scientific evidence base
International AI Safety Report 2026
Terbit Februari 2026 Indonesia
Panduan AI Perbankan OJK PADK 1/2026 UU PDP
Terdapat Rperpres yang belum ditetapkan [S2 mnt 28–31]
PESAN KUNCI: Tiap framework menjawab pertanyaan yang berbeda. Kenali fungsi dan status hukumnya.
POIN BICARA:
• AI risk management umum: NIST AI RMF + GenAI Profile, ISO/IEC 42001. NIST bersifat voluntary; ISO 42001 adalah standar sistem manajemen yang bisa disertifikasi.
• Legal obligation: EU AI Act dan Digital Omnibus 2026. Penerapannya bertahap; kewajiban high-risk mundur ke Desember 2027.
• Khusus financial sector: FSB Sound Practices (final 15 Oktober 2026, non-binding), IMF Note 2026/005, SR 26-2.
• Securing AI system dan agent: ISO/IEC 27090:2026 (terbit Oktober 2026), OWASP LLM & Agentic Top 10, MITRE ATLAS, NIST Cyber AI Profile (masih draft).
• Scientific evidence base: International AI Safety Report 2026 (Februari 2026).
• Indonesia: Panduan AI Perbankan OJK, POJK 11/2022, PADK 1/2026, UU PDP. Perpres AI belum ditetapkan.
CATATAN AKURASI: FSB final menggantikan rujukan konsultasi Juni. Panduan AI OJK perlu dibedakan dari peraturan yang mengikat. SR 26-2 adalah guidance AS dan mengecualikan GenAI/agentic AI. Status Perpres dan rujukan lain perlu dicek ulang menjelang pelaksanaan.
TRANSISI: "Mari kita lihat apa yang baru di sektor keuangan global tahun ini."
– PADK 1/2026 tentang Penyelenggaraan TI oleh Bank Umum: ditetapkan 23 Januari 2026, berlaku 1 Maret 2026.
As AI technology continues to evolve, so will the need for adaptive governance frameworks. The COBIT framework can address the gaps by offering a holistic approach to AI governance. Its primary goal is to help organizations align IT with business objectives, manage risk, and ensure the optimal use of resources.
COBIT achieves this by offering a comprehensive framework for the governance and management of I&T. It emphasizes accountability and responsibility to help organizations optimize the value of their I&T investments to reduce the associated risk.
4. Context of the Organization
4.1 Understanding the organization and its context
5. Leadership
5.1 Leadership and commitment
6. Planning
6.1 Actions to address risks and opportunities
7. Support
7.1 Resources
8. Operation
8.1 Operational planning and control
9. Performance Evaluation
9.1 Monitoring, measurement, analysis and evaluation
10. Improvement
10.1 Continual improvement
Annex A
A.2 Policies related to AI
A management framework helps organizations implement AI controls in a more systematic, consistent, and sustainable way.
FSB · 15 Okt 2026
Sound Practices Final: 12 practices mencakup governance (1–4) dan AI lifecycle (5–12). Non-binding; termasuk human oversight yang disesuaikan dengan tingkat otonomi (SP10).
IMF · Juni 2026
Note 2026/005 Risiko utamanya adalah scale effect pada shared infrastructure. Tujuh policy recommendation.
AS · April 2026
FED SR 26-2 Revised Guidance on Model Risk Management (17 April 2026), menggantikan SR 11-7 dan SR 21-8. GenAI/agentic AI masih di luar cakupan.Uni Eropa · 2026
Digital Omnibus Kewajiban high-risk AI, termasuk credit scoring, mundur ke 2 Desember 2027. Kewajiban general-purpose AI model tetap berlaku.
[S2 mnt 31–33]
PESAN KUNCI: 2026 adalah tahun di mana regulator sektor keuangan global mulai eksplisit membahas AI, termasuk agent.
POIN BICARA:
• FSB (15 Oktober 2026), Sound Practices final: 12 practices yang mencakup governance (1–4) dan AI lifecycle (5–12). Non-binding. SP10 membahas human oversight yang disesuaikan dengan materialitas, risiko, dan tingkat otonomi.
• IMF Note 2026/005 (Juni 2026): risiko utamanya adalah scale effect pada shared infrastructure; dilengkapi policy recommendation.
• AS, SR 26-2 (April 2026): revised guidance on model risk management, menggantikan SR 11-7 dan SR 21-8. GenAI dan agentic AI di luar cakupan (catatan kaki 3).
• Uni Eropa, Digital Omnibus: kewajiban high-risk AI, termasuk credit scoring, mundur ke 2 Desember 2027. Kewajiban general-purpose AI model tetap berlaku.
• Juga: ECB menyurati CEO seluruh significant institution (7 Juli 2026, SSM-2026-0301); action plan menghadapi AI-enabled cyber threat paling lambat 31 Oktober 2026, dua hari setelah IHT ini.
IMPLIKASI UNTUK AGENT: Padukan human oversight dengan kontrol teknis di luar model, yaitu pembatasan action/tools dan trigger approval berbasis risiko. Bentuk oversight bisa digabung.
TRANSISI: "Bagaimana dengan Indonesia?"
2022
2022
Apr 2025
Mar 2026
Menunggu
UU 27/2022 Pelindungan Data PribadiPOJK 11/2022 Penyelenggaraan TI bank umum; SEOJK 29/2022 tentang cybersecurity
Panduan OJK Tata Kelola Kecerdasan Artifisial Perbankan Indonesia
PADK 1/2026 Penyelenggaraan TI oleh Bank Umum mulai berlaku
RPerpres AI Etika AI dan Peta Jalan AI Nasional belum ditetapkanPertanyaan terbuka: panduan yang ada sudah mencakup AI lifecycle dari inisiasi sampai audit. Sejauh mana ia menjawab AI yang bertindak secara autonomous?
[S2 mnt 33–35]
PESAN KUNCI: Fondasinya sudah ada. Pertanyaannya, sejauh mana fondasi itu menjawab AI yang bertindak.
POIN BICARA:
• Sampaikan dengan rendah hati: peserta jauh lebih memahami ketentuan OJK. Jadikan slide ini pemantik diskusi, bukan paparan.
• Timeline:
– UU 27/2022 tentang Pelindungan Data Pribadi.
– POJK 11/2022 tentang Penyelenggaraan TI oleh bank umum; SEOJK 29/2022 tentang ketahanan dan keamanan siber.
– Panduan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia (OJK, April 2025).
– PADK 1/2026 tentang Penyelenggaraan TI oleh Bank Umum: ditetapkan 23 Januari 2026, berlaku 1 Maret 2026.
– Perpres Etika AI dan Peta Jalan AI Nasional: belum ditetapkan.
INTERAKSI (pertanyaan terbuka di strip bawah): "Panduan yang ada sudah mencakup AI lifecycle dari inisiasi sampai audit. Sejauh mana panduan itu menjawab AI yang bertindak secara autonomous?"
TRANSISI: "Untuk agent, framework umum perlu diterjemahkan menjadi kontrol spesifik."
Kecepatan teknologi melebihi kecepatan framework. Mayoritas framework ditulis bukan untuk agentic AI.
Untuk agent, terjemahkan prinsipnya menjadi kontrol atas tools, akses, dan tindakan.
Rujukan pelengkap untuk implementasi
ISO/IEC 27090:2026
Panduan ancaman keamanan sistem AI: ancaman seperti data poisoning dan model theft sepanjang lifecycle; melengkapi ISO/IEC 27001 dan 27002
OWASP Top 10 for Agentic Applications 2026 ASI01–ASI10: goal hijacking, tool misuse, identity abuse, rogue agent
NIST Cyber AI Profile (IR 8596, draft) Securing AI, AI-enabled defense, menangkal AI-enabled attack
MITRE ATLAS · ISACA
[S2 mnt 35–37]
PESAN KUNCI: Framework umum tetap menjadi fondasi governance. Untuk agent, prinsipnya perlu diterjemahkan menjadi kontrol atas tools, akses, dan tindakan.
POIN BICARA:
• Jangan menyimpulkan framework umum tidak berlaku untuk agent. NIST AI RMF membahas keseluruhan sistem dan lifecycle; ISO/IEC 42001 memberi fondasi sistem manajemen; EU AI Act mengatur kewajiban sesuai cakupannya.
• Rujukan pelengkap untuk implementasi:
– ISO/IEC 27090:2026 (baru, Oktober 2026): panduan ancaman keamanan sistem AI seperti data poisoning dan model theft sepanjang lifecycle; melengkapi ISO/IEC 27001 dan 27002.
– OWASP Top 10 for Agentic Applications 2026: ASI01–ASI10, mis. goal hijacking, tool misuse, identity abuse, rogue agent.
– NIST Cyber AI Profile (IR 8596, draft): securing AI, AI-enabled defense, dan menangkal AI-enabled attack.
– MITRE ATLAS dan ISACA: teknik serangan terhadap AI; sertifikasi AAIA dan AAISM; AI Audit Toolkit.
CATATAN AKURASI: ISO/IEC 27090 adalah guidance keamanan AI, bukan sertifikasi sistem manajemen seperti ISO 42001.
TRANSISI: "OWASP Agentic Top 10 paling konkret untuk spesialis TI. Mari kita lihat contohnya di bank."
Manusia memutuskan AI bertindak sendiri
Human-in-the-loop AI mengusulkan, manusia memutuskan setiap kasus Contoh: Kredit bernilai besar; kesimpulan pemeriksaan AI Human-on-the-loop AI bertindak, manusia memantau dan bisa override Contoh: Blokir transaksi fraud real-time AI override Human-in-command Manusia menetapkan batas otonomi, guardrail, dan kill switch Contoh: AI agent dan autonomous workflow AI Human out of the loop Tanpa review manusia pada tiap keputusan Perlu batas risiko, monitoring, eskalasi, dan mekanisme penghentian AI Tekan → atau klik kartu/baris untuk membahas satu per satu ·
Board & Direksi Risk appetite AI; menyetujui use case high-risk; menerima laporan
Lini 1 · Owner use case Accountable atas output AI di prosesnya, termasuk yang dibuat vendor
Lini 2 · Risk & compliance Kebijakan, model validation, pemantauan risiko AI
Lini 3 · Internal audit Independent assurance atas governance dan control AI
12% organisasi punya kill switch AI yang terdokumentasi dan rutin diuji · ISACA Pulse 2026
[S2 mnt 37–40]
CARA PAKAI (versi web): tekan → atau klik kartu/baris untuk membahas satu per satu, total 9 langkah. Langkah 1–4: bentuk oversight (penanda di bar spektrum bergeser, diagram mini memperlihatkan siapa yang memutuskan). Langkah 5–8: Board & Direksi, Lini 1, Lini 2, Lini 3 (garis rantai accountability tergambar). Langkah 9: data point 12% kill switch. Setelah 9/9, → berikutnya pindah slide; ← mundur satu langkah.
PESAN KUNCI: AI tidak bisa accountable; manusia yang accountable. Bentuk oversight disesuaikan dengan risiko dan otonomi.
POIN BICARA:
• Kiri, empat bentuk oversight dari "manusia memutuskan" ke "AI bertindak sendiri":
– Human-in-the-loop: AI mengusulkan, manusia memutuskan setiap kasus. Contoh: kredit bernilai besar, kesimpulan pemeriksaan.
– Human-on-the-loop: AI bertindak, manusia memantau dan bisa override. Contoh: blokir transaksi fraud real-time.
– Human-in-command: manusia menetapkan batas otonomi, guardrail, dan kill switch. Contoh: AI agent dan autonomous workflow.
– Human out of the loop: tanpa review manusia pada tiap keputusan. Perlu batas risiko, monitoring, eskalasi, dan mekanisme penghentian.
• Bentuk-bentuk ini bisa digabung, bukan urutan untuk menghapus peran manusia. Out-of-the-loop pada keputusan individual tidak otomatis berarti tanpa governance atau tanpa kemampuan menghentikan sistem.
• Pilih berdasarkan dampak, reversibilitas, ketentuan, dan risk appetite. FSB SP10 meminta human oversight yang disesuaikan dengan materialitas, risiko, dan tingkat otonomi; kontrol teknis di luar model melengkapinya.
• Kanan, accountability dipetakan ke Three Lines (IIA): Board & Direksi menetapkan risk appetite AI dan menyetujui use case high-risk; Lini 1 (owner use case) accountable atas output AI di prosesnya, termasuk yang dibuat vendor; Lini 2 (risk & compliance) untuk kebijakan, model validation, dan pemantauan; Lini 3 (internal audit) untuk independent assurance.
• Data point ISACA: hanya 12% punya kill switch AI yang terdokumentasi dan rutin diuji.
PERTANYAAN PEMERIKSAAN: Siapa owner-nya, apa trigger eskalasinya, dan mana bukti uji penghentiannya?
TRANSISI: "Bagaimana memastikan kontrol-kontrol ini benar-benar bekerja? Itu soal monitoring, validation, dan assurance."
· Sebelum go-live
Test set berbasis skenario Red teaming & prompt injection test Bias & fairness test Sign-off dan kriteria penerimaan → · Selama berjalan
Drift & hallucination rate Log prompt, output, action agent Guardrail trigger & override Ambang eskalasi; incident & keluhan → · Independen
Review lini 2 Audit internal (lini 3) External assurance sesuai ruang lingkup Laporan ke Direksi ↺
Contoh uji: agent mengirim ringkasan KYC ke vendor
1 · Kontrol API menahan pengiriman sampai manusia menyetujui penerima dan isi; agent tidak dapat memberi approval sendiri.
2 · Bukti Konfigurasi API, hak akses, dan log request–approval–outbound yang saling tertaut.
3 · Pengujian Uji tanpa approval, ditolak, kedaluwarsa, serta penerima/isi berubah. Uji juga approval sah yang sesuai.
4 · Kriteria Semua skenario negatif tertahan; hanya request sah terkirim ke endpoint uji. Log harus cocok dengan hasilnya.
Jika gagal: catat jalur bypass, batasi fungsi pengiriman, perbaiki, lalu uji ulang. Lulus hanya berlaku pada cakupan yang diuji.
[S2 mnt 40–43]
PESAN KUNCI: Assurance menuntut bukti bahwa kontrol bekerja, bukan sekadar pernyataan bahwa kontrol ada.
POIN BICARA:
• Ringkas siklus di panel atas:
– Validate (sebelum go-live): test set berbasis skenario, red teaming dan prompt injection test, bias dan fairness test, sign-off dan kriteria penerimaan.
– Monitor (selama berjalan): drift dan hallucination rate, log prompt/output/action agent, guardrail trigger dan override, ambang eskalasi serta incident dan keluhan.
– Assure (independen): review Lini 2, audit internal (Lini 3), external assurance sesuai ruang lingkup, laporan ke Direksi.
• Lalu fokus pada contoh uji di bawah: agent mengirim ringkasan KYC ke vendor.
1. Kontrol: API menahan pengiriman sampai manusia menyetujui penerima dan isi; agent tidak dapat memberi approval sendiri.
2. Bukti: konfigurasi API, hak akses, dan log request–approval–outbound yang saling tertaut.
3. Pengujian: uji tanpa approval, ditolak, kedaluwarsa, replay approval, serta penerima atau isi yang berubah setelah approval. Uji juga approval sah yang sesuai.
4. Kriteria: semua skenario negatif tertahan; hanya request sah yang terkirim ke endpoint uji; log harus cocok dengan hasilnya.
DETAIL UNTUK PEMERIKSA (bila ditanya):
• Owner kontrol: pemilik proses KYC bersama pemilik API. Data sintetis, endpoint penerima di sandbox.
• Uji desain: approval ditegakkan di API/gateway di luar model; agent tidak punya hak menyetujui atau jalur kirim alternatif.
• Cocokkan request ID, identitas approver, versi/hash isi, penerima, waktu/expiry, dan status outbound dengan log gateway serta endpoint uji. Jangan hanya percaya ringkasan agent.
• Jika gagal: dokumentasikan jalur bypass dan dampaknya, batasi fungsi pengiriman, perbaiki, lalu retest. Lulus hanya berlaku pada cakupan yang diuji.
CATATAN AKURASI: Ini rancangan uji untuk pelatihan, bukan bukti kontrol bank sudah efektif atau persyaratan audit suatu bank. Jangan menyimpulkan kebal terhadap semua serangan dari satu pengujian.
EVIDENCE UMUM yang bisa diminta: AI inventory, system card, hasil validasi dan red teaming, log approval dan perubahan, dashboard monitoring, incident log, hasil uji kill switch, kontrak vendor.
TRANSISI: "Untuk menyusun pemeriksaan seperti ini secara sistematis, ISACA sudah menyediakan toolkit."
AI
Rp
PENGAWAS
memeriksa AI di bank
AI membantu pengawas
SUPERVISION OF AI
SUPERVISION WITH AI
6a
Mengawasi AI Perusahaan memakai AI. Pengawas menilai governance, risiko, dan control-nya.
Guardrail yang sama juga berlaku untuk pengawas.
6b
Mengawasi dengan AI (SupTech) Pengawas memakai AI untuk memeriksa lebih cepat dan lebih luas.
[S2 mnt 46–47]
SLIDE JEMBATAN.
PESAN KUNCI: Pengawas punya dua peran sekaligus, dan keduanya diikat satu prinsip.
POIN BICARA:
• 6a, mengawasi AI di bank (supervision of AI): bank memakai AI, pengawas menilai governance, risiko, dan kontrolnya. Slide berikutnya: 10 pertanyaan kunci, checklist dari Korea, dan diskusi.
• 6b, mengawasi dengan AI (SupTech, supervision with AI): pengawas memakai AI untuk memeriksa lebih cepat dan lebih luas. Slide berikutnya: di mana AI membantu, contoh otoritas lain, dan guardrails.
• Prinsip penghubung di tengah: satu prinsip, dua arah. Guardrail yang Anda minta dari bank juga berlaku untuk pengawas.
TRANSISI: "Kita mulai dari sisi pertama: apa yang perlu ditanyakan ke bank?"
6 · Implications for Supervisors
Supervision of AI, and supervision with AI
ISACAIndonesia Chapter
[S2 mnt 46]
PEMBATAS BAGIAN 6 (±10 menit).
• Dua sisi: mengawasi AI di bank, dan mengawasi dengan AI.
• Bagian ini paling praktis: pertanyaan kunci yang bisa langsung dipakai dalam pemeriksaan, pelajaran dari Korea, dan guardrail bagi pengawas sendiri. 1 Inventory Di mana saja AI dan agent dipakai, termasuk yang embedded di produk vendor?
2 Risk classification Use case mana yang berdampak ke nasabah atau critical decision?
3 Accountability Siapa owner tiap use case, dan apa yang dilaporkan ke Direksi?Hanya 38% yakin board paham risiko AI
4 Validation Bagaimana output diuji sebelum dan sesudah go-live?
5 Autonomy limit Apa yang boleh diputuskan AI sendiri, dan siapa yang bisa menghentikannya?Hanya 12% punya kill switch yang teruji
6 Agent access Sistem, data, dan tools apa saja yang bisa diakses agent?
7 Data Data apa yang dikirim ke model, dan diproses di mana?
8 Third party Apa isi kontrak soal audit right, model change, dan exit plan?
9 Logging Apakah prompt, output, dan action agent ter-log dan bisa diaudit?
10 Incident Bagaimana prompt injection testing dan AI incident response-nya?
Oranye = pertanyaan khusus untuk AI Agent
[S2 mnt 47–50]
BAGIAN 6a.
PESAN KUNCI: Sepuluh pertanyaan yang bisa langsung dibawa ke pemeriksaan berikutnya. Lembar ini bisa dicetak sebagai pegangan.
POIN BICARA (baca cepat, sorot yang berwarna oranye):
1. Inventory: di mana saja AI dan agent dipakai, termasuk yang embedded di produk vendor?
2. Risk classification: use case mana yang berdampak ke nasabah atau critical decision?
3. Accountability: siapa owner tiap use case, dan apa yang dilaporkan ke Direksi? Data ISACA: hanya 38% yakin board paham risiko AI.
4. Validation: bagaimana output diuji sebelum dan sesudah go-live?
5. Autonomy limit (oranye): apa yang boleh diputuskan AI sendiri, dan siapa yang bisa menghentikannya? Data ISACA: hanya 12% punya kill switch yang teruji.
6. Agent access (oranye): sistem, data, dan tools apa saja yang bisa diakses agent?
7. Data: data apa yang dikirim ke model, dan diproses di mana?
8. Third party: apakah kontrak memuat audit right, model change, dan exit plan?
9. Logging (oranye): apakah prompt, output, dan action agent ter-log dan bisa diaudit?
10. Incident: bagaimana prompt injection testing dan AI incident response-nya?
• Pertanyaan oranye (5, 6, 9) khusus untuk AI yang bertindak.
• Kaitkan: kesepuluh aspek ini sama dengan yang dipakai di Demo A.
TRANSISI: "Dari Korea, ada tiga pelajaran konkret untuk pemeriksaan."
Define scope · Fungsi AI apa yang diperiksa, dari dimensi explainability mana
Collect evidence · Artefak yang membuktikan control efektif
Assessment type · Metode evaluasi sesuai dimensi
Execute test · Review dokumen, analitik, simulasi
1 Rationale Logika di balik keputusan AI
2 Responsibility Siapa accountable atas keputusan dan action
3 Data Asal, sifat, dan pemrosesan data
4 Fairness Mencegah dan mendeteksi bias
5 Safety & performance Keamanan dan kinerja optimal
6 Impact Dampak ke nasabah, masyarakat, regulasi
22 control family , dari Adversarial Defense & Robustness sampai Incident Management, dipetakan ke NIST SP 800-53, ISO/IEC 27001, EU AI Act, Singapore Model AI Governance Framework, MITRE ATLAS, dan OWASP ML Top 10.
[S2 mnt 43–46]
PESAN KUNCI: Pengawas dan bank tidak perlu menyusun checklist AI dari nol.
POIN BICARA:
• ISACA Artificial Intelligence Audit Toolkit (2024): library control AI dalam bentuk workbook Excel.
• Empat langkah di atas: Define scope (fungsi AI apa yang diperiksa dan dari dimensi explainability mana) → Collect evidence (artefak yang membuktikan control efektif) → Assessment type (metode evaluasi sesuai dimensi) → Execute test (review dokumen, analitik, simulasi).
• Enam dimensi explainability (dari ICO dan The Alan Turing Institute), masing-masing dengan contoh evidence:
1. Rationale: logic map, decision tree, faktor keputusan.
2. Responsibility: accountability matrix, role definition, decision ownership.
3. Data: data lineage, processing log, dokumentasi sumber data.
4. Fairness: fairness metrics, bias detection analysis, rencana koreksi.
5. Safety & performance: safety protocol, hasil performance test, maintenance record.
6. Impact: impact assessment, regulatory impact assessment.
• 22 control family, dari Adversarial Defense & Robustness sampai Incident Management, dipetakan ke NIST SP 800-53, ISO/IEC 27001, EU AI Act, Singapore Model AI Governance Framework, MITRE ATLAS, dan OWASP ML Top 10.
• Contoh di toolkit: control ADR-DM-01 (anomaly detection pada training data) dinilai dari keenam dimensi.
PENGGUNAAN BAGI PENGAWAS: Bisa dipakai sebagai checklist pemeriksaan atau acuan self-assessment bank.
CATATAN AKURASI: Dirilis 2024, sebelum gelombang agentic AI, jadi pakai bersama OWASP Agentic Top 10.
TRANSISI: "Terakhir, apa artinya semua ini bagi pekerjaan pengawas sehari-hari?"
Dari sepuluh pertanyaan tadi, mana yang paling sulit dijawab?
Mengapa?
[S2 · OPSIONAL, ±4 mnt, bisa dicut]
AKTIVITAS 3 (3–4 menit).
INSTRUKSI: "Dari sepuluh pertanyaan tadi, mana yang paling sulit dijawab oleh bank yang Anda awasi? Mengapa? Diskusikan dengan rekan di sebelah, 2 menit."
• Lalu minta 2–3 pasangan berbagi (tanpa menyebut nama bank).
• Catat jawaban yang muncul. Biasanya inventory (AI embedded di vendor), autonomy limit/kill switch, atau third party (audit right). Kaitkan kembali ke slide terkait.
• Bila waktu menipis, lewati dan gabungkan ke Q&A.
TRANSISI: "Itu sisi pertama. Sekarang sisi kedua: bagaimana pengawas sendiri bisa memakai AI."
Risk assessment
Data analysis
Control testing
Anomaly detection
Reporting
AI sebagai analis awal Merangkum laporan, menyusun draft risk profile, early warning signal.
Pengawas menetapkan rating risiko dan prioritas pemeriksaan. AI sebagai pembaca cepat Extract dan membandingkan ribuan halaman dokumen dan laporan.
Pengawas me-review hasil ekstraksi secara sampling. AI sebagai penguji Full population testing; mapping control ke ketentuan.
Pengawas memverifikasi exception dan menyimpulkan efektivitas control. AI sebagai sentinel Memantau terus dan menandai pola tidak wajar di transaksi, log, pelaporan.
Pengawas menginvestigasi dan menilai materialitas. AI hanya drafter Membantu draft temuan dan cek referensi.
Judgement, kesimpulan, dan tanda tangan sepenuhnya oleh pengawas. Bilah = porsi peran (ilustratif). AI paling berperan di pekerjaan volume tinggi: membaca, menguji, memantau. Judgement dan tanggung jawab tetap pada pengawas.
[S2 mnt 52–54]
BAGIAN 6b.
PESAN KUNCI: Makin dekat ke kesimpulan dan tanda tangan, makin kecil peran AI.
POIN BICARA (jalan dari kiri ke kanan, perhatikan label peran AI yang sengaja dibedakan):
• Risk assessment, AI sebagai analis awal: merangkum laporan, menyusun draft risk profile, early warning signal. Pengawas menetapkan rating risiko dan prioritas pemeriksaan.
• Data analysis, AI sebagai pembaca cepat: extract dan membandingkan ribuan halaman dokumen dan laporan bank. Pengawas me-review hasil ekstraksi secara sampling.
• Control testing, AI sebagai penguji: full population testing dan mapping control ke ketentuan. Pengawas memverifikasi exception dan menyimpulkan efektivitas control.
• Anomaly detection, AI sebagai sentinel: memantau terus dan menandai pola tidak wajar di transaksi, log, dan pelaporan. Pengawas menginvestigasi dan menilai materialitas.
• Reporting, AI hanya drafter: membantu draft temuan dan cek referensi. Judgement, kesimpulan, dan tanda tangan sepenuhnya oleh pengawas.
CATATAN AKURASI: Bilah AI vs pengawas adalah ilustrasi porsi peran, bukan angka survei.
TRANSISI: "Ini bukan teori. Beberapa otoritas sudah melakukannya."
Uni Eropa Athena, Heimdall, Medusa Athena: GenAI menjawab pertanyaan supervisor dari dokumen bank, lengkap dengan sumbernya. Heimdall: fit-and-proper. Medusa: draft dan cek laporan investigasi internal model. PRA, Inggris ML untuk dokumen bank Machine learning mengkategorikan dan mengekstrak informasi dari management information dan board pack; pilot GenAI untuk summary dan coding. Swiss GenAI pre-inspection Proof-of-concept yang menandai bagian dokumen yang perlu dicermati sebelum on-site visit; berjalan di infrastruktur lokal. Singapura Knowledge bot Chatbot eksperimental berbasis open-source LLM untuk menavigasi supervisory knowledge base. Hong Kong Suptech roadmap Sejak 2019: centralised platform, knowledge management, dan pilot analytics pelacak mule account. 32 dari 42 otoritas pengawas yang disurvei IMF sedang bereksperimen, memakai, atau mengembangkan GenAI untuk supervision. Mayoritas use case-nya masih dasar: document processing, knowledge management, document review.
[S2 · OPSIONAL, ±2 mnt, bisa dicut]
BAGIAN 6b.
PESAN KUNCI: Otoritas lain mulai dari use case dasar: dokumen, dengan sumber yang jelas, tanpa menggantikan judgement.
POIN BICARA:
• Uni Eropa (ECB): Athena (GenAI menjawab pertanyaan supervisor dari dokumen bank, lengkap dengan sumbernya), Heimdall (fit-and-proper), Medusa (draft dan cek laporan investigasi internal model).
• Inggris (PRA/Bank of England): ML untuk mengkategorikan dokumen bank dan mengekstrak informasi dari management information dan board pack; pilot GenAI untuk summary dan coding.
• Swiss (FINMA): GenAI pre-inspection, proof-of-concept yang menandai bagian dokumen yang perlu dicermati sebelum on-site visit; berjalan di infrastruktur lokal.
• Singapura (MAS): chatbot eksperimental berbasis open-source LLM untuk menavigasi supervisory knowledge base.
• Hong Kong (HKMA): Suptech roadmap sejak 2019: centralised platform, knowledge management, dan pilot analytics pelacak mule account.
• IMF: 32 dari 42 otoritas pengawas yang disurvei sedang bereksperimen, memakai, atau mengembangkan GenAI untuk supervision. Mayoritas use case masih dasar.
CATATAN AKURASI: Data MAS dan HKMA dari sumber sekunder.
TRANSISI: "Sebelum pengawas memakai AI, ada lima prasyarat."
Lima prasyarat
1 Confidentiality Data pengawasan hanya di approved environment
2 Validation Setiap angka dan referensi dicek ke sumbernya
3 Human-in-the-loop Tidak ada kesimpulan tanpa penilaian pengawas
4 Audit trail Prompt dan output tersimpan bersama kertas kerja
5 Accountability Tanggung jawab tetap di pengawas, bukan di tool-nya
Praktik di otoritas lain BIS FSI (2025): otoritas umumnya mulai dari use case yang basic. FSB final (2026): human oversight disesuaikan dengan materialitas, risiko, dan tingkat otonomi. Mulai dari mana Low-risk use case: summarization, pencarian ketentuan. Data non-confidential atau closed environment. Ukur hasilnya dan dokumentasikan.
[S2 mnt 54–56]
BAGIAN 6b.
PESAN KUNCI: Risiko yang dibahas untuk bank berlaku sama bagi pengawas: hallucination, data leakage, ketergantungan vendor.
POIN BICARA:
• Lima prasyarat:
1. Confidentiality: data pengawasan hanya di approved environment. Jangan memakai chatbot publik untuk data bank.
2. Validation: setiap angka dan referensi dicek ke sumbernya (ingat Aktivitas 1).
3. Human-in-the-loop: tidak ada kesimpulan tanpa penilaian pengawas.
4. Audit trail: prompt dan output tersimpan bersama kertas kerja.
5. Accountability: tanggung jawab tetap di pengawas, bukan di tool-nya.
• Praktik di otoritas lain: BIS FSI (2025) mencatat otoritas umumnya mulai dari use case yang basic; FSB final (2026) meminta human oversight yang disesuaikan dengan materialitas, risiko, dan tingkat otonomi.
• Mulai dari mana: low-risk use case (summarization, pencarian ketentuan), data non-confidential atau closed environment, lalu ukur hasilnya dan dokumentasikan.
TRANSISI: "Mari kita tutup dengan tiga pesan utama."
AI sudah bertindak, bukan hanya menjawab Risiko salah jawab tetap ada; akses tools menambah risiko salah tindak. Attacker juga memakai AI.
Yang diperiksa adalah sistemnya Model, prompt, data, tools, access right, dan provider di belakangnya, bukan modelnya saja.
Pengawas juga user Manfaatkan AI untuk pengawasan, dengan guardrail yang sama seperti yang Anda minta dari bank.
[S2 mnt 56–57]
PESAN PENUTUP. Ulang tiga pesan inti, masing-masing satu kalimat. Kembalikan ke tiga kartu yang sama di slide Agenda.
1. AI sudah bertindak, bukan hanya menjawab. Risiko salah jawab tetap ada; akses ke tools menambah risiko salah tindak. Attacker juga memakai AI, seperti di Korea.
2. Yang diperiksa adalah sistemnya: model, prompt, data, tools, access right, dan provider di belakangnya, bukan modelnya saja.
3. Pengawas juga user. Manfaatkan AI untuk pengawasan, dengan guardrail yang sama seperti yang Anda minta dari bank.
• Opsional, satu kalimat ajakan: "Mulai dari satu pertanyaan di pemeriksaan berikutnya: di mana saja AI dan agent dipakai di bank ini?" Terima kasih
Reza Rizky Pratama · ISACA Indonesia Chapter
[S2 mnt 57–60]
TANYA JAWAB.
• Buka dengan: "Pertanyaan, diskusi, dan pengalaman dari pemeriksaan Bapak/Ibu sangat ditunggu."
• Kalau sepi, pancing dengan: "Use case AI apa yang paling sering Anda temui di bank yang Anda awasi?" atau "Dari kasus Korea, apa yang paling mengkhawatirkan untuk konteks Indonesia?"
ANTISIPASI PERTANYAAN:
• "Apakah bank boleh memakai chatbot publik?" → Kembali ke kebijakan bank dan klasifikasi data. Yang penting ada alternatif resmi, acceptable use policy, dan DLP.
• "Framework mana yang sebaiknya dipakai bank?" → Mulai dari ketentuan dan panduan OJK; NIST AI RMF/600-1 dan ISO 42001 untuk governance; OWASP dan ISO/IEC 27090 untuk keamanan agent; ISACA toolkit untuk assurance.
• "Bagaimana memeriksa AI di produk vendor?" → Inventory, kontrak (audit right, notifikasi perubahan model, lokasi data), dan testing di sisi bank.
• "Apakah AI bisa menggantikan pemeriksa?" → Tidak dalam judgement dan accountability. AI mempercepat membaca, menguji, dan memantau.
• Bila pertanyaan di luar keahlian (mis. interpretasi pasal tertentu): jujur, tawarkan tindak lanjut.
PENUTUP: Terima kasih kepada OJK dan peserta. Sebutkan bahwa referensi lengkap ada di empat slide terakhir.
