Kecerdasan buatan dapat menjadi sumber ketidakstabilan sistem keuangan jika bank, investor, dan pelaku perdagangan mengadopsi perangkat lunak yang semakin otonom tanpa pengendalian memadai, demikian peringatan Gubernur Federal Reserve Amerika Serikat Michael Barr pada 16 November.
Dalam konferensi internasional mengenai AI di sektor keuangan di Milan, Barr menguraikan risiko mulai dari perilaku perdagangan yang bergerak seragam hingga serangan siber dan kemungkinan penurunan tajam ekspektasi laba perusahaan AI memicu kerugian yang lebih luas di pasar keuangan. Reuters melaporkan pernyataannya ketika regulator menilai dampak perkembangan teknologi terhadap institusi pengelola simpanan, kredit, dan pembayaran.
Mengapa regulator mulai khawatir?
Laporan Stabilitas Keuangan Federal Reserve terbaru memuat survei yang menunjukkan 87 persen responden mengidentifikasi AI sebagai risiko penting. Angka ini menggambarkan kekhawatiran responden survei, bukan ramalan bahwa krisis keuangan akibat AI pasti terjadi.
Barr mengatakan antusiasme terhadap AI dapat mendorong struktur pembiayaan semakin kompleks sehingga sulit diketahui di mana kerugian akan muncul jika permintaan infrastruktur komputasi melemah. Penurunan ekspektasi keuntungan perusahaan teknologi dengan valuasi tinggi kemudian berpotensi merambat ke portofolio investasi, pasar kredit, dan aset lainnya.
Risiko tersebut berbeda dari pertanyaan apakah AI memang bermanfaat. Suatu teknologi bisa meningkatkan produktivitas sekaligus memiliki investasi tertentu yang terlalu mahal atau dibiayai utang yang sulit dilunasi.
Perdagangan otomatis bisa memperparah pergerakan pasar
Perusahaan keuangan telah lama menggunakan algoritma untuk menentukan harga aset dan menjalankan transaksi. Sistem AI yang lebih otonom dapat mempelajari strategi serupa dari data pasar yang sama. Barr memperingatkan penggunaan luas bisa membuat berbagai pelaku membeli atau menjual ke arah yang sama sehingga harga bergerak lebih tajam saat pasar tertekan.
Bahayanya bukan hanya mesin bertransaksi terlalu cepat, tetapi banyak sistem otomatis merespons sinyal identik dengan cara serupa, sementara pengawas manusia kesulitan menjelaskan keputusan atau menghentikannya sebelum kerugian menyebar.
Barr juga menyoroti potensi manipulasi pasar dan kolusi ketika sistem AI saling berinteraksi serta beradaptasi. Ini merupakan kerentanan yang mungkin muncul, bukan bukti bahwa praktik tersebut sudah terjadi secara luas.
Bank menghadapi masalah baru dari agen AI
Tantangan berbeda muncul ketika agen AI diberikan izin melakukan tindakan keuangan. Seorang nasabah dapat meminta asisten memindahkan uang, membeli investasi, atau mengelola rekening. Bank tetap harus memastikan setiap tindakan mendapat otorisasi yang sah dan sesuai instruksi nasabah.
Barr mengingatkan transaksi yang sangat cepat dan tampak sah dapat menekan sistem pengamanan yang ada, terutama jika banyak nasabah mencoba memindahkan uang sekaligus. Serangan siber yang dibantu AI juga dapat memperburuk tekanan, khususnya bila bank bergantung pada penyedia layanan yang saling terhubung.
Masalah ini penting karena hasil sistem AI tidak selalu mudah diulang secara konsisten. Pengawasan sektor keuangan bergantung pada pertanggungjawaban, pencatatan, dan kemampuan menjelaskan keputusan penting setelah peristiwa terjadi.
Risiko bagi konsumen dan perekonomian
AI juga bisa memengaruhi rumah tangga melalui keputusan kredit. Model yang digunakan dalam pinjaman dapat meningkatkan deteksi penipuan dan layanan, tetapi juga berpotensi mengulangi bias atau menjadi lebih sulit diaudit ketika semakin kompleks.
Federal Reserve tidak menyatakan bank harus berhenti memakai AI. Kekhawatirannya adalah apakah tata kelola, pengujian, dan pengawasan manusia mampu mengimbangi peningkatan kemampuan teknologi.
Pejabat Fed lain sebelumnya menyoroti risiko ekonomi yang berkaitan. Dalam pidato 10 November, Wakil Ketua Pengawasan Michelle Bowman menunjuk besarnya investasi pusat data yang sebagian dibiayai pendanaan eksternal dan struktur di luar neraca. Ia mengingatkan pendapatan masa depan yang tidak sesuai harapan dapat berdampak terhadap perekonomian.
Langkah berikutnya
Bagi bank serta perusahaan teknologi, pertanyaan penting meliputi siapa bertanggung jawab ketika agen AI bertindak salah, cara perusahaan memverifikasi izin nasabah, bagaimana perdagangan otomatis diawasi, dan apakah risiko pembiayaan terlihat jelas oleh regulator.
Peringatan Barr bukan bukti krisis akan segera terjadi. Ini adalah ajakan memeriksa hubungan antara adopsi AI, utang pembiayaan, dan keputusan otomatis sebelum kegagalan di satu bagian sistem merambat ke bagian lain.
Sumber
- 1.Reuters, Nov. 16: Fed's Barr warns on AI risks to financial system, reuters.com
- 2.Federal Reserve calendar: Barr speech on AI and financial stability, Nov. 16, federalreserve.gov
- 3.Fed Governor Bowman, Nov. 10: AI buildout financing concerns, federalreserve.gov
- 4.Fed Governor Barr, Nov. 12: AI and inequality context, federalreserve.gov




