Oleh Vikas KrishanKepala Bisnis Digital Petugas di Altimetrik
Ledakan Kecerdasan Buatan (AI) dan kemampuannya telah menggemparkan dunia. Faktanya, tidak berlebihan untuk mengatakan bahwa kebanyakan orang kini telah mendengar tentang AI dan dampaknya terhadap bisnis berkat liputan media arus utama, serta potensi skenario hari kiamat yang diprediksi oleh Elon Musk. Kita juga telah melihat munculnya 'kepalsuan mendalam' di mana suara dan/atau gambar selebriti telah direplikasi oleh AI (Taylor Swift mungkin yang paling terkenal), membodohi banyak orang dengan percaya bahwa itu adalah video atau gambar dari orang itu sendiri. Hal ini memicu kekhawatiran serius seputar AI dan potensi penggunaannya oleh penipu. Dengan latar belakang inilah UU AI UE dibentuk, dengan tujuan membantu mengatur penggunaan teknologi AI di Uni Eropa. Undang-undang tersebut saat ini mewajibkan produsen AI untuk memenuhi standar ketat dalam hal transparansi, akuntabilitas, dan pengawasan manusia. Meski belum menjadi undang-undang, undang-undang tersebut bermaksud menetapkan persyaratan hukum yang jelas untuk penggunaan dan pembuatan alat AI.
Industri Jasa Keuangan di UE dan di seluruh dunia sudah diatur secara ketat dan kepatuhan merupakan prinsip mendasar dalam pengoperasiannya. Sebaliknya, beberapa kritikus UU tersebut berpendapat bahwa UU tersebut terlalu terbuka untuk ditafsirkan. Lantas, apakah UU ini akan membantu atau menghambat sektor jasa keuangan?
Diharapkan mulai berlaku pada musim panas tahun 2024, Undang-Undang AI UE memiliki konsekuensi luas terhadap penggunaan AI dalam organisasi Jasa Keuangan. Undang-undang ini bertujuan untuk menstandardisasi aturan penggunaan, pengembangan, penyebaran pasar, dan adopsi AI. Cakupan UU yang luas ini berpotensi berdampak pada pengembang dan penerapan sistem AI yang berbasis di UE, namun juga berdampak lebih jauh lagi, terhadap bisnis yang berkantor di UE, serta perusahaan internasional yang memproduksi sistem yang digunakan di UE.
Dalam Industri Jasa Keuangan, berbagai model digunakan untuk menilai kasus penggunaan mulai dari individu yang mengajukan pinjaman, ketika memeriksa kesesuaian mereka terhadap suatu produk keuangan hingga model penetapan harga yang kompleks untuk Instrumen Keuangan. Model-model ini memerlukan tinjauan dan validasi internal dan harus memiliki dokumentasi yang sesuai yang dapat dibagikan kepada regulator jika diperlukan. Dalam skenario inilah penggunaan AI dipandang sangat bermasalah jika tidak diatur dengan benar, karena potensi bias dalam pengembangan teknologi serta keluaran model yang tidak dapat dijelaskan.
Mencapai keseimbangan yang tepat
Salah satu tantangan bagi anggota parlemen Eropa terletak pada definisi AI. Faktanya, versi rancangan UU AI UE telah mengalami perubahan definisi beberapa kali. Kejelasan mengenai apa itu AI akan menjadi inti efektivitas UU tersebut.
Kekhawatiran yang terdokumentasi dengan baik mengenai potensi bias institusional dan sosial yang tertanam dalam penciptaan AI juga merupakan masalah utama yang ingin diatasi oleh Undang-Undang AI Uni Eropa. Bagaimanapun juga, AI hanya akan bagus jika data yang digunakan memberikan masukan, dan jika data tersebut mengandung bias yang tertanam dalam gender, disabilitas, usia, atau demografi sosial lainnya, maka output yang dihasilkan AI juga akan memiliki bias tersebut, kecuali jika dibangun dengan hati-hati. pengamanan diberlakukan.
Kekhawatiran yang valid ini sekali lagi diimbangi dengan keinginan untuk memanfaatkan semua inovasi melalui AI yang ditawarkan. Kami belum melihat bukti kuat bahwa kerangka tata kelola dan penilaian kesesuaian akan membatasi inovasi. Saya berpendapat bahwa terdapat argumen yang kuat bagi pembuat dan pengguna AI untuk menyatakan bagaimana AI akan digunakan, sebagaimana diwajibkan berdasarkan Undang-Undang. Tantangannya akan menjadi beban pelaporan bagi organisasi Jasa Keuangan yang menggunakan AI.
Evaluasi risiko
Bagi mereka yang bekerja di bidang Jasa Keuangan, penting untuk memahami bahwa Undang-undang tersebut secara luas mengkategorikan AI ke dalam beberapa kategori berdasarkan tingkat risikonya terhadap kerugian sosial. 'Risiko yang tidak dapat diterima' adalah sistem AI yang dilarang berdasarkan Undang-undang. Hal ini mencakup sistem yang menerapkan teknik subliminal di luar kesadaran seseorang untuk mempengaruhi perilaku, sistem yang mengeksploitasi kerentanan dalam kelompok orang tertentu dan berpotensi melakukan diskriminasi berdasarkan usia, disabilitas, atau latar belakang sosio-ekonomi seseorang.
Penggunaan AI yang 'berisiko tinggi' diklasifikasikan sebagai skenario yang dapat membahayakan kehidupan dan kesehatan individu jika terjadi kesalahan. Skenario ini sekarang memerlukan penilaian kesesuaian.
'Risiko lebih rendah' adalah sistem yang memiliki beberapa persyaratan transparansi seperti kebutuhan untuk memberi tahu pengguna bahwa bagian dari proses penyaringan dilakukan menggunakan AI. Dengan sistem ini, pengungkapan penggunaan AI diperlukan.
Terakhir, kategori penggunaan AI yang 'minimal' atau 'tanpa risiko', mencakup video game dan filter spam, yang akan tunduk pada kode etik sukarela berdasarkan Undang-undang. Tantangan utama bagi pembuat undang-undang dan jasa keuangan adalah potensi sifat subjektif dari aktivitas atau skenario yang termasuk dalam kategori risiko ini.
Sebagai contoh, penggunaan pengenalan wajah real-time menggunakan AI di ATM atau bank di High Street akan dianggap sebagai risiko yang tidak dapat diterima. Penggunaan AI ini akan dianggap terlalu luas karena penggunaan AI bersifat publik dan berdampak pada hak privasi masyarakat. Namun, pengenalan wajah untuk mengakses aplikasi perbankan melalui ponsel pribadi, yang diklasifikasikan sebagai penggunaan pribadi, tidak dianggap tidak dapat diterima berdasarkan Undang-undang.
Meskipun peraturan mandiri telah diusulkan oleh beberapa produsen AI sebagai alternatif terhadap UU tersebut, hal ini mempunyai permasalahan tersendiri. Kekhawatiran khususnya adalah bahwa badan pengatur mandiri tidak akan mampu secara efektif menangani penggunaan dan penciptaan AI yang tidak bermoral – kami melihat hal ini sebagai keluhan yang umum terjadi pada peraturan pers mandiri di Inggris, misalnya. Terdapat juga kekhawatiran mengenai bias terhadap produsen AI dan pola pikir yang mementingkan diri sendiri yang akan memberikan peluang bagi pelanggaran aturan sehingga kurangnya perlindungan bagi konsumen akhir.
Dengan adanya Undang-Undang AI UE, mungkin terdapat manfaat dalam membentuk badan pengawas terpisah untuk mengawasi produksi AI. Hal ini memerlukan upaya yang terkoordinasi di seluruh UE dan upaya yang memerlukan tingkat harmonisasi yang kuat dengan Inggris serta AS. regulator. Hal ini penting bukan hanya untuk memastikan bahwa prinsip-prinsip umum seputar apa yang dimaksud dengan risiko yang tidak dapat diterima, risiko tinggi, risiko minimal, dan tanpa risiko dapat dipahami, namun juga agar beban regulasi yang dihadapi masing-masing penyedia sistem AI di sektor hilir tidak terlalu berat sehingga menghalangi mereka untuk berinovasi. dan mengembangkan solusi AI yang lebih efektif untuk pasar.
Dalam bentuknya yang sekarang, Undang-Undang AI UE memberikan banyak kewajiban kepada penyedia layanan. Undang-undang tersebut juga mengklasifikasikan klien yang menggunakan model bahasa besar sebagai penyedia jika mereka memodifikasi program AI yang mereka gunakan. Hal ini dapat menimbulkan masalah karena klien harus menanggung beban peraturan yang sama dengan penyedia layanan. Hal ini mengubah dinamika dan kasus penggunaan ekonomi AI.
Bagaimana seharusnya sektor keuangan mempersiapkan diri menghadapi UU AI UE?
Lembaga Jasa Keuangan harus mulai memikirkan AI secara terkoordinasi, seperti yang kita lihat saat diperkenalkannya peraturan GDPR. Namun, tidak seperti GDPR, saat ini kami tidak melihat organisasi meninjau operasi mereka dengan cara yang begitu ketat. Saya tentu berharap untuk melihat peran Chief AI Officer diperkenalkan untuk membantu memastikan kepatuhan terhadap Undang-undang dan kerangka kerja yang tidak diragukan lagi akan menjadi lebih lengkap dari waktu ke waktu.
Terdapat kebutuhan yang sangat jelas untuk membangun struktur tata kelola AI formal dalam bisnis yang mencakup kepemilikan kerangka manajemen risiko komprehensif yang diperlukan untuk mematuhi persyaratan Undang-undang. Penting untuk meningkatkan kesadaran dan mengkomunikasikan secara efektif tentang Undang-undang tersebut, tidak hanya secara internal, tetapi juga seluruh ekosistem penyedia dan klien Anda.
Lembaga Jasa Keuangan perlu memulai proses penilaian lanskap teknis mereka dan memikirkan teknologi masa depan, AI, dan peta jalan data mereka, untuk lebih memahami bagaimana mereka akan terkena dampak pemberlakuan UU AI UE. Lembaga-lembaga ini perlu mengidentifikasi area mana dalam model operasi mereka yang paling terkena dampak sehingga memerlukan prioritas dan fokus, serta tindakan perbaikan yang diperlukan untuk mematuhi Undang-undang.
Pengenalan Undang-Undang AI UE mewakili langkah penting menuju regulasi bidang AI yang sedang berkembang di sektor Jasa Keuangan dan sektor lainnya. Seiring dengan semakin dekatnya penerapan Undang-undang ini, penting bagi Lembaga Keuangan untuk beradaptasi dan memperhatikan persyaratannya, memastikan kepatuhan serta memanfaatkan inovasi yang ditawarkan oleh solusi berbasis AI. Undang-undang ini tidak hanya bertujuan untuk memitigasi risiko yang terkait dengan AI, seperti bias dan masalah privasi, namun juga mendorong transparansi dan akuntabilitas. Oleh karena itu, lembaga-lembaga keuangan harus membangun kerangka tata kelola yang kuat yang dapat mengelola peraturan baru ini secara efektif dan memposisikan diri mereka semaksimal mungkin dalam mematuhi kerangka Peraturan baru.