Joyce Gordon
Ajukan pertanyaan kepada chatbot AI mana pun, dan jawabannya akan membantu, lucu, atau sekadar 'trippy'. Selamat datang di dunia baru 'halusinasi AI' yang berani. Ini terjadi ketika model AI menghasilkan informasi yang salah, namun menampilkannya seolah-olah itu adalah fakta, agar paling sesuai dengan kueri Anda. Dalam Tanya Jawab ini, kami berbicara dengan Ampere Kepala AI Generatif, Joyce Gordon tentang cara mengelola dan bahkan menghilangkan cegukan halusinasi.
Mengapa halusinasi sulit dihilangkan?
LLM dilatih tentang pengumpulan data terpisah dan ditugaskan untuk menghasilkan konten baru berdasarkan data masukan tersebut. Ada banyak alasan mengapa halusinasi sulit dihilangkan. Tiga yang paling mendasar meliputi:
- Masukkan data yang tidak mewakili kueri di masa mendatang: agar suatu model dapat menghasilkan keluaran yang akurat, diperlukan masukan yang berkualitas tinggi dan relevan untuk mendapatkan inspirasi. Tugas yang kami minta untuk diselesaikan oleh LLM tidak terbatas. Akibatnya, dalam banyak kasus, kami meminta LLM untuk membuat konten ketika konten tersebut tidak memiliki inspirasi yang baik. Kesenjangan antara data masukan dan keluaran yang diperlukan untuk permintaan pengguna sering kali menjadi penyebab halusinasi.
- Ambiguitas dalam mendorong: ketika pengguna memasukkan perintah terbuka, terutama perintah yang memerlukan beberapa langkah untuk menghasilkan keluaran, mereka mungkin mendapatkan hasil yang tidak diharapkan. Ambiguitas dalam prompt memberikan ruang untuk interpretasi, sehingga menghasilkan keluaran yang berbeda dari maksud pengguna.
- Keluaran probabilistik: keluaran LLM bersifat probabilistik dan bukan deterministik. Keluaran probabilistik memungkinkan banyak fleksibilitas, namun juga memberikan pintu terbuka bagi LLM untuk memberikan jawaban berbeda ketika ditanya pertanyaan yang sama. Terkadang jawaban yang berbeda tersebut dapat menimbulkan halusinasi.
Apakah halusinasi bisa dihilangkan?
Meskipun secara teoritis hal ini mungkin terjadi di masa depan, namun kemungkinannya kecil. Menghilangkan halusinasi akan menjadi tugas yang menantang karena LLM harus terus-menerus dilatih menggunakan data terkini, dan mampu mengatasi ketidakpastian dalam bahasa, sekaligus memastikan bahwa data yang dimasukkan benar-benar tidak bias. AI Generatif memiliki penerapan yang luas di berbagai jenis kasus penggunaan dengan kompleksitas yang berbeda-beda. Ada kemungkinan untuk menghilangkan halusinasi dalam kasus penggunaan yang relatif terbatas, namun lebih sulit untuk menghilangkan halusinasi dalam kasus penggunaan yang lebih kompleks.
Apa pendekatan terbaik untuk menghilangkan halusinasi?
Jawabannya di sini sangat bergantung pada kasus penggunaan yang ada. Tiga kelas teknik yang menjanjikan untuk mengurangi halusinasi adalah:
- Melewati data berkualitas tinggi LLM: Bergantung pada kasus penggunaan, hal ini dapat dicapai dalam proses pelatihan, penyesuaian, atau dalam jendela konteks secara langsung.
- Rekayasa yang cepat: memastikan promptnya disesuaikan dengan masalah yang ada.
- Putaran umpan balik: membangun mekanisme bagi AI untuk memeriksa dan memperbaiki tanggapannya.
Apakah menghilangkan halusinasi akan berdampak pada kreativitas AI?
Itu tergantung bagaimana seseorang berpikir tentang kreativitas. Halusinasi, pada intinya, adalah kesalahan. Secara historis, banyak inovasi penting dihasilkan dari peristiwa yang tidak disengaja. Namun, ada banyak cara lain yang dapat dilakukan AI untuk mendorong kreativitas selain halusinasi. Jika halusinasi merajalela, adopsi AI akan lebih rendah, yang akan membatasi peluang AI untuk membantu manusia menghasilkan solusi kreatif.
Joyce Gordon Bio
Joyce adalah Kepala AI Generatif di Amperity, yang memimpin pengembangan dan strategi produk. Sebelumnya, Joyce memimpin pengembangan produk untuk banyak investasi ML dan ML Ops Amperity, termasuk meluncurkan model prediktif dan infrastruktur Amperity yang digunakan oleh banyak merek ternama dunia. Joyce bergabung dengan perusahaan pada tahun 2019 setelah Amperity mengakuisisi Custora di mana dia menjadi anggota pendiri tim produk. Dia memperoleh gelar BA dalam Matematika Biologi dari University of Pennsylvania dan merupakan penemu beberapa paten ML yang tertunda.
Tentang Amperitas
Amperity memberikan kepercayaan data yang dibutuhkan merek untuk mencapai pertumbuhan dengan benar-benar mengenal pelanggan mereka. Dengan Amperity, merek dapat membangun landasan profil pelanggan terpadu yang didukung oleh data pihak pertama untuk mendorong akuisisi dan retensi pelanggan, mempersonalisasi pengalaman yang membangun loyalitas, dan mengelola kepatuhan privasi. Menggunakan metode AI dan pembelajaran mesin yang dipatenkan, Amperity menyatukan semua interaksi pelanggan untuk membangun tampilan terpadu yang terhubung secara mulus ke alat pemasaran dan teknologi. Lebih dari 400 merek di seluruh dunia mengandalkan Amperity untuk mengubah data menjadi nilai bisnis, termasuk Alaska Airlines, Brooks Running, Endeavour Drinks, Planet Fitness, Seattle Sounders FC, Under Armour dan Wyndham Hotel & Resorts. Untuk informasi lebih lanjut, silahkan kunjungi www.amperity.com atau ikuti kami LinkedIn, Twitter, Facebook Dan Instagram.