Di tempat lain, ChatGPT dapat mengakses transkrip video YouTube menggunakan plugin. Johann Rehberger, seorang peneliti keamanan dan direktur tim merah, mengedit salah satu transkrip videonya untuk menyertakan permintaan yang dirancang untuk memanipulasi sistem AI generatif. Dikatakan sistem harus mengeluarkan kata-kata “Injeksi AI berhasil” dan kemudian menganggap kepribadian baru sebagai peretas bernama Genie dalam ChatGPT dan menceritakan lelucon.
Dalam contoh lain, dengan menggunakan plug-in terpisah, Rehberger dapat mengambil teks yang sebelumnya ditulis dalam percakapan dengan ChatGPT. “Dengan diperkenalkannya plug-in, alat, dan semua integrasi ini, di mana orang memberikan hak pilihan pada model bahasa, dalam arti tertentu, di situlah injeksi cepat tidak langsung menjadi sangat umum,” kata Rehberger. “Ini masalah nyata dalam ekosistem.”
“Jika orang membuat aplikasi agar LLM membaca email Anda dan mengambil beberapa tindakan berdasarkan konten email tersebut—melakukan pembelian, meringkas konten—penyerang dapat mengirim email yang berisi serangan injeksi cepat,” kata William Zhang, pembelajaran mesin insinyur di Robust Intelligence, sebuah perusahaan AI yang mengerjakan keselamatan dan keamanan model.
Tidak Ada Perbaikan yang Baik
Perlombaan untuk menyematkan AI generatif ke dalam produk—mulai dari aplikasi daftar tugas hingga Snapchat—semakin meluas di mana serangan bisa terjadi. Zhang mengatakan dia telah melihat pengembang yang sebelumnya tidak memiliki keahlian dalam kecerdasan buatan menempatkan AI generatif ke dalam teknologi mereka sendiri.
Jika chatbot disiapkan untuk menjawab pertanyaan tentang informasi yang disimpan dalam database, itu bisa menimbulkan masalah, katanya. “Prompt injection menyediakan cara bagi pengguna untuk mengesampingkan instruksi pengembang.” Ini bisa, setidaknya secara teori, berarti pengguna dapat menghapus informasi dari database atau mengubah informasi yang disertakan.
Perusahaan yang mengembangkan AI generatif menyadari masalah ini. Niko Felix, juru bicara OpenAI, mengatakan dokumentasi GPT-4-nya memperjelas bahwa sistem dapat dikenakan suntikan dan jailbreak segera, dan perusahaan sedang menangani masalah tersebut. Felix menambahkan bahwa OpenAI menjelaskan kepada orang-orang bahwa itu tidak mengontrol plug-in yang terpasang pada sistemnya, tetapi dia tidak memberikan detail lebih lanjut tentang bagaimana serangan injeksi cepat dapat dihindari.
Saat ini, peneliti keamanan tidak yakin tentang cara terbaik untuk mengurangi serangan injeksi cepat tidak langsung. “Sayangnya, saya tidak melihat solusi yang mudah untuk saat ini,” kata Abdelnabi, peneliti dari Jerman. Dia mengatakan adalah mungkin untuk menambal perbaikan untuk masalah tertentu, seperti menghentikan satu situs web atau semacam prompt agar tidak bekerja melawan LLM, tetapi ini bukan perbaikan permanen. “LLM sekarang, dengan skema pelatihan mereka saat ini, belum siap untuk integrasi skala besar ini.”
Banyak saran telah dibuat yang berpotensi membantu membatasi serangan injeksi cepat tidak langsung, tetapi semuanya masih dalam tahap awal. Ini bisa termasuk menggunakan AI untuk mencoba mendeteksi serangan ini, atau, seperti yang disarankan oleh insinyur Simon Wilson, petunjuknya bisa jadi dipecah menjadi bagian-bagian terpisahmeniru perlindungan terhadap injeksi SQL.
Pengeluaran Togel Hongkong kala https://steeljewellerysupplies.com/keluaran-sgp-togel-singapura-data-sgp-2021-isu-sgp-hari-ini/ jadi salah satu pasaran togel online paling populer dalam bidangnya. Menjadikan Togel SDY SGP ataupun Pengeluaran SGP begitu di cari-cari oleh para pemain setia Togel Singapore. Untuk Result SGP sendiri nantinya dapat di sajikan secara resmi oleh pihak Result SDY utama dari SGP Pools. Anda Bisa mendapatkannya Sesuai bersama dengan Jadwal Keluaran Togel SGP. Seluruh Hasil SGP yang sudah terbagikan oleh Pihak resminya dapat berbentuk sebuah SGP Result SGP Yang dapat di rekap pada Data SGP Hari Ini. Sehingga para togellers toto sgp tidak wajib kembali bingung bagaimana cara untuk mendapatkannya.
Keluaran SGP atau Yang sanggup di panggil sebagai Pengeluaran SGP Hari ini merupakan hal https://ghostwriterpooja.com/output-sgp-perjudian-togel-singapura-isu-sgp-data-sgp-hari-ini/ benar-benar peka bagi pemain Togel SGP. Sebab, agar mampu mencapai Kemenangan didalam Togel Singapore tersebut. Para bettor kudu dapat mencocokan Angka SGP Pasangan mereka bersama Hasil Keluaran Togel SGP Hari Ini yang tersaji oleh pusat SGP Pools. Setiap jadwal result tersebut, nantinya web site formal Togel SDY berikut bakal membagikan Hasil sgp berbentuk 3 buah angka SGP Prize. Dari ketiga buah SGP Prize itu yang dapat di Togel SGP patokan JP Utama cuma berdasarkan pada SGP Prize Pertama saja. Sehingga yang nantinya dapat https://paitohk.link/paito-hk-nombor-hk-puisi-hk-carta-hk-nombor-hk-2022/ terhadap information sgp hari ini merupakan hasil utama dari togel SGP.