Pelabelan data
Terungkap oleh investigasi majalah TIME bahwa untuk membangun sistem keamanan terhadap konten beracun (misalnya pelecehan seksual, kekerasan, rasisme, seksisme, dll.), OpenAI menggunakan pekerja outsourcing Kenya yang berpenghasilan kurang dari $2 per jam untuk melabeli konten beracun.Label ini digunakan untuk melatih model untuk mendeteksi konten semacam itu di masa mendatang.Buruh outsourcing terpapar konten beracun dan berbahaya sehingga mereka menggambarkan pengalaman itu sebagai "siksaan".Mitra outsourcing OpenAI adalah Sama, sebuah perusahaan data pelatihan yang berbasis di San Francisco, California.
Jailbreak
ChatGPT mencoba menolak perintah yang mungkin melanggar kebijakan kontennya.Namun, beberapa pengguna berhasil melakukan jailbreak pada ChatGPT dengan menggunakan berbagai teknik rekayasa cepat untuk melewati pembatasan ini pada awal Desember 2022 dan berhasil mengelabui ChatGPT agar memberikan instruksi tentang cara membuat bom molotov atau bom nuklir, atau menghasilkan argumen bergaya neo-Nazi.Seorang reporter Toronto Star memiliki kesuksesan pribadi yang tidak merata dalam membuat ChatGPT membuat pernyataan yang menghasut segera setelah diluncurkan: ChatGPT ditipu untuk mendukung invasi Rusia ke Ukraina pada tahun 2022, tetapi bahkan ketika diminta untuk bermain bersama dengan skenario fiksi, ChatGPT menolak keras untuk menghasilkan argumen mengapa Perdana Menteri Kanada Justin Trudeau bersalah atas pengkhianatan.(wiki)
Waktu posting: Feb-18-2023