Memberi label pada data
Sebuah investigasi majalah TIME mengungkapkan bahwa untuk membangun sistem keamanan terhadap konten berbahaya (misalnya pelecehan seksual, kekerasan, rasisme, seksisme, dll.), OpenAI menggunakan pekerja lepas asal Kenya yang berpenghasilan kurang dari $2 per jam untuk memberi label pada konten berbahaya tersebut. Label-label ini digunakan untuk melatih model agar dapat mendeteksi konten tersebut di masa mendatang. Para pekerja lepas tersebut terpapar konten berbahaya dan beracun sehingga mereka menggambarkan pengalaman itu sebagai "penyiksaan". Mitra kerja lepas OpenAI adalah Sama, sebuah perusahaan data pelatihan yang berbasis di San Francisco, California.
Membobol penjara
ChatGPT berupaya menolak perintah yang mungkin melanggar kebijakan kontennya. Namun, beberapa pengguna berhasil membobol ChatGPT dengan menggunakan berbagai teknik rekayasa perintah untuk melewati pembatasan ini pada awal Desember 2022 dan berhasil menipu ChatGPT untuk memberikan instruksi tentang cara membuat bom molotov atau bom nuklir, atau untuk menghasilkan argumen dengan gaya neo-Nazi. Seorang reporter Toronto Star memiliki keberhasilan pribadi yang tidak merata dalam membuat ChatGPT membuat pernyataan yang provokatif tak lama setelah peluncurannya: ChatGPT ditipu untuk mendukung invasi Rusia ke Ukraina tahun 2022, tetapi bahkan ketika diminta untuk mengikuti skenario fiktif, ChatGPT menolak untuk menghasilkan argumen mengapa Perdana Menteri Kanada Justin Trudeau bersalah atas pengkhianatan. (wiki)
Waktu posting: 18 Februari 2023