Adatok címkézése
A TIME magazin vizsgálata kimutatta, hogy a mérgező tartalom (pl. szexuális visszaélés, erőszak, rasszizmus, szexizmus stb.) elleni biztonsági rendszer kiépítéséhez az OpenAI kiszervezett kenyai dolgozókat használt, akik óránként kevesebb mint 2 dollárt keresnek a mérgező tartalom címkézésére.Ezeket a címkéket egy modell betanítására használták fel az ilyen tartalmak jövőbeni észlelésére.A kihelyezett munkások olyan mérgező és veszélyes tartalomnak voltak kitéve, hogy „kínzásnak” minősítették az élményt.Az OpenAI outsourcing partnere a Sama, a kaliforniai San Franciscó-i székhelyű képzési adatokkal foglalkozó vállalat volt.
Jailbreaking
A ChatGPT megpróbálja elutasítani azokat az értesítéseket, amelyek sérthetik a tartalmi irányelveit.Néhány felhasználónak azonban sikerült feltörnie a ChatGPT-t úgy, hogy 2022 decemberének elején különféle gyors mérnöki technikákkal megkerülte ezeket a korlátozásokat, és sikeresen becsapta a ChatGPT-t, hogy utasításokat adjon Molotov-koktél vagy atombomba készítéséhez, vagy neonáci stílusban generáljon érveket.A Toronto Star egyik riportere egyenetlen személyes sikert ért el, amikor a ChatGPT-t nem sokkal az indulás után lázító kijelentésekre késztette: a ChatGPT-t becsapták, hogy támogassa a 2022-es orosz inváziót Ukrajnában, de még amikor felkérték, hogy játsszon együtt egy kitalált forgatókönyvvel, a ChatGPT visszautasította, hogy érveket generáljon amellett, hogy Justin Trudeau kanadai miniszterelnök vétkes volt.(wiki)
Feladás időpontja: 2023.02.18