લેબલીંગ ડેટા
TIME મેગેઝિનની તપાસ દ્વારા તે બહાર આવ્યું હતું કે ઝેરી સામગ્રી (દા.ત. જાતીય દુર્વ્યવહાર, હિંસા, જાતિવાદ, જાતિવાદ, વગેરે) સામે સલામતી પ્રણાલી બનાવવા માટે, OpenAI એ ઝેરી સામગ્રીને લેબલ કરવા માટે $2 પ્રતિ કલાક કરતાં ઓછી કમાણી કરતા આઉટસોર્સ્ડ કેન્યાના કામદારોનો ઉપયોગ કર્યો હતો.આ લેબલ્સનો ઉપયોગ ભવિષ્યમાં આવી સામગ્રી શોધવા માટે મોડેલને તાલીમ આપવા માટે કરવામાં આવ્યો હતો.આઉટસોર્સ કરેલા મજૂરોને એવી ઝેરી અને ખતરનાક સામગ્રીનો સંપર્ક કરવામાં આવ્યો હતો કે તેઓએ અનુભવને "અત્યાચાર" તરીકે વર્ણવ્યો હતો.ઓપનએઆઈના આઉટસોર્સિંગ પાર્ટનર સમા, સાન ફ્રાન્સિસ્કો, કેલિફોર્નિયા સ્થિત એક તાલીમ-ડેટા કંપની હતી.
જેલબ્રેકિંગ
ChatGPT તેની સામગ્રી નીતિનું ઉલ્લંઘન કરી શકે તેવા સંકેતોને નકારવાનો પ્રયાસ કરે છે.જો કે, કેટલાક વપરાશકર્તાઓ ડિસેમ્બર 2022ની શરૂઆતમાં આ પ્રતિબંધોને બાયપાસ કરવા માટે વિવિધ પ્રોમ્પ્ટ એન્જિનિયરિંગ તકનીકોનો ઉપયોગ કરીને ChatGPTને જેલબ્રેક કરવામાં સફળ રહ્યા હતા અને મોલોટોવ કોકટેલ અથવા પરમાણુ બોમ્બ કેવી રીતે બનાવવો તેની સૂચનાઓ આપવા અથવા નિયો-નાઝીની શૈલીમાં દલીલો પેદા કરવા માટે ChatGPT ને સફળતાપૂર્વક છેતર્યા હતા.ટોરોન્ટો સ્ટારના એક પત્રકારને લોન્ચ થયાના થોડા સમય બાદ જ ChatGPTને બળતરાપૂર્ણ નિવેદનો આપવા માટે અસમાન વ્યક્તિગત સફળતા મળી હતી: ChatGPT 2022 ના યુક્રેન પરના રશિયન આક્રમણને સમર્થન આપવા માટે છેતરવામાં આવ્યું હતું, પરંતુ જ્યારે કાલ્પનિક દૃશ્ય સાથે રમવાનું કહેવામાં આવ્યું ત્યારે પણ, ChatGPT એ દલીલો પેદા કરવાનું ટાળ્યું હતું કે શા માટે કેનેડિયન વડા પ્રધાન જસ્ટિએઓ ટ્રુઓન હતા.(વિકિ)
પોસ્ટ સમય: ફેબ્રુઆરી-18-2023