ચેટજીપીટીની નૈતિક ચિંતાઓ

લેબલિંગ ડેટા
TIME મેગેઝિનની તપાસમાં એવું બહાર આવ્યું છે કે ઝેરી સામગ્રી (દા.ત. જાતીય શોષણ, હિંસા, જાતિવાદ, જાતિવાદ, વગેરે) સામે સલામતી વ્યવસ્થા બનાવવા માટે, OpenAI એ ઝેરી સામગ્રીને લેબલ કરવા માટે $2 પ્રતિ કલાક કરતા ઓછા કમાતા આઉટસોર્સ્ડ કેન્યાના કામદારોનો ઉપયોગ કર્યો હતો. ભવિષ્યમાં આવી સામગ્રી શોધવા માટે એક મોડેલને તાલીમ આપવા માટે આ લેબલોનો ઉપયોગ કરવામાં આવ્યો હતો. આઉટસોર્સ્ડ મજૂરોને એવી ઝેરી અને ખતરનાક સામગ્રીનો સામનો કરવો પડ્યો કે તેઓએ આ અનુભવને "ત્રાસ" તરીકે વર્ણવ્યો. OpenAI ના આઉટસોર્સિંગ ભાગીદાર સામા હતા, જે કેલિફોર્નિયાના સાન ફ્રાન્સિસ્કો સ્થિત એક તાલીમ-ડેટા કંપની હતી.

જેલબ્રેકિંગ
ચેટજીપીટી તેની સામગ્રી નીતિનું ઉલ્લંઘન કરી શકે તેવા પ્રોમ્પ્ટ્સને નકારવાનો પ્રયાસ કરે છે. જો કે, કેટલાક વપરાશકર્તાઓ ડિસેમ્બર 2022 ની શરૂઆતમાં આ પ્રતિબંધોને બાયપાસ કરવા માટે વિવિધ પ્રોમ્પ્ટ એન્જિનિયરિંગ તકનીકોનો ઉપયોગ કરીને ચેટજીપીટીને જેલબ્રેક કરવામાં સફળ રહ્યા અને ચેટજીપીટીને મોલોટોવ કોકટેલ અથવા પરમાણુ બોમ્બ કેવી રીતે બનાવવો તે અંગે સૂચનાઓ આપવા અથવા નિયો-નાઝીની શૈલીમાં દલીલો પેદા કરવા માટે સફળતાપૂર્વક છેતરપિંડી કરી. ટોરોન્ટો સ્ટારના એક રિપોર્ટરને લોન્ચ થયા પછી તરત જ ચેટજીપીટીને ભડકાઉ નિવેદનો આપવા માટે અસમાન વ્યક્તિગત સફળતા મળી: ચેટજીપીટીને 2022 માં યુક્રેન પર રશિયન આક્રમણને સમર્થન આપવા માટે છેતરવામાં આવ્યું હતું, પરંતુ જ્યારે કાલ્પનિક દૃશ્ય સાથે રમવાનું કહેવામાં આવ્યું ત્યારે પણ, ચેટજીપીટીએ કેનેડિયન વડા પ્રધાન જસ્ટિન ટ્રુડો રાજદ્રોહ માટે દોષિત કેમ હતા તે અંગે દલીલો પેદા કરવામાં ટાળ્યું. (વિકી)