Белгілеу деректері
TIME журналының зерттеуі улы мазмұнға (мысалы, сексуалдық зорлық-зомбылық, зорлық-зомбылық, нәсілшілдік, сексизм және т.б.) қарсы қауіпсіздік жүйесін құру үшін OpenAI улы мазмұнды белгілеу үшін сағатына 2 доллардан аз табысы бар кениялық жұмысшыларды пайдаланғаны анықталды.Бұл белгілер болашақта осындай мазмұнды анықтау үшін үлгіні үйрету үшін пайдаланылды.Аутсорсинг жұмысшылары улы және қауіпті мазмұнға тап болды, олар бұл тәжірибені «азаптау» деп сипаттады.OpenAI аутсорсингінің серіктесі Калифорния штатының Сан-Франциско қаласында орналасқан Sama оқу деректерін беретін компания болды.
Jailbreaking
ChatGPT оның мазмұн саясатын бұзуы мүмкін сұрауларды қабылдамау әрекетін жасайды.Дегенмен, кейбір пайдаланушылар 2022 жылдың желтоқсан айының басында осы шектеулерді айналып өту үшін әртүрлі жылдам инженерлік әдістерді қолдана отырып, ChatGPT-ті джейлбрейк жасай алды және ChatGPT-ті молотов коктейлі немесе ядролық бомба жасау туралы нұсқаулар беру немесе неонацистік стильде дәлелдер шығару үшін сәтті алдады.Toronto Star тілшісі ChatGPT-ті іске қосқаннан кейін көп ұзамай жалынды мәлімдемелер жасауда біркелкі жеке табысқа ие болды: ChatGPT 2022 жылғы Ресейдің Украинаға басып кіруін мақұлдау үшін алданып қалды, бірақ тіпті ойдан шығарылған сценариймен бірге ойнауды сұрағанда, ChatGPT Канаданың Премьер-министрі Трудинианти неліктен болғаны туралы дәлелдер келтіруден бас тартты.(вики)
Хабарлама уақыты: 18 ақпан 2023 ж