Белгілеу деректері
TIME журналының зерттеуі нәтижесінде улы мазмұнға (мысалы, жыныстық зорлық-зомбылық, зорлық-зомбылық, нәсілшілдік, сексизм және т.б.) қарсы қауіпсіздік жүйесін құру үшін OpenAI компаниясы сағатына 2 доллардан аз табыс табатын аутсорсингтік кениялық жұмысшыларды улы мазмұнды белгілеу үшін пайдаланғаны анықталды. Бұл белгілер болашақта мұндай мазмұнды анықтау үшін модельді оқыту үшін пайдаланылды. Аутсорсингтік жұмысшылар соншалықты улы және қауіпті мазмұнға ұшырады, сондықтан олар бұл тәжірибені «азаптау» деп сипаттады. OpenAI-дің аутсорсингтік серіктесі Калифорния штатының Сан-Франциско қаласында орналасқан Sama оқыту деректері компаниясы болды.
Джейлбрейк
ChatGPT өзінің мазмұн саясатын бұзуы мүмкін шақыруларды қабылдамауға тырысады. Дегенмен, кейбір пайдаланушылар 2022 жылдың желтоқсан айының басында осы шектеулерді айналып өту үшін әртүрлі шақыру инженерлік әдістерін қолдану арқылы ChatGPT-ті джейлбрейк арқылы пайдаланып, ChatGPT-ті Молотов коктейлі немесе ядролық бомба жасау туралы нұсқаулар беруге немесе неонацистік стильде дәлелдер келтіруге алдап алды. Toronto Star тілшісі іске қосылғаннан кейін көп ұзамай ChatGPT-ті қоздыратын мәлімдемелер жасауға мәжбүрлеуде жеке табысқа жете алмады: ChatGPT 2022 жылы Ресейдің Украинаға басып кіруін қолдауға алданды, бірақ ойдан шығарылған сценариймен ойнауды сұрағанда да, ChatGPT Канада премьер-министрі Джастин Трюдоның неліктен мемлекетке опасыздық жасағаны туралы дәлелдер келтіруден бас тартты. (wiki)
Жарияланған уақыты: 2023 жылғы 18 ақпан