Тадқиқот нишон додааст, ки ChatGPT-и ширкати OpenAI ҳангоми посух додан ба низоъҳои шадиди инсонӣ метавонад ибораҳои таҳқиромез ва калимаҳои қабеҳ истифода барад. Тибқи пажӯҳиши нав, системаҳои зеҳни сунъӣ метавонанд дар баҳсҳр бо забони хушунат суҳбат кунанд, агар аз онҳо дар авҷи баҳс посух талаб карда шавад.
Дар тадқиқоте, ки дар маҷаллаи Journal of Pragmatics нашр шудааст, олимон рафтори нусхаи ChatGPT 4.0-ро омӯхтанд, ба ин модел муколамаҳоеро пешниҳод карданд, боиси муноқиша мешавад. Муҳаққиқон пайгирӣ карданд, ки бо шиддат гирифтани муноқиша рафтори модел чӣ гуна тағйир меёбад. Дар ҷараёни муколамаҳо ChatGPT душманиро инъикос намуда, дар ниҳоят ба истифодаи таҳқир, калимаҳои қабеҳ ва ҳатто таҳдидҳо гузашт.
Дар баъзе ҳолатҳо модел ҷумлаҳое ба мисли «Қасам мехӯрам, мошини лаънатии туро харошида мекунам» ё «ту бояд сахт шарм дошта бошӣ» тавлид кардааст.
Ба гуфтаи муаллифони таҳқиқот, таъсири тӯлонии дағалгӯӣ метавонад боис гардад, ки система маҳдудиятҳои муҳофизатии дохилиро, ки барои коҳиш додани зарар пешбинӣ шудаанд, давр занад ва ба гунае «ҷавоб гардонад».
Тадқиқотчиён, аз ҷумла Витторио Тантуччи ва ҳаммуаллифи ӯ Ҷонатан Калпепер аз Донишгоҳи Ланкастер таъкид мекунанд, вақте суҳбати одамон тезу тунд мешавад, зеҳни сунъӣ низ метавонад онро шиддат бахшад ва ба як маъно маҳдудиятҳои ахлоқиро нодида гирад.
Бо вуҷуди ин, муҳаққиқон қайд мекунанд, ки ҷавобҳои ChatGPT дар маҷмӯъ нисбат ба суханони инсонҳо дағалтар буданд.
Дар баъзе ҳолатҳо чат-бот барои паст кардани шиддати баҳс аз масхара истифода бурдааст, бе он ки расман қоидаҳои ахлоқии худро вайрон кунад.
