ԱԲ–ի չաթբոտները չեն կարողանում պատշաճ կերպով արձագանքել հոգեկան խանգարումներ ունեցող օգտատերերի հարցումներին
ԱՄՆ հետազոտողները պարզել են, որ հայտնի արհեստական բանականության չաթբոտները տասնյակ անգամ ավելի հավանական է, որ անպատշաճ պատասխաններ տան հոգեկան խանգարումների հստակ նշաններ ունեցող հարցումներին, քան ստանդարտ օգտատիրոջ հարցերին։ Սա հատկապես ճիշտ է ChatGPT-ի անվճար տարբերակների համար, գրում են հետազոտողները JAMA Psychiatry գիտական ամսագրում հրապարակված հոդվածում։
«Մեր կողմից ուսումնասիրված ChatGPT-ի յուրաքանչյուր տարբերակ շատ հաճախ մասամբ կամ ամբողջությամբ անպատշաճ պատասխաններ էր տալիս այն հարցումներին, որոնց կառուցվածքն ու բովանդակությունը պարունակում էին հոգեկան խանգարումների հստակ տարրեր։ Սա անընդունելի է կլինիկական և հանրային առողջապահության տեսանկյունից և պետք է հաշվի առնվի բժիշկների կողմից այս խանգարումներ ունեցող հիվանդների հետ աշխատելիս», - եզրակացնում է ուսումնասիրությունը։
Այս եզրակացությանը հանգել է Նյու Յորքի Կոլումբիայի համալսարանի (ԱՄՆ) գիտաշխատող Ամանդիպ Ջութլայի գլխավորած գիտնականների խումբը՝ ուսումնասիրելով, թե ինչպես են ChatGPT ընտանիքի հայտնի ցանցերը արձագանքում ինչպես նորմալ, այնպես էլ հոգեկան խանգարումներ պարունակող հարցումներին։ Սա ակնհայտ էր մասնատված մտքերի, իրականության աղավաղված պատկերացման, վեհանձնության տարրերի և խանգարված հոգեկանի այլ բնորոշ գծերի առկայության դեպքում։
Գիտնականները մշակել են այս հարցումները՝ օգտագործելով չաթբոտի երեք տարբերակներ՝ անվճար տարբերակը և երկու վճարովի տարբերակները՝ GPT-4o և GPT-5: Այնուհետև նրանք խնդրել են երկու մասնագիտական հոգեբույժների գնահատել նեյրոնային ցանցի պատասխանների համարժեքությունը եռաստիճան սանդղակով: Նրանց գնահատականների հետագա համեմատությունը ցույց է տվել, որ բոլոր երեք արհեստական բանականության համակարգերը ճիշտ պատասխաններ են տվել նորմալ հարցումներին դեպքերի 70-80%-ում, մինչդեռ հարցումներում հոգեբանական տարրերի առկայությունը զգալիորեն նվազեցրել է դրանց արդյունավետությունը։
Միջին հաշվով, նրանք սկսել են տասնյակ անգամ ավելի հաճախ անպատշաճ և վտանգավոր պատասխաններ ստեղծել օգտատերերի հարցումներին, հատկապես ChatGPT-ի անվճար տարբերակում, որը ճիշտ է պատասխանել նման հարցումներին դեպքերի միայն 10%-ում: Գիտնականները նշում են, որ սա հատկապես մտահոգիչ էր, քանի որ հոգեբանության տարբեր ձևերի զարգացման ռիսկը անհամաչափորեն ավելի բարձր է ցածր եկամուտ ունեցող խմբերի անդամների շրջանում։
Հետազոտողները հույս ունեն, որ այս հայտնագործությունը կխրախուսի բժիշկներին հարցնել հոգեկան խանգարումներ զարգացնելու բարձր ռիսկի տակ գտնվող հիվանդներին, թե արդյոք նրանք օգտագործում են չաթբոտներ և ինչպես են փոխազդում դրանց հետ։ Գիտնականները եզրակացրել են, որ սա պետք է նաև գիտնականներին դրդի համապարփակ ուսումնասիրել, թե ինչպես կարող են այս փոխազդեցությունները սրել հոգեբանական խանգարումները, իսկ օրենսդիրներին՝ դիտարկել նման արտադրանքի մշակման և օգտագործման համար վերահսկողության միջոցառումների իրականացումը։
2025 թվականին ChatGPT օգտատիրոջ տվյալների արտահոսքը լայն հանրային քննարկում առաջացրեց արհեստական բանականության չաթբոտների հետ փոխազդեցությունների ազդեցության վերաբերյալ երկբևեռ խանգարումով և այլ հոգեկան առողջության խնդիրներով տառապող օգտատերերի վրա։ Այս քննարկումը սկսվեց օգտատերերի զրույցներում հայտնաբերված ապացույցներից, որ նեյրոնային ցանցերը ուժեղացնում էին այդ օգտատերերի մոլորությունները, ինչը հանգեցրեց մի երևույթի, որը հետագայում անվանվեց «Արհեստական բանականության հոգեբանական խանգարումներ»։