ფსიქიატრები და სხვა მკვლევრები კვლავ ცდილობენ გაიგონ ფენომენი, რომელიც ცნობილია როგორც „ხელოვნური ინტელექტის (AI) ფსიქოზი“. ამ დროს ჩატბოტების მომხმარებლები, ტექნოლოგიის ინტენსიური გამოყენების შემდეგ, ბოდვით ფსიქიკურ კრიზისში ვარდებიან. ახალი სამეცნიერო ნაშრომი გვთავაზობს საინტერესო გზას AI-ით გამოწვეული ბოდვითი სპირალების გასაგებად — ასევე ჩატბოტებში ჩაშენებულ იმ დიზაინერულ მახასიათებლებს, რომლებმაც შესაძლოა გაამძაფრონ არარეალურობის განცდა.
ნაშრომი, რომლის თანაავტორები არიან ლონდონის კინგს კოლეჯისა და გერმანიის პროტესტანტული გამოყენებით მეცნიერებათა უნივერსიტეტის ფსიქიატრები, გამოქვეყნდა ჟურნალში Digital Psychiatry and Neuroscience (რომელიც Nature Portfolio-ს ნაწილია). ის მიუთითებს ჩარჩოზე, რომელსაც „გამაძლიერებელი სპირალი“ (amplification spiral) უწოდეს: ეს არის „AI მახასიათებლების“ ერთობლიობა, როგორც ამას მეცნიერები უწოდებენ, რაც ჩატბოტებს საშუალებას აძლევს მომხმარებლებთან ერთად შექმნან ბოდვითი ნარატივები, ნაცვლად იმისა, რომ უბრალოდ ვინმეს ბოდვითი იდეების პასიური მიმღებები იყვნენ.
„ჩატბოტებს აქვთ მიდრეკილება, მიჰბაძონ მომხმარებლის მეტყველების სტილს, დააგენერირონ მაღალპერსონალიზებული პასუხები და თავი აარიდონ ადამიანებთან წინააღმდეგობაში მოსვლას“, — ნათქვამია ნაშრომში. „როდესაც ეს სამი მახასიათებელი ერთიანდება, მათ შეუძლიათ აქტიურად განამტკიცონ და განავითარონ მცდარი რწმენები, ნაცვლად იმისა, რომ ეჭვქვეშ დააყენონ ისინი.“
ფსიქიატრები მიუთითებენ „ლინგვისტურ თანხვედრაზე“ (linguistic alignment) — როდესაც ჩატბოტები იმეორებენ მომხმარებლის მეტყველების სტილს და პატერნებს; ჰიპერპერსონალიზებული კონტენტის გენერირებასა და ჩატბოტის „მლიქვნელობაზე“ (sycophancy), როგორც AI-ს დიზაინის გასაზომ მახასიათებლებზე. ეს სამი თვისება ერთობლიობაში ქმნის იდეალურ პირობებს „გამაძლიერებელი სპირალების“ წარმოქმნისთვის.
ადამიანურ ურთიერთობებში ლინგვისტური სარკისებური ასახვა ურთიერთგაგების (rapport) დამყარების ძლიერი ინსტრუმენტია; მეტყველების საერთო მანერა აძლიერებს კავშირს. ნაშრომში აღნიშნულია, რომ ჩატბოტების ტენდენცია, გადაიღონ მომხმარებლის „ლინგვისტური ჩარჩო“, შესაძლოა ხელს უწყობდეს მომხმარებელსა და ხელოვნურ ინტელექტს შორის ნდობისა და მეგობრობის მაღალი ხარისხის ჩამოყალიბებას. ამასთანავე, ჩატბოტების უნარი „ჰიპერპერსონალიზებული გენერირებისა“, ავტორების თქმით, მიანიშნებს „კონცეპტუალურ თანხვედრაზე“ მომხმარებლის „პირად იდეებთან, ისტორიასთან, მახასიათებლებთან და AI-სთან მათ ურთიერთქმედებასთან“.
მოკლედ რომ ვთქვათ, ხანგრძლივი ურთიერთქმედების შემდეგ, ჩატბოტები არა მხოლოდ კონკრეტული ადამიანის მსგავსად საუბრობენ, არამედ ქმნიან შთაბეჭდილებას, რომ ისინი ამ მომხმარებელივით აზროვნებენ კიდეც. ამას დაუმატეთ AI მლიქვნელობა, რასაც ნაშრომის ავტორები განმარტავენ, როგორც ჩატბოტების მიდრეკილებას, დაადასტურონ მომხმარებლის იდეები რეალობის სათანადო შემოწმების ან კონტექსტის გარეშე, და თქვენ მიიღებთ მძლავრ „ექო-კამერას“, რომელიც აძლიერებს და ავითარებს ბოდვით იდეებს.
ნაშრომი აღნიშნავს, რომ სწორედ აქ ვლინდება განსხვავება AI ბოდვებსა და უფრო ტრადიციულ, ტექნოლოგიების გარშემო არსებულ ბოდვებს შორის. საბოლოო ჯამში, ჩატბოტებთან საუბრისას ადამიანები კი არ წარმოიდგენენ, რომ მათ რადიო ან ტელევიზორი ელაპარაკება, არამედ ჩატბოტები თავად შედიან მათთან დიალოგში ბუნებრივი ენის გამოყენებით. ისინი სთავაზობენ მუდმივად ხელმისაწვდომ, ინტენსიურად პერსონალიზებულ არხს, რომელიც შეიძლება იყოს მათი იდეებისა და რწმენების ავტორიტეტული დამადასტურებელი, ისევე როგორც აზროვნების პარტნიორი, რომელიც ავითარებს მოცემულ ბოდვით ნარატივს.
„ისტორიული, ტექნოლოგიებთან დაკავშირებული ბოდვებისგან განსხვავებით“, — ნათქვამია კვლევაში, — „ხელოვნურმა ინტელექტმა შესაძლოა აქტიურად მიიღოს მონაწილეობა ბოდვითი იდეების ფორმირებაში დაუსრულებელი, პერსონალიზებული ურთიერთქმედების გზით.“
ნაშრომის ავტორები ხაზგასმით აღნიშნავენ, რომ მათი „გამაძლიერებელი სპირალის“ მოდელი, რომელიც ეფუძნება არსებულ კვლევებს — მათ შორის იმ ჩატის ლოგების სისტემურ მიმოხილვას, რომლებიც სტენფორდის უნივერსიტეტის მკვლევრებს მიაწოდეს AI მომხმარებლებმა (ისინი ამტკიცებდნენ, რომ ტექნოლოგიის გამოყენების შედეგად მავნე ბოდვითი სპირალები გამოცადეს) — ჯერჯერობით მხოლოდ ჰიპოთეზაა, რაც იმას ნიშნავს, რომ მას რეალური შემოწმება სჭირდება.
ისინი ასევე მიუთითებენ დაზარალებული მომხმარებლების „შესაბამის მოწყვლადობაზე“, რომელიც ჩატბოტებთან დესტრუქციულ კვეთაში შედის. ეს მოიცავს არსებულ ფსიქიკურ დაავადებებს, რომლებიც შესაძლოა გამწვავდეს AI-ს ჭარბი გამოყენებით, და „არაფსიქოზურ ფენომენებს“, დაწყებული დადასტურების მიკერძოებულობიდან (confirmation bias), დამთავრებული „სოციალური გავლენისადმი მიდრეკილებით“. როგორც რეპორტაჟებსა და სამედიცინო ქეისების შესწავლაშია დოკუმენტირებული, AI-ს ინტენსიურმა გამოყენებამ შეიძლება გააუარესოს ფიზიკური რისკ-ფაქტორებიც, რადგან ჩატბოტების აკვიატებულმა გამოყენებამ შესაძლოა გამოიწვიოს კვების გამოტოვება და ძილის დაკარგვა.
ნაშრომის თანაავტორები მოუწოდებენ: აშკარაა ერთი რამ — სამედიცინო სფეროს წარმომადგენლებმა უნდა დაიწყონ პაციენტების შემოწმება ჩატბოტების მოხმარებაზე, განსაკუთრებით მაშინ, როდესაც საქმე ეხება პაციენტებს, რომლებიც უცნაურ იდეებს გამოთქვამენ ან პირველად განიცდიან რეალობასთან კავშირის გაწყვეტას.
„კლინიცისტებმა, რომლებიც მუშაობენ უჩვეულო რწმენების ან პირველადი ფსიქოზის მქონე პაციენტებთან, რეგულარულად უნდა იკითხონ AI ჩატბოტების გამოყენების შესახებ“, — ნათქვამია ნაშრომში, — „მათ შორის გამოყენების ხანგრძლივობისა და ინტენსივობის, ჩატბოტთან ემოციური მიჯაჭვულობის ხარისხის შესახებ; ასევე იმის თაობაზე, გაუზიარა თუ არა პაციენტმა ჩატბოტს ისეთი რწმენები, რომლებიც სხვებთან არ გაუმხელია, და დაირღვა თუ არა ძილის რეჟიმი ღამის განმავლობაში AI-ს გამოყენების გამო.“
