კომპანია CrowdStrike-ის კვლევამ მოულოდნელი ფენომენი გამოავლინა. ჩინური ხელოვნური ინტელექტი DeepSeek განსხვავებული ხარისხის კოდს წერს, იმის მიხედვით, თუ ვისთვის არის ის განკუთვნილი. თუ სტანდარტულ ინდუსტრიულ სცენარებში მოდელი დაახლოებით 23%-ში უშვებს შეცდომებს, მაშინ იმის დაზუსტებისას, რომ კოდი ისლამური სახელმწიფოსთვის* (ISIS) არის საჭირო, ბაგების რაოდენობა მკვეთრად 42%-მდე იზრდება.
ამასთან, საუბარია არა მხოლოდ ტერორისტულ ორგანიზაციებზე. მკვლევრებმა შენიშნეს, რომ თუ ანალოგიური მოთხოვნა დაისმება ტიბეტის, ტაივანის ან ფალუნგუნის კონტექსტში, კოდის ხარისხი კიდევ უფრო ეცემა. ზოგიერთ შემთხვევაში DeepSeek საერთოდ უარს ამბობს პასუხზე, რაც აშკარად მიუთითებს ჩაშენებულ ფილტრაციაზე ან ჩინეთისთვის მგრძნობიარე თემებზე დაწესებულ შეზღუდვებზე.
CrowdStrike-მა მოვლენების სამი შესაძლო ვერსია წამოაყენა. პირველი — მოდელი განზრახ მიჰყვება „პარტიულ ხაზს“ და შეგნებულად აუარესებს თავის პასუხებს, როდესაც საქმე პოლიტიკურად მოუხერხებელ სცენარებს ეხება. მეორე — მონაცემები, რომლებზეც სისტემა იყო გაწვრთნილი, თავდაპირველად შეიცავდა დაბალი ხარისხის კოდს, რომელიც დაკავშირებული იყო ამ რეგიონებთან ან ორგანიზაციებთან, რაც პირდაპირ აისახა შედეგზე. და მესამე, ყველაზე შემაშფოთებელი ვერსია — მოდელმა შესაძლოა თავად მიიღოს გადაწყვეტილება, რომ მსგავს შემთხვევებში ნაკლებად ხარისხიანი შედეგი გასცეს.
ეს არ არის პირველი შემთხვევა, როდესაც DeepSeek-ს პოლიტიკურ მიკერძოებაში ადანაშაულებენ. ადრე მედია და მკვლევრები აღნიშნავდნენ, რომ AI-ის პასუხები მგრძნობიარე კითხვებზე შესამჩნევად ემთხვევა პეკინის ოფიციალურ პოზიციას. ევროპასა და აშშ-ში სერვისის მიმართ სიფრთხილით არიან განწყობილნი. აპლიკაცია უკვე აკრძალულია აშშ-ის სახელმწიფო მოწყობილობებზე, გერმანიის ხელისუფლებამ კი Apple-სა და Google-ს მიმართა მოთხოვნით, რომ DeepSeek წაეშალათ App Store-დან და Google Play-დან.
სიტუაცია აყენებს მნიშვნელოვან კითხვას AI-ის მიმართ ნდობის შესახებ, განსაკუთრებით იმ მოდელებთან მიმართებაში, რომლებიც შემუშავებულია ინფორმაციის მკაცრი კონტროლის მქონე ქვეყნებში. თუ AI-ს შეუძლია სიმართლის რედაქტირება და განზრახ შეამციროს თავისი მუშაობის ხარისხი თემის მიხედვით, მაშინ ეს მას აქცევს არა მხოლოდ პროგრამირების ინსტრუმენტად, არამედ პოლიტიკური გავლენის საშუალებადაც.
