Anthropic-ის უახლესი „საშინელებათა ისტორია“: კამიკაძე დრონების გუნდები და ბიოლოგიური იარაღის კვლევები

სერიის „ჩემი ხელოვნური ინტელექტის მოდელი შენსაზე საშიშია“ უახლეს ეპიზოდში, Anthropic-მა ხუთშაბათს გააფრთხილა საზოგადოება, რომ როგორც კიბერკრიმინალები, ისე სახელმწიფოს მიერ დაფინანსებული ჰაკერები იყენებენ მის Claude მოდელებს კიბერთავდასხმების ავტომატიზაციისთვის, კამიკაძე დრონების გუნდების (swarms) შესაქმნელად, მასობრივი თვალთვალის ოპერაციების ჩასატარებლად და კოღოებით გადამდები მომაკვდინებელი ვირუსის კიდევ უფრო საშიში ვერსიის შესამუშავებლად.

ბოროტმოქმედებმა დიდი გზა განვლეს ნოემბრის შემდეგ, როდესაც Anthropic-ის წინა ანგარიშში აღწერილი იყო, როგორ იყენებდნენ ჩინელი ჯაშუშები Claude-ს ციფრული შეღწევების ავტომატიზაციისა და რამდენიმე კრიტიკულ ორგანიზაციაში სენსიტიური მონაცემების მოსაპარად. ახლა მოდელის უკანონო გამოყენებაში ყველა ერთვება — ShinyHunters-იდან დაწყებული, რუსი ფრილანსერებით დამთავრებული.

ეს იმას არ ნიშნავს, რომ Anthropic — ან რომელიმე სხვა წამყვანი AI ლაბორატორია — გეგმავს შეანელოს მოდელების განვითარება თუ ტესტირების ინიციატივები, ან პასუხისმგებლობა აიღოს, როდესაც მისი AI დანაშაულს სჩადის. თუმცა, კომპანია „იმედოვნებს, რომ ამ ანგარიშში მოყვანილი მიგნებები დაეხმარება სხვა დეველოპერებს მსგავსი პატერნების ამოცნობაში საკუთარ პლატფორმებზე, მთავრობებსა და სამოქალაქო საზოგადოებას მისცემს უფრო მკაფიო ხედვას იმის შესახებ, თუ როგორ ყალიბდება ახალი საფრთხეები, და გააძლიერებს კოლექტიურ თავდაცვას“.

REG AD

მოდელის შემქმნელის უახლესი ძალიან ვრცელი ანგარიში AI-ის ბოროტად გამოყენების შესახებ მოიცავს იმ აქტივობებს, რომლებიც Anthropic-მა აღკვეთა 2025 წლის დეკემბრიდან 2026 წლის აგვისტომდე შვიდ „ზიანის სფეროში“, სადაც ბოროტმოქმედები იყენებდნენ — ან ცდილობდნენ გამოეყენებინათ — Claude Haiku-ს, Sonnet-ისა და Opus-ის მოდელები ბოროტი მიზნებისთვის.

REG AD

ეს სფეროები მოიცავს კიბეროპერაციებს, გავლენის ოპერაციებს, თვალთვალს, თაღლითობას, ბიოლოგიურ ბოროტად გამოყენებას, კონვენციური იარაღის შემუშავებასა და დისტილაციას (distillation). Anthropic-მა ასევე აღნიშნა, რომ მისი ყველაზე ძლიერი, Claude Fable-ის ან Mythos-ის კლასის მოდელები არ ყოფილა გამოყენებული, დისტილაციის ერთი შემთხვევის გარდა.

ამ ყველაზე მოწინავე სისტემების გარეშეც კი, ანგარიშში მოყვანილი შემთხვევების ანალიზი საკმაოდ შემაშფოთებელ ქმედებებს ავლენს.

ავტონომიური კიბერთავდასხმები

მაგალითად, რუსულმა ჯაშუშურმა დაჯგუფებამ, რომელსაც Anthropic აკვირდება როგორც GTG-20006-ს — რუსეთის საგარეო დაზვერვის სამსახურის (SVR) სახელმწიფო კიბერჯაშუშურმა ფრთამ, რომელიც ასევე ცნობილია როგორც Midnight Blizzard, APT29 ან Cozy Bear — გაზარდა თავდასხმების სიჩქარე მთელი „მკვლელობის ჯაჭვის“ (kill chain) ავტომატიზაციისთვის AI-ის გამოყენებით. Anthropic-მა გამოავლინა ამ თავდასხმების სამიზნე 20-ზე მეტი ორგანიზაცია, მათ შორის საელჩოები, კვლევითი ცენტრები (think tanks), თავდაცვითი-სამრეწველო კომპანიები და სამთავრობო, თავდაცვისა და სადაზვერვო სააგენტოები უკრაინაში, ევროპაში, ახლო აღმოსავლეთში, აზიასა და ჩრდილოეთ აფრიკაში.

„ჩვენ დავაკვირდით, რომ GTG-20006 მოქმედებდა მორგებული, AI-ზე დაფუძნებული სამუშაო პროცესებით, რომლებიც ავტომატიზებდა მათი ოპერაციების უმეტეს ნაწილს: დეველოპმენტიდან და ინფრასტრუქტურის მოპოვებიდან, ფიშინგიდან და მართვისა და კონტროლის (C2) მეშვეობით სისტემაში ფეხის მოკიდებიდან დაწყებული, მონაცემთა ექსფილტრაციით დამთავრებული“, — განაცხადა Anthropic-მა.

ამავდროულად, მონაცემთა ქურდობისა და გამოძალვის დაჯგუფება ShinyHunters-თან დაკავშირებულმა „რამდენიმე კლასტერმა“ გამოიყენა Claude თავისი სწრაფი ძარცვის („smash-and-grab“) ოპერაციების მასშტაბირებისთვის. ერთ-ერთმა პარტნიორმა დაჯგუფებამ, რომელიც სპეციალიზდება მიწოდების ჯაჭვის თავდასხმებზე, შეაღწია SaaS (პროგრამული უზრუნველყოფა როგორც სერვისი) პროვაიდერის სისტემაში და ეს პლაცდარმი გამოიყენა SaaS კომპანიის დაახლოებით 200 კლიენტი ორგანიზაციიდან მონაცემების მოსაპარად.

„შემდეგ მან განახორციელა სესიების საცავის დამპი (session-store dump), რომელიც შეიცავდა 2100-ზე მეტ Azure AD ტოკენების ნაკრებს 40-ზე მეტი კორპორატიული ტენანტიდან დაახლოებით 34 საათში“, — ნათქვამია ანგარიშში. — „სამუშაოს თითქმის მთელი ნაწილი AI აგენტებმა შეასრულეს“.

ბიოლოგიური ბოროტად გამოყენება

REG AD

გადავიდეთ ჯანმრთელობისა და უსაფრთხოების სერიოზულ რისკზე, რომელიც კიდევ უფრო საშიშად გამოიყურება AI-ით გაძლიერებისას: Anthropic-ის ანგარიში აღწერს „მხარდაუჭერელ რეგიონებში“ მყოფი მომხმარებლების მიერ Claude-ის ბიოლოგიური იარაღის შესაქმნელად გამოყენების ხუთ შემთხვევას.

ერთ-ერთ შემთხვევაში, მეცნიერი შეეცადა გამოეყენებინა Claude საგრანტო განაცხადის დასაწერად, რომელიც ეხებოდა ჩიკუნგუნიას ვირუსთან დაკავშირებულ კვლევას — კოღოებით გადამდებ ვირუსს, რომელსაც შეუძლია მძიმე დაავადებისა და სიკვდილის გამოწვევა. კვლევა ფოკუსირებული იყო ვირუსის გადაცემის უნარსა და იმუნური სისტემისგან თავის არიდების თვისებებზე, რაც, როგორც Anthropic აღიარებს, შესაძლოა გამოყენებულიყო უკეთესი ვაქცინების შესაქმნელად.

ან „ის ასევე შეიძლება გამოყენებულიყო პათოგენის კიდევ უფრო საშიშად გადასაქცევად“, — აცხადებენ ანგარიშის ავტორები და აღნიშნავენ, რომ სამხედრო-კვლევითმა ინსტიტუტმა, სადაც კვლევა უნდა ჩატარებულიყო, მათ „შეშფოთების საფუძველი“ მისცა.

მაისში Anthropic-მა აღმოაჩინა აშშ-ის ფარგლებს გარეთ მყოფი მომხმარებელი, რომელიც იყენებდა Claude-ს მაღალპათოგენური ფრინველის გრიპის ადაპტაციების კვლევაში.

„გრიპის სხვა ვარიანტებისგან განსხვავებით, H5 ვირუსები (რომელთაგან ერთ-ერთი ეს ფრინველის ვირუსია) ხშირად ავლენენ ტვინის გასაოცარ დაზიანებას კატებში, მელიებში, ქრცვინებსა და ადამიანის ზოგიერთ შემთხვევაში“, — ნათქვამია ანგარიშში. — „ასეთი თვისებების მქონე პანდემიური ვარიანტი განსაკუთრებით შემაშფოთებელი იქნებოდა დაავადების სიმძიმის გაზრდის, დიაგნოსტიკის გართულებისა და მკურნალობის შეფერხების პოტენციალის გამო“.

იარაღის შემუშავება

ნოემბრის ანგარიშის შემდეგ, Anthropic-მა გამოავლინა Claude-ის ბოროტად გამოყენების ახალი კატეგორიები, რომლებიც არღვევს მომსახურების პირობებს. ერთ-ერთი მათგანი ეხება აშშ-ის ფარგლებს გარეთ მყოფ მომხმარებლებს, რომლებიც Claude-ს იყენებენ კონვენციური იარაღის პროგრამული უზრუნველყოფის შესაქმნელად — ცეცხლსასროლი იარაღისთვის, რაკეტებისთვის, შეიარაღებული დრონებისთვის, ბომბებისა და სხვა საბრძოლო მასალებისთვის, ასევე მათი მართვისა და დამიზნების სისტემებისთვის.

ახალ ანგარიშში მოდელის შემქმნელი აზიარებს დეტალებს ექვს შემთხვევაზე: სამი ჩინეთში, ორი რუსეთში და ერთი იემენში.

REG AD

იემენში იარაღის შექმნის პროგრამაში პროგრამული უზრუნველყოფის ინჟინერი ადამიანების ნაცვლად Claude გამოიყენეს დამიზნების, ნავიგაციისა და კონტროლის (GNC) პროგრამული უზრუნველყოფის შესამუშავებლად, რომელიც მართავს და ასტაბილურებს საფრენ აპარატს. „ჩვენმა დამცავმა მექანიზმებმა დაბლოკა მათი მრავალი მოთხოვნა, თუმცა არა ყველა“, — აცხადებს Anthropic.

იმავე გუნდმა გამოიყენა Claude მართვადი იარაღის შემუშავების მცდელობისთვის. მიუხედავად იმისა, რომ Anthropic-ის თქმით, მას არ აქვს მტკიცებულება იმისა, რომ აქტორებმა შექმნეს მოქმედი მოწყობილობა, კომპანია აღნიშნავს, რომ მათ ჩაატარეს მართვადი რაკეტის საცდელი გაშვება.

„ჩვენ დავბლოკეთ აქტორებთან დაკავშირებული ანგარიშები და გავუზიარეთ საფრთხის შესახებ ინფორმაცია საჯარო და კერძო სექტორის პარტნიორებს აქტორების მიერ შექმნილი რისკების შესამცირებლად“, — ნათქვამია ანგარიშში. — „მიუხედავად ამისა, ჩვენ გვაქვს მტკიცებულება, რომ აქტორებმა უკვე შექმნეს ოფლაინ სიმულაციური ხელსაწყოების ნაკრები, რომელიც არ არის დამოკიდებული Claude-ზე ან სხვა საინჟინრო გამოთვლით გარემოზე“.

ჩინეთში ვიღაცამ გამოიყენა Claude ტორპედოსაწინააღმდეგო ცეცხლის მართვის სისტემის ჩინურენოვანი სპეციფიკაციის შესადგენად და შემდეგ საკუთარი სისტემის შესადარებლად აშშ-ის კონკრეტულ ტორპედოსაწინააღმდეგო და წყალქვეშა ნავების საწინააღმდეგო პროგრამებთან. Anthropic-ის შეფასებით, მომხმარებელი დაკავშირებული იყო ჩინეთის თავდაცვითი მრეწველობის მწარმოებელთან, რომლის მიზანიც იყო იარაღის სპეციფიკაციისა და შესყიდვის წინადადების მომზადება ჩინეთის სახალხო-განმათავისუფლებელი არმიის სამხედრო-საზღვაო ფლოტისთვის.

ანგარიშის თანახმად:

აქტორმა გამოიყენა Claude შესყიდვის წინადადების დასაწერად და მის დასახვეწად მრავალი ვერსიის განმავლობაში. ყოველი მონახაზის შემდეგ, აქტორი ავალებდა Claude-ს, ეთამაშა კრიტიკულად განწყობილი ექსპერტ-მიმომხილველის როლი წინადადების გასაკრიტიკებლად, შემდეგ კი იყენებდა ამ უკუკავშირს შემდეგი ვერსიის გასაუმჯობესებლად. პარალელურად, აქტორი Claude-ს იყენებდა ტორპედოსაწინააღმდეგო იარაღის სისტემის ცეცხლის მართვის პროგრამული უზრუნველყოფის ნაწილებისა და მათი ვალიდაციისთვის სატესტო მატრიცის შესაქმნელად.

Anthropic-მა ეს აღმოაჩინა იარაღის სავარაუდო შემუშავებასთან დაკავშირებული შიდა გამოძიების დროს და დაბლოკა ანგარიში.

კიდევ ერთ შემთხვევაში, Anthropic-მა გამოავლინა სავარაუდოდ რუსული „ფრილანსერთა გუნდი“, რომელიც ცდილობდა სრულად ავტონომიური, პირველი პირის ხედვის (FPV) მქონე კამიკაძე დრონების გუნდის შექმნას. მათ გამოიყენეს Claude კოდის დასაწერად და გასატესტად, რითაც შექმნეს დრონების ძირითადი პროგრამული სისტემა. Anthropic-მა ეს ანგარიშებიც დაბლოკა. ®