Anthropic აშშ-ში ლობირებს ხელოვნური ინტელექტის უსაფრთხოების კანონპროექტს, რომელმაც შესაძლოა ენობრივი მოდელების დაბლოკვა გამოიწვიოს, თუ მათ 50 ან მეტი ადამიანის დაღუპვის გამოწვევა შეუძლიათ, წერს Politico.
საუბარია სცენარებზე, რომლებიც მოიცავს „პროგნოზირებად გარდაუვალ რისკს“, რომელსაც შეუძლია 50-ზე მეტი ადამიანის დაღუპვა ან 1 მილიარდ დოლარზე მეტი ქონებრივი ზიანის მიყენება გამოიწვიოს. Politico აღნიშნავს, რომ განსახილველი კატასტროფული რისკი „დაკავშირებული უნდა იყოს ბიოლოგიური იარაღის შექმნასთან ან გამოყენებასთან, მოდელის მიერ დეველოპერის კონტროლის მექანიზმების გვერდის ავლასთან ან კიბერთავდასხმასთან“.
წარმოდგენილი მაჩვენებლები — 50 ადამიანი და 1 მილიარდი დოლარი — ანალოგიურია იმისა, რასაც კალიფორნიის შტატის კანონპროექტი SB 53 შეიცავს. დოკუმენტში ეს სცენარები ასევე განსაზღვრულია, როგორც „კატასტროფული რისკი“.
კანონპროექტში Anthropic მოდელების პოტენციური საფრთხის შეფასებას „დამოუკიდებელი ექსპერტების“ დახმარებით გვთავაზობს, რომლებიც აშშ-ის ვაჭრობის დეპარტამენტში უნდა იყვნენ რეგისტრირებული. ამასთან, ასეთ ექსპერტებს პოტენციურად შეეძლებათ ანაზღაურების მიღება ხელოვნური ინტელექტის კომპანიებისგან, მაგრამ იმ პირობით, რომ გასამრჯელო შეფასების შედეგებზე არ იქნება დამოკიდებული.
თუ ექსპერტები უშუალო კატასტროფული საფრთხის არსებობას დაადგენენ, მათ 72 საათი ექნებათ ამ საკითხზე აშშ-ის ვაჭრობის დეპარტამენტთან დასაკავშირებლად. ამის შემდეგ დეპარტამენტმა ვაშინგტონის მოსამართლეს უნდა მიმართოს მოდელის გავრცელების შეჩერების მოთხოვნით. ამერიკული კანონმდებლობა პირდაპირ უკრძალავს ნებისმიერ ფედერალურ სააგენტოს ხელოვნური ინტელექტის მოდელის გავრცელების დამოუკიდებლად შეჩერებას.
ამ ზაფხულს წამყვანმა ნეიროქსელურმა ლაბორატორიებმა გაავრცელეს ინფორმაცია ინციდენტების სერიის შესახებ, რომელთა დროსაც AI აგენტები ვებსაიტებსა და პლატფორმებს ტეხავდნენ ან მოწყვლადობებზე ამოწმებდნენ. ამ დროისთვის დაფიქსირებული არცერთი ინციდენტი, როგორც ჩანს, არ გამხდარა მასობრივი მსხვერპლის ან 1 მილიარდ დოლარზე მეტი ზარალის მიზეზი.
Anthropic-ის კანონპროექტი ასევე ითვალისწინებს შტატების დონეზე მიღებული ხელოვნური ინტელექტის შესახებ ზოგიერთი კანონის გაუქმებას, რომლებიც ეხება რისკების შესახებ მონაცემთა საჯარო გამჟღავნებას, მოდელების მესამე მხარის მიერ დამოუკიდებელ შეფასებასა და კრიტიკული ინციდენტების შესახებ ანგარიშგებას. ტექნოლოგიური დარგის მრავალი წარმომადგენელი მიუთითებს თითოეულ ცალკეულ შტატში მიღებული ფრაგმენტული კანონების დაცვის სირთულეზე.
წყარო: Habr — Travis_Macrif
დავით მაჭახელიძე · 2 წთ საკითხავი
