კონტენტზე გადასვლა
#ხელოვნური ინტელექტის უსაფრთხოება

#khelovnuri-inteleqtis-usaphrthkhoeba

Anthropic ლობირებს კანონს, რომელიც უშვებს იმ ხელოვნური ინტელექტის მოდელების დაბლოკვას, რომლებსაც 50 ან მეტი ადამიანის დაღუპვის გამოწვევა შეუძლიათ
AI

Anthropic ლობირებს კანონს, რომელიც უშვებს იმ ხელოვნური ინტელექტის მოდელების დაბლოკვას, რომლებსაც 50 ან მეტი ადამიანის დაღუპვის გამოწვევა შეუძლიათ

Anthropic აშშ-ში ლობირებს ხელოვნური ინტელექტის უსაფრთხოების კანონპროექტს, რომელმაც შესაძლოა ენობრივი მოდელების დაბლოკვა გამოიწვიოს, თუ მათ 50 ან მეტი ადამიანის დაღუპვის გამოწვევა შეუძლიათ, წერს Politico. საუბარია სცენარებზე, რომლებიც მოიცავს „პროგნოზირებად გარდაუვალ რისკს“, რომელსაც შეუძლია 50-ზე მეტი ადამიანის დაღუპვა ან 1 მილიარდ დოლარზე მეტი ქონებრივი ზიანის მიყენება გამოიწვიოს. Politico აღნიშნავს, რომ განსახილველი კატასტროფული რისკი „დაკავშირებული უნდა იყოს […]

დავით მაჭახელიძე
Anthropic-ის ხელმძღვანელმა ხელოვნური ინტელექტის განვითარების შენელებისკენ მოუწოდა
AI

Anthropic-ის ხელმძღვანელმა ხელოვნური ინტელექტის განვითარების შენელებისკენ მოუწოდა

Anthropic-ის ხელმძღვანელმა დარიო ამოდეიმ გამოაქვეყნა ესე We Must Pace the Frontier, რომელშიც მოწინავე AI-მოდელების შესაძლებლობების ზრდის ტემპის შენელების წინადადებით გამოვიდა. მისი აზრით, უსაფრთხოების კვლევები ვეღარ ასწრებს პროგრესს. Anthropic იღებს ვალდებულებას, დაიწყოს გარე შემმოწმებლებისთვის კომპანიის შიდა მუშაობაზე მუდმივი წვდომის უზრუნველყოფით. ამოდეი პოზიციის შეცვლას ორი მიზეზით ხსნის: AI სულ უფრო აქტიურად მონაწილეობს მოდელების მომდევნო თაობების შექმნაში, ხოლო […]

დავით მაჭახელიძე
Anthropic-ის უახლესი „საშინელებათა ისტორია“: კამიკაძე დრონების გუნდები და ბიოლოგიური იარაღის კვლევები
AI

Anthropic-ის უახლესი „საშინელებათა ისტორია“: კამიკაძე დრონების გუნდები და ბიოლოგიური იარაღის კვლევები

სერიის „ჩემი ხელოვნური ინტელექტის მოდელი შენსაზე საშიშია“ უახლეს ეპიზოდში, Anthropic-მა ხუთშაბათს გააფრთხილა საზოგადოება, რომ როგორც კიბერკრიმინალები, ისე სახელმწიფოს მიერ დაფინანსებული ჰაკერები იყენებენ მის Claude მოდელებს კიბერთავდასხმების ავტომატიზაციისთვის, კამიკაძე დრონების გუნდების (swarms) შესაქმნელად, მასობრივი თვალთვალის ოპერაციების ჩასატარებლად და კოღოებით გადამდები მომაკვდინებელი ვირუსის კიდევ უფრო საშიში ვერსიის შესამუშავებლად. ბოროტმოქმედებმა დიდი გზა განვლეს ნოემბრის შემდეგ, როდესაც Anthropic-ის წინა […]

დავით მაჭახელიძე