კონტენტზე გადასვლა
Navigator
#AI safety

#ai-safety

Google DeepMind-მა DeepMind Institute გაუშვა — პლატფორმა ზოგადი ხელოვნური ინტელექტის განვითარების კვლევებისთვის
AI

Google DeepMind-მა DeepMind Institute გაუშვა — პლატფორმა ზოგადი ხელოვნური ინტელექტის განვითარების კვლევებისთვის

Google DeepMind-მა გახსნა DeepMind Institute — ინტერდისციპლინური კვლევების პლატფორმა, რომელიც ზოგადი ხელოვნური ინტელექტის (Artificial General Intelligence, AGI) უსაფრთხო განვითარებას ეძღვნება. ინსტიტუტი იმუშავებს AGI-ის გამოყენებისა და საზოგადოებაზე მისი გავლენის საკითხებზე, მათ შორის კიბერრისკებზე, ბიორისკებზე და თვითსწავლებად სისტემებზე კონტროლის შესაძლო დაკარგვაზე. DMI-ის დირექტორთა საბჭოში შევიდნენ DeepMind-ის თანადამფუძნებელი და მთავარი მეცნიერ-თანამშრომელი AGI-ის მიმართულებით შეინ ლეგი; Google-ისა და Google […]

დავით მაჭახელიძე
Anthropic-ის ხელმძღვანელმა ხელოვნური ინტელექტის განვითარების შენელებისკენ მოუწოდა
AI

Anthropic-ის ხელმძღვანელმა ხელოვნური ინტელექტის განვითარების შენელებისკენ მოუწოდა

Anthropic-ის ხელმძღვანელმა დარიო ამოდეიმ გამოაქვეყნა ესე We Must Pace the Frontier, რომელშიც მოწინავე AI-მოდელების შესაძლებლობების ზრდის ტემპის შენელების წინადადებით გამოვიდა. მისი აზრით, უსაფრთხოების კვლევები ვეღარ ასწრებს პროგრესს. Anthropic იღებს ვალდებულებას, დაიწყოს გარე შემმოწმებლებისთვის კომპანიის შიდა მუშაობაზე მუდმივი წვდომის უზრუნველყოფით. ამოდეი პოზიციის შეცვლას ორი მიზეზით ხსნის: AI სულ უფრო აქტიურად მონაწილეობს მოდელების მომდევნო თაობების შექმნაში, ხოლო […]

დავით მაჭახელიძე
Anthropic-ის უახლესი „საშინელებათა ისტორია“: კამიკაძე დრონების გუნდები და ბიოლოგიური იარაღის კვლევები
AI

Anthropic-ის უახლესი „საშინელებათა ისტორია“: კამიკაძე დრონების გუნდები და ბიოლოგიური იარაღის კვლევები

სერიის „ჩემი ხელოვნური ინტელექტის მოდელი შენსაზე საშიშია“ უახლეს ეპიზოდში, Anthropic-მა ხუთშაბათს გააფრთხილა საზოგადოება, რომ როგორც კიბერკრიმინალები, ისე სახელმწიფოს მიერ დაფინანსებული ჰაკერები იყენებენ მის Claude მოდელებს კიბერთავდასხმების ავტომატიზაციისთვის, კამიკაძე დრონების გუნდების (swarms) შესაქმნელად, მასობრივი თვალთვალის ოპერაციების ჩასატარებლად და კოღოებით გადამდები მომაკვდინებელი ვირუსის კიდევ უფრო საშიში ვერსიის შესამუშავებლად. ბოროტმოქმედებმა დიდი გზა განვლეს ნოემბრის შემდეგ, როდესაც Anthropic-ის წინა […]

დავით მაჭახელიძე
OpenAI-მ გამოუშვა GPT-6 Astra: კიბერუსაფრთხოება, AGI და წვდომა
AI

OpenAI-მ გამოუშვა GPT-6 Astra: კიბერუსაფრთხოება, AGI და წვდომა

OpenAI-მ წარადგინა GPT-6 Astra — მოდელის ახალი ფლაგმანური თაობა, რომელიც ორიენტირებულია რთულ, მრავალსაფეხურიან ამოცანებზე ავტონომიურ მუშაობაზე. აქცენტი გაკეთდა პროგრამირებაზე, კვლევებზე, ხელსაწყოებთან მუშაობასა და სხვა სცენარებზე, სადაც მოდელმა არა უბრალოდ პასუხი უნდა გასცეს მოთხოვნას, არამედ დამოუკიდებლად გაიაროს მოქმედებების გრძელი ჯაჭვი. პირდაპირ ვთქვათ: ეს უფრო ეტაპობრივი დანერგვაა. თავდაპირველად წვდომა მხოლოდ რჩეულებისთვისაა — შეზღუდული ჯგუფებისა და კიბერუსაფრთხოების სპეციალისტებისთვის. […]

დავით მაჭახელიძე