სტარტაპმა Taalas-მა ნეიროქსელი ჩიპში ჩააშენა და რეკორდული 17 000 ტოკენი წამში მიიღო

კანადური სტარტაპი Taalas გამოვიდა „ფარული-რეჟიმიდან“ და წარმოადგინა პირველი პროდუქტი — სპეციალიზებული ჩიპი HC1 „ჩაშენებული“ (hardcoded) Llama 3.1 8B-ით. მოდელი არ იტვირთება მეხსიერებაში, არამედ პირდაპირ კრემნიუმშია ჩაწნეხილი: წონები ტრანზისტორებშია ჩაპროგრამებული წარმოების ეტაპზე. შედეგი — 17 000 ტოკენი წამში ერთ მომხმარებელზე, რაც თითქმის 10-ჯერ სწრაფია არსებულ GPU გადაწყვეტილებებზე, წარმოების ღირებულების 20-ჯერ შემცირებისა და ენერგიის 10-ჯერ დაზოგვის პირობებში. […]