Amazon Web Services, TypeSafes Jev-dən ilham alan açıq mənbəli qərar modeli buraxdı. AI inkişaf etdiriciləri sərhəd LLM-lərdən daha çox kompüter avtomatlaşdırmasına uyğun olan zəka axtarırlar.
OpenAI-nin oxşar təklif elan etdiyi həftə buraxılan Amazon'un Strands Decider 2B, əvvəlcədən qərarlaşmış variantlar arasında sıralama və seçməsində nə qədər əmin olduğunu ölçmək üçün yüksək sürətli, ucuz bir yoldur. Model tamamilə açıq mənbədən, hazırda mövcuddur və yerli olaraq işləmək üçün kifayət qədər kiçikdir.
Amazon-un tanınmış mühəndisi Marc Brooker Jev-i görəndən sonra bu layihəni hazırlayıb və belə bir modelə öz fikirlərini yaratmağa çalışıb. Ev quruluşu layihəsi kifayət qədər uğurlu oldu. Bu qısa müddətdə Jevbench-in ölçülü modellər reytinqində ən yüksək yerə çatdı. Amazon mühəndisləri onu təmizləyib, süni intellekt agentlərinin tətbiqi üçün yeni vasitələr və protokollar hazırlayan Strands Labs təşkilatından təklif olaraq buraxdılar.
Brooker deyir ki, bu cür vasitə ehtiyac AWS müştəriləri ilə söhbətlərdə ortaya çıxdı, onların agentlik iş axınları həmişə tam xüsusiyyətli bir LLM-in imkan və ya xərclərini tələb etmədi.
Əvvəlcə bu modellər sinfinə marağım yaranan şey iş axını addımları üçün mükəmməl qərar vermək idi Buker TechCrunch-a dedi ki, mən harada olduğumu nədən sonra etməliyəm? O, müştərilərə daha etibarlı bir iş axını addımını təklif etdiyini söylədi, etibarlılıq hesablarına, cavabların qapalı domeninə görə, daha az gecikmə, potensial olaraq daha aşağı xərclərə görə qurula bilər.
Digər qərar modelləri kimi Strands Decider də LLM-nin torso üzərində qurulub, bu halda Qen3.5-2B, lakin mətni yaratmaq əvəzinə, kalibrli seçimlər verir. TypeSafe öz modelinə iqtisadçı William Stanley Jevons'in adını verdi. Bu modelin qiymətinin aşağı düşməsi onun tələbatını artıra bilər.
Xülasə — davamını mənbədə oxuyun.
