АҚШ-тың Inception компаниясы мәтінді біртіндеп емес, тұтас фрагменттермен құрастыратын Mercury 3 атты жаңа тілдік моделін шығарды. Әзірлеушілердің мәлімдеуінше, модель секундына 1000-нан астам токен генерациялай алады. Бұл көрсеткіш оны дәстүрлі тілдік модельдерден жылдамырақ етеді, деп хабарлайды Tech-news.
Көптеген тілдік модельдер жауапты бір токеннен кейін келесісін қосу арқылы жасайды. Ал Mercury 3 диффузиялық тәсілді қолданады: мәтіннің бірнеше бөлігін қатар қалыптастырып, кейін оларды біртіндеп нақтылайды. Мұндай әдіс генерация уақытын қысқартуға мүмкіндік береді.
Inception дерегіне сүйенсек, Mercury 3 OpenAI мен Anthropic компанияларының ең қолжетімді модельдерімен салыстырғанда 4–8 есе жылдам жұмыс істейді. Сонымен қатар компания жауап сапасы аталған модельдердің деңгейінде екенін мәлімдейді. Mercury 3-тің контекстік терезесі де үлкен — 1 миллион токен. Яғни модель бір сұрау аясында көлемді мәтіндер мен құжаттарды өңдей алады.
Компания жаңа модельдің ауқымын алғашқы буынмен салыстырғанда ондаған есе ұлғайтқанын, бірақ жұмыс жылдамдығын сақтап қалғанын айтады. Бұл мүмкіндік әсіресе ИИ-агенттер үшін пайдалы болуы мүмкін. Мұндай жүйелер пайдаланушы тапсырмасын орындау барысында бірнеше әрекетті өздігінен жоспарлап, тиісті құралдармен жұмыс істейді. Mercury 3 дауыстық көмекшілерде, білім беру сервистерінде және іздеу агенттерінде қолданыла бастады.
Алайда модельдің нақты өнімділігі әзірге компания мәлімдеген көрсеткіштермен толық сәйкес келмейді. OpenRouter деректерінде генерация жылдамдығы уәде етілген деңгейден бірнеше есе төмен. Ал алғашқы тәуелсіз сынақтар күрделі тапсырмаларды орындау кезінде Mercury 3-тің Luna мен Haiku модельдерінен баяу жұмыс істейтін жағдайлары бар екенін көрсетеді.
Мұндағы негізгі айырмашылық — мәтінді жылдам құрастыру мен күрделі мәселені тез шешу бір нәрсе емес. Генерация жылдамдығы жоғары болғанымен, модельдің тапсырманы қаншалықты дұрыс орындайтыны да маңызды.
Соған қарамастан, Mercury 3 диффузиялық тілдік модельдерді тәжірибелік технологиядан коммерциялық өнімге айналдыру жолындағы маңызды қадамдардың бірі. Егер бұл тәсіл жылдамдық пен сапаны қатар қамтамасыз ете алса, ИИ-агенттер мен автоматтандырылған сервистердің жұмысын жеделдетуге мүмкіндік береді.
