DeepSeek DSpark: Sürətli LLM generasiyasında 85% sürət sıçrayışı!

Link kopyalandı

...

Bu gün, 16:00

Süni intellekt

Oxumaq vaxt alır?

Məqalələri dinləyə bilərsiz

DeepSeek DSpark ilə sürətli və keyfiyyətli generasiya

DeepSeek şirkəti süni intellekt sahəsində yeni DSpark modulunu təqdim edib. Bu modul spekulyativ dekodlaşdırma texnologiyasından istifadə edərək, istehsalat mühitində generasiya sürətini 60-85% artırır və model keyfiyyətində heç bir azalma olmur.

Spekulyativ dekodlaşdırmanın üstünlükləri

DSpark həm zəif layihə keyfiyyətini, həm də layihələrin təsdiqlənməsi zamanı yaranan israfı eyni anda həll edir. O, kiçik və paralel, yarı-avtoreqressiv layihə modelindən istifadə edir. DeepSeek DSpark üçün RNN başlığı yerinə daha az mürəkkəbliyə malik olan Markov başlığını seçib və bu, yüksək performans təmin edir.

DeepSpec: Açıq mənbə kodlu təlim və qiymətləndirmə aləti

DeepSeek DeepSpec adlı açıq mənbə kodlu təlim və qiymətləndirmə alətini təqdim edib. Bu alət DSpark, DFlash və Eagle3 modellərinin müqayisəsini asanlaşdırır. Eksperimental nəticələr göstərir ki, DSpark Eagle3 modelindən 27-31%, DFlash modelindən isə 16-18% daha çox qəbul edilmiş token istehsal edir.

DSpark-ın geniş tətbiq imkanları

DSpark Qwen3-4B, 8B, 14B və Gemma4-12B kimi müxtəlif modellərdə oxşar yüksək nəticələr göstərir. Modul dinamik kəsim həddi ilə işləyir və yalnız müsbət gözlənilən dəyəri olan tokenləri təsdiqləyir. Bu xüsusiyyət müxtəlif sorğu yüklərində spekulyativ dekodlaşdırmanı effektiv edir.

Nəticə və gələcək perspektivlər

İstehsalatda DSpark istifadəçilərə daha sürətli və effektiv generasiya imkanı verir, həmçinin layihə xərclərini azaldır. Bu yenilik süni intellekt modellərinin sürət və keyfiyyət balansını qorumağa kömək edir və sahədə yeni innovasiyaların inkişafına zəmin yaradır.

Link kopyalandı