Baza znanja
Lokalni jezički modeli i AI infrastruktura, bez marketinga
Praktični vodiči sa brojkama i tabelama — za tehničke i poslovne donosioce odluka koji razmatraju AI na sopstvenoj infrastrukturi.
-
Koliko VRAM-a treba za LLM? Formula i tabela za modele od 7B do 671B
Koliko memorije zauzimaju težine u FP16, FP8 i INT4, zašto dug kontekst „pojede“ memoriju i koje kartice odgovaraju kojim modelima — sa tri primera iz prakse.
-
RAG ili fine-tuning: kako izabrati pravi pristup za vaš AI projekat
Šta koji pristup menja, tabela za brzu odluku, troškovi, kombinacija oba pristupa i posebnosti srpskog jezika.
-
Kalkulator: API ili sopstveni GPU server?
Uporedite mesečni trošak API-ja i sopstvenog servera, cenu po milionu tokena i rok isplativosti — sa pretpostavkama prilagođenim Srbiji.