RAG modelu daje znanje: pronalazi relevantne delove vaših dokumenata i ubacuje ih u upit. Fine-tuning menja ponašanje: stil, format i terminologiju. Ako model treba da zna šta piše u vašim dokumentima, krenite od RAG-a; ako treba da piše na određen način, razmislite o fine-tuningu. U ozbiljnijim sistemima najčešće se koristi oboje.
Razlika na primeru novog zaposlenog
Zamislite novog kolegu. RAG je kao da mu date pristup arhivi i kažete: „Pre svakog odgovora pogledaj dokumente.“ Odgovara tačno i zna da kaže odakle mu podatak — ali piše onako kako je navikao.
Fine-tuning je kao obuka na poslu: posle nekoliko nedelja piše izveštaje u formatu firme i koristi pravu terminologiju. Ipak, i dalje ne zna napamet svaki ugovor — i kada ga pitate za nešto što nije video, može samouvereno da pogreši.
Tabela za brzu odluku
| Pitanje | RAG | Fine-tuning |
|---|---|---|
| Šta menja | Šta model zna u trenutku odgovora | Kako se model ponaša |
| Ažuriranje znanja | Odmah — dodate dokument | Novi trening |
| Navođenje izvora | Da, prirodno | Ne |
| Potrebni podaci | Vaši dokumenti, kakvi jesu | Stotine do hiljade pripremljenih primera |
| Rizik izmišljanja činjenica | Manji — odgovor iz dokumenata | Ostaje |
| Trošak pokretanja | Niži | Viši: priprema podataka, trening, evaluacija |
| Trošak po upitu | Veći — duži upiti | Može biti manji — manji model |
| Prava pristupa | Po dokumentu i korisniku | Nema — sve je „u modelu“ |
| Tipična primena | Interni asistent, pretraga, podrška | Format izlaza, ton, klasifikacija, uski zadaci |
Kada izabrati RAG
- Znanje se često menja: cenovnici, procedure, propisi, tehnička dokumentacija.
- Odgovor mora da navede izvor, da bi korisnik mogao da ga proveri.
- Različiti korisnici smeju da vide različite dokumente.
- Želite prvu upotrebljivu verziju za nekoliko nedelja, bez pripreme skupa za trening.
Tipičan primer je privatni AI asistent nad internim dokumentima.
Kada izabrati fine-tuning
- Izlaz mora da prati strog format — JSON za vaš sistem, šablon izveštaja, struktura podneska.
- Ton i jezik: odgovori klijentima „glasom firme“ ili ispravniji srpski.
- Uzak zadatak koji se ponavlja hiljadama puta dnevno — razvrstavanje mejlova, izdvajanje podataka iz faktura — gde fino podešen mali model zamenjuje veliki.
- Dugački promptovi sa mnogo primera postali su spori i skupi.
Više o postupku i hardveru: fine-tuning jezičkih modela.
Kombinacija: najčešći ishod u praksi
U ozbiljnijim sistemima RAG donosi činjenice, a fino podešen model zna kako da ih upotrebi. Primer: asistent za pravnu službu pronalazi relevantne članove ugovora (RAG), a odgovor piše u formatu pravnog mišljenja koji je naučio iz nekoliko stotina primera (fine-tuning). Pošto se LoRA adapter učitava u isti inference server, kombinacija ne traži poseban hardver.
Šta je posebno kod srpskog jezika
- Pretraga: padeži i dva pisma traže višejezične embedding modele, normalizaciju pisma i hibridnu pretragu — po značenju i po ključnim rečima.
- Jezik odgovora: ako model dobro piše na engleskom, a na srpskom je „krut“, kratak LoRA trening na kvalitetnim srpskim primerima vidno popravlja padeže i stil.
- Tokenizacija: isti tekst na srpskom zauzima više tokena nego na engleskom, a na ćirilici često još više. RAG sa mnogo dokumenata zato brže puni kontekst.
- Testiranje: proveravajte na stvarnim pitanjima, onako kako ih zaposleni pišu — sa dijakritičkim znacima i bez njih, na latinici i na ćirilici.
Troškovi u praksi
RAG: najveći jednokratni posao je sređivanje izvora i podešavanje pretrage. Hardver je isti kao za običnu inferenciju, uz nešto više memorije za duže upite.
Fine-tuning: najskuplji deo je priprema i provera podataka — ljudsko vreme. Sam trening traje od nekoliko sati do dan-dva na jednoj kartici, a evaluacija je obavezna. Posle treninga trošak rada je praktično isti kao bez njega.
Kako se oba pristupa odražavaju na mesečni račun, proverite u kalkulatoru troškova.
Kako odlučujemo u praksi
- Zapišite 30–50 stvarnih pitanja sa očekivanim odgovorima — to je vaš test.
- Probajte dobar prompt na najboljem modelu koji možete da pokrenete.
- Dodajte RAG nad relevantnim dokumentima i izmerite ponovo.
- Tek ako format ili stil i dalje ne odgovaraju — fine-tuning.
- Merite na istom testu posle svake promene.