RAG chatbot nad bazom znanja tvrtke: što je to i kada se isplati

Upit koji ove godine čujem najčešće glasi uvijek isto: "Želimo bota koji odgovara iz naših dokumenata i ništa ne izmišlja." Tehnički naziv za to je RAG, retrieval-augmented generation. U nastavku objašnjavam bez žargona što je to, kome se isplati, što tvrtka mora pripremiti i gdje takvi projekti pucaju.

RAG jednostavnim jezikom

Jezični model odgovara iz memorije. Pročitao je internet do nekog datuma i ne zna ništa o vašim uvjetima povrata, cjeniku za rujan ili uputama za skladište. Ako ga o tome pitate izravno, ili će pošteno reći da ne zna, ili će samouvjereno nešto izmisliti.

RAG mijenja redoslijed. Sustav najprije pretraži vaše dokumente i pronađe odlomke koji se odnose na pitanje. Zatim te odlomke preda modelu zajedno s pitanjem i traži da odgovori samo na temelju njih, uz navod iz kojeg dokumenta odgovor dolazi. Model i dalje piše tekst, ali izvor činjenica postaju vaše datoteke, a ne njegova memorija.

Korisniku to izgleda kao chat. Tvrtki je to način da ljudima da pristup stotinama stranica dokumentacije, a da ih ne tjera da te stranice čitaju.

Navod izvora u svakom odgovoru nije ukras. To je glavni mehanizam povjerenja.

Zašto je RAG u 13,6% oglasa, a vektorske baze u samo 4,5%

U uzorku od 903 oglasa za AI inženjere u SAD-u (Glassdoor, travanj 2026) RAG se traži u 13,6% oglasa. To je češće od agenata (10,6%) i prompt engineeringa (8,9%). Vektorske baze podataka, koje se obično opisuju kao srce RAG-a, spominju se u samo 4,5%.

Razlika između te dvije brojke pokazuje gdje je zapravo posao. Bazu za semantičku pretragu moguće je podići u jednom danu, a gotovih rješenja na tržištu ima dovoljno. Teški dio dolazi prije nje i poslije nje.

• Dokumenti. Tri verzije istog pravilnika u različitim mapama, skenirani PDF-ovi, tablice koje gube strukturu pri kopiranju.
• Rezanje na dijelove. Kako podijeliti dokument tako da pravilo i iznimka od njega ne završe u različitim komadima.
• Prava pristupa. Tko smije vidjeti koje dokumente i kako to prenijeti u pretragu.
• Evaluacija. Kako znati da bot odgovara točno, a ne samo samouvjereno.

U pregledu tržišta AI poslova 2026 citirao sam anketu KORE1: poslodavci kao vještinu broj jedan za inženjera navode izgradnju sustava za evaluaciju, a ne izbor baze podataka. Za RAG to vrijedi dvostruko.

Kome se isplati

Ne treba svaka tvrtka bota nad dokumentima. Isplati se tamo gdje ima puno teksta i puno ponavljajućih pitanja o njemu.

• Podrška s velikim FAQ-om. Stotine članaka u bazi znanja, agenti odgovaraju na ista pitanja, vrijeme prvog odgovora mjeri se satima.
• Interni pravilnici i upute. Novi zaposlenik tjednima pita kolege gdje što stoji. HR i računovodstvo odgovaraju na ista pitanja o godišnjem odmoru i putnim nalozima.
• Prodajni timovi s katalogom. Tisuće artikala, specifikacije, kompatibilnost, uvjeti po regijama. Prodavač kopa po deset datoteka dok kupac čeka.
• Agencije s arhivom ponuda. Stare ponude, studije slučaja, kalkulacije. Nova ponuda slaže se iz starih, ako ih je moguće brzo pronaći.

Zajednička osobina: odgovor već postoji u dokumentima, ali pronaći ga košta više nego pitati čovjeka.

Ako imate dvadeset stranica dokumentacije i pet pitanja dnevno, bot vam ne treba. Dovoljna je pristojna pretraga ili jedna FAQ stranica.

Što tvrtka mora pripremiti

O tome govorim na prvom sastanku, jer o tome rezultat ovisi više nego o izboru modela.

1. 01Ažurni dokumenti. Bot odgovara iz onoga što je dobio. Ako je pravilnik zastario, bot će samouvjereno prenositi zastarjelu verziju, i to s točnim navodom izvora.
2. 02Vlasnik ažuriranja. Konkretna osoba odgovorna za to da u bazi stoji aktualna verzija. Bez nje sustav propada unutar jednog kvartala.
3. 03Popis pitanja s točnim odgovorima. Pedeset ili sto stvarnih pitanja kupaca ili zaposlenika i ono što se smatra točnim odgovorom. Bez tog skupa nitko ne može reći je li bot nakon promjene postao bolji ili lošiji.

Treća stavka izaziva najviše otpora i donosi najviše koristi. Može se složiti u nekoliko dana iz zapisa podrške ili e-mail prepiske.

Gdje takvi projekti pucaju

Tipična su četiri kvara i svaki ima svoju obranu.

Zastarjeli dokumenti. Bot citira prošlogodišnji cjenik. Obrana: vlasnik ažuriranja i datum dokumenta prikazan u odgovoru, tako da korisnik vidi koliko je izvor svjež.

Odgovaranje izvan opsega. Kupac pita o pravnim posljedicama raskida ugovora, a bot izgrađen nad dokumentima o dostavi pokušava odgovoriti. Obrana: ograničena pretraga i čvrsto pravilo: ako u dokumentima nema odgovora, reci to i predaj operateru.

Curenje dokumenata. Bot kupcu odgovori odlomkom iz interne upute u kojoj stoje nabavne cijene. Obrana: prava pristupa provode se na razini pretrage, a ne u promptu. Model nikad ne smije vidjeti dokument koji korisnik ne smije vidjeti.

Izmišljeni navodi. Model citira odjeljak koji ne postoji. Obrana: navode generira sustav iz pronađenih odlomaka, a ne piše ih model, plus evaluacijski skup u kojem se takvi slučajevi prate.

Gartner očekuje da će više od 40% projekata s AI agentima biti otkazano do kraja 2027. Prema onome što sam vidio, projekti nad dokumentima gase se iz istih razloga, i gotovo nikad nitko prije početka nije sastavio evaluacijski skup.

Realan vremenski okvir

Pilot nad jednim skupom dokumenata traje dva tjedna. Jedan izvor (recimo baza znanja podrške), jedan scenarij (odgovori kupcima ili zaposlenicima), evaluacijski skup od 50 pitanja, predaja teških slučajeva čovjeku. Nakon dva tjedna imate radnu verziju koju možete pokazati timu i izmjeriti.

Proširenje na druge izvore i prava pristupa za više uloga druga je faza. Ne bih pokušavao pokriti sve odjednom: svaki novi izvor donosi vlastite probleme s kvalitetom dokumenata.

Kako se to uklapa u moje usluge

Takvog bota radim u sklopu usluge "AI u vašem postojećem proizvodu", od 1.200 EUR. To pokriva RAG, LLM funkcije i integracije u ono što već koristite: web stranicu, CRM, portal podrške, interni alat. Ako nije jasno ima li tvrtka prikladne dokumente i proces, može se krenuti od audita spremnosti za AI od 450 EUR. Radim iz Zagreba, sastanak uživo s tvrtkama u Hrvatskoj nije problem.

Ako imate bazu znanja o kojoj zaposlenici ili kupci stalno postavljaju ista pitanja, pošaljite mi kratak brief: kakvi su dokumenti, tko pita, koliko pitanja tjedno. Reći ću vam isplati li se i koliko bi trajalo.

Česta pitanja o RAG chatbotu nad bazom znanja

Po čemu se RAG razlikuje od običnog razgovora s ChatGPT-jem?

ChatGPT odgovara iz memorije modela i ne zna ništa o vašim dokumentima. RAG bot najprije pronađe relevantne odlomke u vašoj bazi, zatim odgovara samo iz njih i navodi izvor. Odgovor se može provjeriti, a podaci ostaju pod vašom kontrolom.

Trebamo li dodatno trenirati model na našim dokumentima?

Za bazu znanja gotovo nikad. Fino podešavanje mijenja stil i ponašanje modela, ali slabo pamti činjenice i ne daje navode izvora. RAG ubacuje aktualne dokumente u trenutku odgovaranja, a ažuriranje znači zamjenu datoteke, a ne ponovno treniranje.

Je li sigurno dati botu interne dokumente?

Da, ako se prava pristupa provode na razini pretrage: bot pretražuje samo dokumente koje određeni korisnik smije vidjeti. Ograničenje zapisano u promptu ne računa se kao zaštita. Gdje se podaci čuvaju i koji se model koristi dogovara se posebno prema zahtjevima tvrtke.

Koliko dokumenata treba da bot ima smisla?

Ne radi se o broju stranica nego o broju ponavljajućih pitanja. Ako zaposlenici ili kupci dnevno postavljaju desetke pitanja čiji odgovori već stoje u dokumentima, bot će se isplatiti. Ako je pitanja pet dnevno, dovoljna je FAQ stranica.

Koliko košta i koliko traje?

Pilot nad jednim skupom dokumenata traje dva tjedna i spada pod uslugu "AI u vašem postojećem proizvodu" od 1.200 EUR. Ako najprije trebate znati jesu li dokumenti i proces spremni, audit spremnosti za AI počinje od 450 EUR.