On-premise AI vs. cloud AI: koje rješenje odabrati za vašu firmu

Kratki odgovor. Ako radite s podacima koje štiti zakon ili tajna (pravo, medicina, financije, javni sektor, industrijsko znanje), AI mora ostati kod vas ili na EU infrastrukturi pod vašom kontrolom. Ako radite s javnim ili neosjetljivim podacima (webshop, marketing, generički tekst), cloud AI je brži, jeftiniji i potpuno u redu. Prava odluka je pitanje gdje točno prolazi granica - i tu se najviše griješi, jer ljudi misle da je “EU hosting” isto što i “podaci ne izlaze iz EU”. Nije, i niže objašnjavam zašto.

Kad vlasnik odvjetničkog ureda pita koji AI može koristiti za pretragu predmeta, prvo pitanje nije “koji model je pametniji”. Prvo pitanje je: “Gdje završavaju moji podaci?”

To je pitanje koje dijeli AI implementacije u dva potpuno različita pristupa. Razlika nije samo tehnička - direktno utječe na to smijete li određeno rješenje uopće koristiti u svojoj industriji, i koliku kontrolu nad vlastitim poslovanjem zadržavate.

Razlika u jednoj rečenici

Cloud AI znači da vaši podaci putuju na servere nekog drugog - OpenAI, Google, Microsoft, Anthropic ili drugi provider - gdje AI model obrađuje vaše upite. Rezultat stiže nazad k vama. Brzo, jeftino za početi, ne zahtijeva nikakav vlastiti hardware.

On-premise AI znači da AI model radi na serveru u vašem uredu ili vašem data centru. Vaši upiti, vaši dokumenti, vaši podaci - sve ostaje unutar vaše mreže. Vi kontrolirate model, vi kontrolirate podatke, vi odlučujete o ažuriranjima.

Nije u pitanju što je objektivno “bolje”. Pitanje je što odgovara vašoj konkretnoj situaciji.

Brza tablica odluke

Tip podatka	Primjer	Pravi odabir
Javni / neosjetljivi	Webshop FAQ, opisi proizvoda, marketing	Cloud AI
Interni, bez osobnih podataka	CAD parametri, tehnički predlošci, javni izvještaji	Cloud AI (EU regija)
Osobni podaci klijenata	CRM, ugovori, korespondencija	EU stack pod vašom kontrolom
Zakonom zaštićeno	Odvjetnička i liječnička tajna, financijski podaci	On-premise / zero-US EU stack
Regulatorni uvjet	Javni sektor, high-risk primjene po AI Actu	On-premise

Za veliku većinu tvrtki cloud AI je potpuno funkcionalno rješenje. Za pravo, medicinu, financije i industriju s intelektualnim vlasništvom on-premise nije luksuz, nego jedina opcija koja zadovoljava zakonske i etičke standarde.

Kada je cloud AI pravi odabir

Radite s javnim ili nesenzitivnim podacima. E-commerce webshop koji koristi AI chatbot za pitanja o dostavi, povratu ili dostupnosti artikala nema problem. Ti podaci nisu zaštićeni zakonom, i cloud AI ih obrađuje bez rizika. Bot koji odgovara za 18 sekundi, radi 24/7 i ne traži odmor - konkretan benefit bez regulatornog tereta.

Trebate brzu implementaciju. Cloud rješenja mogu biti živa za 14 dana. Setup AI Asistenta kreće od 1.000 EUR. Realan trošak za tvrtku koja želi prestati gubiti sate na ručne odgovore na iste upite, ili za startup kojem treba prodajni bot odmah.

Radite generičke zadatke bez osobnih podataka. Generiranje sadržaja, sažimanje javnih izvještaja, pisanje na temelju predloška, obrada teksta bez podataka klijenata - cloud modeli to rješavaju odlično, bez rizika curenja osjetljivih informacija.

Testirate prije veće odluke. Ako tek ispitujete radi li AI za vaš biznis, cloud je razuman početak. Niža ulazna cijena, brz povrat informacija, lako se ugasi ili prilagodi ako pravac nije dobar.

Primjer iz prakse: arhitektonski ured koji je automatizirao ponavljajuće CAD operacije. Podaci koji ulaze u AI su tehnički parametri i grafičke specifikacije - ne osobni podaci klijenata, ne poslovne tajne. Cloud je tu pravi odabir. Rezultat: ono što je trajalo 3 dana sada se generira za 2 sata, uz godišnju uštedu od 40.000 EUR.

Kada vam je potreban on-premise AI

Postoje situacije gdje cloud AI nije opcija, bez obzira na to koliko je jeftin ili brz:

Odvjetnički uredi. Podaci o predmetima, klijentima i strateškim odlukama zaštićeni su odvjetničkom tajnom. Slanje tih podataka na servere treće strane - čak i uz enkripciju - pravno je upitno u EU kontekstu. On-premise AI daje potpunu funkcionalnost: lokalna pretraga vlastite baze sudske prakse, analiza ugovora i podnesaka, pretraživanje interne dokumentacije - bez da ijedan podatak napusti ured. Za urede smo napisali zaseban vodič: AI za odvjetničke urede bez slanja spisa u SAD.

Klinike i zdravstvene ustanove. Medicinska dokumentacija je pod najstrožim GDPR zahtjevima. AI koji transkribira nalaze, predlaže terapijske protokole ili pretražuje povijest pacijenata mora raditi lokalno. Kazne za pogrešno rukovanje zdravstvenim podacima idu do 20 milijuna EUR ili 4% godišnjeg prihoda - bez gornje granice.

Industrija i R&D. Tvrtke s patentima, tehničkim formulama i industrijskim procesima - te specifičnosti su direktna financijska vrijednost. Slati interne tehničke specifikacije cloud modelu koji koriste i vaši konkurenti nije razumna odluka, bez obzira na uvjete korištenja.

Državne institucije i javni sektor. Ovdje on-premise nije preporuka - to je uvjet koji dolazi iz regulatornog okvira.

On-premise AI radi na provjerenim open-source modelima (LLaMA, Mistral, Qwen) koji za poslovnu primjenu postižu rezultate usporedive s cloud alternativama. Uz pravo postavljanje i dobru bazu podataka, razlika u kvaliteti za interne dokumentne zadatke je zanemariva.

Što “EU suverenost” stvarno znači (i gdje se griješi)

Ovdje većina ponuda mahne zastavicom “EU hosting” i stane. Problem: moderni AI sustav za dokumente nije jedna komponenta, nego lanac, i svaka karika ima svoju jurisdikciju.

Tri sloja koja morate provjeriti:

1. Hosting - gdje serveri fizički stoje.
2. LLM - model koji piše i odgovara.
3. Embeddings - model koji vaš tekst pretvara u brojeve da bi pretraga uopće radila.

Prva dva sloja je lako držati u EU: Hetzner (Njemačka) za hosting, Mistral (Francuska) za LLM. Treći sloj je zamka. Najbolji embedding modeli dolaze od američkih providera (npr. Voyage AI, danas u vlasništvu MongoDB-a). Čak i kad nude “EU regiju”, to je američka firma pod američkom jurisdikcijom (CLOUD Act) - pa tvrdnja “podaci ne izlaze iz EU” jednostavno nije istina ako taj sloj koristite.

Zato budite oprezni s ponudama koje kažu “full EU sovereignty” a ne kažu koji embedding model voze. To je točno mjesto gdje se priča raspada, i prvo što će vaš voditelj obrade ili CISO provjeriti.

Poštena verzija zvuči ovako: hosting i LLM u EU, a za embeddings ili koristite US providera (pa to jasno napišete), ili idete na open-source model (npr. BGE-M3) koji radi potpuno lokalno - i tek tada iskreno možete reći da nijedan podatak ne dira SAD.

Kako to izgleda u praksi: LexBox

Ovo ne pišemo s tutorijala. Klapa vodi LexBox, AI pravnog asistenta za hrvatske odvjetnike, u produkciji: preko 820.000 pravnih dokumenata - zakoni, sudska praksa svih 9 hrvatskih sudova, Narodne novine, praksa EU sudova - pretvoreno u pretraživu bazu.

Stack je namjerno EU-first: hosting Hetzner (Njemačka), LLM obrada Mistral (Francuska), vektorska baza Qdrant. I evo iskreno o jedinoj iznimci: embeddings trenutno idu preko Voyage AI (US, model tuniran za pravnu domenu). Za klijente kojima treba zero-US, taj sloj zamjenjujemo open-source modelom BGE-M3 koji radi lokalno - i tek onda je cijeli lanac unutar EU.

To je cijela poanta on-premise i EU pristupa: ne prodajemo maglu o “sigurnosti”, nego točno kažemo gdje svaki bajt putuje i dajemo vam izbor.

Troškovi: prava računica

Ovo je najčešće krivo shvaćena stavka. Usporedba na jednom mjestu (primjer, ne ponuda):

	Cloud AI (Asistent)	On-premise / EU stack
Setup	od 1.000 EUR	od 10.000 EUR
Mjesečno	200-300 EUR	od 1.000 EUR
Isporuka	14 dana	4-6 tjedana
Trošak raste s upotrebom	Da, po upitu	Ne, fiksno
Podaci pod vašom kontrolom	Ne	Da

Stvarni trošak ovisi o opsegu i primjeni; točnu procjenu za vašu situaciju dobijete u auditu.

Kad vlasnik tvrtke vidi 10.000 EUR nasuprot 1.000 EUR, logičan je prvi zaključak “cloud je jeftiniji”. Računica ipak ide dublje. Odvjetnik koji danas ručno pretražuje dokumentaciju troši 3-4 sata dnevno na zadatak koji AI radi za sekunde. Na godišnjoj razini to je 500-600 radnih sati. Uz standardnu naplatu odvjetničkih usluga, on-premise AI vraća investiciju za nekoliko tjedana aktivnog korištenja.

Dugoročno cloud plaćate trajno - svaki upit i svaki dokument koji putuje do servera provajdera nosi trošak koji raste s upotrebom. On-premise je fiksni trošak: platite jednom za hardware i postavljanje, server je vaš, model je vaš, podaci su vaši.

Vrijedi znati još jednu stvar: Hrvatska ima aktivne programe koji pokrivaju dio troškova digitalizacije za male i srednje tvrtke (HAMAG vaučeri, ITP pozivi, besplatne usluge kroz EDIH Adria). To može pokriti znatan dio setup troška, i za cloud i za on-premise. Točne iznose i uvjete provjerite prije prijave.

Za pregled cijena po paketima pogledajte koliko košta AI automatizacija za hrvatsku tvrtku, a za produktni opseg On-premise AI uslugu.

GDPR i EU AI Act: regulatorni pritisak koji ne staje

Ovo nije teorija ni daleka budućnost.

GDPR je na snazi i nije blag prema tvrtkama koje nebrižljivo šalju osobne podatke trećim stranama. Svaki put kad zaposlenik kopira podatke klijenta u cloud AI prompt, to je potencijalna ranjivost - bez obzira na to piše li na sučelju “enterprise plan” ili “GDPR compliant”. Voditelj obrade odgovoran je za svaki transfer, ne samo za aktivno curenje.

EU AI Act se primjenjuje fazno od 2024. do 2027. Za high-risk primjene - medicina, pravo, kadrovske odluke, financijski scoring - zahtjevi oko transparentnosti, dokumentacije i kontrole sustava su strogi. Tvrtke koje sad postavljaju on-premise rješenja grade infrastrukturu usklađenu s tim zahtjevima od prvog dana. One koje odgode tražit će hitnu migraciju pod vremenskim pritiskom.

Postoji i argument koji nije regulatorne prirode: neovisnost. Kad vaš AI model radi na vlastitom serveru, vi kontrolirate verzije, ažuriranja i što se događa s podacima. Cloud provajder može izmijeniti uvjete, podignuti cijene ili promijeniti ponašanje modela bez vašeg pristanka. To se događa redovito.

On-premise AI nije za “paranoidne”. To je razumna poslovna odluka za svakoga kome kontrola nad podacima nije opcija, nego osnova poslovnog modela.

Gdje dalje

Odgovor gotovo uvijek ovisi o industriji i tipu podataka s kojima radite.

Ako ste u odvjetništvu, medicini, financijama ili industriji s osjetljivim intelektualnim vlasništvom - on-premise je pravi put. Ako ste startup, e-commerce ili agencija bez reguliranih podataka - cloud AI daje brži i jeftiniji start s jasnim ROI-jem u roku od nekoliko mjeseci.

Ako niste sigurni gdje vas vaša situacija svrstava, tu je besplatni audit. Za 30 minuta razgovora dobijete konkretnu analizu vaših procesa, jasnu preporuku cloud vs. on-premise, i informaciju o tome koji EU program može pokriti dio troška.

Zakažite besplatni 30-minutni audit. U roku 48 sati dobijete pisani mini-audit s 3 konkretna prijedloga za vašu situaciju.