AI bez slanja u SAD.
Za odvjetnike, banke, zdravstvo i javni sektor - infrastruktura u EU, modeli u EU, podrška u EU. GDPR usklađen od početka, spreman za AI Act. Dedicirani hardver ili EU bare-metal, potpuni audit trail, SLA, kvartalne nadogradnje modela.
Cloud AI ili on-premise - kad što.
Za većinu hrvatskih firmi cloud AI je dovoljan. Za regulirane sektore - banke, odvjetnike, zdravstvo, javni sektor - on-premise nije luksuz, nego uvjet za rad. Razlika je u kontroli, lokaciji podataka i trošku usklađivanja.
Cloud AI (američki pružatelji)
- Podaci putuju u SAD pod uvjetima Data Privacy Frameworka
- Brza implementacija, niža početna cijena
- Ovisi o pravilima dobavljača (Anthropic, OpenAI, Google)
- Banke i odvjetnici često ne mogu prihvatiti za sve podatke
- Klasifikacija "high-risk" po AI Actu dodaje teret usklađivanja
On-premise / EU sovereignty
- Podaci ostaju u EU jurisdikciji, GDPR Art. 28 čist
- Dedicirana infrastruktura ili EU bare-metal
- Vi ste vlasnik koda, težina modela, RAG indeksa
- Pisana dokumentacija za regulatora i interni audit
- Strategija izlaska dio ponude - bez vezivanja uz dobavljača
LexBox: EU sovereignty u produkciji.
AI asistent za hrvatske odvjetnike koji generira pravne podneske i provjerava postojeće dokumente protiv hrvatske i EU sudske prakse. Pravnici imaju zakonsku obvezu povjerljivosti - LexBox je dizajniran s EU jurisdikcijom kao zadanom postavkom. U produkciji na lexbox.ai, koriste ga pravi uredi.
LexBox EU sovereignty stack
LexBox dokazuje da Klapa već vodi potpuni EU sovereignty stack u produkciji. Kad vam dođemo s ponudom za on-premise AI, ne čitamo s tutorijala - imamo živi sustav u radu.
Šest stvari koje gradimo.
Compliance audit
GDPR, AI Act, Schrems II, sektorska regulativa (HANFA, HZJZ, HOK). Pisani dokument koji možete pokazati regulatoru ili DPO-u.
Odabir stacka
Koji modeli, gdje hostani, koja vektorska baza, koja auth. Prepuštamo vam tehnički odabir s razlogom - bez predrasuda prema dobavljaču.
Postavljanje on-prem ili u EU oblak
Vaša infrastruktura, naša Hetzner EU, ili hibrid. Terraform i Ansible za ponovljivi deployment. Vi ostajete vlasnik koda.
Obuka tima
Kako koristiti sustav, gdje očekivati greške, kako prijaviti problem, kako interpretirati izvore. Pisani runbook + sesije s timom.
Audit trail i dokumentacija
Bilježenje po upitu, verzije modela, snimke RAG indeksa. Sve što regulator može tražiti, već je tamo. Bez naknadnog kopanja.
Kvartalne nadogradnje modela
Kad izađu novi EU modeli ili sigurnosne zakrpe, planiramo nadogradnju s vama. Testiramo u staging okruženju, validiramo evale, prebacujemo u produkciju.
Kako radimo.
Compliance audit i stack design
Razgovori s DPO-om i pravnim timom, mapiranje regulatornih ograničenja, izbor modela i hostinga. Pisani dokument s arhitekturom prije nego išta gradimo.
Implementacija + deploy
Postavljamo hardware ili EU bare-metal, deployamo stack (LLM, embedding, vektorska baza, auth), gradimo RAG pipeline na vašoj dokumentaciji, integriramo s postojećim sustavima. Demo nakon svake faze.
Training + dokumentacija
Obučavamo tim, predajemo runbookove, dokumentaciju za regulatora, audit trail dashboard. Vi preuzimate operacije s našim mjesečnim retainerom u backupu.
Maintenance + model updates
Mjesečni call, monitoring kvalitete, security patches. Kvartalno: pregled novih EU modela, evaluacija, planirani upgrade. SLA na pisano.
Pitanja koja dobivamo.
Što znači "on-premise" - sve mora biti u našem serverskom prostoru?
Ne nužno. On-premise pokriva tri opcije: 1) vaš hardver u vašem podatkovnom centru (klasično on-premise), 2) dedicirani bare-metal serveri kod EU pružatelja (Hetzner Falkenstein, OVH, Scaleway) - vaš resurs, EU jurisdikcija, 3) hibridno - osjetljivi sloj on-prem, ostatak u EU oblaku. Sve tri zadovoljavaju GDPR i AI Act zahtjeve za podatke koji ne smiju izaći iz EU. Odluku donosimo u auditu.
Smije li hrvatska banka / odvjetnički ured / bolnica koristiti ChatGPT za interni rad?
Ovisi o tome što "koristiti" znači. Slanje povjerljivih podataka klijenta u OpenAI API - obično ne, jer Data Processing Addendum ima ograničenja koja banke i odvjetnici ne mogu prihvatiti za sve podatke. Hrvatska implementacija AI Acta i GDPR Art. 28 traže ugovor o obradi i kontrolu nad lokacijom. On-premise stack rješava: model radi na EU infrastrukturi, podaci ne izlaze, ugovor o obradi je s vama i EU pružateljem.
Koje modele zapravo koristite na on-premise stacku?
Za vodeće kvalitete: Mistral (EU, FR) preko EU API-ja ili Mistral Large/Codestral na vlastitoj infrastrukturi. Za open-source on-premise: Llama 3, Qwen, Mistral Nemo - sve se izvršavaju na našim ili vašim GPU serverima (NVIDIA H100/A100). Embedding model: Voyage AI (preko EU regije) ili open-source BGE-M3 na vlastitoj infrastrukturi. Vektorska baza: Qdrant (self-hosted). Konkretan izbor radimo u fazi odabira stacka, prema vašoj primjeni i proračunu.
Što s GDPR-om i Schrems II nakon EU-US Data Privacy Frameworka?
Data Privacy Framework iz 2023. omogućuje transfer u SAD ali pod uvjetima koje regulirani sektori (banke, javni sektor, zdravstvo) često ne mogu ispuniti za sve podatke. Naš pristup: ako podatak smije u SAD pod DPF, koristimo EU regije američkih pružatelja (Anthropic EU, OpenAI EU). Ako ne smije, on-premise ili samo-EU stack. Pravna procjena je dio audita usklađenosti.
Što ako prekinemo s vama nakon 6 mjeseci - mogu li nastaviti sami?
Da. Predajemo: deployment skripte (Terraform/Ansible), izvorni kod workflowa, dokumentaciju, runbookove, nadzornu ploču, RAG indekse. Stack je standardni open-source - svaki ozbiljniji DevOps tim može preuzeti. Vezivanja uz dobavljača nema: nema "naše AI platforme", samo vaš deployment vaših alata. To je dio razloga zašto je enterprise tier - radimo da imate kontrolu, ne ovisnost.
Zašto je on-premise skuplji od cloud AI agenata - €10.000 vs €2.500?
Tri razloga: 1) Hardver i hosting - dedicirani GPU serveri ili bare-metal koštaju mjesečno, mi to amortiziramo u početnom setupu, 2) Rad na usklađenosti - GDPR, AI Act, sektorska regulativa, audit trail, dokumentacija - to su tjedni rada s pravnim timom, 3) Stalno održavanje - kvartalne nadogradnje modela, sigurnosne zakrpe, nadzor - to ne staje. Cloud agent je za "želimo AI, nemamo regulatorni problem". On-premise je za "regulator pita gdje su podaci".
Vaši podaci ne mogu u SAD?
30 minuta razgovora s DPO-om ili tehničkim leadom, pisani mini-compliance-audit u 48 sati. Bez slanja brošura.