Sigurnost podataka i AI: gdje završava poslovni sadržaj

Što sigurnost podataka i AI zapravo znači#

Sigurnost podataka i AI raspada se, zapravo, na tri pitanja: što sustav smije čitati, gdje se sadržaj obrađuje i smije li ga itko poslije zadržati. Svako se drugo pitanje na ovu temu prije ili poslije vrati na jedno od ta tri.

Ta se odluka i inače donosi nekoliko puta godišnje. Knjige predane vanjskom knjigovođi on pročita u cijelosti. Vezan je ugovorom i brojke iz knjiga ne prepričava drugim klijentima. Izbor onoga tko će obrađivati sadržaj za AI asistenta ista je takva odluka, a ne nova vrsta rizika.

Dva problema koja se stalno spajaju

Poslovni sadržaj i osobni podaci klijenata otvaraju različita pitanja, a upravo se zbog toga tema čini težom nego što jest.

• Poslovni sadržaj. Cjenici, procedure, uvjeti ugovora i interne upute. Rizik je poslovni i svodi se na to tko još može pročitati cijene.
• Osobni podaci klijenata. Imena, telefoni, povijest narudžbi, a u nekim djelatnostima i zdravstveni podaci. Rizik je pravni, a propisi o zaštiti podataka određuju što se s njima smije raditi.

Prvi problem rješavaju ugovor i kontrola pristupa. Drugi traži kratak popis papirologije, koji slijedi niže, a većina je toga ionako već napravljena za druge sustave.

Odakle curenje podataka stvarno dolazi

Iz našeg iskustva, najčešće curenje podataka u maloj tvrtki nema veze s asistentom. Zaposlenik zalijepi email klijenta u besplatni javni chatbot kako bi brže napisao odgovor, i nitko to nigdje ne bilježi.

Ta navika u većini tvrtki postoji i prije nego što AI projekt uopće krene. Nitko je ne nadzire i nigdje nije zapisana, pa je izloženost zapravo veća nego kod alata nabavljenog ugovorom. Odobren alat tu naviku obično suzbije jer ljudi manje improviziraju kad imaju nešto službeno.

Kamo sadržaj putuje kad klijent nešto pita#

Sadržaj odlazi pružatelju modela, ondje se čita samo radi tog odgovora i ne ostaje u modelu. Po poslovnom ugovoru ne koristi se za treniranje modela kojima se koriste drugi i nije dostupan drugim korisnicima tog pružatelja.

Opis je točan, no mehaniku je dobro razumjeti umjesto vjerovati ponuđaču na riječ. Između pitanja i odgovora odvijaju se, naime, četiri koraka.

1. 1Klijent postavi pitanje. Pitanje stiže asistentu, a ne modelu iza njega.
2. 2Sustav pretraži odobreni sadržaj. Izvuče nekoliko odlomaka koji se čine relevantnima za pitanje.
3. 3Odlomci i pitanje idu pružatelju modela. Ovo je korak koji ljude najviše brine i o kojem treba pitati.
4. 4Odgovor se vrati i prikaže. Po poslovnom ugovoru odlomci ne ulaze u model, a pružatelj ih zadržava samo koliko ugovor dopušta.

Većina poslovnih ugovora danas isključuje treniranje na sadržaju klijenata. To stoji zbog ugovorne odredbe, ne zbog nečega u tehnologiji, i uvjeti se razlikuju od pružatelja do pružatelja. Isključenje treba zatražiti napismeno i provjeriti stoji li u ugovoru koji se potpisuje.

Treniranje, čuvanje i zapisi razgovora tri su različite stvari

Pod riječju pohrana miješaju se tri različita pitanja, a čim se razdvoje, razgovor s ponuđačem postane bitno kraći.

• Treniranje. Koristi li se tekst za poboljšanje modela kojim se koriste drugi. Poslovni ugovori to redovito isključuju, pa klauzulu treba pročitati umjesto vjerovati sažetku.
• Čuvanje. Koliko dugo pružatelj drži tekst nakon odgovora. Očekivati treba određen rok, mjeren danima, a dulje ako je nešto označeno kao sporno ili postoji pravni razlog za čuvanje.
• Zapisi razgovora. Ono što sam asistent čuva radi provjere odgovora. Taj dio pripada tvrtki i ondje se osobni podaci stvarno nakupljaju.

Postavka bez čuvanja postoji, ali se traži i potvrđuje napismeno. Zadana nije i ne treba je pretpostavljati.

Treći se dio najčešće previdi, a upravo je on u potpunosti pod kontrolom tvrtke. Zapisi iz prvog tjedna pokazuju što sustav stvarno radi. Vodič o točnosti AI odgovora objašnjava na što paziti.

Što propisi zapravo traže#

Propisi ne zabranjuju AI, a većina papirologije ona je koju ste već napravili za druge dobavljače. Dvije su stvari ipak specifične za AI, a jedna vrijedi tek od kolovoza 2026.

Odgovornost je na tvrtki

Tvrtka odlučuje zašto se podaci obrađuju i uglavnom kako, pa je ona voditelj obrade. Ponuđač je izvršitelj obrade i podatke obrađuje po pisanim uputama. Ima i vlastite obveze, za sigurnost i za obavijest kad nešto pođe po zlu. Pružatelj modela iza njega je podizvršitelj.

Takav je odnos, uostalom, sasvim običan. Knjigovođa, servis za obračun plaća i pružatelj email usluge stoje u istom odnosu prema tvrtki. Nijedan od njih ne traži promjenu načina rada.

Što treba na papiru

• Ugovor o obradi podataka s ponuđačem, uz popis svih podizvršitelja i osnovu za prijenos ako neki od njih radi izvan EU.
• Rečenica u izjavi o privatnosti koja kaže da upite obrađuje automatizirani asistent.
• Unos u evidenciju aktivnosti obrade, uz unose za ostale sustave.
• Način brisanja povijesti razgovora jednog klijenta na njegov zahtjev.
• Procjena učinka na zaštitu podataka, ako je obrada većeg opsega, obuhvaća osjetljive podatke ili je inače visokog rizika.

Većina toga prepisuje se iz onoga što je već napisano za CRM. Ako izjave o privatnosti uopće nema, ta rupa postoji i bez asistenta, pa je svakako treba zatvoriti.

Recite ljudima da razgovaraju sa strojem

Od 2. kolovoza 2026. Akt EU o umjetnoj inteligenciji traži da se osobi kaže kad razgovara s AI sustavom. Obveza vrijedi osim kad je to ionako očito, a odnosi se na tvrtke svih veličina.

U praksi je to oznaka na prozoru za razgovor i uvodna rečenica asistenta. Najjeftinija je to obveza s ove stranice, a istodobno i ona koja se najlakše zaboravi.

Pet pitanja za svakog AI ponuđača#

Postavite ih prije potpisa i tražite odgovore napismeno. Ponuđač koji na svih pet pitanja ne odgovori u jednom emailu nije spreman rukovati podacima klijenata.

1. 1Tko su podizvršitelji i u kojim zemljama rade? Tražite imena i lokacije, a ne spominjanje oblaka.
2. 2Koristi li se naš sadržaj za treniranje modela i piše li to u ugovoru? Usmena potvrda ovdje vrijedi vrlo malo.
3. 3Koliko se dugo naš tekst čuva nakon odgovora? Broj dana jest odgovor, opis dobre prakse nije.
4. 4Kako brišemo povijest jednog klijenta i kako izvozimo sve ako odemo? Tražite konkretne korake.
5. 5Možemo li vidjeti ugovor o obradi prije potpisa? Ako to odbiju, odluka je donesena umjesto vas.

U isti email spada još jedno pitanje, ono na koje ponuđači odgovaraju najmanje precizno. Pitajte tko kod njih može čitati razgovore i bilježi li se svaki takav pristup. Uobičajeno je da podrška uđe u razgovor, ali nije uobičajeno da to nigdje ne ostane zapisano.

Nijedno od tih pet pitanja nije o AI-ju. Ista se pitanja postavljaju svakom dobavljaču koji drži podatke o klijentima, i upravo je u tome poanta.

Što ostaje na vama#

Ugovor pokriva ponuđača. Ono što se događa u uredu ne pokriva, a ondje, prema našem iskustvu, počinje većina incidenata.

• Tko smije otvoriti povijest razgovora. Dajte pristup onima kojima treba i oduzmite ga čim netko ode.
• Što zaposlenici lijepe u javne alate. Pravilo zapišite jer je to curenje koje nitko ne bilježi.
• Osobni podaci u starim dokumentima. Provjerite stare ponude i bilješke o predmetima jer se indeksiraju zajedno sa svime ostalim.
• Granice samog asistenta. Odlučite o čemu nikad ne smije razgovarati, primjerice o narudžbi drugog klijenta.

Iz našeg iskustva, zadnja se stavka najčešće preskoči. Sustav povezan sa svim narudžbama zna odgovoriti i na pitanje o tuđoj narudžbi ako mu tu granicu niste postavili. Sama od sebe se ne postavlja.

Dajte sustavu manje toga za čuvanje

Najjeftinija je sigurnosna mjera da osobni podaci uopće ne uđu u sustav. Asistentu koji odgovara na pitanja o radnom vremenu, uslugama i cijenama popis klijenata ne treba.

Iz sadržaja koji se indeksira izbacuju se imena, kontakti i povijest predmeta. U vodiču kako pripremiti sadržaj za AI asistenta objašnjavamo korak po korak koje izvore uopće uključiti.

Kod naših klijenata te granice postavljamo, upisujemo ih u konfiguraciju i testiramo prije nego što sustav dođe pred korisnike. Sređujemo i ugovor o obradi te popis podizvršitelja, a asistent radi preko vanjskog pružatelja modela uz obradu u EU. Kod osjetljivijih slučajeva, poput AI asistenta u zdravstvu, granice s vama dogovaramo napismeno prije puštanja u rad.