Vještačka inteligencija u bankarstvu između efikasnosti i odgovornosti: Ko zapravo odlučuje – algoritam ili čovjek?

Foto: Ilustracija

Ako bankarski službenik ne može da objasni klijentu razloge zašto je odbijen njegov zahtjev za kredit ili zbog čega mu je blokirana kartica, u tom slučaju legitimnost takve odluke ostaje upitna – bez obzira na to koliko je tehnološki sofisticirana. U primjeni algoritama postoji granica koja nije tehnološka, već ljudska – povjerenje klijenata.

Piše: Nemanja Lazendić⃰

Klijent sa stabilnim primanjima podnese zahtjev za kredit i dobije negativan odgovor. Objašnjenje je kratko: „Procjena rizika“. Službenik u poslovnici ne može precizno objasniti razloge, jer se i sam oslanja na rezultat modela vjestacke inteligencije. U tom trenutku, za klijenta više nije jasno ko je donio odluku – čovjek ili algoritam.

Ovakve situacije postaju sve češće. Ne zato što banke žele da izbjegnu komunikaciju, već zato što su sistemi na kojima se odluke zasnivaju postali toliko kompleksni da ih je teško prevesti u jednostavno i razumljivo objašnjenje. Upravo tu nastaje prvi problem: percepcija da se o važnim finansijskim pitanjima odlučuje „negdje u digitalnom sistemu“, bez realne mogućnosti da se odluka razumije ili preispita.

Gdje i kako algoritmi zaista odlučuju

Algoritmi i modeli zasnovani na vještačkoj inteligenciji danas su duboko integrisani u bankarsko poslovanje. Njihova primjena obuhvata procjenu kreditne sposobnosti, upravljanje rizicima, otkrivanje sumnjivih transakcija i prevenciju prevara. Njihova ključna prednost je brzina i dosljednost – isti kriteriji primjenjuju se na veliki broj klijenata bez odstupanja.

Kod odobravanja kredita, modeli analiziraju prihode, zaposlenje, postojeće obaveze, historiju plaćanja i obrasce potrošnje. Međutim, ono što izgleda kao objektivna procjena često je pojednostavljena interpretacija stvarnosti. Promjena posla, čak i uz veća primanja, može biti signal rizika jer algoritam prepoznaje nestabilnost u kontinuitetu zaposlenja. Sistem ne vidi kontekst – vidi obrazac.

Kada zaštita postane problem: slučaj blokirane kartice

Slična logika posebno dolazi do izražaja kod sistema za sprečavanje prevara. Zamislimo klijenta koji prvi put putuje u inostranstvo. U kratkom vremenskom periodu obavlja nekoliko transakcija na lokacijama i u iznosima koji odstupaju od njegovog uobičajenog ponašanja. Za algoritam, to je jasan signal potencijalne zloupotrebe.

Rezultat je trenutna blokada kartice.

Iz perspektive sistema, odluka je ispravna – spriječena je potencijalna prevara. Iz perspektive klijenta, situacija izgleda potpuno drugačije: ostaje bez pristupa vlastitim sredstvima u trenutku kada su mu najpotrebnija, često bez jasnog objašnjenja šta se dešava i koliko će blokada trajati.

Problem nije u samoj odluci, već u nedostatku konteksta i komunikacije. Algoritam reaguje na odstupanje, ali ne razumije razlog tog odstupanja. Sistem štiti, ali istovremeno proizvodi frustraciju i nepovjerenje.

Granice automatizacije koje se često zanemaruju

Ključni problem nije u tome što algoritmi griješe, već u tome što ne razumiju razloge iza podataka koje analiziraju. Oni prepoznaju obrasce, ali ne razlikuju izuzetak od pravila niti kratkoročne promjene od dugoročnih trendova.

Dodatni izazov predstavlja način na koji se modeli treniraju. Oslanjanje na historijske podatke znači da se u sistem mogu prenijeti postojeće pristrasnosti ili zastarjele pretpostavke. Ako su određene grupe klijenata u prošlosti imale lošiji pristup finansijskim proizvodima, postoji realan rizik da algoritam takve obrasce reproducira.

Zbog toga se u praksi najefikasnijim pokazuje kombinovani pristup, u kojem algoritam služi kao alat za podršku odlučivanju, a ne kao njegova zamjena. Problem je što ta granica u svakodnevnom radu često postaje nejasna.

Regulativa: šta propisi traže, a šta ne rješavaju

Evropska unija je kroz Akt o vještačkoj inteligenciji (EU AI Act) jasno definisala sisteme za procjenu kreditne sposobnosti kao visokorizične. To podrazumijeva stroge zahtjeve u pogledu kvaliteta podataka, dokumentovanja modela, transparentnosti i obaveznog ljudskog nadzora. Ovi zahtjevi se nadovezuju na GDPR, koji ograničava donošenje odluka isključivo na osnovu automatizovane obrade kada one značajno utiču na pojedinca.

Na papiru, okvir je jasan. U praksi, međutim, postoji značajan jaz između formalne usklađenosti i stvarnog korisničkog iskustva. Transparentnost prema regulatoru ne znači nužno i razumljivost prema klijentu. Objašnjenja koja banke pružaju često su tehnički tačna, ali suštinski neupotrebljiva za onoga ko pokušava da razumije zašto je njegova aplikacija odbijena ili zašto mu je kartica blokirana.

Iluzija „ljudskog nadzora“

Jedan od ključnih zahtjeva regulative je prisustvo „human in the loop“ principa. U teoriji, to znači da čovjek ima mogućnost da preispita i eventualno izmjeni odluku modela.

U praksi, ova uloga je često svedena na potvrđivanje već donesene odluke. Kada se model pokaže pouzdanim kroz duži period, operativni procesi se prilagođavaju njegovim rezultatima. Službenici sve rjeđe ulaze u suštinsku analizu pojedinačnih slučajeva, a sve češće se oslanjaju na obradjene podatke iz sistema kao konačan ishod.

Time se stvara situacija u kojoj odgovornost formalno ostaje na ljudima, ali je stvarni uticaj na odluku značajno smanjen.

Kada stvari pođu po zlu – ko odgovara

Bez obzira na stepen automatizacije, odgovornost za odluke ne može biti prebačena na algoritam. Klijent koji smatra da je oštećen ima pravo da traži dodatno objašnjenje i da uloži prigovor. Međutim, efikasnost tog procesa zavisi od sposobnosti institucije da zaista objasni logiku odluke.

Ako banka ne može jasno artikulisati razloge, problem prestaje biti tehnički i postaje pitanje povjerenja. Za korisnika finansijske usluge, razlika između kompleksnog modela i proizvoljne odluke tada postaje gotovo nevidljiva.

Povjerenje kao ključna granica automatizacije

Algoritmi će nesumnjivo igrati sve veću ulogu u bankarstvu. Njihova primjena donosi efikasnost, smanjuje operativne troškove i omogućava bržu obradu velikog broja zahtjeva. Međutim, stvarna granica nije tehnoloska, vec povjerenje klijenata.

Pitanje više nije da li algoritmi donose odluke, već koliko smo spremni da prihvatimo odluke koje ne možemo razumjeti. Sistem može biti potpuno usklađen sa regulativom, a da istovremeno ostavi korisnika bez jasnog odgovora.

U tom prostoru između formalne ispravnosti i subjektivne percepcije pravednosti odlučuje se o budućnosti odnosa između banaka i njihovih klijenata. Ako odluka ne može biti objašnjena na način koji ima smisla za onoga na koga se odnosi, tada njena legitimnost ostaje upitna – bez obzira na to koliko je tehnološki sofisticirana.

⃰Autor je bankarski stručnjak i predavač Univerziteta primijenjenih nauka FH Salzburg, Austria