29. sjednica Odbora za pravne nauke Odjeljenja društvenih nauka Akademije nauka i umjetnosti BiH održana je u prostorijama Akademije 21. maja 2024. godine. Uvodničar  na temu „Uticaj umjetne inteligencije na građansko pravo, sa posebnim fokusom na odgovornost“  bio je dr Nasir Muftić, docent Pravnog fakulteta Univerziteta u Sarajevu.  Njegovo izlaganje predstavljalo je prikaz dijelova studije čiji je izlagač autor o novim i aktuelnim problemima vezanim za upotrebu umjetne inteligencije (UI), sa kojima se suočavaju moderni pravi sistemi. Iako ova tehnologija donosi brojne pravne izazove u različitim granama prava, akcenat je stavljen na njen uticaj na građansko pravo, sa posebnim fokusom na građanskopravnu odgovornost.

Dr Muftić je, pored analize pozitivnog prava u Bosni i Hercegovini, izložio širi kontekst bez kojeg se ova problematika ne bi mogla razumjeti. U prvom redu, riječ je o konceptualnim pitanjima i izazovima koje UI donosi za sve pravne sisteme. Posebna pažnja posvećena je Evropskoj uniji koja prednjači kada je u pitanju kreiranje pravnih rješenja. Ova tehnologija, osim toga, utiče na način na koji osobe vrše interakciju u građanskopravnim odnosima.

U prvom redu, postavlja se pitanja uticaja ove tehnologije na autonomiju volje i ravnopravnost stranaka. Ona stranka koja koristi UI - nesumnjivo je u boljem položaju zbog mogućnosti da brzo i sofisticirano analizira velike količine podataka. Međutim, budući da nije isključena mogućnost za njenu široku primjenu, strane koje su tradicionalno inferiorne, kao što su potrošači, mogu imati šansu kroz upotrebu ove tehnologije. Autonomija volje je takođe dovedena u pitanje, budući da ljudski izumi po prvi put imaju mogućnost samostalno donositi odluke i adaptirati ih u skladu sa analizom okruženja, učeći iz ranijih iskustava.

Izlaganje dr Muftića adresiralo je tri pitanja.

Prvo je pitanje nosioca odgovorosti, odnosno da li se UI može smatrati alatom ili fenomenom koji podriva suštinu autonomije volje i zaslužuje drugačiji tretman. Dati su argumenti pro et contra za izbor mogućih nosioca odgovornosti, počevši od UI, preko prozvođača, korisnika itd.

Drugo pitanje ticalo se osnova odgovornosti. Da li bi tradicionalni osnovi  odgovornosti (subjektivni i objektivni) mogli biti adekvatni ili zahtijevaju dodatna razmatranja? Nadalje, da li se odgovornost za proizvode može smatrati osnovom odgovornosti koji rješava nove probleme?

Treće pitanje odnosilo se na položaj oštećene strane. On će biti pogoršan u odnosu na tradicionalne događaje koji dovode do štete. Ovaj dio izlaganja se odnosio na razloge za takav stav koji idu od kompleksnosti tehnologije, poteškoće u pribavljanju dokaza, ograničen broj dostupnih vještaka i eksperata koji će pribaviti i protumačiti informacije potrebne za sudske i druge postupke itd.

Naposlijetku, u svakom od dijelova izlaganja dr Muftić je dao osvrt na pozitivno pravo Bosne i Hercegovine i njegovo tumačenje - sa ciljem rješavanja nadolazećih problema. Tamo gdje se rješenja eventualno ne mogu pronaći u de lege lata modelima, ponuđeni su i prijedlozi.

Kao izazov za pravne sisteme, UI, pojasnio je dr Muftić, prevazilazi problem građanskopravne odgovornosti. Ona je prepoznata kao područje koje ima veliki transformacijski potencijal za društvo, koji se može porediti sa onim kakav su imali električna energija i internet. Zbog toga, države širom svijeta intenzivno ulažu u njen razvoj, nastojeći unaprijediti vlastite ekonomije i živote svojih građana.  S druge strane, države i međunarodne organizacije, a naročito one velike, su prepoznale i geopolitički značaj ove tehnologije koji se ogleda u mogućnosti da van svojih teritorija promovišu vlastite tehnologije. Osim toga, trenutno se razvija i nekoliko regulatornih modela UI i drugih digitalnih tehnologija, koje predstavljaju instrument putem koje oni ostvaruju uticaj u međunarodnim odnosima. Ipak, iako je situacija još uvijek nije jasna, jer razvoj regulatornih modela nije dovršen, određena pitanju su ipak odgovorena. Prije svega, jasno je da interes za razumijevanje i korištenje UI nije rezervisan samo za velike i bogate države. Priroda digitalnih tehnologija čini geografske i političke granice manje važnim, a ponekad ih i obesmišljava.

U tom kontekstu, naglasio je dr Muftić, UI  je otvorila pitanja i onim društvima koja ih samostalno nisu postavila. Bosna i Hercegovina se, međutim,  još uvijek nije opredijelila. Za razliku od velikog broja država širom svijeta i naročito Evrope, Bosna i Hercegovina nije usvojila jasnu strategiju razvoja ove tehnologije, niti preduzela mjere za prilagođavanje pravnog okvira sa tim ciljem. Na primjer, u pravnom sistemu Bosne i Hercegovine nije prisutna definicija UI. Pored toga, organi vlasti nisu u propisima prepoznali koje su to važne društvene vrijednosti koje UI ima potencijal ugroziti.

Postoji niz pravnih pitanja na koja je teško danas odgovoriti, kao što su kako prilagoditi sistem građanskopravne odgovornosti ili modernizovati pravo na zaštitu od diskriminacije, ali i ona na koja su odgovori lakši. Takvo je pitanje zaštite ličnih podataka i jačanje cybersigurnosti, sektora koji nisu podržani savremenim pravnim propisima u Bosni i Hercegovini. S obzirom na rapidni razvoj UI i veliki potencijal koji nosi, vlasti u Bosni i Hercegovini trebaju što prije i stimulisati njen razvoj i istovremeno usvojiti potrebne pravne i druge mjere mjere sa ciljem zaštite građana od opasnosti i rizika koje ona donosi, zaključio je dr Muftić.

U raspravi koja je uslijedila poslije uvodnog izlaganja, u kojoj je učestvovala većina članova Odbora, prof. dr Jasminka Gradaščević-Sijerčić je ukazala na efekte UI na ljudska prava, kao jedan od najvažnijih faktora koji će definisati razdoblje u kojem živimo. Tehnologija koju pokreće UI ulazi u sve više aspekata života svakog pojedinca, pa je stoga neophodno pronaći pravu ravnotežu između tehnološkog razvoja i zaštite ljudskih prava.  Rješavanje problema štetnih uticaja na pojedince i grupe u suštini podrazumijeva ispitivanje vrijednosti ugrađenih u algoritme koje treba propitivati, kritikovati i osporavati. U suštini,  algoritmi, sami po sebi, nisu ti koje treba pažljivo ispitivati u smislu uticaja na ljudska prava nego su to procesi odlučivanja na osnovu tih algoritama. U suštini, sve je veći broj inicijativa i aktera koji učestvuju u procesu razumijevanja i suzbijanja ovih štetnih uticaja što je dovelo do pojave jedne nove oblasti: odgovorne UI. Odgovorna UI, između ostalog, nameće i pravnu inkorporaciju njenih  alata u svakodnevni život i poslovanje vezano za pravo na rad. S tim u vezi, moraju se izraditi odgovarajući planovi za prekvalifikovanje i preraspodjelu poslova za one zaposlenike koji su jasno pogođeni smanjenjem potražnje za radnom snagom. Treba usvojiti i nastavne planove i programe kojima bi se osigurao pristup radnim mjestima koja traže kompetencije vezane za sisteme UI.

Akademik Simović je naglasio da stalni razvoj tehnologije dovodi sve više do upotrebe UI i u sudskim postupcima. Ona znači jednostavniji rad sudija i zaposlenih, uz bržu, dostupniju, predvidivu i efikasniju pravdu. U krivičnom postupku to je veliki izazov i za ostvarivanje prava osumnjičenog, odnosno optuženog na pravično suđenje. Dodatna zaštita prava osumnjičenog, odnosno optuženog da mu sudi nezavistan i nepristrasan sud, kao i pravo na pristup sudu - naročito su značajni zbog razvoja  UI. Naveo je da, međutim, niko ne može da bude predmet automatizovane odluke koja za posljedicu ima efektno lišenje slobode bilo u vidu preventivnog lišenja slobode ili uvođenja u kaznenu evidenciju, odnosno izricanja krivične sankcije i kažnjavanja. Osvrnuo se i na opasnost da se primjenom algoritama dovodi u pitanje pretpostavka nevinosti posebno u pogledu uticaja ocjene rizika na odluku da li će se neko lice goniti za određeno krivično djelo, ali i na niz drugih odluka u krivičnom postupku.

predsjednik Odbora

akademik prof. dr Miodrag Simović