Josipa Bubaš
S dr.sc. Lanom Žaja, istraživačicom i stručnjakinjom u području umjetne inteligencije razgovarala sam povodom izlaska knjige „Povijest umjetne inteligencije” o ženama i tehnologiji, kao i prednostima i opasnostima novih tehnologija.
Recite nam ukratko nešto o sebi kao o ženi znanstvenici? Što Vas je potaknulo na pisanje ove knjige?
Moja znanstvena područja interesa i kompetencije utemeljena na dugogodišnjem radu su odnosi s javnošću, fonetika i govorništvo, masovni mediji i komunikologija, sadržajna analiza i analitika teksta, obrada i migracija velikih korpusa podataka, upravljanje semantičkim sadržajem na webu, dizajn i arhitektura baza podataka. Godine 2020. doktorirala sam na informacijsko-komunikacijskim znanostima na analizi i analitici znanstvenog časopisa u razdoblju od 120 godina. Upravo ovaj proces istraživanja me je potaknuo na razmišljanje o tome gdje kada i kako je došlo o razvoja alata umjetne inteligencije. Nakladnik i izdavač je Hrvatski državni arhiv, stoga se u knjizi na više stranica elaboriraju digitalni arhivi.
Kada se po Vašem mišljenju dogodio prvi korak u UI?
Pionir umjetne inteligencije bio je Alan Turing, britanski matematičar, kriptograf i teoretičar računalstva koji se smatra utemeljiteljem teorijske računalske znanosti i umjetne inteligencije. Za vrijeme Drugog svjetskog rata, 1942. godine u Bletchley Parku nedaleko Londona, uspješno je u suradnji s timom matematičara razvio elektromehanički stroj nazvan Bombe pomoću kojeg je dešifriran njemački stroj za šifriranje Enigma. Principi rada Bombe kasnije su korišteni za razvoj modernih računala. Povjesničari procjenjuju da je rad njegova stručnog tima spasio 14 milijuna žrtava. Godine 1950. Turing je objavio Turingov test, test umjetne inteligencije računala, o kojem se i dan danas vode rasprave.
Koja sve etička pitanja otvara upotreba UI? Kako je upotreba UI regulirana i donosi li regulacija određena ograničenja u razvoju?
Komisija EU je u travnju 2021. godine predložila prvi regulatorni okvir EU-a za umjetnu inteligenciju. U sklopu njega se predlaže analiziranje i klasifikacija sustava umjetne inteligencije prema riziku koji predstavljaju za korisnike. Različite razine rizika značit će veću ili manju regulaciju. U lipnju 2023. godine stupio je na snagu Akt o umjetnoj inteligenciji i to je prvi sveobuhvatni zakonom o umjetnoj inteligenciji na svijetu. U ovom aktu vrijede različita pravila za različite razine rizika. Rizike koji donose oni sustavi koji se smatraju prijetnjom ljudima su neprihvatljivi i takvi sustavi bit će zabranjeni. Ovdje se radi o kognitivno bihevioralnom manipuliranju osobama ili određenim ranjivim skupinama, bodovanju i klasifikaciji ljudi na temelju ponašanja, socioekonomskog statusa, osobnih obilježja, biometrijskoj identifikaciji i kategorizaciji fizičkih osoba te sustavima biometrijske identifikacije u stvarnom vremenu i daljinskim sustavima za biometrijsku identifikaciju, kao što je prepoznavanje lica. Zatim se akt grana na sustave koji negativno utječu na sigurnost ili temeljna prava i koji su visokorizični, i podijeljeni su u dvije kategorije. Regulacija se odnosi i na zahtjeve vezano za transparentnost, kao što je chatGPT koji se ne klasificira kao visokorizičan i na dalje naglasak se stavlja na podržavanje inovacija novih tvrtki koje mogu ponuditi mogućnosti za razvoj i osposobljavanje modela umjetne inteligencije prije njihova predstavljanja široj javnosti.
Prof. dr. sc. Zdenko Kovačić, voditelj Laboratorija za robotiku i inteligentne sustave na FER-u i dr. sc. Lana Žaja, autorica knjige „Povijest umjetne inteligencije” / Foto: Matija Kralj
Dijelite li transhumanistički entuzijazam u vezi budućnosti?
Svakako. Pedesetih godina prošloga stoljeća pojavio se prvi organizirani transhumanistički pokret. Predvodio ga je engleski filozof i futurist FM-2030, koji je predložio ideju transhumanosti te se zalagao za primjenu tehnologije i genetičkog inženjeringa za poboljšanje ljudskih sposobnosti. Iako živimo u XXI. stoljeću, teško je pojmiti da netko samog sebe naziva FM-2030. No taj netko je rođen još davne, 1930. godine s pravim imenom i prezimenom, no poslije, kada su uvjeti to dopustili, u 70-im godinama prošlog stoljeća, odlučio se za ovakvu radikalnu promjenu. Čvrsto je vjerovao u to da su naša krhkost i fizička ograničenja velikim dijelom odgovorna za nesreću prisutnu u svijetu u kojem živimo. Imao je isto tako zanimljiva razmišljanja o braku, koji je doživljavao kao svojevrsno posjedovanje te je vjerovao da je brak propala institucija i da će u budućnosti u tome smislu vladati ne promiskuitet, već fluidnost, odnosno spolna neodređenost i sloboda međuljudskih odnosa. Ova su predviđanja danas postala naša svakodnevnica, primjerice, prilikom primanja na posao, nemamo samo polja koja se tiču spola muškarac ili žena, već je dodana i transrodna vrijednost „x“. Zanimljiva je činjenica, da je FM-2030 nakon smrti mozak dao zalediti i smjestiti u krionsku komoru, gdje dan danas čeka napredak znanosti kako bi nastavio sa životom tamo gdje je nekad stao. Gledajući njegova razmišljanja, on je zaista bio čovjek XXI. stoljeća jer su se njegova futuristička razmišljanja uvelike ostvarila, i vrlo blizu su svemu onome što je smatrao mogućim u ovome stoljeću.
Dio knjige posvećen je kibernetičkom ratovanju. Je li uopće moguće postići kibernetičku sigurnost, koliko je prisutan kibernetički rat i koje su njegove posljedice?
Pojam „kibernetičko ratovanje“ je pojam koji danas jako provocira širu javnost. To je vrsta ratovanja koja se koristi računalnom tehnologijom i mrežama za ometanje, oštećenjem ili onemogućivanjem neprijateljskih komunikacija, mreža i sustava. Ono je sastavni dio informacijskog ratovanja i njime se može koristiti pojedinac, skupina ili nacija. Uvelike se oslanja na uporabu različitih cyber oružja kao što su zlonamjerni softveri malware, ransomware, spyware te napadi uskraćivanja informacijskih usluga. Cilj je kibernetičkog ratovanja dobivanje pristupa protivničkim sustavima i mrežama te manipuliranje sustavima, objektima i ljudima kao i potpuno remećenje sustava kako bi se dobila prednost u sukobu. Općenito rečeno, kibernetičko je ratovanje oblik ratovanja koji se brzo razvija i ima potencijal izazvati veliku štetu i tektonski poremećaj, kako pojedincima, tako i nacijama. U današnje vrijeme, u tijeku je rasprava o tome kako definirati kibernetičko ratovanje, ali nema općeg suglasja oko apsolutne definicije. Kibernetičko ratovanje me podsjeća na medijsko ratovanje koje namjernim širenjem dezinformacija može prouzročiti ozbiljan poremećaj u ljudskom ponašanju jer mijenja ljudsku psihu.
U knjizi spominjete tek dvije žene uključene u razvoj i implementaciju UI. Koji je po, vašem mišljenju, razlog nesudjelovanja žena u razvoju visokih tehnologija? Imate li podatke koliko žena radi u UI sektoru (u postotku)?
Područje istraživanja u knjizi pokriva uže područje znanstvenica i znanstvenica Sveučilišta u Zagrebu, a knjiga je rezultat je multidisciplinarnog istraživanja u informacijskim i komunikacijskim znanostima te tehničkim znanostima na području Republike Hrvatske i iz tog razloga se spominju samo dvije žene. I slažem se trebalo bi napraviti istraživanje tržišta sa zaključno 2023. godinom kako bi se utvrdila točna statistika i uloga žena u IT sektoru u Republici Hrvatskoj i to ne samo u znanosti nego i u poduzetničkim vodama. Mislim da bi to mogao biti jako zanimljiv projekt. Pogotovo u posljednje vrijeme primjetan je porast žena poduzetnica koje se bave alatima UI, a vjerujem da je isto tako i u znanosti.
Promocija knjige “Povijest umjetne inteligencije” u Hrvatskom državnom arhivu / Foto: Matija Kralj
Koliko je UI prisutna u hrvatskoj znanosti? Sudjeluju li u njezinom razvoju i žene?
Promicanje rodne ravnopravnosti u obrazovanju i karijerama u području znanosti, tehnologije, inženjerstva i matematike (STEM) ključni je cilj EU-a, i to je osnovni preduvjet za ostvarivanje ljudskih prava žena i djevojčica, što je daljnji temelj za njihovo osnaživanje, razvoj njihova punog potencijala i postizanje održivog i podržavajućeg društva za žene u IT sektoru. S obzirom na to da se žene suočavaju s diskriminacijom povezanom s rodom, stereotipovima i nejednakošću, što ima brojne štetne socijalne i ekonomske posljedice, među kojima su smanjenje potencijalnih prednosti za javni sektor i poduzeća u području istraživanja i inovacija te posljedice za opći ekonomski razvoj. Povećanjem vidljivosti žena u području znanosti, tehnologije, inženjerstva i matematike (STEM), kao i njihovih profesionalnih doprinosa, mogu se, osim poticanja transformacije i inovacije naših društava, kreirati uspješni modeli koje treba slijediti kako bi se, u konačnici, povećala uključivost žena u IT sektoru. Uklanjanjem starih obrazaca automatski se promiče rodna ravnopravnost i samim time bi žene mogle imati ključnu ulogu u popunjavanju nedostatka radne snage na tržištu rada u IT sektoru u EU te RH kao njezinoj članici.
Intenzivno se radi na uključivanju žena znanstvenica na području AI. Dobar primjer je događaj Women in AI koji organiziraju Microsoft i Coderspace s ciljem da inspiriraju i osnaže mlade žene da odaberu karijeru na području umjetne inteligencije koji je kreiran za studentice na sveučilištima u jugoistočnoj Europi, uključujući Hrvatsku, Tursku, Grčku, Maltu, Cipar, Srbiju, Bugarsku i Sloveniju.
Koje su po Vama opasnosti UI?
Jedno od primarnih etičkih pitanja s kontrolom umjetne inteligencije jest mogućnost da se ona iskoristi u zlonamjerne svrhe. Sustavi umjetne inteligencije mogu se iskoristiti za manipulaciju i iskorištavanje ljudi „bombardirajući“ ih lažnim ili štetnim informacijama. Osim toga, sustavi umjetne inteligencije mogu se uporabiti za automatizaciju procesa donošenja odluka na načine koji su pristrani, neetični ili čak nezakoniti. Primjerice, umjetna inteligencija mogla bi se iskoristiti za automatizirano donošenje odluka u kaznenom pravosuđu ili zdravstvenoj skrbi, koje nerazmjerno i nepravedno utječu na određene rase ili spolove. Još jedan etički problem s kontrolom umjetne inteligencije jest mogućnost da se sustavi umjetne inteligencije rabe za kršenje privatnosti i autonomije. Sustavi umjetne inteligencije mogu se iskoristiti za praćenje pojedinaca i prikupljanje podataka o njihovim aktivnostima, potencijalno kršeći njihovo pravo na privatnost. Konačno, kontrola umjetne inteligencije postavlja etička pitanja o tome kako osigurati pravednost i odgovornost. Stoga je važno osigurati da su sustavi umjetne inteligencije dizajnirani i uporabljivani na načine koji promiču pravednost, transparentnost i odgovornost. Također, važno je osigurati da ljudski pojedinci imaju mogućnost poricanja odluka koje donose sustavi umjetne inteligencije, kao i to da postoje mehanizmi pružanja pravne zaštite pojedincima, čija su prava možda ugrožena i nepravedno povrijeđena. Zlonamjerni softver zajednički je naziv za sve vrste zlonamjernih softvera projektiranih da oštete ili iskoriste bilo koji programibilni uređaj, uslugu ili mrežu. Hakeri ga obično koriste za izvlačenje podataka s kojima od žrtava mogu izvući financijsku korist ili nanijeti štetu ugledu i časti određene osobe.
Promocija knjige “Povijest umjetne inteligencije” / Foto: Matija Kralj
S obzirom na strah od UI i njezine prevelike raširenosti u svakodnevnom životu, koje su po Vama dobrobiti UI?
Dosadašnja znanstvena istraživanja pokazala su da su ljudi produktivni oko tri do četiri sata na dan. Ljudi također trebaju stanke i slobodne dane kako bi uravnotežili svoj poslovni i privatni život. Ali zato umjetna inteligencija može raditi beskonačno bez stanke za pauzu te potrebe za hranom i pićem. Također, proces „razmišljanja“ umjetne inteligencije mnogo je brži od ljudi te obavlja više zadataka istodobno s točnim rezultatima. S pomoću algoritama umjetne inteligencije moguće je lako obavljati i glasovno zamorne poslove, kao što je ponavljanje istih rečenica. Primjerice, za takve su poslove idealni online chatboti za korisničku podršku, koji mogu pružiti trenutačnu pomoć korisnicima u bilo koje vrijeme, s bilo koje lokacije. Kombinirajući umjetnu inteligenciju i obradbu prirodnog jezika, chatboti mogu odgovarati na uobičajena pitanja, rješavati probleme i rangirati složenije upite, upućujući ih ljudskim agentima, te osiguravati besprijekornu 24-satnu korisničku uslugu.
Praktično, danas, gotovo na svakom području, umjetna je inteligencija pokretačka snaga brojnih inovacija koja pomaže ljudima u rješavanju većine izazovnih problema. Jedan od novijih izuma jesu samovozeći automobili koji se koriste kombinacijom kamera, senzora i algoritama umjetne inteligencije za navigaciju cestama i prometom (autonomni roboti), bez ljudske intervencije. Samovozeći automobili imaju potencijal poboljšanja sigurnosti na cestama, smanjivanjem prometnih gužvi te povećanjem mobilnosti za osobe s invaliditetom ili ograničenom pokretljivošću. Razvijaju ih razne tvrtke, uključujući Rimac automobile, Teslu, Google i Uber, a očekuje se i da će revolucionirati promet.
Dok ljudska bića pokreću emocije (sviđalo se to nama ili ne), s druge strane, umjetna je inteligencija oslobođena od emocija te je upravo zbog toga vrlo praktična i racionalna u svom pristupu rješavanju svakodnevnih životnih i poslovnih situacija. Velika prednost umjetne inteligencije jest u tome što nema pristranih stavova, a to, nadalje, osigurava točnije donošenje odluka. Primjerice, sustavi zapošljavanja pokretani umjetnom inteligencijom provjeravaju kandidate za posao na temelju vještina, znanja i kvalifikacija, a ne irelevantnih podataka ili subjektivnih odluka i dogovora, pomažu u uklanjanju pristranosti u procesu zapošljavanja, što osigurava produktivniju i stručniju radnu snagu.
Možete li nam reći, je li moguće danas kontrolirati UI ili nas je UI već nadjačala i izmakla kontroli?
Dalekosežno razmišljanje ključno je obilježje ove nove tehnologije. Rasprave o riziku obično nisu povezane s općim problemom etike pod rizikom, jer dugoročno gledište ima svoje metodološke izazove i usredotočuje se na umjetnu inteligenciju i ljudski život obuhvaćajući tehnološku singularnost kao prirodni i evolucijski napredak. Nova filozofija nadolazećeg doba može se objasniti terminom „tehnohipnoza” jer kroz napredak informacijsko-komunikacijskih tehnologija dolazi se do spoznaje odvraćanja pažnje od gubitka smisla. Stoga se može zaključiti da je zaista potrebna etika za „male“ probleme koji se pojavljuju sa stvarnom umjetnom inteligencijom i robotikom te da je manja potreba za „velikom etikom“ egzistencijalnog rizika od umjetne inteligencije.
Pitanja koja su pokrenuta morat će pomno pratiti tehnološki i društveni razvoj kako bi se navrijeme uhvatila u koštac s tek nadolazećim problemima jer realno danas nitko ne može sa sigurnošću reći kakva je naša budućnost s UI. Kontradiktornost alata UI i čovjek su u centru proučavanja onoga što nam budućnost donosi jer isključivo o nama ovisi kako ćemo i u koje svrhe koristiti alate UI.
