IBM je u četvrtak, 29. aprila, bio domaćin ekskluzivnog okruglog stola za medije na temu „Odgovorna upotreba AI“ sa dr Aleksandrom (Saškom) Mojsilović, naučnicom koja se bavi veštačkom inteligencijom (AI) i ima titulu IBM Fellow. Fokus njene prezentacije bio je na ranjivostima AI kao što su izloženost pristrasnosti, nedostatak mogućnosti objašnjenja i podložnost suparničkim napadima.
Dr Mojsilović́ je naglasila da same performanse sistema nisu dovoljne kao paradigma dizajna AI, već da etička pitanja moraju takođe da budu deo jednačine. Zbog toga, IBM Research razvija tehnike i algoritme za procenu – i obeležavanje – temeljnih elemenata poverenja u AI sisteme: alata kojima se otkrivaju i ublažavaju pristrasnosti, izloženost ranjivostima, uklanjaju napadi i demaskiraju procesi donošenja odluka. Zbog toga sa napredovanjem AI, ljudi i AI sistemi sve više rade zajedno, i zato je neophodno da imamo poverenje u finalne rezultate ovih sistema kako bismo doneli odluku na dobroj informisanosti.
Stručnjaci divizije IBM Research identifikovali su principe koji predstavljaju osnovu pouzdanih AI sistema:
- Pravičnost: AI sistemi treba da koriste podatke o treningu i modelima bez pristrasnosti, kako bi se izbegao nepravedan tretman određenih grupa
- Snaga: AI sistemi treba da budu sigurni i bezbedni, da ne podležu falsifikovanju ili kompromitovanju podataka na osnovu kojih su trenirani
- Objašnjivost: AI sistemi treba da obezbede odluke ili sugestije koje njihovi korisnici i programeri mogu da razumeju
- Poreklo: AI sistemi treba da sadrže detalje o njihovom razvoju, primeni i održavanju kako bi mogli da budu revidirani tokom svog životnog ciklusa
Međutim, baš kao i fizička struktura, poverenje se ne može zasnivati samo na jednom principu. Ako je AI sistem dobar, ali ne može da se odupre napadu, neće mu se verovati. Ako je siguran, ali niko ne može da razume njegov finalni rezultat, takođe mu se neće verovati. Stoga je neophodno ojačati sve stubove i istovremeno ispratiti sposobnost merenja i komuniciranja nivoa performansi sistema na svakoj od ovih dimenzija. Jedan od načina da se to postigne bio bi pružanje takvih informacija putem SDoC-a ili factsheets usluge za AI. Ovde IBM-ovi stručnjaci predlažu uključivanje informacija o radu sistema, podacima o treningu, osnovnim algoritmima, postavljanju i rezultatima testova, referentnim testovima performansi, proverama pravičnosti i snage, nameravanoj upotrebi i održavanju, kao i ponovnim treninzima – za detalje posetite internet stranicu IBM-ovog projekta AI FactSheet.
Aleksandra Mojsilović je trenutno na poziciji direktorke AI fondacije u IBM Research i jedna od direktorki kompanije IBM Science for Social Good, ali je takođe i IBM Fellow i IEEE Fellow. Autorka je preko 100 publikacija i nosilac 16 patenata. Među najnovijim projektima u kojima je dr Mojsilović dala doprinos je AI sistem IBM Researcha predstavljen u martu 2021. godine, koji koristi tehnologije zasnovane na AI radi ubrzanog stvaranja novih peptida u borbi protiv rezistencije na antibiotike. Ovi napori u oblasti AI takođe mogu da pomognu u otkrivanju i stvaranju novih materijala u borbi protiv klimatskih promena, stvaranju inteligentnije proizvodnje i skladištenju energije i još mnogo čemu. Novi generativni AI okvir ovog tima je takođe primenjen i na tri COVID-19 objekta, tako što su generisali 3000 novih molekula.
Za više informacija o radu dr Mojsilović i IBM Research tima na polju etike AI, možete posetiti internet stranicu Trusting AI.
