ISC-ov vodič nudi sveobuhvatan okvir osmišljen da premosti jaz između principa na visokom nivou i praktične, djelotvorne politike. Odgovara na hitnu potrebu za zajedničkim razumijevanjem mogućnosti i rizika koje predstavljaju nove tehnologije. Ovo je suštinski dokument za one koji rade na povezivanju politika u našoj digitalnoj eri koja se brzo mijenja.
Okvir istražuje potencijal veštačke inteligencije i njenih derivata kroz sveobuhvatan objektiv, obuhvatajući dobrobit ljudi i društva zajedno sa spoljnim faktorima kao što su ekonomija, politika, životna sredina i bezbednost. Neki aspekti kontrolne liste mogu biti relevantniji od drugih, u zavisnosti od konteksta, ali čini se da su bolje odluke vjerovatnije ako se uzmu u obzir sve domene, čak i ako se neki brzo mogu identificirati kao irelevantni u određenim slučajevima. Ovo je inherentna vrijednost pristupa kontrolne liste.
„U eri obilježenoj brzim tehnološkim inovacijama i složenim globalnim izazovima, ISC-ov okvir za sveobuhvatnu i višedimenzionalnu analizu potencijalnih uticaja osnažuje lidere da donose informirane, odgovorne odluke. To osigurava da, kako tehnološki napredujemo, to činimo uz pažljivo razmatranje etičkih, društvenih i ekonomskih implikacija.”
Peter Gluckman, predsjednik ISC-a
Iako su UNESCO, OECD, Evropska komisija i UN, između ostalih, proglasili principe na visokom nivou, a razne rasprave se nastavljaju u vezi s pitanjima potencijalnog upravljanja, regulative, etike i sigurnosti, postoji veliki jaz između takvih principa i upravljanje ili regulatorni okvir. ISC rješava ovu potrebu kroz svoj novi vodič za kreatore politike.
Ovaj vodič za kreatore politike nema za cilj da zabrani regulatorni režim, već da predloži adaptivan i evoluirajući analitički okvir koji bi mogao da podupre bilo koju procjenu i regulatorne procese koje bi mogle razviti zainteresirane strane, uključujući vlade i multilateralni sistem.
„Okvir je kritičan korak u globalnom razgovoru o AI jer pruža osnovu na kojoj možemo izgraditi konsenzus o implikacijama tehnologije za sada i za budućnost“.
Hema Sridhar, bivša glavna savjetnica za nauku, Ministarstvo odbrane, Novi Zeland, a sada viša istraživačica Fellow, Univerzitet u Aucklandu, Novi Zeland.
Od oktobra 2023. godine, bilo je nekoliko značajnih nacionalnih i multilateralnih inicijativa uz dalje razmatranje etike i sigurnosti AI. Implikacije AI na integritet nekih naših kritičnih sistema, uključujući finansijske, vladine, pravne i obrazovne, kao i različite sisteme znanja (uključujući naučno i domaće znanje), izazivaju sve veću zabrinutost. Okvir dalje odražava ove aspekte.
Dosadašnje povratne informacije primljene od članova ISC-a i međunarodne zajednice za kreiranje politika ogledaju se u revidiranoj verziji analitičkog okvira, koji je sada objavljen kao vodič za kreatore politike.
Vodič za kreatore politike: Procjena tehnologija koje se brzo razvijaju uključujući AI, velike jezičke modele i dalje
Ovaj dokument za diskusiju daje nacrt početnog okvira za informisanje višestrukih globalnih i nacionalnih diskusija koje se vode u vezi sa AI.
Preuzmite okvir za korištenje u vašoj organizaciji
Ovdje pružamo okvirni alat kao Excel list koji se može uređivati za upotrebu u vašoj organizaciji. Ako više volite format otvorenog koda, kontaktirajte [email zaštićen].
Uvod
Tehnologije koje se brzo pojavljuju predstavljaju izazovna pitanja kada je u pitanju njihova upotreba, upravljanje i potencijalna regulacija. Tekuća politika i javne debate o umjetnoj inteligenciji (AI) i njenoj upotrebi doveli su ova pitanja u akutan fokus. Opširne principe za umjetnu inteligenciju objavili su UNESCO, OECD, UN i drugi, uključujući Bletchley deklaraciju Ujedinjenog Kraljevstva, a pojavljuju se i pokušaji regulacije aspekata tehnologije putem, na primjer, AI Evropske unije (EU) Zakon ili nedavna izvršna naredba Sjedinjenih Država o AI.
Dok se o upotrebi AI naširoko raspravlja u ovim i drugim forumima, preko geopolitičkih podjela iu zemljama na svim nivoima prihoda, ostaje ontološki jaz između razvoja principa visokog nivoa i njihovog uključivanja u praksu bilo kroz regulativu, politiku, upravljanje ili pristupi upravljanja. Put od principa do prakse je loše definiran, ali s obzirom na prirodu i ritam razvoja i primjene AI, raznolikost uključenih interesa i raspon mogućih primjena, bilo koji pristup ne može biti previše generički ili preskriptivan.
Iz ovih razloga, nevladina naučna zajednica i dalje igra posebnu ulogu. Međunarodni naučni savjet (ISC) – sa svojim pluralističkim članstvom iz društvenih i prirodnih nauka – objavio je dokument za diskusiju u oktobru 2023. u kojem je predstavljen preliminarni analitički okvir koji razmatra rizike, koristi, prijetnje i prilike povezane s digitalnom tehnologijom koja se brzo kreće. Iako je razvijen da uzme u obzir AI, on je inherentno agnostički za tehnologiju i može se primijeniti na niz novih i disruptivnih tehnologija, kao što su sintetička biologija i kvantna. Taj dokument za diskusiju pozvao je na povratne informacije od akademika i kreatora politike. Ogromne povratne informacije učinile su provođenje takve analize neophodnim i predstavljale su vrijedan pristup za rješavanje novih tehnologija kao što je AI.
Svrha okvira je da pruži alat za informiranje svih dionika – uključujući vlade, trgovinske pregovarače, regulatore, civilno društvo i industriju – o evoluciji ovih tehnologija kako bi im pomogao da osmisle kako bi mogli razmotriti implikacije, pozitivne ili negativne, samu tehnologiju, tačnije njenu posebnu primjenu. Ovaj analitički okvir razvijen je nezavisno od interesa vlade i industrije. Ona je maksimalno pluralistička u svojim perspektivama, obuhvatajući sve aspekte tehnologije i njene implikacije na osnovu opsežnih konsultacija i povratnih informacija.
Ovaj dokument za diskusiju za kreatore politike nema za cilj da zabrani regulatorni režim, već radije da predloži adaptivan i evoluirajući analitički okvir koji bi mogao podržati bilo koju procjenu i regulatorne procese koje bi mogle razviti zainteresirane strane, uključujući vlade i multilateralni sistem.
Kako donosioci odluka na globalnom i nacionalnom nivou razmatraju odgovarajuće postavke politike i poluge kako bi uravnotežili rizike i nagrade nove tehnologije kao što je AI, analitički okvir je zamišljen kao komplementarno sredstvo kako bi se osiguralo da se puni skup potencijalnih implikacija adekvatno odrazi.
Pozadina: zašto analitički okvir?
Brza pojava tehnologija sa složenošću i implikacijama AI pokreće mnoge tvrdnje od velike koristi. Međutim, izaziva i strah od značajnih rizika, od individualnog do geostrateškog nivoa.1 Veći dio dosadašnje rasprave razmatran je u binarnom smislu jer se javno izraženi stavovi obično odvijaju na krajnjim krajevima spektra. Tvrdnje za ili protiv AI često su hiperbolične i – s obzirom na prirodu tehnologije – teško ih je procijeniti.
Neophodan je pragmatičniji pristup gdje se hiperbola zamjenjuje kalibriranim i detaljnijim procjenama. AI tehnologija će nastaviti da se razvija, a istorija pokazuje da praktično svaka tehnologija ima i korisne i štetne upotrebe. Stoga se postavlja pitanje: kako možemo postići korisne rezultate ove tehnologije, a istovremeno smanjiti rizik od štetnih posljedica, od kojih bi neke mogle biti egzistencijalne?
Budućnost je uvijek neizvjesna, ali postoji dovoljno vjerodostojnih i stručnih glasova u vezi s umjetnom inteligencijom i generativnom umjetnom inteligencijom da se podstakne relativno oprezan pristup. Osim toga, sistemski pristup je neophodan jer je AI klasa tehnologija sa širokom upotrebom i primjenom od strane više tipova korisnika. To znači da se mora uzeti u obzir puni kontekst kada se razmatraju implikacije bilo koje upotrebe AI za pojedince, društveni život, građanski život, društveni život iu globalnom kontekstu.
Za razliku od većine drugih tehnologija, za digitalne i srodne tehnologije, vrijeme između razvoja, izdavanja i primjene je izuzetno kratko, uglavnom vođeno interesima produkcijskih kompanija ili agencija. Po svojoj prirodi – a s obzirom na to da je zasnovana na digitalnoj kičmi – AI će imati aplikacije koje se brzo šire, kao što je već viđeno razvojem velikih jezičkih modela. Kao rezultat toga, neka svojstva mogu postati očigledna tek nakon objavljivanja, što znači da postoji rizik od nepredviđenih posljedica, kako zlonamjernih tako i dobronamjernih.
Važne dimenzije društvenih vrijednosti, posebno u različitim regijama i kulturama, utjecat će na to kako se svaka upotreba percipira i prihvaća. Nadalje, geostrateški interesi već dominiraju diskusijom, pri čemu se suvereni i multilateralni interesi kontinuirano ukrštaju i na taj način pokreću konkurenciju i podjele.
Do danas, veliki dio regulacije virtuelne tehnologije uglavnom se promatrao kroz prizmu 'principa' i dobrovoljnog poštivanja, iako sa Zakonom o umjetnoj inteligenciji EU2 i slično vidimo pomak ka provedivijim, ali donekle uskim propisima. Uspostavljanje efektivnog globalnog ili nacionalnog upravljanja tehnologijom i/ili regulatornog sistema ostaje izazov i ne postoji očigledno rješenje. Duž lanca će biti potrebno više slojeva donošenja odluka zasnovanih na riziku, od pronalazača do proizvođača, do korisnika, vlade i multilateralnog sistema.
Iako su UNESCO, OECD, Evropska komisija i UN, između ostalih, proglasili principe na visokom nivou, a različite rasprave na visokoj razini se nastavljaju u vezi s pitanjima potencijalnog upravljanja, regulative, etike i sigurnosti, postoji veliki jaz između takvih principe i upravljački ili regulatorni okvir. Ovo se mora riješiti.
Kao početnu tačku, ISC razmatra razvoj taksonomije razmatranja na koje bi se svaki programer, regulator, savjetnik za politike, potrošač ili donosilac odluka mogao pozvati. S obzirom na široke implikacije ovih tehnologija, takva taksonomija mora uzeti u obzir ukupnost implikacija, a ne usko fokusirano uokvirivanje. Globalna fragmentacija se povećava zbog uticaja geostrateških interesa na donošenje odluka, a s obzirom na hitnost ove tehnologije, neophodno je da nezavisni i neutralni glasovi uporno zagovaraju jedinstven i inkluzivan pristup.
1) Hindustan Times. 2023. G20 mora uspostaviti međunarodni panel za tehnološke promjene.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Zakon EU o umjetnoj inteligenciji. 2023. https://artificialintelligenceact.eu
Razvoj analitičkog okvira
ISC je primarna globalna nevladina organizacija koja integriše prirodne i društvene nauke. Njegov globalni i disciplinski domet znači da je u dobroj poziciji da generiše nezavisne i globalno relevantne savete za informisanje o složenim izborima koji su pred nama, posebno zato što trenutni glasovi u ovoj areni uglavnom dolaze iz industrije ili iz političkih i političkih zajednica velikih tehnoloških sila.
Nakon perioda opsežne rasprave, koja je uključivala razmatranje nevladinog procesa procjene, ISC je zaključio da bi njegov najkorisniji doprinos bio stvaranje adaptivnog analitičkog okvira koji se može koristiti kao osnova za diskurs i donošenje odluka od strane svih zainteresovane strane, uključujući i tokom svih formalnih procesa procene koji se pojave.
Preliminarni analitički okvir, koji je pušten za diskusiju i povratne informacije u oktobru 2023., imao je oblik sveobuhvatne kontrolne liste dizajnirane za korištenje i od strane vladinih i nevladinih institucija. Okvir je identificirao i istražio potencijal tehnologije poput AI i njenih derivata kroz široku leću koja obuhvata ljudsko i društveno blagostanje, kao i vanjske faktore kao što su ekonomija, politika, okoliš i sigurnost. Neki aspekti kontrolne liste mogu biti relevantniji od drugih, u zavisnosti od konteksta, ali čini se da su bolje odluke vjerovatnije ako se uzmu u obzir sve domene, čak i ako se neki brzo mogu identificirati kao irelevantni u određenim slučajevima. Ovo je inherentna vrijednost pristupa kontrolne liste.
Preliminarni okvir je izveden iz prethodnog rada i razmišljanja, uključujući izvještaj Međunarodne mreže za vladine naučne savjete (INGSA) o digitalnom blagostanju3 i Okvir OECD-a za klasifikaciju AI sistema,4 kako bi se predstavile sve potencijalne mogućnosti, rizici i utjecaji AI. Ovi prethodni proizvodi su bili ograničeniji u svojoj namjeri s obzirom na vrijeme i kontekst; postoji potreba za sveobuhvatnim okvirom koji predstavlja cijeli niz pitanja, kako kratkoročno tako i dugoročno.
Od objavljivanja, dokument za diskusiju dobio je značajnu podršku mnogih stručnjaka i kreatora politike. Mnogi su posebno podržali preporuku za razvoj adaptivnog okvira koji omogućava namjerno i proaktivno razmatranje rizika i implikacija tehnologije, i pritom uvijek uzima u obzir sveukupnost dimenzija od pojedinca do društva i sistema.
Jedno od ključnih zapažanja koje je dato kroz povratne informacije bilo je priznanje da su neke od implikacija koje se razmatraju u okviru same po sebi višestruke i da se protežu na više kategorija. Na primjer, dezinformacije bi se mogle razmatrati i iz individualne i iz geostrateške perspektive; stoga bi posljedice bile široke.
Također je predložena opcija uključivanja studija slučaja ili primjera za testiranje okvira. Ovo bi se moglo koristiti za izradu smjernica koje će pokazati kako se može koristiti u praksi u različitim kontekstima. Međutim, ovo bi bio značajan poduhvat i mogao bi ograničiti način na koji različite grupe vide korištenje ovog okvira. To najbolje rade kreatori politike koji rade sa stručnjacima u određenim jurisdikcijama ili kontekstima.
Od oktobra 2023. godine, bilo je nekoliko značajnih nacionalnih i multilateralnih inicijativa uz dalje razmatranje etike i sigurnosti AI. Implikacije AI na integritet nekih naših kritičnih sistema, uključujući finansijske, vladine, pravne i obrazovne, kao i različite sisteme znanja (uključujući naučno i domaće znanje), izazivaju sve veću zabrinutost. Revidirani okvir dalje odražava ove aspekte.
Povratne informacije primljene do danas odražavaju se u revidiranoj verziji analitičkog okvira, koji je sada objavljen kao vodič za kreatore politike.
Dok je okvir predstavljen u kontekstu AI i srodnih tehnologija, odmah se može prenijeti na razmatranje drugih tehnologija koje se brzo pojavljuju kao što su kvantna i sintetička biologija.
3) Gluckman, P. i Allen, K. 2018. Razumijevanje dobrobiti u kontekstu brzih digitalnih i povezanih transformacija. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Okvir OECD-a za klasifikaciju AI sistema. OECD dokumenti o digitalnoj ekonomiji, br. 323, br. Pariz, OECD Publishing.
https://oecd.ai/en/classificatio
Okvir
Sljedeća tabela predstavlja dimenzije pretpostavljenog analitičkog okvira. Navedeni su primjeri koji ilustruju zašto svaka domena može biti važna; u kontekstu, okvir bi zahtijevao kontekstualno relevantno proširenje. Takođe je važno napraviti razliku između generičkih problema koji se javljaju tokom razvoja platforme i onih koji se mogu pojaviti tokom specifičnih aplikacija. Nijedno jedno razmatranje koje je ovdje uključeno ne bi trebalo tretirati kao prioritet i, kao takvo, sve bi trebalo ispitati.
Pitanja su općenito grupirana u sljedeće kategorije kao što je navedeno u nastavku:
Tabela detaljno opisuje dimenzije koje bi se mogle uzeti u obzir prilikom procjene nove tehnologije.
– INGSA. 2018. Razumijevanje blagostanja u kontekstu brzih digitalnih i povezanih transformacija.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Novi deskriptori (prikupljeni putem opsežnih konsultacija, povratnih informacija i pregleda literature)
– Okvir OECD-a za klasifikaciju sistema vještačke inteligencije: alat za efikasne politike vještačke inteligencije.
https://oecd.ai/en/classification
| kriteriji | Primjeri kako se to može odraziti u analizi |
| AI kompetencija korisnika | Koliko su kompetentni i svjesni svojstava sistema vjerovatni korisnici koji će komunicirati sa sistemom? Kako će im biti pružene relevantne korisničke informacije i upozorenja? |
| Pogođena zainteresovana strana | Ko su primarni akteri na koje će sistem uticati (pojedinci, zajednice, ugroženi, sektorski radnici, djeca, kreatori politika, stručnjaci itd.)? |
| Opcionalnost | Da li se korisnicima pruža mogućnost da odustanu od sistema ili im se daje mogućnost da izazovu ili isprave rezultate? |
| Rizici po ljudska prava i demokratske vrijednosti | Da li sistem suštinski utiče na ljudska prava, uključujući, ali ne ograničavajući se na privatnost, slobodu izražavanja, pravičnost, nediskriminatornost itd.? |
| Potencijalni efekti na dobrobit ljudi | Da li se područja uticaja sistema odnose na dobrobit pojedinca (kvalitet posla, obrazovanje, društvene interakcije, mentalno zdravlje, identitet, okruženje itd.)? |
| Potencijal za raseljavanje ljudske radne snage | Postoji li potencijal da sistem automatizira zadatke ili funkcije koje su izvršavali ljudi? Ako je tako, koje su posljedice nizvodno? |
| Potencijal za manipulaciju identitetom, vrijednostima ili znanjem | Da li je sistem dizajniran ili potencijalno sposoban da manipuliše identitetom korisnika ili postavljene vrijednosti ili širenje dezinformacija? |
| Mogućnosti za samoizražavanje i samoostvarenje | Postoji li potencijal za umjetnost i sumnju u sebe? Postoji li potencijal za lažno ili neproverljive tvrdnje o stručnosti? |
| Mere sopstvene vrednosti | Postoji li pritisak da se prikaže idealizirano ja? Može li automatizacija zamijeniti smisao ličnog ispunjenja? Postoji li pritisak da se takmiči sa sistemom u radno mjesto? Je li reputaciju pojedinca teže zaštititi od dezinformacija? |
| privatnost | Da li postoje raširene odgovornosti za očuvanje privatnosti i da li ih ima postoje li pretpostavke o tome kako se koriste lični podaci? |
| autonomija | Može li sistem umjetne inteligencije utjecati na ljudsku autonomiju generiranjem pretjeranog oslanjanja krajnji korisnici? |
| Ljudski razvoj | Da li postoji uticaj na sticanje ključnih veština za ljudski razvoj, kao npr izvršne funkcije ili interpersonalne vještine, ili promjene u vremenu pažnje koje utiču učenje, razvoj ličnosti, zabrinutost za mentalno zdravlje itd.? |
| Lična zdravstvena njega | Postoje li tvrdnje o samodijagnozi ili personaliziranim rješenjima zdravstvene zaštite? Ako tako, da li su validirani u skladu sa regulatornim standardima? |
| Mentalno zdravlje | Postoji li rizik od povećane anksioznosti, usamljenosti ili drugih psihičkih problema, ili može li tehnologija ublažiti takve uticaje? |
| Ljudska evolucija | Mogu li veliki jezički modeli i umjetna opća inteligencija promijeniti tok ljudske evolucije? |
| Interakcija čovjek-mašina | Može li korištenje vremenom dovesti do gubitka vještina i ovisnosti kod pojedinaca? Are ima li uticaja na ljudsku interakciju? |
| kriteriji | Primjeri kako se to može odraziti u analizi |
| Društvene vrijednosti | Da li sistem suštinski menja prirodu društva, omogućava normalizaciju ideja koje su se ranije smatrale antisocijalnim ili narušava društvene vrednosti kulture u kojoj se primenjuje? |
| Društvene interakcije | Postoji li utjecaj na smislen ljudski kontakt, uključujući emocionalne odnose? |
| Zdravlje stanovništva | Postoji li potencijal da sistem unaprijedi ili potkopa zdravstvene namjere stanovništva? |
| Kulturni izraz | Da li je povećanje kulturnog prisvajanja ili diskriminacije vjerovatno ili teže rješavati? Da li oslanjanje na sistem donošenja odluka isključuje ili marginalizuje kulturno relevantne društvene veze? |
| Javno obrazovanje | Ima li uticaja na uloge nastavnika ili obrazovne institucije? Da li sistem naglašava ili smanjuje digitalni jaz i nejednakost među studentima? Da li je suštinska vrijednost znanja ili kritičkog razumijevanja napredna ili potkopana? |
| Iskrivljena stvarnost | Da li su metode koje se koriste za razlučivanje šta je istina još uvijek primjenjive? Da li je percepcija stvarnosti ugrožena? |
| kriteriji | Primjeri kako se to može odraziti u analizi |
| Industrijski sektor | U kojem industrijskom sektoru je sistem raspoređen (finansije, poljoprivreda, zdravstvo, obrazovanje, odbrana itd.)? |
| Poslovni model | U kojoj poslovnoj funkciji se sistem koristi i u kom svojstvu? Gdje se sistem koristi (privatni, javni, neprofitni)? |
| Uticaji na kritične aktivnosti | Da li bi poremećaj funkcije ili aktivnosti sistema uticao na osnovne usluge ili kritičnu infrastrukturu? |
| Širina primjene | Kako je sistem raspoređen (uska upotreba unutar jedinice naspram široko rasprostranjena na nacionalnom/međunarodnom nivou)? |
| Tehnička zrelost | Koliko je sistem tehnički zreo? |
| interoperabilnost | Da li postoji vjerovatnoća da će postojati silosi, na nacionalnom ili globalnom nivou, koji inhibiraju slobodnu trgovinu i utiču na saradnju sa partnerima? |
| Tehnološki suverenitet | Da li želja za tehnološkim suverenitetom pokreće ponašanje, uključujući kontrolu nad cijelim lancem nabavke umjetne inteligencije? |
| Preraspodjela dohotka i nacionalne fiskalne poluge | Da li bi ključne uloge suverene države mogle biti ugrožene (npr. rezervne banke)? Da li će sposobnost države da ispuni očekivanja i implikacije građana (društvene, ekonomske, političke itd.) biti unapređena ili smanjena? |
| Digitalni jaz (AI jaz) | Da li se postojeće digitalne nejednakosti pogoršavaju ili stvaraju nove? |
| kriteriji | Primjeri kako se to može odraziti u analizi |
| Upravljanje i javna služba | Da li se na mehanizme upravljanja i globalni sistem upravljanja može uticati pozitivno ili negativno? |
| Vijesti | Da li je vjerovatno da će se javni diskurs polarizirati i ukorijeniti na nivou stanovništva? Hoće li biti efekta na nivoe povjerenja u Četvrti stalež? Hoće li se dalje uticati na konvencionalnu novinarsku etiku i standarde integriteta? |
| Vladavina zakona | Da li će biti uticaja na sposobnost identifikacije pojedinaca ili organizacija koje treba smatrati odgovornim (npr. koju vrstu odgovornosti dodijeliti algoritmu za štetne ishode)? Da li je došlo do gubitka suvereniteta (ekološka, fiskalna, socijalna politika, etika itd.)? |
| Politika i društvena kohezija | Postoji li mogućnost više ukorijenjenih političkih stavova i manje mogućnosti za izgradnju konsenzusa? Postoji li mogućnost daljeg marginaliziranja grupa? Da li su suprotstavljeni stilovi politike više ili manje vjerojatni? |
| Socijalna licenca | Postoje li problemi privatnosti, pitanja povjerenja i moralni problemi koje treba razmotriti da bi dionici prihvatili korištenje? |
| Autohtono znanje | Da li bi znanje i podaci domorodačkog stanovništva mogli biti korumpirani ili nezakonito prisvojeni? Postoje li adekvatne mjere za zaštitu od lažnog predstavljanja, dezinformacija i eksploatacije? |
| Naučni sistem | Da li je akademski i istraživački integritet ugrožen? Da li se gubi poverenje u nauku? Postoje li mogućnosti zloupotrebe, prekomjerne upotrebe ili zloupotrebe? Šta je posledica praktikovanja nauke? |
| kriteriji | Primjeri kako se to može odraziti u analizi |
| Precizan nadzor | Da li su sistemi obučeni na osnovu individualnih bihevioralnih i bioloških podataka i da li se mogu koristiti za eksploataciju pojedinaca ili grupa? |
| Digitalna konkurencija | Da li bi državni ili nedržavni akteri (npr. velike tehnološke kompanije) mogli iskoristiti sisteme i podatke za razumijevanje i kontrolu stanovništva i ekosistema drugih zemalja, ili podrivati jurisdikcionu kontrolu? |
| Geopolitička konkurencija | Može li sistem podstaći nadmetanje između nacija oko iskorištavanja pojedinačnih i grupnih podataka za ekonomske, medicinske i sigurnosne interese? |
| Promjena globalnih moći | Da li je ugrožen status nacionalnih država kao primarnih svjetskih geopolitičkih aktera? Da li tehnološke kompanije imaju moć koja je nekada bila rezervisana za nacionalne države i da li su postale nezavisni, suvereni akteri (nastajuće tehnopolarni svetski poredak)? |
| dezinformacija | Da li bi sistem omogućio proizvodnju i širenje dezinformacija od strane državnih i nedržavnih aktera sa uticajem na društvenu koheziju, poverenje i demokratiju? |
| Primjene s dvostrukom namjenom | Postoji li mogućnost i za vojnu i za civilnu upotrebu? |
| Fragmentacija globalnog poretka | Mogu li se razviti silosi ili klasteri propisa i usklađenosti koji ometaju saradnju, dovode do nedosljednosti u primjeni i stvaraju prostor za sukob? |
| kriteriji | Primjeri kako se to može odraziti u analizi |
| Potrošnja energije i resursa (ugljični otisak) | Da li sistem i zahtjevi povećavaju potrošnju energije i resursa iznad i iznad povećanja efikasnosti dobijenog primjenom? |
| Izvor energije | Odakle dolazi energija za sistem (obnovljiva u odnosu na fosilna goriva itd.)? |
| kriteriji | Primjeri kako se to može odraziti u analizi |
| Smjer i naplata | Da li podatke i unos prikupljaju ljudi, automatizirani senzori ili oboje? |
| Porijeklo podataka | Da li su podaci i inputi od stručnjaka pruženi, posmatrani, sintetički ili izvedeni? Postoje li zaštite vodenim žigom za potvrdu porijekla? |
| Dinamička priroda podataka | Jesu li podaci dinamički, statični, dinamički ažurirani s vremena na vrijeme ili u stvarnom vremenu? |
| prava | Da li su podaci vlasnički, javni ili lični (u vezi sa osobama koje se mogu identifikovati)? |
| Identifikacija i lični podaci | Ako su lični, da li su podaci anonimizirani ili pseudonimizirani? |
| Struktura podataka | Da li su podaci strukturirani, polustrukturirani, složeno strukturirani ili nestrukturirani? |
| Format podataka | Da li je format podataka i metapodataka standardizovan ili nestandardizovan? |
| Skala podataka | Koja je skala skupa podataka? |
| Prikladnost i kvalitet podataka | Da li skup podataka odgovara svrsi? Da li je veličina uzorka adekvatna? Da li je dovoljno reprezentativan i kompletan? Koliko su bučni podaci? Da li je sklon greškama? |
| kriteriji | Primjeri kako se to može odraziti u analizi |
| Dostupnost informacija | Da li su dostupne neke informacije o modelu sistema? |
| Vrsta AI modela | Da li je model simboličan (pravila stvorena od strane ljudi), statistički (koristi podatke) ili hibridan? |
| Prava povezana s modelom | Je li model otvorenog koda ili vlasnički, kojim upravljaju sami ili treće strane? |
| Jedan od više modela | Da li se sistem sastoji od jednog modela ili više međusobno povezanih modela? |
| Generativno ili diskriminativno | Da li je model generativan, diskriminativan ili oboje? |
| Izgradnja modela | Da li sistem uči na osnovu ljudskih pravila, iz podataka, kroz učenje pod nadzorom ili kroz učenje s pojačanjem? |
| Evolucija modela (AI drift) | Da li se model razvija i/ili stiče sposobnosti iz interakcije sa podacima na terenu? |
| Federalno ili centralno učenje | Da li se model obučava centralno ili na nekoliko lokalnih servera ili 'rubnih' uređaja? |
| Razvoj/održavanje | Da li je model univerzalan, prilagodljiv ili prilagođen podacima AI aktera? |
| Deterministički ili probabilistički | Da li se model koristi na deterministički ili probabilistički način? |
| Transparentnost modela | Da li su korisnicima dostupne informacije koje im omogućavaju da shvate rezultate modela i ograničenja ili koriste ograničenja? |
| Računsko ograničenje | Postoje li računska ograničenja za sistem? Da li je moguće predvidjeti skokove sposobnosti ili zakone skaliranja? |
| kriteriji | Primjeri kako se to može odraziti u analizi |
| Zadatak(i) koje obavlja sistem | Koje zadatke sistem obavlja (prepoznavanje, otkrivanje događaja, predviđanje itd.)? |
| Kombinovanje zadataka i radnji | Da li sistem kombinuje nekoliko zadataka i radnji (sistemi za generisanje sadržaja, autonomni sistemi, sistemi upravljanja itd.)? |
| Nivo autonomije sistema | Koliko su akcije sistema autonomne i kakvu ulogu igraju ljudi? |
| Stepen ljudske uključenosti | Postoji li neko ljudsko učešće u nadgledanju cjelokupne aktivnosti AI sistema i mogućnosti odlučivanja kada i kako koristiti AI sistem u bilo kojoj situaciji? |
| Osnovna aplikacija | Da li sistem pripada osnovnoj oblasti primene kao što su tehnologije ljudskog jezika, kompjuterski vid, automatizacija i/ili optimizacija ili robotika? |
| procjena | Da li su dostupni standardi ili metode za evaluaciju izlaza sistema? |
Kako bi se ovaj okvir mogao koristiti?
Ovaj okvir se može koristiti na mnogo načina, uključujući:
Put naprijed
Ukratko, analitički okvir je dat kao osnova kompleta alata koji bi zainteresovane strane mogle koristiti da sveobuhvatno sagledaju bilo koji značajan razvoj platformi ili upotrebe na dosljedan i sistematičan način. Dimenzije predstavljene u ovom okviru su relevantne od procene tehnologije do javnih politika, od ljudskog razvoja do sociologije, i studija budućnosti i tehnologije. Iako je razvijen za AI, ovaj analitički okvir ima mnogo širu primjenu na bilo koju drugu tehnologiju u nastajanju.
Priznanja
Mnogi ljudi su konsultovani i dali su povratne informacije tokom razvoja kako početnog dokumenta za diskusiju, tako i povratnih informacija nakon njegovog objavljivanja. Oba dokumenta su izradili... Sir Peter Gluckman, predsjednik ISC-a i Hema Sridhar, bivša glavna savjetnica za nauku u Ministarstvu odbrane Novog Zelanda, a sada viša istraživačica Fellow, Univerzitet u Aucklandu, Novi Zeland.
Konkretno, ISC Lord Martin Rees, bivši predsjednik Kraljevskog društva i suosnivač Centra za proučavanje egzistencijalnih rizika Univerziteta u Kembridžu; Profesor Shivaji Sondhi, profesor fizike, Univerzitet u Oksfordu; Profesor K Vijay Raghavan, bivši glavni naučni savjetnik u Vladi Indije; Amandeep Singh Gill, izaslanik generalnog sekretara UN-a za tehnologiju; Seán Ó hÉigeartaigh, izvršni direktor, Centar za proučavanje egzistencijalnih rizika, Univerzitet u Kembridžu; Sir David Spiegelhalter, Winton profesor javnog razumijevanja rizika na Univerzitetu
iz Cambridgea; Amanda-June Brawner, viša savjetnica za politiku i Ian Wiggins, direktor za međunarodne poslove, Kraljevsko društvo, Ujedinjeno Kraljevstvo; Dr Jerome Duberry, generalni direktor i dr Marie-Laure Salles, direktor, Ženevski postdiplomski institut; Chor Pharn Lee, Centar za stratešku budućnost, Ured premijera, Singapur; Barend Mons i dr Simon Hodson, Komitet za podatke (CoDATA); Profesor Yuko Harayama, bivši izvršni direktor, RIKEN; Profesore
Rémi Quirion, predsjednik, INGSA; Dr Claire Craig, Univerzitet u Oksfordu i bivša šefica Odjeljenja za predviđanje, Vladina kancelarija za nauku; Prof Yoshua Bengio, Naučni savjetodavni odbor generalnog sekretara UN-a i na Université de Montréal; i mnogi drugi koji su dali povratne informacije ISC-u o početnom dokumentu za diskusiju.
Priprema nacionalnih istraživačkih ekosistema za AI: strategije i napredak u 2024
Ovaj radni dokument ISC-ovog istraživačkog centra, Centra za naučnu budućnost, pruža osnovne informacije i pristup resursima iz zemalja iz svih dijelova svijeta, u različitim fazama integracije AI u njihove istraživačke ekosisteme.
Izgradnja naučnih sistema spremnih za budućnost na globalnom jugu
Nove tehnologije mijenjaju način na koji se nauka provodi i nude značajan potencijal za jačanje naučnih sistema na globalnom jugu - ako se njihovo usvajanje vodi inkluzivnim, dobro podržanim i kontekstualno osjetljivim pristupima. Centralni fokus ovog nedavnog strateškog sastanka bio je kako osigurati da ove tehnologije doprinose pravednijim i otpornijim naučnim sistemima, umjesto da pojačavaju postojeće nejednakosti.
Pročitajte više o otkrivanju informacija o umjetnoj inteligenciji u istraživanju: prema globalnom standardu izvještavanja 
Pročitajte više o Godišnjem izvještaju 2025 Pročitajte više o temi Ka rodnoj ravnopravnosti u naučnim organizacijama: procjena i preporuke 
Pročitajte više o Globalnom dijalogu znanja u Muscatu 