Prijaviti se

Uoči Samita o sigurnosti umjetne inteligencije 2023., ISC objavljuje dokument za diskusiju o okviru za procjenu AI i digitalnih tehnologija koje se brzo razvijaju.

Naučni istraživači i praktičari u oblasti veštačke inteligencije su pozvani da odgovore na dokument za diskusiju ISC-a i predloženi okvir o AI.

Brojni akademici i stručnjaci za politiku predložili su da Međunarodni naučni savjet – sa svojim pluralističkim članstvom iz društvenih i prirodnih nauka – uspostavi proces za izradu i održavanje označenog okvira/kontrolne liste rizika, koristi, prijetnji i prilika povezane s digitalnim tehnologijama koje se brzo kreću, uključujući – ali ne ograničavajući se na – AI. Svrha kontrolne liste bi bila da informiše sve zainteresovane strane – uključujući vlade, trgovinske pregovarače, regulatore, civilno društvo i industriju – o potencijalnim budućim scenarijima, i uokviri način na koji bi mogli da razmotre mogućnosti, koristi, rizike i druga pitanja.


ISC dokument za diskusiju

Okvir za procjenu digitalnih i srodnih tehnologija koje se brzo razvijaju: AI, veliki jezički modeli i dalje

Ovaj dokument za diskusiju daje nacrt početnog okvira za informisanje višestrukih globalnih i nacionalnih diskusija koje se vode u vezi sa AI.


Pridružite se diskusiji

Podstičemo vas da se pridružite diskusiji o idejama predstavljenim u ovom radu, kao io njegovom okviru koristeći formu na dnu stranice.


ISC sa zadovoljstvom predstavlja ovaj dokument za diskusiju o evaluaciji digitalne i srodne tehnologije koja se brzo razvija. Umjetna inteligencija, sintetička biologija i kvantne tehnologije su vrhunski primjeri inovacije, zasnovane na nauci, koje se pojavljuju neviđenim tempom. Može biti izazovno sistematski predvidjeti ne samo njihove primjene, već i njihove implikacije.

Procjena društvenih aspekata generativne umjetne inteligencije, kao što su modeli velikih jezika, koji predvidljivo predstavljaju najveći dio ovog dokumenta za diskusiju, potreban je most unutar trenutnog diskursa – ponekad vođenog panikom, drugi put nedovoljno duboko u mislima – i neophodnim kursevima akcije koje možemo preduzeti. ISC je uvjeren da je analitički okvir između društvenog prihvatanja takvih novih tehnologija i njihove moguće regulacije neophodan kako bi se olakšale diskusije sa više dionika koje su potrebne za donošenje informiranih i odgovornih odluka o tome kako optimizirati društvene koristi ove tehnologije koja se brzo pojavljuje.

ISC je otvoren za reakcije naše zajednice kroz ovaj dokument za diskusiju kako bi procijenio kako najbolje nastaviti biti dio i doprinositi debati oko tehnologije.

Salvatore Aricò, izvršni direktor

Saradnici u radu:

Mnogi ljudi su konsultovani u razvoju ovog dokumenta, koji je sastavio Sir Peter Gluckman, predsjednik ISC-a i Hema Sridhar, bivša glavna naučnica Ministarstva odbrane, a sada viša naučna saradnica Univerziteta u Aucklandu, Novi Zeland. 

Posebno se zahvaljujemo:

  • Lord Martin Rees, bivši predsjednik Kraljevskog društva i suosnivač Centra za proučavanje egzistencijalnih rizika Univerziteta u Kembridžu;
  • Profesor Shivaji Sondhi, profesor fizike, Univerzitet u Oksfordu;
  • Profesor K Vijay Raghavan, bivši glavni naučni savjetnik Vlade Indije;
  • Amandeep Singh Gill, izaslanik generalnog sekretara UN-a za tehnologiju;
  • Dr Seán Óh Éigeartaigh, izvršni direktor, Centar za proučavanje egzistencijalnih rizika, Univerzitet u Kembridžu;
  • Amanda-June Brawner, viša savjetnica za politiku i Ian Wiggins, direktor za međunarodne poslove, Kraljevsko društvo UK;
  • Dr Jerome Duberry, Dr Marie-Laure Salles, direktor, Ženevski postdiplomski institut;
  • g. Chor Pharn Lee, Centar za stratešku budućnost, Ured premijera, Singapur;
  • Barend Mons i dr Simon Hodson, Komitet za podatke (CoDATA);
  • Prof. Yuko Harayama, Japan;
  • Profesor Rémi Quirion, predsjednik, INGSA;
  • Dr Claire Craig, Univerzitet u Oksfordu i bivša šefica Odjeljenja za predviđanje, Vladina kancelarija za nauku; i
  • Prof Yoshua Bengio, Naučni savjetodavni odbor generalnog sekretara UN-a i na Université de Montréal.

Šta se još dešava u AI u ISC-u?

ISC-ov think tank, Centar za naučnu budućnost, trebao bi objaviti radni dokument o “Pripremanju naučnih ekosistema za AI” početkom 2024. Rad će uključivati ​​pregled literature, mapu problema i niz kratkih studija slučaja u zemljama. Nadamo se da će ovaj rad doprinijeti pokretanju diskusija među kreatorima politike, liderima u industriji i istraživačima dok razvijaju mape puta ka iskorištavanju potencijala AI za poboljšanje nauke i istraživanja.

WorldFAIR

AI za nauku: Uvidi iz Azije i Pacifika 

Početkom oktobra, ISC centar za naučnu budućnost označio je ključni trenutak u svojoj najnovijoj inicijativi o veštačkoj inteligenciji (AI) za nauku, jer se 14 cenjenih delegata i stručnjaka iz 12 zemalja, uglavnom iz Azijsko-pacifičkog regiona, okupilo na blagovremenom sastanku u Kuala Lumpur, Malezija uz podršku Australijske akademije nauka. ➡️Read more

AI mijenja nauku – kako? Ko treba da smeta?

Kritički pogled na uticaj veštačke inteligencije (AI) na nauku iz različitih perspektiva i aktera – od javnih finansijera do privatnih visokotehnoloških institucija – otkriva zajedničku zabrinutost zbog nedostatka transparentnosti i saradnje u stvaranju pristupa koji je više usmeren na čoveka koji bi ispuniti obećanje nauke kao globalnog javnog dobra. ➡️Read more


AI Feedback

Ime
pol
Zaštita podataka: Ispitanici bi trebali biti svjesni da će ISC zadržati informacije dostavljene za vrijeme trajanja inicijative (vidi: https://council.science/privacy-policy)
Pozivamo vas da se pretplatite na ISC Newsletter.

Slika: adamichi na iStocku