Il-gwida tal-ISC toffri qafas komprensiv iddisinjat biex jonqos id-distakk bejn prinċipji ta' livell għoli u politika prattika u azzjonabbli. Tirrispondi għall-ħtieġa urġenti għal fehim komuni kemm tal-opportunitajiet kif ukoll tar-riskji ppreżentati mit-teknoloġiji emerġenti. Dan huwa dokument essenzjali għal dawk li jaħdmu fir-rabta tal-politika fl-era diġitali tagħna li qed tinbidel malajr.
Il-qafas jesplora l-potenzjal tal-IA u d-derivattivi tagħha permezz ta’ lenti komprensiva, li jinkludi l-benessri tal-bniedem u tas-soċjetà flimkien ma’ fatturi esterni bħall-ekonomija, il-politika, l-ambjent u s-sigurtà. Xi aspetti tal-lista ta' kontroll jistgħu jkunu aktar rilevanti minn oħrajn, skont il-kuntest, iżda deċiżjonijiet aħjar jidhru aktar probabbli jekk jiġu kkunsidrati l-oqsma kollha, anke jekk xi wħud jistgħu jiġu identifikati malajr bħala irrilevanti f'każijiet partikolari. Dan huwa l-valur inerenti ta' approċċ ta' lista ta' kontroll.
“F'era mmarkata minn innovazzjoni teknoloġika mgħaġġla u sfidi globali kumplessi, il-qafas tal-ISC għal analiżi komprensiva u multidimensjonali tal-impatti potenzjali jagħti s-setgħa lill-mexxejja biex jieħdu deċiżjonijiet infurmati u responsabbli. Jiżgura li hekk kif navvanzaw teknoloġikament, nagħmlu dan b’konsiderazzjoni bir-reqqa tal-implikazzjonijiet etiċi, soċjali u ekonomiċi”.
Peter Gluckman, President tal-ISC
Filwaqt li prinċipji ta’ livell għoli ġew ippromulgati mill-UNESCO, l-OECD, il-Kummissjoni Ewropea u n-NU, fost l-oħrajn, u għaddejjin diversi diskussjonijiet dwar kwistjonijiet ta’ governanza, regolamentazzjoni, etika u sikurezza potenzjali, hemm distakk kbir bejn prinċipji bħal dawn u governanza jew qafas regolatorju. L-ISC jindirizza din il-ħtieġa permezz tal-gwida l-ġdida tiegħu għal dawk li jfasslu l-politika.
Din il-gwida għal dawk li jfasslu l-politika mhijiex maħsuba biex tipproskrivi reġim regolatorju, iżda pjuttost biex tissuġġerixxi qafas analitiku adattiv u li qed jevolvi li jista’ jirfed kwalunkwe valutazzjoni u proċessi regolatorji li jistgħu jiġu żviluppati mill-partijiet interessati, inklużi l-gvernijiet u s-sistema multilaterali.
"Il-qafas huwa pass kritiku fil-konversazzjoni globali dwar l-AI peress li jipprovdi bażi li minnha nistgħu nibnu kunsens dwar l-implikazzjonijiet tat-teknoloġija kemm għal issa kif ukoll għall-futur".
Hema Sridhar, Eks Konsulent Xjentifiku Ewlieni, Ministeru tad-Difiża, New Zealand u issa Riċerkatur Anzjan Fellow, Università ta' Auckland, New Zealand.
Minn Ottubru 2023, kien hemm bosta inizjattivi nazzjonali u multilaterali sinifikanti b'konsiderazzjoni ulterjuri tal-etika u s-sikurezza tal-IA. L-implikazzjonijiet tal-IA fuq l-integrità ta’ xi wħud mis-sistemi kritiċi tagħna, inklużi dawk finanzjarji, governattivi, legali u edukattivi, kif ukoll sistemi ta’ għarfien differenti (inkluż għarfien xjentifiku u indiġenu), huma ta’ tħassib dejjem akbar. Il-qafas jirrifletti aktar dawn l-aspetti.
Ir-rispons riċevut mill-Membri tal-ISC u l-komunità internazzjonali tat-tfassil tal-politika s'issa huwa rifless fil-verżjoni riveduta tal-qafas analitiku, li issa hija rilaxxata bħala gwida għal dawk li jfasslu l-politika.
Gwida għal dawk li jfasslu l-politika: Evalwazzjoni ta' teknoloġiji li qed jiżviluppaw b'rata mgħaġġla inklużi l-AI, mudelli kbar ta' lingwa u lil hinn
Dan id-dokument ta’ diskussjoni jipprovdi l-qosor ta’ qafas inizjali biex jinforma d-diskussjonijiet multipli globali u nazzjonali li qed iseħħu relatati mal-IA.
Niżżel il-qafas għall-użu fl-organizzazzjoni tiegħek
Hawnhekk nipprovdu l-għodda tal-qafas bħala folja Excel editjabbli għall-użu fl-organizzazzjoni tiegħek. Jekk tippreferi format open source, jekk jogħġbok ikkuntattja [protett bl-email].
introduzzjoni
Teknoloġiji emerġenti malajr jippreżentaw kwistjonijiet ta’ sfida fejn jidħlu l-użu, il-governanza u r-regolamentazzjoni potenzjali tagħhom. Il-politika u d-dibattiti pubbliċi li għaddejjin dwar l-intelliġenza artifiċjali (AI) u l-użu tagħha ġabu dawn il-kwistjonijiet f’fokus akut. Prinċipji wesgħin għall-IA tħabbru mill-UNESCO, l-OECD, in-NU u oħrajn, inkluża d-Dikjarazzjoni Bletchley tar-Renju Unit, u hemm tentattivi ġurisdizzjonali emerġenti ta’ regolamentazzjoni ta’ aspetti tat-teknoloġija permezz, pereżempju, l-AI tal-Unjoni Ewropea (UE) Att jew l-Ordni Eżekuttiv riċenti tal-AI tal-Istati Uniti.
Filwaqt li l-użu tal-IA huwa diskuss fit-tul f’dawn il-fora u oħrajn, fil-firdiet ġeopolitiċi u fil-pajjiżi fil-livelli kollha tad-dħul, għad hemm vojt ontoloġiku bejn l-iżvilupp ta’ prinċipji ta’ livell għoli u l-inkorporazzjoni tagħhom fil-prattika permezz jew regolatorja, politika, governanza. jew approċċi ta’ amministrazzjoni. It-triq mill-prinċipju għall-prattika hija definita ħażin, iżda minħabba n-natura u l-kadenza tal-iżvilupp u l-applikazzjoni tal-AI, il-varjetà ta 'interess involut u l-firxa ta' applikazzjonijiet possibbli, kwalunkwe approċċ ma jistax ikun ġeneriku jew preskrittiv żżejjed.
Għal dawn ir-raġunijiet, il-komunità xjentifika mhux governattiva tkompli taqdi rwol partikolari. Il-Kunsill Internazzjonali tax-Xjenza (ISC) – bis-sħubija pluralistika tiegħu mix-xjenzi soċjali u naturali – ħareġ dokument ta’ diskussjoni f’Ottubru 2023 li jippreżenta qafas analitiku preliminari li kkunsidra r-riskji, il-benefiċċji, it-theddid u l-opportunitajiet assoċjati mat-teknoloġija diġitali li tiċċaqlaq malajr. Filwaqt li ġiet żviluppata biex tikkunsidra l-AI, hija intrinsikament agnostika tat-teknoloġija u tista 'tiġi applikata għal firxa ta' teknoloġiji emerġenti u ta 'sfrattu, bħall-bijoloġija sintetika u l-quantum. Dak id-dokument ta’ diskussjoni stieden feedback minn akkademiċi u dawk li jfasslu l-politika. Ir-rispons kbir għamilha t-twettiq ta' analiżi bħal din meħtieġa u kien approċċ siewi biex jiġu indirizzati teknoloġiji emerġenti bħall-AI.
L-għan tal-qafas huwa li jipprovdi għodda biex tinforma lill-partijiet interessati kollha – inklużi l-gvernijiet, in-negozjaturi tal-kummerċ, ir-regolaturi, is-soċjetà ċivili u l-industrija – dwar l-evoluzzjoni ta’ dawn it-teknoloġiji biex tgħinhom jifformulaw kif jistgħu jikkunsidraw l-implikazzjonijiet, pożittivi jew negattivi, ta’ it-teknoloġija nnifisha, u aktar speċifikament l-applikazzjoni partikolari tagħha. Dan il-qafas analitiku ġie żviluppat indipendentement mill-interessi tal-gvern u tal-industrija. Huwa massimu pluralistiku fil-perspettivi tiegħu, li jinkludi l-aspetti kollha tat-teknoloġija u l-implikazzjonijiet tagħha bbażati fuq konsultazzjoni u feedback estensivi.
Dan id-dokument ta’ diskussjoni għal dawk li jfasslu l-politika mhuwiex maħsub biex jipprojbixxi reġim regolatorju, iżda pjuttost biex jissuġġerixxi qafas analitiku adattiv u li jevolvi li jista’ jirfed kwalunkwe valutazzjoni u proċessi regolatorji li jistgħu jiġu żviluppati mill-partijiet interessati, inklużi l-gvernijiet u s-sistema multilaterali.
Hekk kif dawk li jieħdu d-deċiżjonijiet globalment u nazzjonali jqisu settings ta’ politika u lievi xierqa biex jibbilanċjaw ir-riskji u l-benefiċċji ta’ teknoloġija ġdida bħall-AI, il-qafas analitiku huwa maħsub bħala għodda kumplimentari biex jiġi żgurat li s-serje sħiħa ta’ implikazzjonijiet potenzjali jkunu riflessi b’mod adegwat.
Sfond: għaliex qafas analitiku?
L-emerġenza mgħaġġla ta 'teknoloġiji bil-kumplessità u l-implikazzjonijiet tal-IA qed imexxi ħafna talbiet ta' benefiċċju kbir. Madankollu, tipprovoka wkoll biżgħat ta' riskji sinifikanti, minn livell individwali għal dak ġeostrateġiku.1 Ħafna mid-diskussjoni sal-lum tqieset f'sens binarju peress li l-fehmiet espressi pubblikament għandhom it-tendenza li jseħħu fit-truf estremi tal-ispettru. L-allegazzjonijiet magħmula favur jew kontra l-AI huma spiss iperboliċi u – minħabba n-natura tat-teknoloġija – diffiċli biex jiġu vvalutati.
Huwa meħtieġ approċċ aktar pragmatiku fejn l-iperbole tiġi sostitwita b'evalwazzjonijiet kalibrati u aktar granulari. It-teknoloġija tal-IA se tkompli tevolvi, u l-istorja turi li prattikament kull teknoloġija għandha użi kemm ta 'benefiċċju kif ukoll ta' ħsara. Il-mistoqsija hija, għalhekk: kif nistgħu niksbu r-riżultati ta 'benefiċċju minn din it-teknoloġija, filwaqt li nnaqqsu r-riskju ta' konsegwenzi ta 'ħsara, li wħud minnhom jistgħu jkunu eżistenzjali fil-kobor?
Il-futur huwa dejjem inċert, iżda hemm biżżejjed vuċijiet kredibbli u esperti rigward l-AI u l-AI ġenerattiva biex jinkoraġġixxu approċċ relattivament prekawzjonarju. Barra minn hekk, approċċ tas-sistemi huwa meħtieġ peress li l-AI hija klassi ta’ teknoloġiji b’użu u applikazzjoni wiesgħa minn diversi tipi ta’ utenti. Dan ifisser li l-kuntest sħiħ irid jiġi kkunsidrat meta jiġu kkunsidrati l-implikazzjonijiet ta’ kwalunkwe użu tal-IA għall-individwi, il-ħajja soċjali, il-ħajja ċivika, il-ħajja tas-soċjetà u fil-kuntest globali.
B'differenza mill-biċċa l-kbira tat-teknoloġiji l-oħra, għal teknoloġiji diġitali u relatati, iż-żmien bejn l-iżvilupp, ir-rilaxx u l-applikazzjoni huwa estremament qasir, immexxi fil-biċċa l-kbira mill-interessi tal-kumpaniji tal-produzzjoni jew l-aġenziji. Min-natura tagħha stess – u peress li hija bbażata fuq is-sinsla diġitali – l-AI se jkollha applikazzjonijiet li huma mifruxa malajr, kif diġà deher bl-iżvilupp ta 'mudelli lingwistiċi kbar. Bħala riżultat, xi proprjetajiet jistgħu jsiru evidenti biss wara r-rilaxx, li jfisser li hemm ir-riskju ta 'konsegwenzi mhux previsti, kemm malevoli kif ukoll benevolenti.
Dimensjonijiet importanti tal-valuri tas-soċjetà, partikolarment f'reġjuni u kulturi differenti, se jinfluwenzaw kif kwalunkwe użu jiġi pperċepit u aċċettat. Barra minn hekk, l-interessi ġeostrateġiċi diġà qed jiddominaw id-diskussjoni, b'interessi sovrani u multilaterali kontinwament jiltaqgħu flimkien u b'hekk imexxu l-kompetizzjoni u d-diviżjoni.
Sal-lum, ħafna mir-regolamentazzjoni ta’ teknoloġija virtwali fil-biċċa l-kbira dehret mil-lenti tal-‘prinċipji’ u l-konformità volontarja, għalkemm mal-Att tal-UE dwar l-IA2 u simili qed naraw bidla għal regolamenti aktar infurzabbli iżda kemmxejn dojoq. L-istabbiliment ta' governanza teknoloġika u/jew sistema regolatorja effettiva globali jew nazzjonali jibqa' ta' sfida u m'hemm l-ebda soluzzjoni ovvja. Se jkunu meħtieġa saffi multipli ta’ teħid ta’ deċiżjonijiet infurmati dwar ir-riskju tul il-katina, mill-inventur sal-produttur, sal-utent, sal-gvern u għas-sistema multilaterali.
Filwaqt li prinċipji ta’ livell għoli ġew ippromulgati mill-UNESCO, l-OECD, il-Kummissjoni Ewropea u n-NU, fost l-oħrajn, u għaddejjin diversi diskussjonijiet ta’ livell għoli dwar kwistjonijiet ta’ governanza, regolamentazzjoni, etika u sikurezza potenzjali, hemm vojt kbir bejn dawn prinċipji u qafas ta’ governanza jew regolatorju. Dan jeħtieġ li jiġi indirizzat.
Bħala punt tat-tluq, l-ISC jikkunsidra li jiżviluppa tassonomija ta' kunsiderazzjonijiet li kwalunkwe żviluppatur, regolatur, konsulent tal-politika, konsumatur jew li jieħu d-deċiżjonijiet jista' jirreferi. Minħabba l-implikazzjonijiet wesgħin ta’ dawn it-teknoloġiji, tassonomija bħal din trid tikkunsidra t-totalità tal-implikazzjonijiet aktar milli qafas iffukat b’mod dejjaq. Il-frammentazzjoni globali qed tiżdied minħabba l-influwenza ta’ interessi ġeostrateġiċi fuq it-teħid ta’ deċiżjonijiet, u minħabba l-urġenza ta’ din it-teknoloġija, huwa essenzjali għal vuċijiet indipendenti u newtrali li jsostnu b’mod persistenti approċċ unifikat u inklużiv.
1) Hindustan Times. 2023. Il-G20 għandu jwaqqaf bord internazzjonali dwar il-bidla teknoloġika.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) L-Att dwar l-Intelliġenza Artifiċjali tal-UE. 2023. https://artificialintelligenceact.eu
L-iżvilupp ta' qafas analitiku
L-ISC hija l-organizzazzjoni mhux governattiva globali primarja li tintegra x-xjenzi naturali u soċjali. Il-firxa globali u dixxiplinarja tagħha tfisser li tinsab f'pożizzjoni tajba biex tiġġenera pariri indipendenti u globalment rilevanti biex tinforma l-għażliet kumplessi li ġejjin, partikolarment peress li l-vuċijiet attwali f'dan l-arena huma fil-biċċa l-kbira mill-industrija jew mill-politika u l-komunitajiet politiċi tas-setgħat teknoloġiċi ewlenin.
Wara perjodu ta’ diskussjoni estensiva, li inkluda l-konsiderazzjoni ta’ proċess ta’ valutazzjoni mhux governattiv, l-ISC ikkonkluda li l-aktar kontribut utli tiegħu jkun li jipproduċi qafas analitiku adattiv li jista’ jintuża bħala l-bażi għad-diskors u t-teħid ta’ deċiżjonijiet minn kulħadd. partijiet interessati, inkluż waqt kwalunkwe proċess ta’ valutazzjoni formali li joħroġ.
Il-qafas analitiku preliminari, li ġie rilaxxat għal diskussjoni u feedback f'Ottubru 2023, ħa l-forma ta' lista ta' kontroll ġenerali mfassla għall-użu kemm mill-istituzzjonijiet governattivi kif ukoll minn dawk mhux governattivi. Il-qafas identifika u esplora l-potenzjal ta’ teknoloġija bħall-AI u d-derivattivi tagħha permezz ta’ lenti wiesgħa li tinkludi l-benessri tal-bniedem u tas-soċjetà, kif ukoll fatturi esterni bħall-ekonomija, il-politika, l-ambjent u s-sigurtà. Xi aspetti tal-lista ta' kontroll jistgħu jkunu aktar rilevanti minn oħrajn, skont il-kuntest, iżda deċiżjonijiet aħjar jidhru aktar probabbli jekk jiġu kkunsidrati l-oqsma kollha, anke jekk xi wħud jistgħu jiġu identifikati malajr bħala irrilevanti f'każijiet partikolari. Dan huwa l-valur inerenti ta' approċċ ta' lista ta' kontroll.
Il-qafas preliminari ġie derivat minn xogħol u ħsieb preċedenti, inkluż ir-rapport tan-Netwerk Internazzjonali għall-Pariri tax-Xjenza tal-Gvern (INGSA) dwar il-benessri diġitali3 u l-Qafas tal-OECD għall-Klassifikazzjoni tas-Sistemi tal-IA,4 biex tippreżenta t-totalità tal-opportunitajiet, ir-riskji u l-impatti potenzjali. tal-AI. Dawn il-prodotti preċedenti kienu aktar ristretti fl-intenzjoni tagħhom minħabba l-ħin u l-kuntest tagħhom; hemm bżonn ta' qafas ġenerali li jippreżenta l-firxa sħiħa ta' kwistjonijiet kemm fuq terminu qasir kif ukoll fit-tul.
Mill-ħruġ tiegħu, id-dokument ta’ diskussjoni rċieva appoġġ sinifikanti minn ħafna esperti u dawk li jfasslu l-politika. Ħafna approvaw speċifikament ir-rakkomandazzjoni biex jiġi żviluppat qafas adattiv li jippermetti konsiderazzjoni deliberata u proattiva tar-riskji u l-implikazzjonijiet tat-teknoloġija, u meta jagħmlu hekk, dejjem iqisu t-totalità tad-dimensjonijiet mill-individwu għas-soċjetà u s-sistemi.
Osservazzjoni ewlenija li saret permezz tar-rispons kienet ir-rikonoxximent li bosta mill-implikazzjonijiet ikkunsidrati fil-qafas huma intrinsikament multidimensjonali u jestendu f'diversi kategoriji. Pereżempju, id-diżinformazzjoni tista' tiġi kkunsidrata kemm mil-lenti individwali kif ukoll dik ġeostrateġika; għalhekk, il-konsegwenzi jkunu wiesgħa.
Ġiet ssuġġerita wkoll l-għażla li jiġu inklużi studji ta' każijiet jew eżemplari biex jiġi ttestjat il-qafas. Dan jista' jintuża biex jiġu żviluppati linji gwida biex jintwera kif jista' jintuża fil-prattika f'kuntesti differenti. Madankollu, din tkun impriża sinifikanti u tista' tillimita kif gruppi differenti jipperċepixxu l-użu ta' dan il-qafas. L-aħjar isir minn dawk li jfasslu l-politika li jaħdmu ma' esperti f'ġurisdizzjonijiet jew kuntesti speċifiċi.
Minn Ottubru 2023, kien hemm bosta inizjattivi nazzjonali u multilaterali sinifikanti b'konsiderazzjoni ulterjuri tal-etika u s-sikurezza tal-IA. L-implikazzjonijiet tal-IA fuq l-integrità ta’ xi wħud mis-sistemi kritiċi tagħna, inklużi dawk finanzjarji, governattivi, legali u edukattivi, kif ukoll sistemi ta’ għarfien differenti (inkluż għarfien xjentifiku u indiġenu), huma ta’ tħassib dejjem akbar. Il-qafas rivedut aktar jirrifletti dawn l-aspetti.
Ir-rispons li wasal sal-lum huwa rifless fil-verżjoni riveduta tal-qafas analitiku, li issa huwa rilaxxat bħala gwida għal dawk li jfasslu l-politika.
Filwaqt li l-qafas huwa ppreżentat fil-kuntest tal-IA u teknoloġiji relatati, huwa immedjatament trasferibbli għall-konsiderazzjonijiet ta 'teknoloġiji oħra emerġenti malajr bħall-bijoloġija kwantistika u sintetika.
3) Gluckman, P. u Allen, K. 2018. Nifhmu l-benesseri fil-kuntest ta’ trasformazzjonijiet diġitali rapidi u assoċjati. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Qafas tal-OECD għall-Klassifikazzjoni tas-sistemi tal-IA. Dokumenti tal-OECD dwar l-Ekonomija Diġitali, Nru 323,#. Pariġi, Pubblikazzjoni OECD.
https://oecd.ai/en/classificatio
Il-Qafas
It-tabella li ġejja tippreżenta d-dimensjonijiet ta 'qafas analitiku putattiv. Eżempji huma pprovduti biex juru għaliex kull dominju jista 'jkun importanti; fil-kuntest, il-qafas ikun jeħtieġ espansjoni kuntestwali rilevanti. Huwa importanti wkoll li ssir distinzjoni bejn il-kwistjonijiet ġeneriċi li jinqalgħu waqt l-iżviluppi tal-pjattaforma u dawk li jistgħu joħorġu waqt applikazzjonijiet speċifiċi. L-ebda kunsiderazzjoni unika inkluża hawnhekk m'għandha tiġi ttrattata bħala prijorità u, bħala tali, kollha għandhom jiġu eżaminati.
Il-kwistjonijiet huma miġbura ġeneralment fil-kategoriji li ġejjin kif deskritt hawn taħt:
It-tabella tagħti dettalji dwar id-dimensjonijiet li jista' jkun hemm bżonn li jiġu kkunsidrati meta tiġi evalwata teknoloġija ġdida.
– INGSA. 2018. Nifhmu l-benesseri fil-kuntest ta’ trasformazzjonijiet diġitali rapidi u trasformazzjonijiet assoċjati.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
– Deskritturi ġodda (miksuba permezz ta' konsultazzjoni estensiva u feedback u reviżjoni tal-letteratura)
– Il-Qafas tal-OECD għall-Klassifikazzjoni tas-Sistemi tal-IA: għodda għal politiki effettivi tal-IA.
https://oecd.ai/en/classification
| Kriterji | Eżempji ta' kif dan jista' jiġi rifless fl-analiżi |
| Kompetenza AI tal-utenti | Kemm huma kompetenti u konxji tal-proprjetajiet tas-sistema l-utenti probabbli li se jinteraġixxu mas-sistema? Kif se jiġu pprovduti bl-informazzjoni rilevanti għall-utent u l-kawżi? |
| Parti interessata milquta | Min huma l-partijiet interessati primarji li se jiġu affettwati mis-sistema (individwi, komunitajiet, vulnerabbli, ħaddiema settorjali, tfal, dawk li jfasslu l-politika, professjonisti eċċ.)? |
| Optionality | L-utenti jingħataw l-opportunità li jagħżlu barra mis-sistema jew jingħataw opportunitajiet biex jisfidaw jew jikkoreġu l-output? |
| Riskji għad-drittijiet tal-bniedem u l-valuri demokratiċi | Is-sistema għandha impatt fundamentalment fuq id-drittijiet tal-bniedem, inklużi iżda mhux limitati għall-privatezza, il-libertà tal-espressjoni, il-ġustizzja, non-diskriminazzjoni eċċ.? |
| Effetti potenzjali fuq il-benessri tan-nies | L-oqsma tal-impatt tas-sistema huma relatati mal-benessri tal-utent individwali (kwalità tax-xogħol, edukazzjoni, interazzjonijiet soċjali, saħħa mentali, identità, ambjent eċċ.)? |
| Potenzjal għall-ispostament tal-ħaddiema tal-bniedem | Hemm potenzjal għas-sistema li awtomat kompiti jew funzjonijiet li kienu qed jiġu esegwiti mill-bnedmin? Jekk iva, x'inhuma l-konsegwenzi downstream? |
| Potenzjal għall-manipulazzjoni tal-identità, il-valuri jew l-għarfien | Is-sistema hija ddisinjata jew potenzjalment kapaċi timmanipula l-identità tal-utent jew valuri stabbiliti, jew ixerrdu diżinformazzjoni? |
| Opportunitajiet għall-espressjoni personali u l-awto-realizzazzjoni | Hemm potenzjal għal artifiċju u dubju fuqhom? Hemm potenzjal għal falza jew pretensjonijiet ta' kompetenza mhux verifikabbli? |
| Miżuri ta' self-worth | Hemm pressjoni biex titpinġi l-awto idealizzat? L-awtomazzjoni setgħet tissostitwixxi sens tat-twettiq personali? Hemm pressjoni biex tikkompeti mas-sistema fil- post tax-xogħol? Ir-reputazzjoni individwali hija aktar diffiċli biex tipproteġi mid-diżinformazzjoni? |
| privatezza | Hemm responsabbiltajiet mifruxa għas-salvagwardja tal-privatezza u hemm xi suppożizzjonijiet li qed isiru dwar kif tintuża d-data personali? |
| Awtonomija | Tista' s-sistema AI taffettwa l-awtonomija tal-bniedem billi tiġġenera dipendenza żejda minn utenti finali? |
| Żvilupp uman | Hemm impatt fuq l-akkwist ta' ħiliet ewlenin għall-iżvilupp tal-bniedem, bħal funzjonijiet eżekuttivi jew ħiliet interpersonali, jew bidliet fil-ħin tal-attenzjoni li jaffettwaw tagħlim, żvilupp tal-personalità, tħassib dwar is-saħħa mentali eċċ.? |
| Kura tas-saħħa personali | Hemm pretensjonijiet ta 'awtodijanjosi jew soluzzjonijiet personalizzati għall-kura tas-saħħa? Jekk iva, huma validati għal standards regolatorji? |
| saħħa mentali | Hemm riskju ta 'ansjetà akbar, solitudni jew kwistjonijiet oħra ta' saħħa mentali, jew tista' t-teknoloġija ttejjeb impatti bħal dawn? |
| Evoluzzjoni umana | Jistgħu mudelli kbar tal-lingwa u l-intelliġenza ġenerali artifiċjali jibdlu l- kors tal-evoluzzjoni tal-bniedem? |
| Interazzjoni bejn il-bniedem u l-magna | Jista' l-użu jwassal għal de-skilling u dipendenza maż-żmien għall-individwi? Are hemm impatti fuq l-interazzjoni tal-bniedem? |
| Kriterji | Eżempji ta' kif dan jista' jiġi rifless fl-analiżi |
| Valuri tas-soċjetà | Is-sistema tbiddel b'mod fundamentali n-natura tas-soċjetà, tippermetti n-normalizzazzjoni ta' ideat li qabel kienu kkunsidrati bħala antisoċjali, jew tikser il-valuri tas-soċjetà tal-kultura li fiha qed tiġi applikata? |
| Interazzjonijiet soċjali | Hemm effett fuq kuntatt uman sinifikanti, inklużi relazzjonijiet emozzjonali? |
| Saħħa tal-popolazzjoni | Hemm potenzjal li s-sistema tavvanza jew timmina l-intenzjonijiet tas-saħħa tal-popolazzjoni? |
| Espressjoni kulturali | Żieda fl-approprjazzjoni kulturali jew diskriminazzjoni hija probabbli jew aktar diffiċli biex tiġi indirizzata? Id-dipendenza fuq is-sistema għat-teħid tad-deċiżjonijiet teskludi jew temarġina r-rabtiet sezzjonali kulturalment rilevanti tas-soċjetà? |
| Edukazzjoni pubblika | Hemm effett fuq ir-rwoli tal-għalliema jew l-istituzzjonijiet edukattivi? Is-sistema tenfasizza jew tnaqqas il-firda diġitali u l-inugwaljanza fost l-istudenti? Il-valur intrinsiku tal-għarfien jew il-fehim kritiku huwa avvanzat jew imminat? |
| Realtajiet mgħawġa | Il-metodi użati biex jintgħaraf dak li hu veru għadhom applikabbli? Il-perċezzjoni tar-realtà hija kompromessa? |
| Kriterji | Eżempji ta' kif dan jista' jiġi rifless fl-analiżi |
| Settur industrijali | F'liema settur industrijali hija skjerata s-sistema (finanzi, agrikoltura, kura tas-saħħa, edukazzjoni, difiża eċċ.)? |
| Mudell ta 'negozju | F'liema funzjoni tan-negozju hija impjegata s-sistema u f'liema kapaċità? Fejn tintuża s-sistema (privata, pubblika, mingħajr skop ta' qligħ)? |
| Impatti fuq attivitajiet kritiċi | Tfixkil tal-funzjoni jew attività tas-sistema jaffettwa servizzi essenzjali jew infrastrutturi kritiċi? |
| Wisa' tal-iskjerament | Kif tiġi skjerata s-sistema (użu dejjaq fi ħdan l-unità vs. mifrux fuq livell nazzjonali/internazzjonali)? |
| Maturità teknika | Kemm hi teknikament matura s-sistema? |
| Interoperabbiltà | X'aktarx li jkun hemm silos, nazzjonalment jew globalment, li jinibixxu l-kummerċ ħieles u jkollhom impatt fuq il-kooperazzjoni mal-imsieħba? |
| Is-sovranità teknoloġika | Ix-xewqa għal sovranità teknoloġika qed tmexxi mġiba, inkluż il-kontroll fuq il-katina kollha tal-provvista tal-IA? |
| Ridistribuzzjoni tad-dħul u lievi fiskali nazzjonali | Jistgħu jiġu kompromessi r-rwoli ewlenin tal-istat sovran (eż., banek ta' riżerva)? Il-kapaċità tal-istat li jilħaq l-aspettattivi u l-implikazzjonijiet taċ-ċittadini (soċjali, ekonomiċi, politiċi eċċ.) se tkun avvanzata jew imnaqqsa? |
| Id-distakk diġitali (id-distakk tal-IA) | L-inugwaljanzi diġitali eżistenti huma aggravati jew jinħolqu oħrajn ġodda? |
| Kriterji | Eżempji ta' kif dan jista' jiġi rifless fl-analiżi |
| Governanza u servizz pubbliku | Jistgħu l-mekkaniżmi ta' governanza u s-sistema ta' governanza globali jiġu affettwati b'mod pożittiv jew negattiv? |
| Aħbarijiet tal-midja | Huwa probabbli li d-diskors pubbliku jsir polarizzat u msaħħaħ fil-livell tal-popolazzjoni? Se jkun hemm effett fuq il-livelli ta’ fiduċja fir-Raba’ Estate? L-etika u l-istandards ta’ integrità tal-ġurnalisti konvenzjonali se jiġu affettwati aktar? |
| Stat tad-dritt | Se jkun hemm effett fuq il-kapaċità li jiġu identifikati individwi jew organizzazzjonijiet li jżommu responsabbli (eż., x'tip ta' responsabbiltà tiġi assenjata lil algoritmu għal riżultati negattivi)? Hemm telf ta’ sovranità maħluqa (politika ambjentali, fiskali, soċjali, etika eċċ.)? |
| Politika u koeżjoni soċjali | Hemm possibbiltà ta' fehmiet politiċi aktar sodi u inqas opportunità għall-bini ta' kunsens? Hemm il-possibbiltà ta' aktar emarġinazzjoni tal-gruppi? Huma stili ta' politika kontradittorji magħmula aktar jew inqas probabbli? |
| Liċenzja soċjali | Hemm tħassib dwar il-privatezza, kwistjonijiet ta' fiduċja u tħassib morali li jeħtieġ li jiġu kkunsidrati għall-aċċettazzjoni tal-użu mill-partijiet interessati? |
| Għarfien indiġenu | L-għarfien u d-dejta Indiġeni jistgħu jiġu korrotti jew misapproprjati? Hemm miżuri adegwati biex jipproteġu kontra r-rappreżentazzjoni ħażina, l-informazzjoni ħażina u l-isfruttament? |
| Sistema xjentifika | L-integrità akkademika u tar-riċerka hija kompromessa? Hemm telf ta’ fiduċja fix-xjenza? Hemm possibbiltajiet ta' użu ħażin, użu żejjed jew abbuż? X'inhi l-konsegwenza tal-prattika tax-xjenza? |
| Kriterji | Eżempji ta' kif dan jista' jiġi rifless fl-analiżi |
| Sorveljanza ta' preċiżjoni | Is-sistemi huma mħarrġa fuq data tal-imġieba u bijoloġika individwali u jistgħu jintużaw biex jisfruttaw individwi jew gruppi? |
| Kompetizzjoni diġitali | Jistgħu atturi statali jew mhux statali (eż. kumpaniji kbar tat-teknoloġija) jisfruttaw sistemi u data biex jifhmu u jikkontrollaw il-popolazzjonijiet u l-ekosistemi ta' pajjiżi oħra, jew jimminaw il-kontroll ġurisdizzjonali? |
| Kompetizzjoni ġeopolitika | Tista' s-sistema tqanqal il-kompetizzjoni bejn in-nazzjonijiet fuq l-użu tad-dejta individwali u tal-grupp għall-interessi ekonomiċi, mediċi u tas-sigurtà? |
| Bidla fis-setgħat globali | L-istatus tal-istati nazzjon bħala l-atturi ġeopolitiċi primarji tad-dinja huwa mhedded? Il-kumpaniji tat-teknoloġija jeżerċitaw il-poter darba riżervat għall-istati-nazzjon u saru atturi indipendenti u sovrani (ordni dinjija teknopolari emerġenti)? |
| Disinformazzjoni | Is-sistema tiffaċilita l-produzzjoni u t-tixrid ta' diżinformazzjoni minn atturi statali u mhux statali b'impatt fuq il-koeżjoni soċjali, il-fiduċja u d-demokrazija? |
| Applikazzjonijiet b'użu doppju | Hemm possibbiltà kemm għall-applikazzjoni militari kif ukoll għall-użu ċivili? |
| Frammentazzjoni tal-ordni globali | Jistgħu silos jew gruppi ta' regolamentazzjoni u konformità jiżviluppaw li jfixklu l-kooperazzjoni, iwasslu għal inkonsistenzi fl-applikazzjoni u joħolqu lok għal kunflitt? |
| Kriterji | Eżempji ta' kif dan jista' jiġi rifless fl-analiżi |
| Konsum ta' enerġija u riżorsi (marka tal-karbonju) | Is-sistema u r-rekwiżiti jżidu l-użu tal-konsum tal-enerġija u r-riżorsi minbarra l-kisbiet fl-effiċjenza miksuba permezz tal-applikazzjoni? |
| Sors ta 'enerġija | Minn fejn tinkiseb l-enerġija għas-sistema (fjuwils rinnovabbli vs. fossili eċċ.)? |
| Kriterji | Eżempji ta' kif dan jista' jiġi rifless fl-analiżi |
| Direzzjoni u ġbir | Id-dejta u l-input jinġabru mill-bnedmin, minn sensuri awtomatizzati jew mit-tnejn? |
| Provenjenza tad-data | Id-dejta u l-input mill-esperti huma pprovduti, osservati, sintetiċi jew derivati? Hemm protezzjoni tal-marki tal-ilma biex tikkonferma l-provenjenza? |
| Natura dinamika tad-data | Id-dejta hija dinamika, statika, dinamika aġġornata minn żmien għal żmien jew f'ħin reali? |
| Drittijiet | Id-dejta hija proprjetarja, pubblika jew personali (relatata ma' individwi identifikabbli)? |
| Identifikabbiltà u dejta personali | Jekk personali, id-dejta hija anonimizzata jew psewdonimizzata? |
| Struttura tad-data | Id-dejta hija strutturata, semi-strutturata, strutturata kumplessa jew mhux strutturata? |
| Format tad-data | Il-format tad-dejta u l-metadejta huwa standardizzat jew mhux standardizzat? |
| Skala tad-data | X'inhi l-iskala tad-dataset? |
| L-adegwatezza u l-kwalità tad-data | Is-sett tad-dejta huwa tajjeb għall-iskop? Id-daqs tal-kampjun huwa adegwat? Huwa rappreżentattiv u komplut biżżejjed? Kemm hi storbjuża d-dejta? Huwa suxxettibbli għall-iżbalji? |
| Kriterji | Eżempji ta' kif dan jista' jiġi rifless fl-analiżi |
| Disponibbiltà ta' informazzjoni | Hemm xi informazzjoni disponibbli dwar il-mudell tas-sistema? |
| Tip ta' mudell AI | Il-mudell huwa simboliku (regoli ġġenerati mill-bniedem), statistiku (juża data) jew ibridu? |
| Drittijiet assoċjati mal-mudell | Il-mudell huwa mmexxi minn sors miftuħ jew proprjetarju, minnu nnifsu jew minn parti terza? |
| Mudell wieħed minn mudelli multipli | Is-sistema hija magħmula minn mudell wieħed jew diversi mudelli interkonnessi? |
| Ġenerattiv jew diskriminattiv | Il-mudell huwa ġenerattiv, diskriminattiv jew it-tnejn? |
| Mudell tal-bini | Is-sistema titgħallem ibbażata fuq regoli miktuba mill-bniedem, mid-dejta, permezz ta’ tagħlim sorveljat jew permezz ta’ tagħlim ta’ rinfurzar? |
| Evoluzzjoni tal-mudell (drift AI) | Il-mudell jevolvi u/jew jakkwista kapaċitajiet mill-interazzjoni mad-dejta fil-qasam? |
| Tagħlim federat jew ċentrali | Il-mudell huwa mħarreġ ċentralment jew f'diversi servers lokali jew apparati 'tarf'? |
| Żvilupp/manutenzjoni | Il-mudell huwa universali, customizable jew imfassal apposta għad-dejta tal-attur tal-IA? |
| Deterministiku jew probabilistiku | Il-mudell huwa użat b'mod deterministiku jew probabilistiku? |
| Mudell ta' trasparenza | L-informazzjoni hija disponibbli għall-utenti biex tippermettilhom jifhmu l-outputs u l-limitazzjonijiet tal-mudell jew jużaw ir-restrizzjonijiet? |
| Limitazzjoni komputazzjonali | Hemm limitazzjonijiet komputazzjonali għas-sistema? Huwa possibbli li wieħed ibassar il-qbiż tal-kapaċità jew l-iskala tal-liġijiet? |
| Kriterji | Eżempji ta' kif dan jista' jiġi rifless fl-analiżi |
| Xogħol(i) imwettaq(i) mis-sistema | X'kompiti twettaq is-sistema (rikonoxximent, skoperta ta' avvenimenti, tbassir eċċ.)? |
| Jikkombinaw ħidmiet u azzjonijiet | Is-sistema tgħaqqad diversi kompiti u azzjonijiet (sistemi ta' ġenerazzjoni ta' kontenut, sistemi awtonomi, sistemi ta' kontroll eċċ.)? |
| Livell ta' awtonomija tas-sistema | Kemm huma awtonomi l-azzjonijiet tas-sistema u x'rwol għandhom il-bnedmin? |
| Grad ta' involviment uman | Hemm xi involviment uman biex tissorvelja l-attività ġenerali tas-sistema AI u l-abbiltà li tiddeċiedi meta u kif tuża s-sistema AI fi kwalunkwe sitwazzjoni? |
| Applikazzjoni ewlenija | Is-sistema tappartjeni għal qasam ta' applikazzjoni ċentrali bħal teknoloġiji tal-lingwa umana, viżjoni bil-kompjuter, awtomazzjoni u/jew ottimizzazzjoni jew robotika? |
| Evalwazzjoni | Huma disponibbli standards jew metodi għall-evalwazzjoni tal-output tas-sistema? |
Kif jista' jintuża dan il-qafas?
Dan il-qafas jista' jintuża f'ħafna modi, inklużi:
Mod 'il quddiem
Fil-qosor, il-qafas analitiku huwa pprovdut bħala l-bażi ta’ sett ta’ għodod li jista’ jintuża mill-partijiet interessati biex iħarsu b’mod komprensiv lejn kwalunkwe żvilupp sinifikanti jew ta’ pjattaformi jew ta’ użu b’mod konsistenti u sistematiku. Id-dimensjonijiet ippreżentati f'dan il-qafas għandhom rilevanza mill-valutazzjoni tat-teknoloġija għall-politika pubblika, mill-iżvilupp tal-bniedem sas-soċjoloġija, u studji dwar il-futur u t-teknoloġija. Filwaqt li żviluppat għall-IA, dan il-qafas analitiku għandu applikazzjoni ħafna usa 'għal kwalunkwe teknoloġija emerġenti oħra.
Ringrazzjamenti
Ħafna nies ġew ikkonsultati u taw feedback fl-iżvilupp kemm tad-dokument ta' diskussjoni inizjali kif ukoll feedback wara r-rilaxx tiegħu. Iż-żewġ dokumenti ġew abbozzati minn Sir Peter Gluckman, President, l-ISC u Hema Sridhar, eks Konsulent Xjentifiku Ewlieni, Ministeru tad-Difiża, New Zealand u issa Riċerkatur Anzjan Fellow, Università ta' Auckland, New Zealand.
B'mod partikolari, l-ISC Lord Martin Rees, eks President tar-Royal Society u Ko-Fundatur taċ-Ċentru għall-Istudju ta 'Riskji Eżistenzjali, Università ta' Cambridge; Professur Shivaji Sondhi, Professur tal-Fiżika, Università ta' Oxford; Il-Professur K Vijay Raghavan, eks Konsulent Xjentifiku Prinċipali tal-Gvern tal-Indja; Amandeep Singh Gill, il-Mibgħut tas-Segretarju Ġenerali tan-NU dwar it-Teknoloġija; Seán Ó hÉigeartaigh, Direttur Eżekuttiv, Ċentru għall-Istudju tar-Riskji Eżistenzjali, Università ta' Cambridge; Sir David Spiegelhalter, Winton Professur tal-Fehim Pubbliku tar-Riskju, Università
ta' Cambridge; Amanda-June Brawner, Konsulent Anzjan għall-Politika u Ian Wiggins, Direttur tal-Affarijiet Internazzjonali, Royal Society, ir-Renju Unit; Dr Jerome Duberry, Direttur Maniġerjali u Dr Marie-Laure Salles, Direttur, Istitut tal-Gradwati ta’ Ġinevra; Chor Pharn Lee, Center for Strategic Futures, Uffiċċju tal-Prim Ministru, Singapor; Barend Mons u Dr Simon Hodson, il-Kumitat tad-Dejta (CoDATA); Il-Professur Yuko Harayama, Eks-Direttur Eżekuttiv, RIKEN; Professur
Rémi Quirion, President, INGSA; Dr Claire Craig, Università ta’ Oxford u Eks Kap tal-Foresight, Uffiċċju tax-Xjenza tal-Gvern; Prof Yoshua Bengio, Bord Konsultattiv Xjentifiku tas-Segretarju Ġenerali tan-NU u fl-Université de Montréal; u l-ħafna oħrajn li pprovdew feedback lill-ISC dwar id-dokument ta’ diskussjoni inizjali.
Tħejjija ta' Ekosistemi ta' Riċerka Nazzjonali għall-IA: Strateġiji u progress fl-2024
Dan id-dokument ta' ħidma mill-think tank tal-ISC, iċ-Ċentru għall-Futur tax-Xjenza, jipprovdi informazzjoni fundamentali u aċċess għal riżorsi minn pajjiżi mill-partijiet kollha tad-dinja, f'diversi stadji tal-integrazzjoni tal-AI fl-ekosistemi tar-riċerka tagħhom.
Il-bini ta' sistemi xjentifiċi lesti għall-futur fin-Nofsinhar tad-Dinja
It-teknoloġiji emerġenti qed ifasslu mill-ġdid il-mod kif titwettaq ix-xjenza u joffru potenzjal sinifikanti biex isaħħu s-sistemi tax-xjenza fin-Nofsinhar Globali – jekk l-adozzjoni tagħhom tkun iggwidata minn approċċi inklużivi, appoġġjati sew u sensittivi għall-kuntest. Kif jiġi żgurat li dawn it-teknoloġiji jikkontribwixxu għal sistemi tax-xjenza aktar ekwi u reżiljenti, aktar milli jsaħħu d-disparitajiet eżistenti, kien il-fokus ċentrali ta’ dan l-irtir strateġiku reċenti.
Aqra aktar dwar id-divulgazzjoni tal-IA fir-riċerka: lejn standard ta' rappurtar globali 
Aqra aktar dwar Lejn l-ugwaljanza bejn is-sessi f'organizzazzjonijiet xjentifiċi: valutazzjoni u rakkomandazzjonijiet 
Aqra aktar dwar id-Djalogu dwar l-Għarfien Globali ta' Muscat 