2024. gada 26.–28. novembrī Strasbūrā Eiropas Padomes Mākslīgā intelekta komitejas (CAI) 12. plenārsēdē tika oficiāli pieņemta HUDERIA metodoloģija. Šī metodoloģija nodrošina struktūru mākslīgā intelekta sistēmu ietekmes uz cilvēktiesībām, demokrātiju un tiesiskumu izvērtēšanai.

Mākslīgā intelekta (MI) tehnoloģijas šodien ir kļuvušas par būtisku daļu no mūsu ikdienas dzīves, piedāvājot gan iespējas, gan izaicinājumus. Lai gan šīs tehnoloģijas spēj risināt sarežģītas problēmas, tās vienlaikus rada draudus cilvēktiesībām, demokrātijai un tiesiskumam. Šo risku efektīvai pārvaldībai ir nepieciešama strukturēta un atbildīga pieeja.^[1]

Šo jautājumus risināšanai Eiropas Padomes Mākslīgā intelekta komiteja (CAI) ir izstrādājusi HUDERIA metodoloģiju – cilvēktiesību, demokrātijas un tiesiskuma ietekmes novērtēšanas sistēmu. Šī metodoloģija ir izveidota kā vadlīnijas, kas palīdz publiskām un privātām organizācijām identificēt un novērst MI sistēmu potenciālos riskus.^[2]

HUDERIA mērķi un nozīmīgums

HUDERIA metodoloģijas galvenais mērķis ir piedāvāt rīkus MI sistēmu risku izvērtēšanai un ietekmes pārvaldībai, vienlaikus veicinot atbildīgu un cilvēktiesībām draudzīgu tehnoloģiju attīstību. Tā ir veidota kā elastīgs ietvars, kas pielāgojams dažādiem tehnoloģiju pielietošanas scenārijiem un normatīvajām prasībām.

Svarīgi ir atzīmēt, ka HUDERIA metodoloģija nav juridiski saistoša, tomēr tā piedāvā nozīmīgu praktisko instrumentu komplektu, ko var izmantot MI sistēmu novērtēšanā dažādās nozarēs. Lai gan metodoloģija nav paredzēta kā interpretācijas palīglīdzeklis Eiropas Padomes konvencijai par mākslīgo intelektu un cilvēktiesībām, demokrātiju un tiesiskumu , konvencijas puses var brīvi izmantot vai pielāgot vadlīnijas, lai izstrādātu jaunas pieejas risku novērtēšanai vai uzlabotu esošās metodes. Tas iespējams, ievērojot savus nacionālos likumus un pilnībā izpildot konvencijā noteiktās saistības, īpaši attiecībā uz risku un ietekmes pārvaldības pamatstandartiem, kas izklāstīti V nodaļā.

HUDERIA: Pieeja un metodoloģija

HUDERIA apvieno vairākas pieejas, lai nodrošinātu visaptverošu MI sistēmu risku un ietekmes novērtēšanu uz cilvēktiesībām, demokrātiju un tiesiskumu.

Sociotehniskā pieeja

HUDERIA pieeja ir sociotehniskā, uzskatot, ka visus MI sistēmu dzīves cikla aspektus ietekmē ne tikai tehnoloģijas, bet arī cilvēku lēmumi un sociālās struktūras. Šāda pieeja veicina MI drošību un uzticamību, vienlaikus nodrošinot cieņu pret cilvēktiesībām, demokrātiju un tiesiskumu.

Vispārējās un konkrētās vadlīnijas

HUDERIA struktūra veidota tādējādi, ka tajā apvienotas vispārējās un konkrētās vadlīnijas, kas ļauj pielāgot praktisko metodoloģijas ieviešanu dažādiem kontekstiem un vajadzībām.

Vispārējā līmenī HUDERIA metodoloģija apraksta augsta līmeņa koncepcijas, procesus un elementus, kuri ir pamatā risku un ietekmes novērtēšanas aktivitātēm mākslīgā intelekta sistēmām, kas var ietekmēt cilvēktiesības, demokrātiju un tiesiskumu. 

Konkrētajā līmenī HUDERIA modelis sniegs atbalsta materiālus un resursus (piemēram, elastīgus rīkus, kas ir saistīti ar dažādiem HUDERIA procesa elementiem, un pielāgojamus ieteikumus), kas var palīdzēt īstenot HUDERIA metodoloģiju. Šie resursi tiek minēti visā tekstā un kalpos par zināšanu bibliotēku, kas var atvieglot risku un ietekmes apsvēršanu, kas saistīta ar cilvēktiesībām, demokrātiju un tiesiskumu, tostarp citās risku pārvaldības pieejās. Jānorada, ka vairāk par HUDERIA Modeli būs zināms 2025. gadā.

Pielāgojamība un elastība

Gan HUDERIA metodoloģija, gan HUDERIA modelis ļauj pielāgoties dažādiem kontekstiem, vajadzībām un iespējām, nosakot mērķus, principus un uzdevumus, vienlaikus atstājot iespēju izvēlēties, kā tos sasniegt, un piedāvājot dažādas politikas un pārvaldības iespējas, kuras var pielāgot konkrētiem apstākļiem.

Pakāpeniska un diferencēta pieeja

HUDERIA mērķis ir izveidot pakāpenisku un diferencētu pieeju, kas ņem vērā risku smagumu un iespējamību, kā arī kontekstuālos faktorus, nodrošinot piemērotus riska un ietekmes novērtēšanas, novēršanas un mazināšanas pasākumus.

Metodoloģijas pamatprincipi

HUDERIA balstās uz četriem galvenajiem posmiem:

1. Kontekstā balstīta riska analīze (COBRA): Šajā posmā tiek identificēti MI sistēmu radītie riski un analizēti to iespējamie sociālie, tehnoloģiskie un juridiskie konteksti.
2. Iesaistīto pušu līdzdalība (SEP):Šajā posmā tiek veicināta sabiedrības iesaiste un viedokļu uzklausīšana, īpaši to personu grupu, kuras potenciāli varētu visvairāk ciest no MI sistēmu lietošanas.
3. Riska un ietekmes novērtējums (RIA):Šī posma mērķis ir padziļināti izvērtēt iepriekš identificētos riskus, ņemot vērā to nopietnību un ietekmes mērogu.
4. Mazinošo pasākumu plāns (MP): Šajā posmā tiek izstrādātas stratēģijas identificēto risku novēršanai vai mazināšanai.

Kontekstā balstīta riska analīze (COBRA)

Pirmais HUDERIA metodoloģijas posms – kontekstā balstīta riska analīze jeb COBRA – ir izstrādāts, lai palīdzētu izprast riskus, kas saistīti ar MI sistēmām. Šī posma mērķis ir apkopot visu nepieciešamo informāciju, lai identificētu, novērtētu un saprastu iespējamo ietekmi uz cilvēktiesībām, demokrātiju un tiesiskumu.

COBRA posms tiek sadalīts četros galvenajos soļos:

1. Iepriekšēja izvērtēšana: Šis solis koncentrējas uz sākotnējo informācijas apkopošanu par MI sistēmas mērķi, tās pielietojuma jomu un datu apstrādi. Tiek analizētas arī sistēmas iespējamās sekas uz dažādām iedzīvotāju grupām.
2. Riska faktoru identificēšana: Šeit tiek detalizēti pārbaudīti faktori, kas saistīti ar sistēmas kontekstu – piemēram, tās darbības joma, tehniskās īpašības un juridiskais regulējums.
3. Potenciālās ietekmes kartēšana: Šajā solī tiek noteikts, kā MI sistēma varētu ietekmēt cilvēktiesības, demokrātiju vai tiesiskumu. Īpaša uzmanība tiek pievērsta iespējai radīt nevienlīdzību vai negatīvi ietekmēt mazaizsargātas grupas.
4. Riska novērtējums un šķirošana: Pēc sākotnējās analīzes tiek veikts izvērtējums, lai noteiktu, cik liela ir risku iespējamība un cik būtiska ir to potenciālā ietekme. Šajā posmā tiek arī apsvērts, vai sistēmas izstrāde vispār ir pamatota.

Šis posms nodrošina, ka MI tehnoloģiju izstrāde tiek rūpīgi izvērtēta, ļaujot jau sākotnēji identificēt iespējamos riskus un to pārvaldības stratēģijas.

Iesaistīto pušu līdzdalības process (SEP)

Otrs HUDERIA posms – iesaistīto pušu līdzdalības process (Stakeholder Engagement Process jeb SEP) – ir paredzēts, lai nodrošinātu caurspīdīgumu un uzticību MI sistēmām. Šī posma būtība ir apkopot dažādu ieinteresēto pušu viedokļus, īpaši to, kurus sistēma varētu visvairāk ietekmēt.

SEP posma darbības ir sadalītas vairākos soļos:

1. Iesaistīto pušu analīze: Tiek identificētas grupas vai indivīdi, kurus sistēma potenciāli varētu ietekmēt. Īpaši tiek uzsvērta vajadzība pievērst uzmanību mazaizsargātām vai marginalizētām grupām.
2. Pozicionēšanas refleksija: Analizē, kā attīstītāju komandas perspektīvas vai sociālā pozīcija varētu ietekmēt viņu spēju izprast sabiedrības vajadzības.
3. Līdzdalības mērķu noteikšana: Tiek izvirzīti skaidri un sasniedzami mērķi, kas nosaka, kāpēc un kā sabiedrības viedokļi tiek iekļauti projektā.
4. Līdzdalības metožu izvēle: Izvēlas piemērotākos līdzekļus, piemēram, publiskas diskusijas, fokusgrupas vai intervijas, lai apkopotu viedokļus.
5. Procesa ieviešana: Beidzot tiek veikti konkrēti soļi sabiedrības līdzdalības nodrošināšanai.

Sabiedrības iesaiste ir būtiska, jo tā palīdz izstrādāt MI sistēmas, kas ir piemērotas reālajām vajadzībām un samazina iespējamos konfliktus vai neuzticību. Līdzdalības procesā iegūtā informācija arī bagātina pārējos HUDERIA posmus.

Riska un ietekmes novērtējums (RIA)

Trešais HUDERIA posms koncentrējas uz padziļinātu MI sistēmu ietekmes izvērtēšanu, kas balstīta uz iepriekšējos posmos identificētajiem riskiem. Šajā posmā tiek analizēta gan ietekmes mērogs un nopietnība, gan tās atgriezeniskuma iespējas.

RIA posma galvenie mērķi ir:

• Izvērtēt risku nopietnību: Šajā posmā tiek analizēta iespējamo negatīvo seku ietekmes pakāpe uz dažādām grupām. Īpaša uzmanība tiek pievērsta tām, kuras varētu ciest visvairāk.
• Izvērtēt ietekmes mērogu: Tiek aprēķināts, cik plaša būs sistēmas ietekme, ņemot vērā, cik cilvēkus tā varētu skart un cik ilgstošas sekas varētu būt.
• Analizēt atgriezeniskumu: Šeit tiek vērtēts, cik viegli būtu novērst radīto ietekmi un vai ir iespējams atjaunot situāciju, kāda bija pirms sistēmas ieviešanas.
• Novērtēt riska varbūtību: Tiek aplūkota iespējamība, ka risks īstenosies, ņemot vērā pieejamos datus un kontekstu.

Šis posms nodrošina, ka tiek prioritizēti risinājumi, kas samazina visnopietnākos un visvairāk izplatītos riskus.

Mazinošo pasākumu plāns (MP)

Pēdējais HUDERIA posms koncentrējas uz konkrētu pasākumu izstrādi, lai novērstu vai mazinātu identificētos riskus. MP izmanto pieeju, kas pazīstama kā "mazinošā hierarhija", un ietver četrus soļus:

1. Izvairīšanās: Izmaiņu veikšana dizaina, attīstības vai ieviešanas procesos, kas saistīti ar mākslīgā intelekta sistēmas ražošanu un lietošanu, vai pašā mākslīgā intelekta sistēmā jau sākotnēji, lai izvairītos no nelabvēlīgas ietekmes. Ir svarīgi atzīmēt, ka izvairīšanās nenozīmē potenciālo negatīvo ietekmju ignorēšanu.
2. Ietekmes mazināšana: Darbību īstenošana dizaina, attīstības vai ieviešanas procesos, kas saistīti ar mākslīgā intelekta sistēmas ražošanu un lietošanu, vai izmaiņu veikšana pašā mākslīgā intelekta sistēmā, lai minimizētu nelabvēlīgo ietekmi.
3. Atjaunošana: Izmaiņu veikšana, lai atjaunotu vai rehabilitētu ietekmētās personas tādā situācijā, kas ir līdzīga vai vismaz līdzvērtīga viņu situācijai pirms nelabvēlīgās ietekmes.
4. Kompensācija: Ja citas metodes nav iespējamas, tiek nodrošināta kompensācija skartajām grupām.

MP posms nodrošina, ka MI sistēmu izstrādātāji un lietotāji veic atbildīgus un pārdomātus soļus, lai samazinātu negatīvo ietekmi uz cilvēktiesībām un sabiedrību kopumā.

Iteratīvā pārskatīšana un tās nozīme MI sistēmas dzīves ciklā

Iteratīvās (vairākkārtējās) pārskatīšanas ieviešana MI sistēmas dzīves ciklā nodrošina efektīvu riska un ietekmes novērtējumu visā tās darbības laikā. Process ir nepārtraukts, piedāvājot iespēju regulāri atjaunināt mazināšanas plānus un identificēt jaunas ietekmes. MI sistēmas ietekme var mainīties izstrādes lēmumu, ārēju izmaiņu vai kontekstuālu faktoru, kas prasa pārskatīšanu, lai nodrošinātu cilvēktiesību un tiesiskuma ievērošanu, dēļ.

Izmaiņas, piemēram, datu dzīves ciklā, sistēmas dizainā, drošības ievainojamībās vai nozīmīgos notikumos, var ietekmēt sistēmas veiktspēju un tās ietekmi uz cilvēkiem. Lēmumi, kas pieņemti jebkurā dzīves cikla posmā, var prasīt pārskatīšanu, īpaši ņemot vērā reālās pasaules faktorus, piemēram, sociālās vai politiskās izmaiņas, kas var ietekmēt MI sistēmas darbību un tās efektivitāti.

Iteratīvās pārskatīšanas procesam jābūt elastīgam, reaģējot uz sistēmas mijiedarbību ar 

Cilvēktiesību un MI regulējuma nākotnes perspektīvas

MI tehnoloģijas attīstās strauji, radot arvien jaunus izaicinājumus cilvēktiesību jomā. Lai gan HUDERIA metodoloģija ir nozīmīgs solis uz priekšu, MI regulēšana prasa pastāvīgu adaptāciju un inovāciju, lai sekotu līdzi tehnoloģiskajām izmaiņām un to ietekmei uz sabiedrību. Svarīga būs:

1. Starptautisko sadarbību stiprināšana. MI tehnoloģiju regulēšana un cilvēktiesību aizsardzība prasa globālu pieeju. Valstu robežas neierobežo MI tehnoloģiju izplatību, tāpēc starptautiskā sadarbība ir būtiska, lai nodrošinātu saskaņotus standartus un prakses. Tas ietver gan tiesību aktus, gan normatīvo regulējumu, kas ir savstarpēji saderīgi un efektīvi visā pasaulē.
2. Papildu instrumentu izstrāde, kas balstās uz HUDERIA. Lai efektīvi reaģētu uz jauniem izaicinājumiem, būs nepieciešama jaunu rīku un metodoloģiju izstrāde, kas paplašina HUDERIA ietvaru. Šie rīki varētu ietvert detalizētus novērtēšanas protokolus, risku mazināšanas stratēģijas un speciālus vadlīnijas dažādiem MI pielietojumiem, piemēram, veselības aprūpē, izglītībā un sabiedriskajā drošībā.
3. Sabiedrības iesaistes un izglītības veicināšana. MI regulējumam ir jāiet roku rokā ar sabiedrības informēšanu un izglītošanu. Sabiedrības iesaiste ir būtiska, lai nodrošinātu, ka MI attīstība atbilst sabiedrības vērtībām un interesēm. Izglītības iniciatīvas palīdzēs cilvēkiem saprast MI tehnoloģiju ietekmi uz viņu tiesībām un sniegs iespējas piedalīties diskusijās un lēmumu pieņemšanā.

Tādējādi HUDERIA metodoloģija ir būtisks instruments atbildīgas un ētiskas MI tehnoloģiju attīstības veicināšanai, kas vienlaikus nodrošina inovācijas un cilvēktiesību, demokrātijas un tiesiskuma aizsardzību. Tās visaptverošā pieeja, elastīgums un praktiskā pielietojamība padara to par nozīmīgu resursu gan politikas veidotājiem, gan tehnoloģiju izstrādātājiem. Turklāt 2025. gadā HUDERIA metodoloģiju papildinās HUDERIA Modelis, kas sniegs papildu atbalsta materiālus, elastīgus rīkus un pielāgojamus ieteikumus, tādējādi vēl vairāk stiprinot tās spēju pielāgoties mainīgajai tehnoloģiju videi.

Atsauces

1. ^{^} Eiropas Padomes Mākslīgā intelekta komiteja (CAI). "Mākslīgā intelekta un cilvēktiesību ietekmes izvērtējums." HUDERIA vadlīnijas, 2024. gads.
2. ^{^} Turinga institūts. "Risku vadības pieejas mākslīgajam intelektam." HUDERIA attīstības dokumentācija, 2023.