PVO ir izdevusi jaunus norādījumus par lielu multimodālu modeļu (LMM) ētiku un pārvaldību, lai tos atbilstoši izmantotu, lai veicinātu un aizsargātu iedzīvotāju veselību. LMM ir strauji augoša ģeneratīva veids mākslīgais intelekts (AI) tehnoloģija, kurai ir pieci plaši pielietojumi veselībai in
1. Diagnostika un klīniskā aprūpe, piemēram, atbildēšana uz pacientu rakstiskiem jautājumiem;
2. Pacienta vadīta lietošana, piemēram, simptomu izmeklēšanai un ārstēšanai;
3. lietvedības un administratīvie uzdevumi, piemēram, pacientu apmeklējumu dokumentēšana un apkopošana elektroniskajās veselības kartēs;
4. Medicīniskā un māsu izglītība, tostarp apmācāmo nodrošināšana ar imitētu pacientu tikšanos, un;
5. Zinātniskā izpēte un zāļu izstrāde, tostarp jaunu savienojumu noteikšanai.
Tomēr šīs lietojumprogrammas veselības aprūpē var radīt nepatiesus, neprecīzus, neobjektīvus vai nepilnīgus apgalvojumus, kas var kaitēt cilvēkiem, kuri izmanto šādu informāciju, pieņemot lēmumus par veselību. Turklāt LMM var apmācīt par datiem, kas ir sliktas kvalitātes vai neobjektīvi neatkarīgi no rases, etniskās piederības, senču, dzimuma, dzimuma identitātes vai vecuma. Veselības sistēmām ir arī plašāki riski, piemēram, labāko veiktspējas LMM pieejamība un pieejamība. LMM var arī veicināt veselības aprūpes profesionāļu un pacientu “automatizācijas aizspriedumus”, kā rezultātā tiek ignorētas kļūdas, kas citādi būtu konstatētas, vai sarežģītas izvēles tiek nepareizi deleģētas LMM. LMM, tāpat kā citi veidi AI, ir arī neaizsargāti pret kiberdrošības riskiem, kas var apdraudēt pacientu informāciju vai šo algoritmu uzticamību un veselības aprūpes sniegšanu plašākā nozīmē.
Tāpēc, lai izveidotu drošus un efektīvus LMM, PVO ir sniegusi ieteikumus valdībām un LMM izstrādātājiem.
Valdībām ir galvenā atbildība par standartu noteikšanu LMM izstrādei un ieviešanai, kā arī to integrācijai un izmantošanai sabiedrības veselības un medicīniskos nolūkos. Valdībām būtu jāiegulda vai jānodrošina bezpeļņas vai publiska infrastruktūra, tostarp skaitļošanas jauda un publiskās datu kopas, kas ir pieejamas izstrādātājiem publiskajā, privātajā un bezpeļņas sektorā, kas prasa lietotājiem ievērot ētikas principus un vērtības apmaiņa pret piekļuvi.
· Izmantojiet likumus, politikas un noteikumus, lai nodrošinātu, ka veselības aprūpē un medicīnā tiek izmantoti LMM un lietojumprogrammas neatkarīgi no riska vai ieguvuma, kas saistīts ar AI tehnoloģiju, atbilst ētikas pienākumiem un cilvēktiesību standartiem, kas ietekmē, piemēram, personas cieņu, autonomiju vai privātumu.
· Uzdot esošai vai jaunai regulējošai iestādei izvērtēt un apstiprināt LMM un pieteikumus, kas paredzēti izmantošanai veselības aprūpē vai medicīnā – ja resursi atļauj.
· Ieviest obligātu pēcizdošanas revīziju un ietekmes novērtējumus, tostarp attiecībā uz datu aizsardzību un cilvēktiesībām, ko veic neatkarīgas trešās puses, ja LMM tiek izmantots plašā mērogā. Revīzijas un ietekmes novērtējumi būtu jāpublicē
un tajā jāiekļauj rezultāti un ietekme, kas sadalīta pēc lietotāja veida, tostarp, piemēram, pēc vecuma, rases vai invaliditātes.
· LMM izstrādā ne tikai zinātnieki un inženieri. Potenciālie lietotāji un visas tiešās un netiešās ieinteresētās personas, tostarp medicīnas pakalpojumu sniedzēji, zinātniskie pētnieki, veselības aprūpes speciālisti un pacienti, ir jāiesaista jau agrīnā stadijā. AI attīstība strukturētā, iekļaujošā, pārskatāmā dizainā un dotas iespējas izvirzīt ētikas jautājumus, paust bažas un sniegt ieguldījumu AI izskatāmais pieteikums.
LMM ir izstrādāti, lai veiktu precīzi definētus uzdevumus ar nepieciešamo precizitāti un uzticamību, lai uzlabotu veselības sistēmu kapacitāti un veicinātu pacientu intereses. Izstrādātājiem arī jāspēj paredzēt un izprast iespējamos sekundāros rezultātus.
***
Avots:
PVO 2024. Mākslīgā intelekta ētika un pārvaldība veselībai: norādījumi par lieliem multimodālajiem modeļiem. Pieejams plkst https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
