Etička dilema AI-ja: Možemo li vjerovati strojevima da donose moralne odluke?

Etička dilema umjetne inteligencije: možemo li vjerovati strojevima da donose moralne odluke?

Umjetna inteligencija (AI) je evolvirala tijekom godina, automatizirala dosadne zadatke i revolucionirala industrijama poput zdravstva i financija, te potpuno promijenila naše dnevne rutine. Usred njezine učinkovitosti, brzine i sposobnosti obrade informacija izvan ljudskih mogućnosti, postavlja se pitanje

Može li se AI vjerovati da donosi neoviđene moralne odluke?

Kako AI donosi odluke

AI donosi odluke analizirajući velike količine podataka kroz prepoznavanje uzoraka, statističku analizu i matematičku optimizaciju.

• Analiza predikcije: AI koristi algoritme strojnog učenja (ML) za analizu podataka i učenje uzoraka koje kasnije primjenjuje na nove i neučene podatke kako bi dao predviđanja o budućim trendovima vezanim uz prognozu prodaje i planiranje potražnje. Ovaj uvid omogućuje tvrtkama poput Amazona da bolje upravljaju zalihama, poboljšaju rukovanje proizvodima i osiguraju da imaju dovoljno zaliha kako bi zadovoljili zahtjeve kupaca.
• Obrada prirodnog jezika: NLP je podpolje AI-ja koje omogućuje strojevima da razumiju, interpretiraju i generiraju ljudski jezik. To se može postići sentimentalnom analizom (analiza i identificiranje ugrađenog tona dokumenata), sažimanjem (pregledom dugih dokumenata i skiciranjem konteksta), analizom povratnih informacija kupaca i rješavanjem upita korisnika.
• Otkrivanje i prevencija prijevare: AI funkcionira kao sustav prepoznavanja uzoraka analizirajući velike količine podataka i aktivnosti korisnika te identificira sumnjivo ponašanje i potencijalno prijevarne aktivnosti. To pomaže da se osiguraju plaćanja i spriječe krađe i prijevare uz fishing.

Međutim, problem nastaje kada na AI sustave utječu pristrani podaci. Ako su podaci korišteni za obuku AI-ja nepotpuni ili pristrani, odluke AI-ja će odražavati iste pristranosti. Na primjer, AI sustavi za prepoznavanje lica imali su poteškoće s prepoznavanjem osoba s tamnjom bojom kože jer su podaci za obuku uglavnom činili svjetlije koženosjedi pojedinci što je na kraju moglo imati ozbiljne posljedice poput lažnih uhićenja i nepravednih deportacija.

AI nasuprot ljudskog donošenja odluka

Izazov učenja morala strojevima: primjeri iz stvarnog svijeta

U srcu ovog pitanja leži stvarna razlika između odluka vođenih podacima i moralnih prosudbi. Dok na ljudsku moral utječu kultura, odgoj i emocije, AI se oslanja na podatke i unaprijed programirane smjernice te nedostaje ljudske emocije. Ugrađivanje morala u stroj je posebno težak zadatak jer etičke odluke rijetko spadaju u jasne kategorije.

Problem tramvaja

Tijekom neizbježne prometne nesreće, samovozeći automobil koji je potpuno unaprijed programiran mora odlučiti jesu li spasiti putnika ili pješake, za razliku od ljudskog vozača koji radi potpuno na instinkte. Ova etička dilema poznata i kao Problem tramvaja, postavlja hipotetički problem u kojem se osoba mora odlučiti između dva negativna ishoda. To postavlja neprikladna pitanja o tome kako bi AI trebao biti programiran kako bi se nosio sa situacijama gdje je na kocki życie. Bi li AI trebao uvijek prioritizirati veće dobro, ili bi trebao štititi svog vlasnika iznad svega? Možda tvrtke poput Tesle i Mercedes-Benza moraju programirati AI da donese ove odluke iz stvarnog života, ipak pitanje ostaje bez odgovora — Tko postavlja moralne smjernice za AI? A kada su te smjernice uspostavljene, tko je odgovoran ako nešto pođe po zlu?

AI u odlukama zapošljavanja: Pravedno ili nedostaje?

Budući da se očekuje da AI čini proces zapošljavanja učinkovitijim i pravednije u odnosu na ljude, tvrtke koriste AI alate za regrutovanje za pregleda nastavaka, vođenje intervjua i donošenja odluka o zapošljavanju. Međutim, neki primjeri su pokazali da je ova teorija donekle flava i nije pouzdana u svakom slučaju jer AI uči iz povijesnih podataka koji mogu odražavati pristranosti. Na primjer, internetski div Amazon je izgradio eksperimentalni alat za zapošljavanje koji je trebao rangirati kandidate za posao kako bi identificirao potrebni bazen talenta i odbacio ostatak; automatizacija za veće dobro. Za to je sustav obučen na deset godina podataka. Međutim, zbog 'muške dominacije' i manjeg udjela ženskih kandidata, AI je favorizirao kandidate koji su koristili akcijske glagole poput "izvršio" i "uhvatio" što je u ovom slučaju bilo uglavnom povezano s ženama od inženjera muškog spola. Štoviše, AI je automatski rangirao nastavke niže ako su sadržavali riječ "ženski," kao u "ženski šahovsku kapetanicu" i čak je degradirao kandidate s dva ženskog fakulteta. Ova pristranost je imala uznemirujući utjecaj na ljude i kasnije je odbijena jer je bila 'rodno pristrana'. To dovodi do važnog etičkog problema: Ako je AI obučen na pristrane podatke, može li stvarno donositi pravedne odluke? Kako bi se suočio s ovim, tvrtke se fokusiraju na metode za smanjenje pristranosti, kao što su:

• Raznovrsni podaci za obuku: Pružanje AI-ja sa balansiranijim i reprezentativnijim skupovima podataka.
• Objašnjivi AI (XAI): Izrada modela AI koji mogu objasniti svoje odluke, pomažući tvrtkama da identificiraju i poprave pristranosti.
• Suradnja čovjeka i AI: Korištenje AI-ja kao pomoćnog alata umjesto kao glavnog donositelja odluka pri zapošljavanju.

Međutim, temeljni problem ostaje: Je li moguće da AI bude stvarno neutralan u inherentno pristrano društvu?

Medicinski AI: Donošenje odluka gdje je na kocki život

AI se sve više koristi u bolnicama za prioritizaciju pacijenata, upravljanje resursima i čak predlaganje tretmana. Međutim, primjećeno je da je AI vjerojatno da će prioritizirati mlađe pacijente od starijih, s pretpostavkom da imaju više budućih godina za živu. Pacijenti koji imaju složene medicinske stanje vjerojatno će biti manje prioritizirani od pacijenata s čestim problemima zbog nižih stopa prošlog preživljavanja, što ograničava nove mogućnosti liječenja. Slična pristranost je primjena u algoritmima koji analiziraju zatajivanje srca, operacije srca i vaginalno rađanje nakon carskog reza (VBAC). Ti algoritmi su rezultirali s black pacijenti podvrgavajući se više carskih rezova nego što je potrebno. Predikcija je bila flava, sugerirajući da su manjinske grupe manje vjerojatne da će uspjeti s vaginalnim rađanjem nakon carskog reza u usporedbi s ženama ne-Hispanic bijele boje kože.

Te pristranosti pokazuju da AI odredbe ne moraju biti samo vođene podacima. Umjesto toga, trebale bi uključiti empatiju, pravedno i etiku. To ne znači da bi AI trebao biti napušten; umjesto toga, trebao bi biti integriran s ljudskim nadzorom kako bi se osiguralo učinkovito donošenje odluka.

Kako možemo učiniti AI etičnijim?

Budući da nastavljamo oslanjati se na AI za donošenje odluka, važno je riješiti etička pitanja koja dolaze s njim. Evo nekih načina na koje AI može biti dizajniran kako bi donosio etičnije odluke:

1. Dodavanje etičkih smjernica AI sustavima

Razumijevanje zabrinujućosti AI-ja dok se osigurava da djeluje u najboljem interesu ljudi, bez pristranosti vezane uz kaste, spol ili rasu je prvi korak prema formiranju učinkovitih etičkih smjernica za AI sustave. Jedan od načina da se osigura da AI donese moralne odluke je da se uvede temeljnim vrijednostima transparentnosti i odgovornosti održavajući te smjernice izravno u programiranje AI-ja. To može dodatno smanjiti rizike za okoliš i osigurati raznolikost i uključivost dok se izbjegava pristranost. Na primjer, samovozeći automobil bi mogao biti dizajniran da se fokusira na smanjenje štete svima uključenim, umjesto samo zaštite jedne grupe na racunu druge.

2. Ljudski nadzor

Kako bi se osigurala sigurnost, transparentnost i pravednost AI sustava, potrebno je zadržati ljudski nadzor. U ovom sustavu, AI pomaže pri donošenju odluka, ali ljudi imaju završnu riječ. Budući da čak i napredniji sustavi mogu biti podložni greškama i pristranostima, smislen ljudski nadzor je važan da se smanje pravni i etički rizici. Na primjer, dok AI može predložiti trebao li pacijent dobiti medicinsku proceduravanjenu, konsultiranje liječnika za isto bi moglo biti bolja odluka, razmatrajući ne samo medicinsku povijest pacijenta već i njihove socijalne i emocionalne potrebe.

3. Transparentnost i objašnjivost

Drugi pristup je da se AI odluke čine objašnjivima. Razvoj algoritama koji objašnjavaju logiku iza svake donete odluke može osigurati veću pouzdanost. Na primjer, ako je AI sustav odgovoran za rangiranje kandidata za posao, trebao bi biti u mogućnosti objasniti zašto je određeni kandidat odabran. Ova transparentnost pomaže da se osigura da se AI odluke mogu vjerovati i da budu odgovorne.

4. Obuka AI-ja na raznovrsne i nepristrane podatke

Pravednost AI-ja ovisi o kvaliteti podataka za obuku. Ako su podaci pristrani i iskrivljeni, vjerovatno će odražavati ili pogoršati te pristranosti. Kako bi se izbjeglo ovo, tvrtke trebale bi redovito auditirati svoje podatke kako bi isključile sve diskriminacijske podatke i uzeti povratne informacije od etičara, socijalnih znanstvenika, pravnih stručnjaka, a ne samo inženjera. Dodatno, trebale bi koristiti podatke s raznovrsnim informacijama, koji odražavaju stvarnu populaciju.

Sljedeći video objašnjava na briljantne način kako možemo učiniti AI etičnijim:

Dilema odgovornosti: Tko je odgovoran za greške AI-ja?

Kada AI pogriješi, tko bi trebao biti odgovoran? Je li to:

• Razvojni inženjeri koji su dizajnirali algoritam?
• Tvrtka koja ga je implementirala?
• Sami stroj?

Pravni i etički sivi prostor

AI nema namjere kao što ljude imaju, umjesto toga funkcionira na naredbe. Međutim, kada AI-pogođeni sustavi donese štetnu odluku, određivanje odgovornosti postaje pravni i etički izazov.

Na primjer:

• Ako samovozeći automobil dolazi do nesreće, trebala bi proizvodnja automobila suočiti tužbama, ili bi AI u automobilu trebao biti okrivljen?
• Ako AI sustav za odobravanje kredita nepravednosuspendi kredite za manjinske kandidate, trebala bi tvrtka biti pravno odgovorna?

Trenutni zakoni se muče držati korak s ovim izazovima, čineći AI regulaciju kritičnim pitanjem za budućnost.

Može li AI ikad biti stvarno etičan?

Mnogi istraživači vjeruju da AI može biti dizajniran da slijedi etičke principe, ali koji etički okvir trebao bi koristiti?

1. Utilitarna etika (Najveće dobro za većinu ljudi)

Utilitarianizam je teorija etike koja se fokusira na moralno ispravnu akciju koja proizvodi najviše dobra. AI bi mogao biti programiran kako bi maksimizirao cjelokupnu korist, čak i ako to znači donošenje teških izbora. Na primjer, samovozeći automobil bi mogao imati mogućnost spašavanja ili pet pješaka ili jednog putnika u neizbježnoj nesreći. U slučaju čistog utilitarnog pristupa, mogao bi žrtvovati jednog putnika da spasi pet pješaka, koji su matematički vrijednije. Međutim, ovaj pristup podiže ozbiljne zabrinjavajući. Što bi trebalo biti osnova za odlučivanje o 'većem dobru'? Samo zato što nešto koristi većinu, je li prihvatljivo? Bi li ljude bili okay sa strojevima koji vagaju njihove živote protiv statističke kalkulacije?

2. Deontološka etika (Slijedi pravila, bez iznimki)

Za razliku od utilitarne etike, ovaj pristup bi učinio AI da slijedi stroga pravila bez bilo kakvih izračuna, bez obzira na posljedice. Na primjer, AI pri zapošljavanju bi mogao biti programiran da diskriminira na osnovi spola ili rase, čak i ako prošli podaci sugeriraju da jedan spol bolje odgovara ulozi. Međutim, ovaj pristup kreira krut, jedan-veličina-fit-svi politike, koja možda ne ide za složene probleme iz stvarnog života, poput kako će se suočiti s sukobljenim pravilima? Trebala bi AI bolnica prioritizirati pacijentsku povjerljivost ili izvijestiti o ozbiljnoj zabrinjavajući tijelima vlasti? Iako ovaj pristup osigurava konzistentnost, stvarna morala zahtijeva fleksibilnost što je nešto što AI često bori.

3. Čovjeka Centric AI (Čuvanja čovjeka u petlji)

Čovjeka Centric AI je daleko balanciriji pristup koji uključuje i AI i ljude pri donošenju odluka, umjesto pri dolaženju do individualnih zaključaka. Neki stručnjaci tvrde da AI nikada ne bi trebao donositi konačne moralne odluke. Umjesto toga, trebao bi dati preporuke i osigurati transparentnost o svojim preporukama i kako su dostigle dok ljude zadržavaju završnu riječ. Na primjer, umjesto odlučivanja tko dobija konačni tretman u bolnici, AI može pružiti uvide vođene podacima liječnicima, što bi moglo pomoći pri donošenju moralno ispravljim sudovi. To osigurava da etička odgovornost ostaje s ljudima, a ne sa strojevima. Međutim, kao i kod ostalih pristupa, ovaj pristup ima svoje vlastite skup pitanja- U vremenski ograničenim situacijama koje zahtijevaju neposredne efekte, će li ljudski nadzor usporiti te odluke? Što ako AI preporuke utječu na ljude previše?

Budućnost AI etike: pronalaženje ravnoteže

Budući da AI nastavlja evolvirali, moramo pronaći ravnotežu između inovacije i etičke odgovornosti. Izazov ne leži samo u podučavanju AI-ja da prepozna etičke dileme, već i podučavanju joj dubljih ljudskih kvaliteta poput suosjećanja i empatije. To znači da niti jedan jedinstven okvir, bio je — utilitaran, deontološki, ili čovjeka Centric etike ne može u potpunosti upravljati AI etikom i imaju vlastite skup ograničenja. Najbolji pristup za zaštitu tih etičkih praksi je uključivanje hibridnog modela:

• Utilitarni uvidi kako bi maksimizirao koristi i smanjio štetu.
• Deontološke sigurnosne mjere kako bi se osigurala konzistentnost i naglasila moralne dužnosti, prava i načela koja moraju biti poštovana.
• Ljudski nadzor kako bi se etička odgovornost zadržala tamo gdje joj je mjesto — s nama.

Umjetna inteligencija nije sposobna iskusiti ljudske emocije ili posjedovati osobni moralni kompas; međutim, može biti dizajnirana da slijedi etičke smjernice, pod uvjetom da ljude preuzmu odgovornost za njezin razvoj i nadzor.

Zaključak: trebali bismo vjerovati AI s moralnim izboru?

Iako je potencijal AI-ja neograničen, te etičke dileme ne mogu biti ignorirane. Budući da AI nije u mogućnosti razumjeti ljudske emocije i moralne odgovornosti, njezina uloga pri donošenju odluka trebala bi biti ograničena i konačna odgovornost za donošenje dobro promišljenih odluka trebala bi uvijek odgovarati ljudima.

Dakle, možemo li u potpunosti vjerovati AI da donese moralne izboru? Vjerojatno ne. Ali primjenom robusnih regulacija, usavršavanja podataka za obuku i osiguravanja kontinuiranog ljudskog umješavanja, možemo izgraditi AI koja služi kao moćni pomagač umjesto neoviđenog donositelja odluka.

Koja je vaša perspektiva o etičkoj dilemi AI-ja? trebali bismo vjerovati strojevima s moralnim odlukama, ili bi ljude trebali uvijek imati završnu riječ?

Spreman za izgradnju tima snova vaše tehnologije?

Pogledajte MyNextDeveloper, platformu gdje možete pronaći top 3% softverskih inženjera koji su duboko strašni o inovaciji. Naša dostupna na zahtjev, posvećena i temeljita rješenja softverskog talenta dostupna su kako bi vam pružila potpuno rješenje za sve vaše potrebe softvera.

Posjetite našu stranicu kako bi istražili kako možemo pomoći pri sastavljanju vašeg savršenog tima.