Etická dilema AI: Můžeme se na stroje spolehnout při tvorbě morálních rozhodnutí?

Etická dilema AI: Můžeme věřit strojům při rozhodování o morálních otázkách?

Umělá inteligence (AI) se v průběhu let vyvíjela a automatizovala únavné úkoly, což revolucionizovalo odvětví jako zdravotnictví a finance a zcela změnilo naši každodenní rutinu. Uprostřed její účinnosti, rychlosti a schopnosti zpracovávat informace přesahující lidské limity vyvstává otázka

Lze na AI spoléhat při nesupervidovaných morálních rozhodnutích?

Jak AI rozhoduje

AI rozhoduje analýzou velkých množství dat prostřednictvím rozpoznávání vzorů, statistické analýzy a matematické optimalizace.

• Prediktivní analýza: AI používá algoritmy strojového učení (ML) k analýze dat a učení se vzorům, které později aplikuje na nová a neznámá data k prognózování budoucích trendů souvisejících s prognózováním prodeje a plánováním poptávky. Tento přehled umožňuje společnostem jako Amazon lépe spravovat zásoby, zlepšit manipulaci s produkty a zajistit, aby měli dostatek zásob k uspokojení poptávky zákazníků.
• Zpracování přirozeného jazyka: NLP je podoblastí AI, která umožňuje strojům porozumět, interpretovat a vytvářet lidský jazyk. Toho lze dosáhnout analýzou sentimentu (analýzou a identifikací vestavěného tónu dokumentů), shrnutím (prohledáváním dlouhých dokumentů a vymezením kontextu), analýzou zpětné vazby zákazníků a řešením dotazů uživatelů.
• Detekce a prevence podvodů: AI funguje jako systém rozpoznávající vzory analýzou velkých objemů dat a činnosti uživatelů a identifikuje podezřelé chování a potenciálně podvodné aktivity. To pomáhá zabezpečit platby a zabránit krádeží a phishingu.

Problém však vyvstává, když jsou systémy AI ovlivněny zkreslením dat. Pokud jsou data použitá k trénování AI neúplná nebo zkreslená, rozhodnutí AI budou odrážet stejné předsudky. Například bylo zjištěno, že systémy rozpoznávání obličejů AI mají potíže s rozpoznáváním lidí s tmavší barvou pleti, protože tréninková data se skládala převážně z jedinců se světlejší kůží, což může mít vážné následky, jako jsou chybné zatčení a neoprávněné deportace.

AI versus lidské rozhodování

Výzva vyučování morálky strojům: příklady z reálného světa

V jádru tohoto problému leží skutečný rozdíl mezi rozhodnutími na základě dat a morálními úsudky. Zatímco lidská moralita je ovlivněna kulturou, výchovou a emocemi, AI se silně spoléhá na informace a předem naprogramované pokyny a postrádá lidské emoce. Vštěpení morálky stroji je zejména náročný úkol, protože etická rozhodnutí zřídka spadají do jasně definovaných kategorií.

Problém tramvaje

Během neodvratné silniční nehody se musí plně naprogramované autonomní vozidlo rozhodout, zda zachránit cestujícího nebo chodce, na rozdíl od řidiče-člověka, který se řídí čistě instinktem. Toto etické dilema, také známé jako Problém tramvaje, představuje hypotetický problém, ve kterém musí osoba volit mezi dvěma negativními výstupy. To vzbuzuje nepříjemné otázky o tom, jak by měla být AI naprogramována, aby zvládala situace na hranici života a smrti. Měla by AI vždy upřednostňovat větší dobro, nebo by měla chránit svého majitele před všemi ostatními? Možná společnosti jako Tesla a Mercedes-Benz musí naprogramovat AI, aby přijímala tato rozhodnutí v reálném životě, přesto otázka zůstává bez odpovědi — Kdo stanovuje morální pokyny pro AI? A jakmile jsou tyto pokyny stanoveny, kdo nese odpovědnost, když se něco pokazí?

AI v rozhodováních o náboru: spravedlivá nebo chybná?

Protože se od AI očekává, že bude nábor efektivnější a spravedlivější ve srovnání s lidmi, používají společnosti nástroje pro nábor řízené AI k prohledávání CV, vedení pohovorů a rozhodování o náboru. Některé případy však poukázaly na to, že tato teorie je spíše chybná a ne spolehlivá v každém případě, protože se AI učí z historických dat, která mohou odrážet předsudky. Například internetový gigant Amazon vytvořil experimentální náborový nástroj, který měl v pořadí kandidátů na pracovní místa identifikovat požadovaný talentovaný pool a zbytek vyřadit; automatizace pro větší dobro. K tomu byl systém trénován na datech z desítky let. Však kvůli „mužské dominanci" a menšímu podílu kandidátek AI upřednostňovala kandidáty, kteří používali akční slovesa jako „realizoval" a „zachytil", která v tomto případě byla převážně spojována s CV mužských inženýrů. Navíc AI automaticky snížila hodnocení CV, pokud obsahovala slovo „women's," jako v „kapitánka ženského šachového klubu." a dokonce snížila hodnocení kandidátů ze dvou pouze ženských vysokých škol. Toto zkreslení mělo znepokojující dopad na lidi a bylo později zrušeno pro „genderové zaujatost". To vyvolává důležitou etickou otázku: Pokud je AI trénována na zkreslených datech, může opravdu dělat spravedlivá rozhodnutí? K řešení tohoto problému se společnosti zaměřují na metody ke snížení předsudků, například:

• Rozmanitá tréninková data: Poskytování AI vyvážených a reprezentativních datových sad.
• Vysvětlitelná AI (XAI): Vytváření modelů AI, které mohou vysvětlit svá rozhodnutí a pomoct společnostem identifikovat a napravit předsudky.
• Spolupráce člověka a AI: Používání AI jako pomocného nástroje spíše než jako hlavního rozhodovacího subjektu v náboru.

Základní problém však přetrvává: Je možné, aby byla AI opravdu neutrální v přirozeně zkreslené společnosti?

Zdravotnická AI: Rozhodování o otázkách života a smrti

AI se stále více používá v nemocnicích k určování priorit pacientů, správě zdrojů a dokonce k návrhu léčby. Je však poznamenáno, že AI pravděpodobně upřednostní mladší pacienty před staršími s předpokladem, že mají před sebou více let života. Pacienti se složitými zdravotními stavy budou pravděpodobně méně prioritizováni ve srovnání s pacienty s běžnými problémy kvůli nižším historickým míram přežití, což omezuje nové léčebné přístupy. Podobné zkreslení bylo pozorováno v algoritmech analyzujících srdeční selhání, srdeční operace a vaginální porod po operačním řezu (VBAC). Tyto algoritmy měly za následek, že černí pacienti podstupovali více operačních řezů, než bylo nutné. Předpověď byla chybná a naznačovala, že menšiny byly méně pravděpodobně úspěšné s vaginálním porodem po operačním řezu ve srovnání s neispánskými bílými ženami.

Tato zkreslení naznačují, že rozhodnutí založená na AI nemusí být pouze řízena daty. Spíše by měla zahrnovat empatii, spravedlnost a etiku. To neznamená, že by měla být AI opuštěna; spíše by měla být integrována s lidským dohledem, aby se zajistilo efektivní rozhodování.

Jak můžeme udělat AI etičtější?

Jak se nadále spoléháme na AI pro rozhodování, je důležité řešit etické otázky, které s tím souvisejí. Zde je několik způsobů, jak lze AI navrhnout tak, aby dělala etičtější rozhodnutí:

1. Přidání etických pokynů do systémů AI

Pochopení obav AI a zároveň zajištění, že jedná v nejlepším zájmu lidí, bez předsudků souvisejících s kastou, pohlavím nebo rasou, je prvním krokem směrem ke vzniku účinných etických pokynů pro systémy AI. Jedním ze způsobů, jak zajistit, aby AI dělala morální rozhodnutí, je seznámit ji se základními hodnotami transparentnosti a odpovědnosti vštípením těchto pokynů přímo do programování AI. To může dále zmírnit environmentální rizika a zajistit různorodost a inkluzivitu při vyhýbání se předsudkům. Například by autonomní vozidlo mohlo být navrženo tak, aby se zaměřilo na snížení škod pro všechny zúčastněné strany, místo aby chránilo pouze jednu skupinu na úkor druhé.

2. Lidský dohled

Aby se zajistila bezpečnost, transparentnost a spravedlnost systémů AI, je třeba udržet lidský dohled v oběhu. V tomto systému AI pomáhá dělat rozhodnutí, ale slovo má nakonec člověk. Protože i ty nejpropracovanější systémy jsou náchylné k chybám a předsudkům, je smysluplný lidský dohled důležitý k zmírnění právních a etických rizik. Například ačkoliv AI může navrhnout, zda by pacient měl podstoupit lékařský zákrok, konzultace s lékařem pro totéž by mohla být lepším rozhodnutím s ohledem nejen na lékařskou historii pacienta, ale také na jeho sociální a emocionální potřeby.

3. Transparentnost a vysvětlitelnost

Dalším přístupem je učinit rozhodnutí AI vysvětlitelná. Vývoj algoritmů, které vysvětlují důvod každého učiněného rozhodnutí, může zajistit větší spolehlivost. Pokud je například systém AI zodpovědný za řazení kandidátů na pracovní místa, měl by být schopen vysvětlit, proč byl zvolen konkrétní kandidát. Tato transparentnost pomáhá zajistit, aby se na rozhodnutí AI dalo spolíhat a byla brána vědoucího.

4. Trénování AI na rozmanitých a nezkreslených datech

Spravedlnost AI závisí na kvalitě tréninkovacích dat. Pokud jsou data zkreslená a nakloněná, velmi pravděpodobně budou odrážet nebo zhoršovat tato zkreslení. Aby se tomu zabránilo, měly by společnosti pravidelně auditovat svá data, aby vyloučily jakákoli diskriminační data, a přijímat zpětnou vazbu od etiků, sociologů, právních odborníků a nejen inženýrů. Navíc by měly používat data s různorodými informacemi, odrážející skutečnou populaci.

Následující video vysvětluje brilantnním způsobem, jak můžeme udělat AI etičtější:

Dilema odpovědnosti: Kdo nese odpovědnost za chyby AI?

Když AI udělá chybu, kdo by měl nést odpovědnost? Je to:

• Vývojáři, kteří algoritmus navrhli?
• Společnost, která jej nasadila?
• Samotný stroj?

Právní a etická šedá zóna

AI nemá záměry jako lidé, spíše funguje na příkazech. Když však systémy řízené AI učiní škodlivé rozhodnutí, určení odpovědnosti se stává právní a etickou výzvou.

Například:

• Pokud se autonomní vozidlo dostane do havárie, měl by čelit výrobce vozidla procesům nebo měla by být vina přiřazena AI v autě?
• Pokud systém AI pro schválení půjček neprávem zamítne půjčky pro menšiny, měla by společnost nést právní odpovědnost?

Současné zákony zaostávají za těmito výzvami, což činí regulaci AI kritickou otázkou pro budoucnost.

Může být AI kdykoli opravdu etická?

Mnozí výzkumní pracovníci věří, že AI lze navrhnout tak, aby se řídila etickými principy, ale který etický rámec by měla používat?

1. Utilitarismus (Největší dobro pro nejvíce lidí)

Utilitarismus je teorie etiky, která se zaměřuje na morálně správné jednání, které přináší největší dobro. AI by mohla být naprogramována, aby maximalizovala celkový přínos, i když by to znamenalo dělat těžká rozhodnutí. Například autonomní vozidlo by mohlo mít možnost zachránit buď pět chodců, nebo jednoho cestujícího v neodvratné nehodě. V případě čistě utilitaristického přístupu by mohlo obětovat jednoho cestujícího, aby zachránilo pět chodců, kterí jsou matematicky cennnější. Tento přístup však vyvolává vážné obavy. Jaké by mělo být základem rozhodování o „větším dobru"? Jen proto, že něco prospívá většině, je to přijatelné? Byli by lidé ochotni, aby stroje vážily jejich životy proti statistickým výpočtům?

2. Deontologická etika (Dodržujte pravidla, bez výjimek)

V rozporu s utilitaristickou etikou by tento přístup nechal AI dodržovat přísná pravidla bez jakýchkoli kalkulací, bez ohledu na důsledky. Například AI v náboru by mohla být naprogramována, aby diskriminovala na základě pohlaví nebo rasy, i když minulá data naznačují, že jedno pohlaví se lépe hodí na určitou roli. Tento přístup však vytváří rigidní, jednotný přístup pro všechny situace, který nemusí fungovat u složitých problémů v reálném životě, jako je jak se vypořádá s konfliktními pravidly? Měla by nemocniční AI upřednostňovat důvěrnost pacienta nebo hlásit vážný problém orgánům? Ačkoliv tento přístup zajišťuje konzistenci, skutečná moralita vyžaduje flexibilitu, což je něco, s čím si AI často neví rady.

3. Uživatelsky orientovaná AI (Zachování lidí v oběhu)

Uživatelsky orientovaná AI je mnohem vyváženější přístup, který zahrnuje jak AI tak lidi v rozhodování, místo aby jednotlivě dospěli k závěrům. Někteří odborníci argumentují, že AI by měla nikdy dělat konečná morální rozhodnutí. Místo toho by měla poskytovat návrhy a zajistit transparentnost svých doporučení a způsobu, jakým byla dosažena, zatímco lidé si podržují poslední slovo. Například místo rozhodování o tom, kdo dostane poslední léčbu v nemocnici, může AI poskytnout data-driven insights lékařům, což by jim mohlo pomoci dosáhnout morálně správného posouzení. To zajišťuje, aby etická odpovědnost zůstala u lidí, ne u strojů. Nicméně, stejně jako ostatní přístupy, má i tento přístup svou sadu otázek - V situacích vázaných na čas, které vyžadují okamžitý efekt, zpomalí lidský dohled tato rozhodnutí? Co když doporučení AI ovlivní lidi příliš?

Budoucnost etiky AI: hledání rovnováhy

Jak se AI nadále vyvíjí, musíme dosáhnout rovnováhy mezi inovací a etickou odpovědností. Výzva nespočívá jen v učení AI rozpoznávat etická dilemata, ale také v učení hlubších lidských kvalit, jako je soucit a empatie. To znamená, že žádný jediný rámec, ať už je utilitarní, deontologický, nebo uživatelsky orientovaný, nemůže plně řídit etiku AI a mají svůj vlastní soubor omezení. Nejlepší přístup k ochraně těchto etických postupů je začleňování hybridního modelu:

• Utilitaristické poznatky ke maximalizaci přínosů a minimalizaci škod.
• Deontologické záruky k zajištění konzistence a zdůraznění morálních povinností, práv a principů, které musí být dodržovány.
• Lidský dohled k udržení etické odpovědnosti tam, kde patří — u nás.

Umělá inteligence není schopna prožívat lidské emoce nebo vlastnit osobní morální kompas; přesto může být navržena tak, aby se řídila etickými pokyny, za podmínky, že lidé převezmou odpovědnost za její vývoj a dohled.

Závěr: Měli bychom věřit AI morálním rozhodnutím?

Zatímco potenciál AI je neomezený, tato etická dilemata nelze ignorovat. Protože AI nemůže pochopit lidské emoce a morální odpovědnosti, její role v rozhodování by měla být omezena a konečná odpovědnost za přijímání dobře promyšlených rozhodnutí by měla vždy zůstat u lidí.

Takže, můžeme plně věřit AI v morálních rozhodnutích? Pravděpodobně ne. Ale zavedením robustních regulací, zdokonalením tréninkovacích dat a zajištěním nepřetržité lidské intervence můžeme budovat AI, která slouží jako výkonná pomocná ruka spíše než nekontrolovaný rozhodovací subjekt.

Jaký je váš názor na etické dilema AI? Měli bychom věřit strojům s morálními rozhodnutími, nebo by měli mít lidé vždy poslední slovo?

Jste připraveni postavit svůj technický dream team?

Podívejte se na MyNextDeveloper, platformu, kde můžete najít top 3% softwarových inženýrů, kteří jsou hluboce vášnivě zaměřeni na inovace. Naše on-demand, dedikované a důkladné řešení softwarových talentů jsou dostupné, aby vám poskytla kompletní řešení pro všechny vaše softwarové požadavky.

Navštivte naši webovou stránku a zjistěte, jak vám můžeme pomoci při sestavování vašeho dokonalého týmu.