6 důvodů, proč byste neměli slepě věřit umělé inteligenci

Nedávná technologická selhání britské vlády zjevně zanechala v myslích mnoha britských občanů kyselou pachuť. Více než polovina dospělých ve Spojeném království (53 %) nedůvěřuje organizacím, které používají algoritmy k rozhodování, která je ovlivňují, podle nové zprávy IT institutu akreditovaného British Computer Society (BCS). Průzkum, který provedlo více než 2000 respondentů, přichází po událostech, které letos v létě otřásly britskou školní komunitou. Někteří zástupci posledně jmenovaného začali vyjadřovat svou nespokojenost s jednáním Ofqual, britské služby kontroly kvality pro kvalifikace, zkoušky a testování studentů, poté, co se ukázalo, že použila nespravedlivý algoritmus k předpovědi úrovně A a GCSE (General Certificate of Středoškolské vzdělání). Tyto události se odehrály na pozadí pandemie COVID-19, která narušila provádění zkoušek.

Předpovědi algoritmu Ofqual byly založeny na předchozích výsledcích výkonnosti a upřednostňovaly soukromé školy, což vedlo k výraznému poklesu výkonnosti státních škol. Vláda na situaci rychle zareagovala a umožnila studentům používat jako základ předpokládané známky dané učitelem, spíše než výsledky založené na algoritmech. Vládní zásahy mohou být opožděné: pouze 7 % respondentů v průzkumu BCS uvedlo, že důvěřují zakázkovým algoritmům vyvinutým pro vzdělávací sektor. Toto procento je nejnižší a je na stejné úrovni jako úroveň důvěry v algoritmy používané sociálními službami a armádou. Je dokonce nižší než úroveň důvěry v algoritmy sociálních médií pro poskytování obsahu a přímou uživatelskou zkušenost (8 %).

Šéf strategie BCS Bill Mitchell řekl, že nedávné události „vážně“ podkopaly důvěru lidí ve způsob, jakým jsou algoritmy používány k rozhodování, která je ovlivňují, a že to bude mít dlouhodobé důsledky. „Mysli lidí si začínají zvykat na myšlenku, že algoritmy jsou všudypřítomné,“ dodal Mitchell. „Algoritmy jsou všude kolem nás, lidé chápou, že to tak je, a ptají se: „Proč bych měl věřit vašemu algoritmu?“ To je přesně to, na co by se lidé měli ptát, zatímco ostatní, kteří se podílejí na vývoji a zavádění algoritmů, by měli být připraveni vysvětlit, proč daný algoritmus bude fungovat tak, aby lidem prospíval, než aby jim škodil.“

Loni v únoru zpráva Výboru pro standardy ve veřejném životě zdůraznila rozšířené používání skrytých systémů umělé inteligence při poskytování kritických veřejných služeb Spojeného království, což naznačuje nedostatek otevřenosti a transparentnosti ze strany vlády při používání této technologie. Jedním z hlavních problémů uvedených ve zprávě je, že veřejnost neví, kde vláda v současné době nasazuje umělou inteligenci. Tato otázka je obzvláště aktuální, protože vládní agentury v této zemi stále více zvažují možnost zavedení umělé inteligence do vysoce výkonných rozhodovacích procesů v oblasti vymáhání práva, vzdělávání, sociální pomoci a zdravotnictví.

Nedůvěra veřejnosti k některým technologiím používaným ve státních službách by neměla být překvapením. Algoritmy se používají v oblastech, které mají obrovský dopad na životy občanů, takže jejich touha zabránit ničivým účinkům zkreslení v systémech AI by neměla být ignorována. „To, co jsme viděli ve školách, ukazuje, že veřejnost převzala kontrolu nad situací, ale nejsem si jistý, zda chceme skončit v situaci, kdy se nespokojenost s algoritmy rozlije do ulic,“ řekl Mitchell. Věří, že spuštění jakéhokoli algoritmu musí být koordinováno se společností, to znamená, že musí být vyvinut systematický způsob interakce s ním. To vám umožní přesně zjistit, kdo bude technologií ovlivněn, jaká data budou použita, kdo bude odpovědný za výsledky a jak opravit systém, pokud selže.

Jinými slovy, nejde jen o to, aby občané věděli, kdy systém AI rozhoduje, ale také o zavádění přísných standardů při vytváření samotného algoritmu. „Řekněme, že potřebuji dokázat, že mému algoritmu lze věřit.“ To znamená, že jako profesionál musím být schopen poskytnout vám, osobě, která je ovlivněna tímto algoritmem, důkazy, abyste mi mohli věřit,“ řekl Mitchell. Implementace těchto standardů během fází návrhu a vývoje systémů umělé inteligence je náročná, protože existuje mnoho úrovní voleb, které různí lidé v různých časech během životního cyklu algoritmu dělají. Expert tvrdí, že pro znovuzískání důvěry veřejnosti se musí profese datového vědce stát stejně respektovanou jako profese lékaře nebo právníka.

Ve skutečnosti poslední zpráva BCS zjistila, že britské civilní obyvatelstvo nejvíce spoléhá na Národní zdravotní službu (NHS), pokud jde o rozhodnutí generovaná algoritmy. Přibližně 17 % respondentů uvedlo, že důvěřuje automatizovanému rozhodování organizace a mezi respondenty ve věku 18 až 24 let je míra důvěry ještě vyšší, a to 30 %. „Lidé důvěřují NHS, protože věří lékařům a sestrám. Jsou to profesionálové, kteří musí dodržovat průmyslové standardy, a pokud tak neučiní, budou propuštěni, říká Mitchell. „IT profese v tomto ohledu zaostává, ale stále jsme svědky toho, jak se algoritmy používají v neuvěřitelně složitých situacích.“

Bude někdy veřejnost věřit datovým vědcům jako svému lékaři? Na první pohled se tento předpoklad může zdát chybný, ale vzhledem k tomu, že umělá inteligence proniká každý den do více aspektů života lidí, jejich zapojení do práce s algoritmy by mělo být prioritou datové vědy.

Můžeme věřit umělé inteligenci?

Překlad článku Angela Dalliho, odborníka v oblasti umělé inteligence, zakladatele a šéfa společnosti Umnai, klíčového řečníka na mezinárodním summitu investorů v rané fázi VOX ANGELIS 2019.

Jedním z hlavních technologických problémů současnosti je rozvoj strojového učení a jeho transformace na plnohodnotnou umělou inteligenci (AI). Samotná myšlenka na vytvoření umělé inteligence vznikla v padesátých letech, první vývoj začal na začátku devadesátých let. Tuto myšlenku však nebylo možné dlouho realizovat. Hardwaru, softwaru a nashromážděným datům trvalo, než umělou inteligenci umožnily.

Pokroku, který dnes vidíme v oblasti strojového učení, bylo dosaženo díky technologiím nové generace, které poskytují rychlou a efektivní práci s velkým množstvím dat ve formátu požadovaném systémem AI. Na rozdíl od sci-fi knih z 60. let nepotřebujeme vytvářet tajná speciální centra, kde se rodí umělá inteligence. Místo toho byla vybudována globální internetová infrastruktura. Například telefonujete a konverzace se odešle do cloudového úložiště, kde se dešifruje, přepíše a vrátí se vám čistá data, která již lze převést na potřebné algoritmy učení.

Stávající programy strojového učení fungují v uzavřeném režimu, to znamená, že na základě algoritmů produkují odpovědi formulované po práci s velkými daty, bez jakéhokoli vysvětlení. Pokud bude tento trend pokračovat, tento nedostatek transparentnosti povede v budoucnu k problémům s důvěrou. Nikdo se zdravým rozumem by se slepě neřídil doporučeními systému bez pochopení procesů, které formulovaly tu či onu odpověď.

Díky svému inovativnímu zázemí a schopnosti budovat a vést týmy přilákal investice do 21 společností z evropských fondů, soukromých andělských investorů a investorů rizikového kapitálu, čímž propagoval své společnosti na mezinárodní úrovni. Angelo se podílel na čtyřech IPO, jedné na NASDAQ v USA, dvou na NASDAQ OMX ve Švédsku a Oslo Borse s celkovou tržní kapitalizací přes 500 milionů EUR. Pracuje ve výzkumu a vývoji a je autorem více než 23 konferenčních příspěvků v Evropě a USA o aplikaci umělé inteligence, zpracování přirozeného jazyka a technologii vyhledávačů v celé řadě průmyslových odvětví a domén. Angelo také reprezentoval Maltu na různých mezinárodních akcích a jedním z jeho prvních mezinárodních úspěchů bylo získání bronzové medaile na Mezinárodní olympiádě v informatice (IOI) v roce 1995. Angelův profil je ztělesněním mantry, kterou se řídí – „Budujte škálovatelné technologické společnosti poháněné inovacemi.“