Firmám sbírajícím data i algoritmům, které tato data analyzují a používají, lze pravděpodobně důvěřovat. Vždy však existuje riziko, že se k datům dostanou hackeři. „Není těžké si domyslet, co asi hackeři chtějí provést s údaji o platebních kartách a osobními údaji. K čemu by ale došlo, kdyby se někdo dostal k analýze našeho chování, k našim biometrickým údajům a k dalším citlivým datům?“ zamýšlí se bezpečnostní ambasador Avastu Garry Kasparov. Tato data lze využít ke krádeži osobních tajemství lidí, k ovlivňování voleb nebo k manipulaci a vydírání vysokých úředníků. Existují důkazy, že některé státy už pomocí pokročilých hackerských nástrojů útočí na disidenty a jiné občanské skupiny.
Lidé ztrácí nárok na svá data
Digitální asistenty je proto nutné používat ostražitě. Jejich obchodní model tkví v nepřetržitém zdokonalování jejich přesnosti a inteligence. Sesbíraná data pomáhají umělé inteligenci vyhýbat se předchozím chybám a lépe je předvídat. Tím, že uživatel zařízení používá, poskytuje jim další a další materiál k zlepšování.
Přibližně v době, kdy Microsoft zveřejnil výše uvedenou studii, vyšlo najevo, že Amazon má vyhrazený tým zaměstnanců, kteří poslouchají hlasové záznamy z Alexy a podle nich vylepšují její fungování. Amazon reagoval vysvětlením, že se jedná o naprosto minimální vzorek záznamů a že cílem je zlepšování služeb zákazníkům. Těmito manuálními kontrolami však mohly procházet i záznamy od uživatelů, kteří si nepřáli jejich ukládání. Facebook zase přiznal, že platil externí pracovníky za poslech a přepisování konverzací přes Messenger. Posléze se přiznal Apple, že jeho zaměstnanci poslouchali záznamy ze Siri, údajně i nahrávky uživatelů při sexu. Jinými slovy, informace předané digitálnímu asistentovi nezpracovávají jen algoritmy umělé inteligence. Snadno se mohou dostat i do rukou dalším lidem a je možné zpětně vystopovat jejich původce.
Otázkou je tedy i to, jak data zpracovávají samotné algoritmy? „Kusé informace, podle kterých lze jednotlivé osoby identifikovat, jsou po začlenění do sítě strojového učení anonymizovány. Práva uživatelů na taková data a související předpisy tak ztrácejí na uplatnitelnosti. Dnes jsou naše data nepřetržitě začleňována do složitých algoritmů, které často nejsou transparentní ani pro své tvůrce,“ vysvětluje Kasparov. Po předání dat umělé inteligenci přestávají být lidé jejich vlastníky, nemohou požádat ani o jejich vrácení.
Zdokumentované životy
Děti, které v této době vyrůstají, budou čelit problémům, se kterými se předchozí generace nikdy nesetkaly. Především budou mít rozsáhlé digitální záznamy, které zdokumentují jejich život už od dětství a které budou volně dostupné ostatním.
Digitální asistenti a jiné technologie založené na umělé inteligenci dětem, ani dospívajícím nevysvětlují dlouhodobé dopady záznamů, které vytvářejí. Sbírají data bez ohledu na konkrétního člověka. Data, která posbírají, mohou být začleněna do algoritmů, které mohou ovlivňovat postavení člověka ve společnosti. „Například student, který byl na videozáznamu nachytán při podvádění, může zůstat v jejich paměti, může být za svůj přečin trestán ještě v dospělosti a v důsledku toho se může dostat do začarovaného kruhu neúspěšnosti a dalších následků,“ říká Kasparov.
Nová řešení by tak podle Kasparova měla chránit naše práva, ne jen odpovídat technickému vývoji. „Jako otce malých dětí mne spíš těší než straší, že mé děti vyrůstají v této revoluční době. Jenže aby nám digitální nástroje, které máme k dispozici, byly k něčemu prospěšné, musíme brát v potaz dlouhodobé důsledky jejich používání – zejména pro ty nejmladší,“ dodává.