Článek novináře Daniela Turovského nahlíží „do kuchyně“ ruské vývojářské firmy, která uvedla na trh aplikaci FindFace umožňující vyfotografovat člověka na ulici a pak najít jeho účet na ruské sociální síti VKontakte (obdoba Facebooku). Jaké hodnoty ctí její majitel a hlavní vývojář? Jací jsou její zákazníci? A co přesně tahle aplikace znamená pro běžné uživatele sociální sítě VKontakte? Minimálně obrovské nebezpečí ztráty soukromí…
Aplikace FindFace se poslední dobou pravidelně objevuje ve zprávách. S její pomocí vznikají umělecké projekty, ale také díky ní otravují ženy, které hrály v pornu. Zvláštní korespondent Meduzy Daniel Turovskij vyhledal ty, kteří za technologií FaceN stojí, a také ty, kdo si jejich technologii koupil. Vysvětluje, že toto celé je teprve začátek. Pomocí algoritmů pracujících na bázi neuronových sítí lze totiž identifikovat jakéhokoli člověka na jakékoli fotografii nebo videu a díky tomu lze vlastně kohokoli zcela nepozorovaně sledovat. Například moskevská radnice, ale i bezpečnostní sbory hodlají využívat technologii FaceN co nejdříve.
Vadim Gusygin (jméno je změněno), který pracuje v Moskevském regionu jako správce sítě, má od začátku června nečekané starosti. Jeho příbuznou kdosi natočil na video na toaletě a pomocí aplikace FindFace – ruské aplikace k vyhledání známostí, která umožňuje určit totožnost osob podle jedné fotografie, pak dotyčnou identifikoval a oslovil na sociální síti VKontakte. Vadima rozčilovalo nejen porušování soukromí, ale i to, že všechny své příbuzné důrazně varoval, aby na VKontakte nikdy nevystupovali pod svým pravým jménem. Příbuzná ale neposlechla. Vadim začal zkoumat, kdo video vyrobil. Na síti našel několik skupin lidí, kteří se zabývají tím, že tajně natáčí lidi na toaletách. V těchto skupinách našel i stovky takových videí, které stáhl na svůj počítač. Rozhodl se, že dívky na videích kontaktuje a pokusí se přijít na to, kde byla videa nahrána. K identifikaci použil stejnou aplikaci FindFace. Dívky, které se mu podařilo identifikovat, oslovil a vysvětlil jim, čeho se staly obětí. Většina nereagovala, některé přiznaly, že se jedná o jejich fotku. Jedna z nich, Polina Anisimovová o tom dokonce informovala na svém profilu na FB:
„Vadim dal některé dívky postupně dohromady s Polinou Anisimovovou a ty se teď společně chystají podat trestní oznámení (Vadimova příbuzná, která pracuje na městském úřadu, se k nim nepřipojí ze strachu, že by mohla přijít o práci). Našly se ale i dívky, které na Vadimovo upozornění reagovaly agresivně.“
Vyhledávání skutečných lidí podle náhodných fotografií nebo archivů obrázků, které se na internetu za desetiletí jeho fungování nahromadily, je jen jedna z mnoha možností využívání algoritmů pro rozpoznání lidského obličeje, které se v posledních letech staly téměř všudypřítomné – od aplikací různých seznamek přes systémy městských kamer až po ty, jejichž prostřednictvím mohou speciální služby monitorovat život obyčejných lidí na ulici nebo sledovat konkrétní lidi.
Je typické, že průkopníkem a lídrem v této oblasti je malý ruský startup, který nyní zaměstnává ne více než deset lidí.
Zakladatel technologie
Artěm Kucharenko se už jako školák zabýval programováním. Chodil na počítačové kroužky, nastoupil na matematické gymnázium, ze kterého pokračoval na MGU na fakultu výpočetní matematiky a kybernetiky, kde se na konci druhého ročníku dostal do laboratoře počítačové grafiky a multimédií. V této laboratoři pracovali na pokusech se strojovým učením a neuronovými sítěmi. Ve čtvrtém ročníku se na radu vedoucího laboratoře Kucharenko zaměřil na oblast rozpoznávání lidských tváří a na toto téma napsal i diplomovou práci. Po univerzitě toto téma na tři roky opustil. Věnoval se strojovému učení a neuronovým sítím, žil v Argentině a pracoval pro americké univerzity. Věnoval se vývoji programu, který by autům umožňoval identifikovat objekty na silnici (domy, chodce, značky), což je dovednost nutná při vývoji autopilota. Po návratu do Ruska pracoval Kucharenko v ruské pobočce Samsungu.
Na Nový rok 2015 měl dovolenou a ve volném čase si vzpomněl na téma, které kdysi rozpracoval na univerzitě. Spolu s přítelkyní ručně označili 150 fotografií psů různých plemen, a Kucharenko je pak nahrál do neuronové sítě schopné se samostatně učit, aby psy klasifikovala. Vyrobil aplikaci na Android, která rozpoznává plemena psů, a nazval ji Magic Dog. Aplikace nebyla příliš populární a v ohlasech, které k ní přišly, se objevilo doporučení udělat něco podobného i na lidi. Na jaře loňského roku tak Kucharenko oslovil investory, kterým vysvětloval, že rozpoznávání obličejů pomocí neuronových sítí je budoucnost. Internetoví giganti Google, Apple a Facebook skoupili desítky projektů na rozpoznávání obličejů. Facebook již delší dobu testuje rozpoznávání přátel podle fotografií v rámci sítě.
Společnost, kterou nakonec založili, byla nazvána N-Tech.Lab, a Kucharenko v ní vlastní čtvrtinový podíl. Soustředí se právě na identifikaci osob podle fotografií. Kucharenko si pochvaluje, že to, na co Google potřebuje tisíce serverů, oni zvládají na čtyřech.
Jak se technologie využívá
Kucharenko chodí po kanceláři v šortkách a kšiltovce. Připomíná Edwarda Snowdena, ale jeho pohled na soukromí je úplně opačný. “Jako obyčejnému člověku mi samozřejmě záleží mnohem víc na bezpečnosti než na soukromí,” říká Kucharenko.
Klienti N-Tech.Lab jsou různí, od čínských kasin po turecké pohraničníky, kteří kvůli válce v Sýrii kladou mnohem větší důraz na identifikaci těch, kdo překračují turecké hranice. Na firmu se obrátily i zpravodajské služby, ruské i zahraniční. O detailech Kucharenko mluvit nechce.
V květnu letošního roku uzavřela N-Tech.Lab smlouvu s moskevskou radnicí o testování služby rozpoznávání osob na základě videí z městského kamerového systému. V Moskvě je instalováno více než sto tisíc kamer, 98 tisíc jich je u vchodů, 20 tisíc ve dvorech. O kolik víc jich je na ulicích a náměstích, to se přesně ani neví. Všechny výstupy z kamer se pak scházejí v počítačovém centru odboru informačních technologií.
“Lidé, kteří procházejí v záběru kamer, jsou srovnáváni s registrem pohřešovaných a osob v pátrání,” vysvětluje Kucharenko. “Pokud bude někdo vykazovat vyšší stupeň shodnosti znaků, systém pošle varování nejbližšímu oddělení policie.” Dodává, že takový sytém zatím žádné město na světě nemá. Systém umí mnohem víc, algoritmus dokáže vybrat určitého člověka v záznamu kamer a dohledat o něm všechny informace např. z jeho profilů na sociálních sítích.
Zpravodajské služby takto mohou identifikovat třeba účastníky opozičních shromáždění, například analyzovat, kdo se účastnil akcí na Bolotném náměstí 6. května 2012 a dohledat i profily nových podezřelých na síti VKontakte.
Systém rozpoznávání tváří neponechá nikomu šanci pohybovat se nepozorovaně po městě. I když si například nechá doma mobilní telefon, bude snadné ho sledovat od chvíle, kdy se ocitne v zastavěné části města, neboť kamery napojené na systém jsou namontované téměř na každém domě.
Stejně jako Kucharenka, ani Perlina otázka ochrany soukromí a osobních údajů nijak netrápí.
Moskevské úřady se o zdokonalení kamerového systému snaží dlouhodobě. Zástupce ředitele odboru informačních technologií v minulosti prohlásil: “Kamery, to není žádný zásah do osobní svobody, žádný velký bratr, nebo malý bratr. Kamery jsou nástroj, který dělá život ve městě klidnější.” Přibližně ve stejnou dobu aktivista, který sám sebe nazývá Ruský kocour, informoval na svém blogu o taktice a strategii revolučního boje, které spočívaly v ničení kamer pomocí barvy, lepidla, balíčků celofánu, kladiva, střelných zbraní nebo kuše. O něco méně radikální postoje zaujímají ti, kteří se před kamerami chrání s využitím paruk a masek.
Technologii si ale koupila například i společnost, která organizuje hudební festivaly nebo obchodní řetězce, které s její pomocí mohou monitorovat, co zákazník nakoupil.
Kucharenko také předpokládá, že technologie FaceN bude potřebná při organizaci mistrovství světa ve fotbale v roce 2018, protože dokáže zabránit vstupu osob se zákazem na stadiony.
Zda právo využití takové technologie umožňuje, není jednoznačné. Podle ruských zákonů se totiž jedná o zpracování osobních údajů. Přitom ale například uživatelé sociální sítě VKontakte schválením všeobecných podmínek souhlasí s tím, aby správce sítě postupoval jejich osobní údaje třetím osobám – vývojářům služeb a aplikací. Kucharenko věří, že jeho technologie všechno změní. Lidé začnou své chování upravovat, začnou přemýšlet o tom, co sdělit na síti a co ne.
FindFace a ztráta soukromí
V lednu 2016 se na Kucharenka obrátil Maxim Perlin z reklamní agentury Blacklight a navrhl, aby Kucharenko vytvořil aplikaci pro sociální síť VKontakte. Kucharenka nápad nezaujal, ale souhlasil, že algoritmus za tím účelem prodá. Domluvili se na nízkém denním poplatku za využívání. Perlin složil tým z dvou programátorů a jednoho vedoucího s cílem vytvořit uživatelsky co nejjednodušší aplikaci: jdeš po ulici, někoho vyfotíš, zadáš fotku do aplikace a najdeš, kdo to je. Služba byla nazvána FindFace. Aplikace funguje na principu vyhledávače Yandex nebo Google a indexovala všech 300 milionů fotografií, které se nacházejí na VKontakte. Před spuštěním byla aplikace testována na filmu Lazebník sibiřský a také na stránkách s pornem a nabídkami prostitutek. Aplikace dokázala určit některé lidi z komparzu filmu. FindFace byl spuštěn 18. února v mobilní i webové verzi. V komentáři ke spuštění na svém FB Perlin uvedl, že aplikace zruší anonymitu. “Potkáte třeba pěknou holku v klubu, stačí si ji vyfotit a na VKontakte zjistíte, kdo to je, jaké zájmy…” Aplikace byla podle Perlina do konce června stažena v mobilní verzi 1,3 milionkrát a ve webové verzi 300 tisíckrát. Úspěšnost identifikace podle fotografií VKontakte je 70 %. Aplikace prověřuje 30 fotografií měsíčně bezplatně, 75 za 149 rublů a 459 rublů stojí, pokud chce člověk svůj profil před vyhledáváním skrýt. V plánu je rozvoj aplikace pro další sociální sítě, což se zatím nedaří, neboť ani asijské sociální sítě, ani Facebook a Instragram neumožňují využívání fotografií externím aplikacím. Perlin to vysvětluje tím, že americkým firmám vadí, že ruská technologie funguje lépe než jejich.
Reakce na aplikaci jsou různé. Petrohradský fotograf Jegor Cvetkov díky aplikaci prověřil fotografie lidí, které náhodně fotil v metru. Projekt nazval “Your Face Is Big Data”. “Dnes je už téměř nemožné dělat něco tak, aby se to nikdo nedozvěděl. Na ulici nás zabírají kamery, v obchodě taky, i v metru. A díky takovým hračkám, jako je FindFace, ztrácíme dokonce možnost skrýt i vlastní identitu. A lidé tomu jdou sami naproti. To je prostě strašné,” prohlásil fotograf.
Jen několik dní po spuštění aplikace vznikla anonymní fóra, která vyzývají k vyhledávání žen, jež natáčely porno nebo se živily jako prostitutky, a doporučují identifikované hlásit jejich manželům a přátelům. Usvědčené pornoherečky pak shromažďují na speciálních fórech.
Během několika týdnu v Petrohradě identifikovali dva žháře. Jejich tváře zachytila kamera ve výtahu domu, které podpálili. Našli je sami obyvatelé domu a informaci předali policii.
Po honech na pornoherečky Perlina pozvali do vysílání pravoslavné ineternetové televize Cargrad. Jeden z účastníků diskuze namítal, že s přispěním aplikace si může někdo počíhat na člověka, který vyjde z drahého obchodu, pak si zjistí, kde bydlí a přepadne ho. Perlin prohlásil, že je možné, že s jeho aplikací někdo poruší zákon, hlavní ale je, aby neporušoval zákon Boží.
Perlin sám přitom pro vlastní úspěch využívá různé metody, v roce 2010 vydělal na erotickém kalendáři s nafocenými studentkami. Sám o sobě tvrdí, že je ochoten dát na internet cokoli, jen když to bude mít sledovanost. Rád používá slovo super. Hledat pornoherečky je super. Je super, že se všechno dá dělat na světové úrovni.
Perlin i Kucharenko často hovoří o tom, jak FindFace může pomáhat policii. I sama policie je aplikací nadšená. Taková aplikace v telefonech policistů pomůže na místě identifikovat, koho zastavili. Moskevská radnice na dotaz sdělila, že aplikace začne pro město fungovat v okamžiku, až příslušný odbor připraví vše potřebné. Na vlastním YouTube kanálu se FindFace chlubí tím, že umí identifikovat člověka se ztrátou paměti, podvodníka, člověka, který tvrdí, že ztratil řidičský průkaz, dívku, kterou jste potkali, nebo zloděje…
Stejně jako Kucharenka, ani Perlina otázka ochrany soukromí a osobních údajů nijak netrápí.
“Absolutně nechápu, když si teď nějací studentíci stěžují, že teď jejich diskuze bude moct sledovat FSB!” prohlašuje Perlin s odkazem na legislativu poslankyně Jarové.
“Vám to nedělá starosti?”
“Je mi to úplně jedno. Na sociální sítě napíšu všechno. Jen ať si FSB přečte, s kým jsem se vyspal, jakou jsem měl holku. Obchodní korespondence? Jen ať vědí, kolik vydělávám, kdo jsou mí klienti. Stejně to nikoho nezajímá. Problém se soukromím se strašně přeceňuje. Ať se klidně odposlouchávají všechny telefony. Jen ať se zpravodajci činí.”
Díky vděčným reakcím od policie Perlin, jak sám tvrdí, propadl velikášství. Chtěl by teď řešit světové problémy. Například hledat pohřešované lidi. Tvrdí, že zahořel morální touhou rozšířit tyto možnosti na všechny sítě. Pak totiž bude moci říct: “Nevydělával jsem jen prachy. Taky jsem ve světě hodně vyřešil. Díky tomu bude i zabíjení jednodušší. Super!”
Zdroj: Daniel Turovskij, Meduza 7. 7. 2016
