Zatčení Pavla Durova, zakladatele komunikační platformy Telegram, znovu otevřelo jedno z výbušných témat, které rozděluje společnost napříč Evropou. A to moderování obsahu na sociálních sítích, konkrétně monitorování a odstraňování nelegálního a nebezpečného obsahu, které má jít podle evropského návrhu až na úroveň prolomení šifrovaných soukromých konverzací.
Pravdou je, že ať už jde o šíření konspiračních teorií, nebo organizování nepokojů, aplikace Telegram se stala centrem extremistických aktivit v online prostoru. Na druhou stranu se však ve stejnou chvíli díky svým uzavřeným komunikačním skupinám stává také místem pro otevřenou komunikaci v zemích s autoritářským režimem.
Kvůli svému svéráznému přístupu k moderování obsahu se každopádně stala cílem pro vlády, které se snaží zastavit trestnou činnost a šíření dezinformací, jež podle nich mohou destabilizovat společnost.
To nás přivádí k nedávnému incidentu, kdy byl ve Francii zatčen zakladatel Telegramu Pavel Durov. Ten podle prokurátorky čelí obvinění z dvanácti trestných činů, protože měl umožnit podvody a praní špinavých peněz, držení a šíření dětské pornografie nebo drogovou kriminalitu.
Samotná společnost vydala prohlášení, že dodržuje evropské zákony. Po čtyřech dnech ve vazbě soud nakonec Durova propustil na kauci pět milionů eur s tím, že nesmí opustit Francii. Za odmítnutí spolupráce mu však stále hrozí až deset let za mřížemi.
Telegram je chatovací aplikace, která se podobá službě WhatsApp, má však také podobné funkce, jaké najdete například na Facebooku nebo na sociální síti X. Byla spuštěna v roce 2013 a postupně se stala jednou z nejstahovanějších aplikací na světě.
Dnes ji po celém světě používá přibližně devět set milionů uživatelů, což ji podle portálu Statista řadí na čtvrté místo nejpoužívanějších chatovacích aplikací na světě. Oblíbená je zejména v zemích bývalého Sovětského svazu. Používají ji například ruští propagandisté, ale také ukrajinský prezident Volodymyr Zelenskyj.
Pro srovnání, její konkurent WhatsApp, který vlastní společnost Meta, má 1,8 miliardy aktivních uživatelů a šifrovaná komunikační aplikace Signal má jen třicet milionů uživatelů. Alespoň to ukazují data z analýzy společnosti Sensor Tower, která zahrnuje pouze používání mobilních aplikací.
Zatímco konkurenční aplikace WhatsApp a Signal standardně používají šifrování komunikace typu end-to-end, které je považováno za jeden z nejlepších způsobů ochrany zpráv uživatelů, Telegram tento typ šifrování komunikace umožňuje pouze uživatelům, kteří komunikují prostřednictvím takzvaného secret chatu.
Uživatelé mohou na Telegramu zveřejňovat příběhy, vytvářet diskusní skupiny nebo takzvané kanály. Ty mohou přilákat obrovské publikum a stát se vlivnou platformou pro různá sdělení. Noví uživatelé sice musejí souhlasit s tím, že nebudou propagovat násilí nebo zveřejňovat nelegální pornografický obsah, ve skutečnosti se však kvůli špatnému moderování obsahu takový obsah po síti rychle šíří.
Výzkumníci varují, že nepříliš moderovaná platforma je díky tomu líhní trestné činnosti, extremistického nebo teroristického obsahu a dezinformací.
Telegram vznikl jako projekt dvou ruských bratrů, Pavla a Nikolaje Durových. První je podnikatel a druhý programátor a matematik. Bohatství se jim však podařilo získat ještě před založením Telegramu. V roce 2006 totiž založili ruskou sociální síť VKontake.
Pak ale Pavel Durov Rusko opustil kvůli nátlaku státních orgánů, aby jim zpřístupnil údaje o ukrajinských uživatelích sítě. Svůj podíl ve VKontakte prodal. Durov uvedl, že pod nátlakem prodal své akcie oligarchům nakloněným Kremlu za tři sta milionů dolarů.
V roce 2013 vznikla chatovací aplikace Telegram se sídlem v Dubaji a dlouhá léta vykazovala nulové příjmy. V roce 2020 Durov oznámil plán monetizace Telegramu. Verze Telegram Premium, která byla založena už na předplatném, byla spuštěna v roce 2022. Uživatelé mohli zaplatit poplatek za lepší služby Telegramu, včetně rychlejšího stahování a nahrávání větších souborů.
Telegram také zavedl systém odměňování pro tvůrce obsahu. Ten jim dává možnost ponechat si padesát procent příjmů z reklamy na svých kanálech. Zavedení reklamy a předplatného se odrazilo i na tržbách Telegramu, které se podle Durova pohybují ve stovkách milionů dolarů ročně.
Durov doufá, že by mohli být v zisku již v tomto nebo příštím roce a potenciální investoři prý vyčíslili hodnotu společnosti na třicet miliard dolarů. Majitel Telegramu také zvažuje primární veřejnou nabídku akcií (IPO).
Slabé moderování obsahu na Telegramu vychází z přesvědčení jeho zakladatele Durova, který je zarytým obhájcem svobody slova a této zásady se dlouhodobě drží. Jak už jsme zmínili, poté co v roce 2014 odmítl poskytnout ruské bezpečnostní agentuře údaje některých ukrajinských uživatelů na své sociální síti VKontakte, musel uprchnout z Ruska.
Letos na jaře však Durov pro Financial Times uvedl, že Telegram plánuje v letošním roce zlepšit své procesy moderování obsahu, jelikož v tomto roce se má konat několik důležitých voleb. Plánuje prý nasadit „mechanismy založené na umělé inteligenci na řešení potenciálních problémů“.
Pokud ale uživatelé nepřekračují „červené linie“, nemyslí si, že by jeho společnost měla kontrolovat způsoby, jakými se lidé vyjadřují. „Věřím v soutěž idejí. Myslím, že jakákoli myšlenka by měla být zpochybněna. V opačném případě můžeme rychle degradovat na autoritářský režim,“ řekl pro ekonomický portál.
Jak již bylo zmíněno, Telegram je mocným nástrojem extremistů. Obsah na Telegramu se uživatelům nezobrazuje na základě jejich předchozího zájmu o příspěvky, jako je tomu například u Facebooku, TikToku nebo sítě X. I tak se nenávistné projevy nebo dezinformace mohou na Telegramu snadno stát virálními.
Agentura Bloomberg vysvětluje, že jedním z důvodů je to, že uživatelé mohou svůj obsah z jednoho kanálu křížově zveřejňovat na jiných kanálech. „Uživatelé, kteří sledují například kanál pro příznivce amerického prezidentského kandidáta Donalda Trumpa, se mohou stát terčem šiřitelů konspiračních teorií, kteří zveřejňují odkazy na své vlastní kanály s agresivnějším politickým obsahem,“ informuje agentura.
Pokud uživatelé tyto odkazy sledují, mohou se v důsledku toho ocitnout v kontaktu s radikálnějšími uživateli, kteří sdílejí extrémnější obsah.
Telegram sehrál klíčovou roli i při nedávných nepokojích ve Velké Británii, které vyvolala vražda tří mladých dívek. Jeho kanály využívali extremisté k podněcování nenávisti vůči muslimům nebo k šíření praktických rad potenciálním výtržníkům, uvádí studie londýnského protiextremistického think-tanku Institute for Strategic Dialogue.
V Evropské unii roste tlak na regulaci sociálních sítí a klíčová jsou zejména dvě pravidla. Prvním je dosud neschválený návrh na sledování online komunikace (takzvaný Chat Control) a druhým je Akt o digitálních službách (DSA), který nedávno vstoupil v platnost. Velké internetové společnosti musejí pod hrozbou pokut vysvětlovat, jakým způsobem moderují obsah na svých sociálních sítích a chrání evropské uživatele.
Problém v případě Telegramu spočívá v tom, že pravidlo DSA se vztahuje na společnosti, které mají v Evropské unii 45 milionů uživatelů. Telegram ještě v únoru oznámil, že má na území Evropské unie pouze 41 milionů uživatelů, což se však nelíbilo kontrolním orgánům unie, které zahájily vyšetřování.
Právní a datoví experti Evropské unie mají podezření, že Telegram záměrně podhodnotil počet svých uživatelů, aby se vyhnul regulaci, a plánuje zjistit jejich skutečný počet. Telegram se nicméně evropské regulaci zatím úspěšně vyhýbá.
O přísnějších pravidlech pro sledování obsahu, a to i na úrovni soukromé komunikace, se diskutuje již dlouho. Po dvou neúspěšných pokusech prosadit návrh na sledování online komunikace se letos na podzim uskuteční třetí hlasování. Návrh Chat Control chce v rámci boje proti dětské pornografii zavést plošné skenování soukromých konverzací.
Poslední návrh v principu říkal, že uživatel musí dát souhlas se sledováním soukromých konverzací, jinak ztratí možnost posílat fotky. V praxi by uživatelé aplikací jako Messenger, Signal nebo WhatsApp měli možnost volby. Buď by souhlasili se skenováním fotografií, videí nebo odkazů v konverzacích, nebo by ztratili možnost tyto funkce používat.
Původní návrh hovořil také o skenování konverzací nebo údajů na úložišti. Nakonec ale v této podobě nebyl schválen. Členské státy se mají k jednání o návrhu vrátit letos na podzim.
Podle advokáta Jana Vobořila z české nevládní organizace Iuridicum Remedium je nicméně princip Chat Control založen na plošném sledování veškeré komunikace.
„ Riziko zde vidíme zejména v souvislosti se šifrovanou komunikací. Šifrování je základním nástrojem ochrany dat. Pokud by došlo k jeho oslabení v souvislosti se zavedením Chat Control, znamenalo by to popření účelu šifrování a významné ohrožení bezpečnosti zpracování dat,“ říká odborník pro Forbes.
Pokud by návrh prošel, důsledkem by podle něj bylo omezení základního nástroje ochrany dat a masivní plošný zásah do soukromí.
Šéfka aplikace Signal Meredith Whittaker v reakci na evropskou regulaci uvedla, že pokud návrh vstoupí v platnost, aplikace přestane v Evropě fungovat. Podle kritiků návrhu to nevyhnutelně povede k prolomení šifrované soukromé komunikace, což de facto znamená konec soukromých konverzací, jak je známe.
Proti návrhu se postavilo téměř padesát organizací (jednou z nich je i zmíněná česká organizace Iuridicum Remedium), které požadují jeho stažení. Podle nich je třeba zvážit nový přístup, který by učinil online platformy bezpečnějšími pro děti a zároveň nevedl k plošnému monitorování a prolomení šifrování.
