Европейските регулатори искат TikTok да промени начина, по който препоръчва видеоклипове, като заявяват, че защитните му механизми не успяват да предпазят потребителите от потенциално вредно съдържание
Европейската комисия установи на 6 ноември, че TikTok нарушава Закона за цифровите услуги на Европейския съюз, като посочи, че алгоритъмът за препоръки на компанията многократно насочва потребителите към потенциално вредни видеоклипове и че тя не е предприела достатъчни мерки за ограничаване на рисковете.
Потокът „За вас“ на TikTok препоръчва видеоклипове въз основа на поведението на потребителите при гледане и техните взаимодействия. Например човек, който многократно гледа видеоклипове за отслабване, може да получава повече подобно съдържание.
Регулаторите посочиха в предварителните си констатации, че подобни препоръки могат да въвлекат потребителите във вредни „заешки дупки“, което потенциално да навреди на психичното им здраве, особено при децата и уязвимите възрастни.
Комисията заяви, че съществуващите защитни механизми на TikTok са недостатъчни. Бутонът „Не се интересувам“, предназначен да ограничава нежеланите препоръки, може да не променя достатъчно съдържанието в потока, тъй като алгоритъмът отдава по-голяма тежест на времето за гледане, посочи тя.
Преди публикуването на констатациите говорителят на Европейската комисия Томас Рение заяви пред The Epoch Times в имейл от 9 октомври, че TikTok трябва да промени дизайна на потока си „За вас“, за да отговаря на правилата на ЕС за цифровите услуги. Това включва да се отдава по-голяма тежест на изразените от потребителите предпочитания, да не се използва повече времето за гледане при препоръчване на съдържание, контролите да станат по-лесни за използване и алгоритъмът да бъде редовно тестван, каза той.
TikTok оспори предварителните констатации.
„Комисията направи поредица от твърдения, които са в основата си неточни и изопачават архитектурата на нашата платформа и ангажимента ни към безопасността на потребителите“, заяви говорител в изявление от 6 ноември. Компанията има солиден опит в защитата на потребителите, като същевременно им предоставя контрол върху начина, по който използват съдържанието, посочи говорителят.
ЕС разширява проверката на пристрастяващия дизайн
На брифинг за медиите в Брюксел на 6 ноември Рение заяви, че разследването се е съсредоточило върху многократните препоръки на TikTok за потенциално вредни материали – рискове, които Законът за цифровите услуги изисква платформите да ограничават.
Съгласно закона големите онлайн платформи трябва да оценяват и намаляват рисковете в четири широки категории: разпространението на незаконно съдържание; заплахите за основните права, включително неприкосновеността на личния живот, свободата на изразяване и правата на децата; вредите за обществения дебат, изборите и обществената сигурност; както и рисковете, свързани с насилие, основано на пола, общественото здраве, непълнолетните и физическото или психичното благосъстояние на хората.
Констатациите срещу TikTok са насочени към предполагаемото използване от компанията на алгоритъм, който многократно препоръчва съдържание, потенциално вредящо на психичното здраве на потребителите.
Рение заяви, че TikTok трябва да промени европейския си бизнес модел, за да спазва законите на ЕС.
На въпрос дали ЕС може да поиска схема на собственост, подобна на създадената за TikTok в САЩ, Рение отговори, че задълженията в ЕС ще останат същите независимо дали компанията действа като европейско, американско или азиатско дружество.
Действията следват предишни проверки от страна на ЕС. През февруари Комисията предварително установи, че функции на TikTok, включително безкрайното превъртане, автоматичното възпроизвеждане и персонализираните препоръки, могат да насърчават натрапчивото използване.
През юли регулаторите изразиха отделни опасения относно защитата на непълнолетните, включително заради настройки, които позволяват видеоклипове, публикувани от 16- и 17-годишни, да достигат до по-широка аудитория.
На 11 ноември Комисията отделно предложи Закон за цифровата справедливост, който би засилил защитата на потребителите срещу манипулативни онлайн практики, включително определени елементи на пристрастяващ дизайн. Предложението би дало на потребителите възможност да изключват такива функции. То трябва да бъде одобрено от законодателите на ЕС, преди да стане закон.
Разследването срещу TikTok остава на етап предварителни констатации. Рение потвърди, че компанията може да прегледа доказателствата и да упражни правото си на защита. Ако Комисията окончателно потвърди нарушенията, TikTok може да бъде глобен с до 6% от годишните си приходи в световен мащаб.
Комисията също така следи за спазването на правилата чрез задължителните доклади за прозрачност на компаниите, годишните оценки на риска, одитите и отговорите на исканията за регулаторна информация, заяви Рение.
Алгоритъмът на ByteDance и механизмите за данните
Технологията за препоръки на TikTok произлиза от базираната в Китай компания майка ByteDance. В САЩ съвместно предприятие, притежавано мажоритарно от американски инвеститори, вече управлява операциите на TikTok в страната, а Oracle осигурява инфраструктурата за защита на данните. В становище от юли Министерството на правосъдието на САЩ заяви, че предприятието впоследствие е преработило първоначалния алгоритъм на ByteDance и вече работи независимо от китайската компания.
Конгресменът републиканец от Мичиган Джон Муленар, председател на специалната комисия на Камарата на представителите на САЩ за Китайската комунистическа партия, постави под въпрос дали американската схема предотвратява китайското влияние върху алгоритъма. През септември той заяви, че TikTok се е оттеглил от планирана кръгла маса в Конгреса, на която главният директор по сигурността на компанията се е съгласил да отговаря на въпроси за влиянието на Китай върху препоръките и достъпа до данните на американците.
В Европа TikTok се е ангажирал да инвестира над 12 млрд. евро (13,4 млрд. долара) за 10 години в своята инициатива за сигурност на данните, наречена Project Clover. Компанията е наела фирмата за киберсигурност NCC Group да наблюдава независимо защитата на данните и контрола върху достъпа. Тези механизми обаче не определят кой контролира промените в европейския алгоритъм за препоръки на TikTok.
The Epoch Times попита Европейската комисия дали е разгледала ролята на ByteDance в европейския алгоритъм за препоръки и дали Project Clover осигурява независим от Пекин надзор над алгоритмичните операции. При управлението на Китайската комунистическа партия Пекин може да принуди частни компании да съдействат по негови разузнавателни искания и искания, свързани със сигурността.
Комисията не разгледа пряко ролята на ByteDance в европейския алгоритъм. Вместо това тя заяви, че защитата на данните не попада в обхвата на производството ѝ срещу TikTok и е въпрос за националните органи, отговарящи за прилагането на Общия регламент относно защитата на данните на ЕС.
TikTok беше отделно попитан за тази роля и за това как управлението на европейския му алгоритъм се различава от схемата в САЩ. Компанията не отговори на The Epoch Times до публикуването на материала.
