Більше 200 організацій захисту прав дітей спільно вимагають від YouTube повністю заборонити AI-генерований "сміттєвий контент" на дитячих платформах

Глибока інформація TechFlow: 02 квітня, згідно з повідомленням Fortune, понад 200 дитячих правозахисних організацій та експертів, включно з Американською федерацією вчителів та Американською консультаційною асоціацією, спільним листом звернулися до CEO YouTube Neal Mohan та CEO Google Sundar Pichai з вимогою повністю заборонити на YouTube Kids низькоякісні «сміттєві відео», згенеровані ШІ (AI slop).

Цей спільний лист, ініційований правозахисною організацією Fairplay, підписали відомі науковці, зокрема автор книги «Покоління тривоги» Jonathan Haidt. У листі зазначається, що велика кількість відеоконтенту, масово виробленого за допомогою ШІ, заповнює платформу YouTube Kids: ці відео недорого створювати, їхній зміст є абсурдним або позбавленим сенсу, але їхній алгоритм налаштований так, щоб постійно приваблювати та «перекидати» дитячу увагу. У межах дослідження Fairplay з’ясовано, що річний дохід топових каналів із ШІ-сміттєвим контентом для дітей перевищує 4,25 млн доларів США, тоді як серед відео на YouTube Kids, адресованих дітям до 8 років, лише близько 5% становить високоякісний контент.

Керівник проєкту Fairplay Rachel Franz заявила, що контент, згенерований ШІ, спотворює реальність, створює хаос і впливає на розвиток у дітей уявлень про світ, а платформи постійно рекомендують такий контент користувачам молодшого віку через свої алгоритми, тож уникнути його майже неможливо. Цей альянс висунув низку структурних вимог до реформ, зокрема: повністю заборонити контент, згенерований ШІ, на YouTube Kids; чітко позначати відео, згенеровані ШІ, на всій платформі; заборонити алгоритмам рекомендувати контент, створений ШІ, користувачам до 18 років; надати батькам перемикач контенту про ШІ із налаштуванням «за замовчуванням вимкнено»; а також припинити інвестиції в проєкти з контентом, створеним ШІ, орієнтовані на дітей (зокрема дитячі розважальні студії Animaj, яких підтримує Google AI Futures Fund).

Представник YouTube у відповідь заявив, що платформа має суворі стандарти для контенту на YouTube Kids, уже обмежила контент, згенерований ШІ, рамками невеликої кількості високоякісних каналів, і працює над спеціальною функцією міток для ШІ, але не надав конкретного графіка запуску. Раніше CEO YouTube Neal Mohan у щорічному публічному листі вже назвав «управління ШІ-сміттям» одним із головних пріоритетів.