ЄС розслідує X через ймовірні невиконання зобов'язань щодо боротьби з незаконним контентом Грок AI

Коротко

• Європейський Союз розпочав розслідування щодо того, чи правильно X оцінював ризики перед розгортанням функцій штучного інтелекту Grok.
• Розслідування перевірить відповідність X вимогам Регламенту ЄС про цифрові послуги.
• Це останній крок Європи у боротьбі з глибокими фейками, створеними за допомогою ШІ, коли кілька країн заборонили Grok через побоювання щодо безпеки дітей.

Європейська комісія у понеділок розпочала офіційне розслідування щодо можливого порушення X правил ЄС у сфері цифрових технологій, зокрема через нібито невжиття заходів для запобігання поширенню незаконного контенту за допомогою чатбота Grok, включаючи сексуально відверті зображення дітей. Розслідування оцінить, чи правильно компанія оцінювала та зменшувала ризики перед запуском функцій генерації зображень Grok, повідомила Комісія у заяві в понеділок. Також у заяві зазначено, що ризики реалізувалися через фактичне створення та поширення незаконного сексуального контенту, що ставить під загрозу безпеку громадян ЄС. 

Це відбувається на тлі зростаючого міжнародного контролю за роллю Grok у створенні незафіксованих глибоких фейків. Два тижні тому X запровадив обмеження, дозволивши створювати зображення лише платним підписникам, а також додав технічні бар’єри для запобігання цифровій маніпуляції людьми з метою демонстрації одягу. Компанія також заблокувала цю функцію у юрисдикціях, де такий контент є незаконним. Незважаючи на ці заходи, дослідники виявили, що близько третини сексуалізованих зображень дітей, визначених у зразку CCDH, залишалися доступними на платформі X. "З цим розслідуванням ми визначимо, чи виконав X свої юридичні зобов’язання відповідно до DSA, або ж він розглядав права громадян Європи — включно з правами жінок і дітей — як побічний ефект своєї послуги,” сказала Хенна Вірккунен, виконавчий віце-президент з технологічної суверенності, безпеки та демократії, у заяві.

Раніше цього місяця речник Європейської комісії Томас Регньєр засудив функцію “Spicy Mode” у X на прес-конференції у Брюсселі. “Це не гостро. Це незаконно. Це жахливо. Це огидно. Це не має місця в Європі,” сказав Регньєр. Фрейзер Едвардс, співзасновник і генеральний директор cheqd, повідомив Decrypt, що “кожен творець має мати можливість контролювати, як його образ використовується у медіа, створених ШІ.” Він зазначив, що “відгук щодо зловживань глибокими фейками підкреслює базову неспроможність самого Інтернету.” “Поки що немає нативного способу перевірити, хто створив синтетичний контент або чи було його використання коли-небудь дозволено,” додав Едвардс, залишаючи відповідальність за це на посередників, таких як X, а не на відповідальних за створення зловживань. Якщо це доведено, провали у рамках розслідування становитимуть порушення статей 34(1) і (2), 35(1) та 42(2) Регламенту про цифрові послуги, які зобов’язують платформи оцінювати та зменшувати системні ризики, включаючи поширення незаконного контенту та негативні наслідки, пов’язані з насильством за ознакою статі. Розслідування ЄС продовжує справу щодо DSA наприкінці 2023 року, яка призвела до штрафу у розмірі 140 мільйонів доларів (€120 мільйонів) проти X у грудні за обманний дизайн, недосконалість прозорості реклами та обмежений доступ дослідників. З того часу Комісія розширила контроль і на Grok, включаючи попередні занепокоєння щодо антисемітського контенту, створеного чатботом.

Decrypt звернувся до xAI за додатковими коментарями.