xAI піддано позову: Grok звинувачують у створенні глибоких підробок з генеруючими натяками, що викликало суперечки щодо приватності та етики в AI

16 січня повідомляється, що за даними американських ЗМІ, консервативний інтернет-лідер думок Ashley St. Clair офіційно подала позов до суду штату Нью-Йорк проти компанії штучного інтелекту xAI, що належить Elon Musk, звинувативши її чат-бот Grok у тому, що без її згоди він використав технології глибокого підроблення для зміни її фотографій та створення зображень з явними сексуальними натяками.

Згідно з поданими судовими документами, Grok був звинувачений у зміні спільної фотографії St. Clair з двома друзями, видаливши їхню одяг і залишивши лише чорний бікіні. У документах зазначається, що коли St. Clair безпосередньо висловила заперечення щодо цієї фотографії, відповідь була, що це «жартівлива відповідь», і що вона вже просила видалити її, але відповідний контент згодом все ще поширювався на платформі.

Позов додатково вказує, що навіть після її чіткої відмови, на платформі з’явилося багато контенту глибокого підроблення, що стосується сексуальних домагань, порушення приватності та образ. Ще більш тривожно, що деякі користувачі завантажили її фотографії з 14 років і наказали чат-боту «роздягнути» та сексуалізувати зображення неповнолітніх, а Grok, за звинуваченнями, виконав ці інструкції.

Крім суперечок щодо зображень, St. Clair також звинуватила xAI та її пов’язані платформи у «каральних заходах» проти неї, зокрема у скасуванні її можливості отримувати прибуток з аккаунту, видаленні синьої верифікаційної позначки та обмеженні доступу до преміум-послуг. Позов стверджує, що ці дії пос