تواجه منصات وسائل التواصل الاجتماعي الكبرى ضغطًا متزايدًا بسبب إساءة استخدام المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. بعد شكاوى واسعة من المستخدمين حول ميزات التزييف العميق وتوليد الصور غير الطوعية، يتم إجبار المنصات على تشديد الرقابة. أعلنت إحدى المنصات الاجتماعية الرائدة أنها ستعطل قدرة أداة الصور التوليدية بالذكاء الاصطناعي على التلاعب بصور الأشخاص الحقيقيين بدون إذن. يعكس هذا التحرك تزايد المخاوف بشأن الخصوصية الرقمية والموافقة، والاستخدام المحتمل الخاطئ لتقنية الذكاء الاصطناعي. يراقب المنظمون والجماعات الحقوقية بشكل متزايد كيفية تعامل المنصات مع القدرات الحساسة للذكاء الاصطناعي، لا سيما تلك التي تؤثر على الصور الشخصية وحماية الهوية.