Годовой отчет Google сообщает, что Gemini обеспечивает перехват за миллисекунды, блокируя 99% мошеннической рекламы

На просторах интернета самые разные объявления используют искусственный интеллект для генерации всевозможного похожего на правду, но вводящего в заблуждение контента, тем самым сбивая людей с толку. В своем ежегодном отчете об информационной безопасности рекламы Google указала, что злоумышленники используют генеративный ИИ для массовой публикации недостоверного контента. В ответ компания усилила автоматическую систему защит Gemini, выполняя немедленную блокировку до того, как вредоносная информация достигнет пользователей. В настоящее время доля блокировки нарушающих правил рекламных объявлений уже достигла 99%.

Google заявляет, что время обнаружения нарушающих правил объявлений сократилось до миллисекунд

В прошлом году Google перехватила или удалила более 8.3 млрд объявлений, при этом 602 млн из них были тесно связаны с мошенничеством. Этот показатель выше, чем 5.1 млрд объявлений в 2024 году: около 24.9 млн рекламодателей были приостановлены, причем более 4 млн аккаунтов были заблокированы из‑за действий, связанных с мошенничеством.

Согласно отчету об информационной безопасности рекламы, генеративный искусственный интеллект Gemini стал ядром системы обороны: он может перехватывать более 99% контента до размещения нарушающих правил рекламных объявлений. Раньше анализ цифровых рекламных активов занимал от секунд до нескольких минут, а теперь он сокращен до уровня миллисекунд. Это преимущество в скорости позволяет системе в реальном времени проверять большинство динамических объявлений в поиске, в то время как злоумышленники используют ИИ для массового производства мошеннической рекламы, а Google также в тот же масштаб осуществляет немедленную блокировку.

Вице-президент и генеральный менеджер по вопросам рекламы, конфиденциальности и безопасности Google Sharma заявил, что генеративный искусственный интеллект является частью защитной системы Google, и его прогресс существенно повышает возможности борьбы с проблемным контентом.

Gemini сейчас может анализировать тысячи миллиардов сигналов, включая возраст аккаунта, поведенческие подсказки и модели рекламных кампаний, чтобы лучше понимать Nuances of Advertiser Intent「тонкие различия реального намерения рекламодателя」. Это означает, что они могут в общих чертах определять законность рекламы либо то, может ли намерение рекламодателя быть злонамеренным. Количество случаев ошибочной приостановки аккаунтов законных компаний также сократилось на 80%, что показывает, что автоматизированные технологии нашли более удачный баланс между защитой интересов добросовестных компаний и перехватом угроз.

Эксперты отмечают, что в будущем начнется война ИИ против ИИ

Аналитик Emarketer Эллиот (Nate Elliott) говорит, что это старая проблема, просто масштаб увеличился; главное отличие в том, что ИИ дает преимущества в скорости и масштабе как законным, так и незаконным участникам.

В отчете ФБР США о киберпреступлениях показано, что в прошлом году общий ущерб от мошенничества, связанного с ИИ, превысил 893 млн долларов. Директор Центра по ИИ при Университете Висконсина в Мэдисоне Ситц (Matt Seitz) заявил, что проблема, связанная с генеративным ИИ, огромна, и только люди ее не решат; нынешнее развитие стало противостоянием между ИИ и ИИ.

Представитель Google подчеркнул, что официальным основанием для определения того, нарушает ли реклама политику, является не способ производства, потому что многие законные компании также используют инструменты ИИ. Однако возникает другая проблема: сможет ли ИИ достаточно умно распознавать, что такое добросовестная реклама?

Впервые эта статья появилась в Лан-новостях ABMedia. Google годовой отчет: Gemini реализует перехват на миллисекундном уровне, блокируя 99% мошеннической рекламы.