Основатель AMI Labs Се Сайнин: LLM в некоторой степени является «反 Bitter Lesson», мировая модель - это будущее

Gate News Новости, 16 марта компания AMI Labs, создатель мировой модели, завершившая раунд посевного финансирования на сумму 1,03 миллиарда долларов, впервые дала подробное публичное интервью соучредитель и главный научный сотрудник, автор статьи по Diffusion Transformer (DiT)谢赛宁.谢赛宁 систематически критиковал текущий путь развития ИИ, основанный на больших языковых моделях, считая, что LLM не является успешным воплощением «苦涩的教训» (горького урока), предложенного Ричардом Саттоном, и даже «в некотором роде противоположностью Bitter Lesson». Он отметил, что язык сам по себе — это структура, высоко развитая человеческой цивилизацией, своего рода «ярлык», чрезмерная зависимость от которой ограничивает обучение ИИ в реальном мире. Он различает мировую модель и языковую модель: языковая модель предсказывает «следующий токен», а мировая модель основана на действиях и предсказывает «следующее состояние», что позволяет на этапе рассуждения предвидеть последствия действий и обеспечивать более безопасное и управляемое ИИ. Также он заявил, что «AGI — это ложная задача», создание агента, способного выживать в реальном мире, сложнее, чем решать математические задачи или писать код.谢赛宁 также рассказал, что дважды отклонял приглашения Ильи Сутскевера: в 2018 году отказался присоединиться к OpenAI и выбрал Meta FAIR, а в 2024 году отказался от предложения новой компании SSI из-за разногласий по мультимодальным и визуальным направлениям. Он отметил, что AMI Labs сознательно не имеет офиса в Кремниевой долине, потому что «Кремниевая долина уже погрязла в LLM». Штаб-квартира компании находится в Париже, а данные собираются через глобальных партнеров, работающих с реальным миром. Он считает, что парадигма обучения ИИ меняется с «скачивания интернета» на «скачивание человека», а краткосрочные сценарии внедрения — это умные очки и роботы.