Ожидается создание AGI в течение нескольких лет, говорит генеральный директор Anthropic — и также возможные потери рабочих мест

###Кратко

• Генеральный директор Anthropic Дарьо Амодей заявил, что ИИ может превзойти человека по большинству задач в течение одного-пяти лет
• Как Амодей, так и генеральный директор Google DeepMind Демис Хассабис предупредили, что начальные белые воротнички могут столкнуться с ранними потрясениями
• Руководители отметили, что правительства недооценивают скорость и масштаб экономических и геополитических рисков

Сроки достижения искусственного общего интеллекта (AGI) сокращаются, и, по словам генерального директора Anthropic Дарьо Амодей, окно для подготовки политиков закрывается быстрее, чем многие предполагают. Выступая на панели в рамках Всемирного экономического форума в Давосе вместе с генеральным директором Google DeepMind Демисом Хассабисом, Амодей предупредил, что быстрое развитие ИИ может опередить устойчивость рынков труда и социальных институтов. Амодей подтвердил свой агрессивный прогноз, что человеческий уровень ИИ, скорее всего, появится всего через несколько лет, а не десятилетий. «Я не думаю, что это окажется так далеко», — сказал Амодей, подтверждая свою предсказание, что сверхчеловеческая способность может появиться к 2026 или 2027 году. «Мне очень трудно представить, как это может занять больше времени».

 Движущая сила этого ускорения — растущий цикл обратной связи, когда модели ИИ начали автоматизировать собственное создание. Амодей отметил, что в Anthropic традиционная роль инженера-программиста уже переопределяется ИИ. «У меня есть инженеры в Anthropic, которые говорят: «Я больше не пишу код. Я просто позволяю модели писать код, я его редактирую», — сказал он. «Мы можем быть за шесть-двенадцать месяцев от того, когда модель будет выполнять большую часть, возможно всю работу [инженеров-программистов] полностью». Пока Амодей видит быстрый рост прогресса — ограниченного только поставками чипов и циклами обучения, — Хассабис предложил более взвешенный взгляд.

«Я считаю, что прогресс был замечательным, но некоторые области инженерной работы, программирования или математики легче автоматизировать, отчасти потому, что их результаты можно проверить — что именно получается», — сказал он. «Некоторые области естественных наук гораздо сложнее. Вы не всегда можете знать, правильна ли химическая формула, которую вы создали, или предсказание о физике. Возможно, придется проверять экспериментально, и это займет больше времени». Хассабис отметил, что текущие системы ИИ все еще не умеют генерировать оригинальные вопросы, теории или гипотезы, даже улучшаясь в решении четко определенных задач. «Постановка вопроса изначально или формулирование теории или гипотезы — это гораздо сложнее», — сказал Хассабис. «Это высший уровень научного творчества, и неясно, появятся ли такие системы». Глава DeepMind сохранил вероятность «50%» достижения AGI к 2030 году, ссылаясь на разрыв между высокоскоростными расчетами и настоящими инновациями. Несмотря на различия в сроках, оба лидера пришли к мрачному согласию по поводу экономических последствий, согласившись, что белые воротнички находятся в зоне риска. Амодей ранее оценивал, что до половины начальных профессиональных ролей могут исчезнуть в течение пяти лет, и он подтвердил это мнение на Давосе. Испытание институциональной готовности Основная проблема для обоих руководителей — не только сама технология, но и способность мировых правительств идти в ногу. Хассабис предупредил, что даже самые пессимистичные экономисты могут недооценивать скорость перехода, отметив, что «пять-десять лет — это не так много времени». Для Амодей ситуация переросла из технической задачи в экзистенциальный «кризис» управления.

«Это происходит так быстро и является таким кризисом, что мы должны практически все наши усилия сосредоточить на том, как пройти через это», — сказал он. Хотя он остается оптимистичным в отношении управляемости рисков — от геополитической напряженности до индивидуального злоупотребления — он предупредил, что окно для ошибок очень узкое. «Это риск, с которым, если мы будем работать вместе, мы можем справиться», — сказал Амодей. «Но если мы будем двигаться так быстро, что не останется никаких ограничителей, то есть риск, что что-то пойдет не так». Некоторые аналитики труда считают, что потрясения проявятся скорее не в полном замещении рабочих мест, а в перестройке самой профессиональной деятельности. Боб Хатчинс, генеральный директор Human Voice Media, заявил, что основная проблема не в том, заменит ли ИИ работников, а в том, как он изменит характер их работы. «Нам нужно перестать спрашивать, заменит ли ИИ наши рабочие места, и начать спрашивать, как он их ухудшает», — сказал Хатчинс. «Нет прямой угрозы тому, что машина полностью заменит человека, выполняющего работу писателя или программиста. Угроза в том, что работа разбивается на меньшие задачи и управляется алгоритмом». По словам Хатчинса, этот сдвиг меняет роль человека с «Создателя» на «Проверяющего». «Это лишает профессионалов возможности самостоятельно принимать решения и превращает значимую профессиональную работу в неквалифицированные, низкооплачиваемые задачи с фокусом на выполнение отдельных операций», — сказал он. «Труд не исчезает, он становится менее очевидным, менее стабильным и гораздо сложнее для профсоюзов», — добавил он.