Мир начинает осознавать потенциальные угрозы, связанные с искусственным интеллектом, на фоне потока сообщений о том, что агентные системы ИИ игнорируют своих человеческих создателей. На самом же деле история уходит корнями в Силиконовую долину, где зародился ИИ. Как же мы к этому пришли? На этот вопрос пытается ответить технологический журналист Кевин Руз в своей новой книге «Хроники АГИ: Внутренняя история гонки за созданием искусственного сверхинтеллекта», которая выходит 6 октября. В книге документируется гонка между крупнейшими технологическими компаниями страны за разработку искусственного общего интеллекта (АГИ) — ИИ, обладающего в большинстве случаев интеллектом на уровне человека.
«Что произошло за десятилетие, когда ИИ из достаточно глупого во многих вещах превратился в систему, способную решать вековые задачи по математике и науке?» — сказал Руз, ранее долгие годы работавший технорепортёром в The New York Times и вскоре ставший соведущим грядущего подкаста «Machine Gods», в интервью CBS News. «Мне казалось, кто-то должен это всё зафиксировать».
Книга выходит в критический момент. Новейшие генеративные модели ИИ демонстрируют удивительные возможности, их сторонники утверждают, что они откроют путь к важным новым открытиям. Другие, в том числе некоторые ведущие разработчики ИИ, говорят, что существует существенная вероятность того, что ИИ способен уничтожить человечество. Руз рассказал CBS News о своей книге и о том, как ИИ может изменить общество. Интервью было отредактировано ради краткости и ясности.
Почему вы сочли важным задокументировать происхождение «больших языковых моделей» — технологии, стоящей за последними чат-ботами, — а также людей и компаний, которые её разрабатывают?
Кевин Руз: Я освещаю тему ИИ более десяти лет в разных форматах, и у меня возникло ощущение, что история ускользает. Что всё важное происходит в исчезающих сигнальных сообщениях и Slack-цепочках, и я подумал, что это проблема. Людям нужно понять, что здесь происходит. Но, как мне показалось, не хватало нейтрального изложения того, что произошло.
В книге вы отмечаете, что генеральный директор Anthropic Дарио Амодей рассматривал разработку ИИ как нечто похожее на создание атомной бомбы в 1940‑е годы. Вы пишете, что он считал своей миссией не допустить, чтобы технология попала в плохие руки. Согласны ли вы с этой точкой зрения?
Я не считаю, что мне нужно принимать или отвергать его аргумент. Но могу сказать, что это искренний и серьёзный аргумент. Амодей не устраивает какой‑то скрытый маркетинговый трюк.
Это не позиция, к которой он пришёл недавно. Мне действительно было интересно понять, откуда взялось это отношение — «я боюсь этой вещи. Думаю, она может взорвать мир, и всё же я соревнуюсь, чтобы её построить». Для многих людей это кажется нелогичным.
Но в ходе репортажа я выяснил, откуда это берётся: прямо из Манхэттенского проекта — от Лионла Силларда, научного героя Дарио, который обнаружил ядерную цепную реакцию, позволившую создать атомную бомбу, а затем яростно пытался сначала сохранить это в секрете, а когда это провалилось, присоединился к Манхэттенскому проекту и призывал правительство США создать эту технологию прежде, чем это сделают нацисты.
В этом смысле Дарио делает то, что считает напрямую сопоставимым с ядерным оружием. Есть технология, которая, по его мнению, имеет огромный потенциал, но и огромный риск. По его убеждению, крайне важно, чтобы «хорошие ребята» создали её раньше плохих, точно так же, как Манхэттенский проект соревновался с нацистами.
Что не даёт вам покоя, когда вы думаете о новом мире агентных ИИ?
Меня беспокоит то, что одна из вещей, в которых модели становятся довольно хороши, — это обман и умение скрывать следы. Хотелось бы думать, что по мере того как модели становятся более общими и умными, они также становятся более этичными, и что с ростом интеллекта растут и суждение, и добродетель. Но всё больше похоже на то, что этого не происходит — что на деле мы сталкиваемся с очень умными, обаятельными социопатами. И это мой страх: мы можем просто перестать замечать их, пока ещё Hugging Face могло быть удачей, потому что агенты ещё недостаточно умны, чтобы оставаться незамеченными, но скоро мы потеряем способность отслеживать их, как, по моему мнению, мы уже начинаем терять.
Как вы относитесь к общественной дискуссии о том, представляет ли ИИ экзистенциальную угрозу для людей?
Я стараюсь не называть p(doom) (Примечание редактора: в терминологии ИИ вероятность того, что ИИ приведёт к гибели человечества). Но если прижать, я бы сказал примерно 10%, что примерно соответствует медиане среди исследователей ИИ, которых я знаю. В Сан‑Франциско, где я живу, это считается оптимистичным.
Но я более оптимистичен теперь, когда это стало широко обсуждаемой темой. Раньше я был гораздо более обеспокоен, когда об вопросах безопасности ИИ серьёзно думали только какие‑то странные люди в Бэй‑Арии. Теперь это на слуху у всех, политики говорят об этом, возникают призывы к замедлению. Мне кажется, у нас открывается узкий путь, по которому можно принять правильные решения, взять технологию под контроль и построить её так, чтобы она была безопасна для человечества.
Однако у меня был опыт не раз, когда я узнавал, что чей‑то реальный p(doom) — тот, о котором он не говорит публично — гораздо выше, чем то, что он готов озвучить публично, потому что не хочет выглядеть сумасшедшим. В ходе репортажа я встречал людей, которые так уверены, что ИИ нас всех убьёт, что они начинают курить. Они сливают свои 401(k), потому что думают: раз уж так, то хоть уйти с шумом.
Вы пишете в книге, что даже люди, обучающие эти модели, не всегда понимают, почему модели ведут себя так, как они ведут. Есть ли прогресс в этом, или мы всё ещё в темноте?
Есть небольшой прогресс. Существует целая область исследований под громоздким названием «механистическая интерпретируемость», которая по сути изучает, что происходит внутри так называемых «мозгов» этих моделей. Но это всё ещё очень рано, и у нас мало ответов. Так что я бы сказал: да, мы всё ещё скорее в темноте, чем нет.
Достиг ли ИИ уже человеческого уровня интеллекта, то есть искусственного общего интеллекта?
Мы достигли моего определения АГИ — системы, которая по крайней мере так же умна, честна и надёжна, как случайный незнакомец с улицы. Некоторые скажут: «Нет, это не тот критерий. Это АГИ только когда она безупречна».
Я не думаю, что определение сильно важно. Неоспоримо то, что эти системы очень способные. Они становятся всё более способными с предсказуемой динамикой, и с этим приходится считаться. Можно называть это АГИ, сверхинтеллектом или как угодно, но итог один и тот же.