Очередной день — очередное предупреждение об ИИ. Но документальный фильм «В погоне за утопией» режиссёров Алекса Холмса и Лины Жилинскайте преподносит свою тревогу концентрированным ударом, вызывающим не меньший дискомфорт, чем разрыв фюзеляжа самолёта на высоте. В центре картины — Мо Гавдат, бывший главный коммерческий директор Google X, который превратился в странствующую Кассандру, пытающуюся достучаться до мира об опасностях искусственного интеллекта. За 83 минуты фильм переходит от привычной критики — вроде лишения людей работы и передачи власти техно-баронам — к куда более странным территориям, включая текущие попытки создать компьютеры из клеток человеческого мозга, которые однажды могут быть интегрированы прямо в наши черепа.
Гавдат когда-то курировал передовые проекты для технологического гиганта, с родительской гордостью наблюдая, как управляемые ИИ роботизированные руки Google учились хватать предметы, подобно детям. Но после трагической гибели сына из-за неудачной операции по удалению аппендицита он ушёл из Google и теперь с евангелистской страстью указывает на человеческие недостатки ИИ. Фильм показывает, как ИИ способствует цифровому нарциссизму через гипероптимизированные соцсети и порно, обеспечивает массовую слежку и автоматизированные войны, а также развивается по экспоненциальной кривой роста, которая вскоре может выйти из-под контроля человека. Известный пионер ИИ Джеффри Хинтон присоединяется к предупреждениям, придавая вес опасениям Гавдата.
Поиск этичного ИИ
Самый амбициозный проект Гавдата впереди: внедрить моральное измерение в технологическую гонку, которая всё больше напоминает безумный финал сезона позднего капитализма. Он утверждает, что способность человечества к доброжелательности — это именно тот обучающий ресурс, который нужен нейросетям, чтобы предотвратить катастрофу, которую может принести технология. Однако фильм разочаровывающе мало конкретизирует, как на самом деле будет выглядеть просвещённый ИИ. Гавдат предлагает насыщать обучающие данные нейросетей примерами человеческого позитива и альтруизма — идея, кажущаяся почти смехотворно наивной, но, возможно, не такой уж и эфемерной, как звучит.
Один из высших лам Бутана соглашается с Гавдатом, предполагая, что текущая повестка «сдерживания» ИИ и обеспечения того, чтобы он «служил» человечеству, содержит слишком много старых угнетающих тенденций. Этот взгляд бросает вызов стандартному нарративу техно-гиков о том, что ИИ можно просто контролировать с помощью лучших регуляций. Фильм убедительно доказывает, что эмпатия, возможно, должна распространяться на цифровые сущности, которые для практических целей скоро станут сознательными и чувствующими. Трудно понять, насколько серьёзно воспринимать того, кто предлагает то же решение, что и в «Охотниках за привидениями 2» — позитивные вибрации для изгнания негативного эктоплазма, — но времена блокбастеров требуют блокбастерного мышления.
Ключевые опасения, поднятые в «В погоне за утопией»
Документальный фильм затрагивает несколько критических моментов текущей траектории развития ИИ:
- Массовая безработица по мере автоматизации рабочих мест ИИ в различных отраслях
- Цифровой нарциссизм, подпитываемый гипероптимизированными алгоритмами соцсетей
- Массовая слежка и автоматизированные войны, ставшие возможными благодаря системам ИИ
- Экспоненциальный рост, который вскоре может выйти из-под контроля человека
- Отсутствие подотчётности среди технологических лидеров, таких как Марк Цукерберг и Сэм Альтман
Эффект «зловещей долины» от этих техно-фигур наводит на мысль, что инопланетный сверхразум уже какое-то время печатает на 3D-принтере человеческие аватары. Фильм отмечает, что техно-гики — которых, конечно, здесь не интервьюируют — не выглядят слишком обеспокоенными экзистенциальными рисками. Это молчание тех, кто создаёт самые мощные системы ИИ, само по себе является предупреждением.
Что выделяет этот документальный фильм
В отличие от многих технических документалок, которые просто перечисляют опасности, «В погоне за утопией» вплетает личную историю в повествование о горе и миссии Гавдата. Его родительская перспектива придаёт фильму эмоциональную сердцевину, которой не хватает чисто основанным на данных предупреждениям. Документальный фильм также выигрывает от широкого круга интервьюируемых — от экспертов по ИИ до духовных лидеров, создавая многогранный взгляд на этические вызовы впереди.
Выход фильма в британских кинотеатрах 15 мая приходится на критический момент, когда правительства по всему миру пытаются регулировать ИИ, а технологические компании мчатся внедрять всё более мощные модели. Послание Гавдата — что нам нужно встраивать мораль в ИИ с самого начала — может показаться идеалистичным, но альтернативой является будущее, где машины, оптимизированные для прибыли и контроля, принимают решения, затрагивающие миллиарды жизней.
Часто задаваемые вопросы: Этичный ИИ и «В погоне за утопией»
В чём основной аргумент фильма «В погоне за утопией»?
Документальный фильм утверждает, что искусственный интеллект развивается слишком быстро без достаточных этических гарантий. Он прослеживает миссию Мо Гавдата по внедрению человеческой доброжелательности в обучающие данные нейросетей для предотвращения катастрофических последствий.
Кто такой Мо Гавдат и почему мы должны его слушать?
Мо Гавдат — бывший главный коммерческий директор Google X, где он курировал передовые технологические проекты. После смерти сына он покинул Google и стал активным сторонником этичного ИИ, привнося в дискуссию инсайдерские знания и личную срочность.
Какие конкретные опасности ИИ освещает фильм?
Фильм охватывает массовую безработицу, цифровой нарциссизм, массовую слежку, автоматизированные войны и риск выхода ИИ из-под контроля человека. Также обсуждаются попытки создать компьютеры из клеток человеческого мозга, которые можно было бы интегрировать в наш собственный мозг.
Стоит ли смотреть «В погоне за утопией»?
Да, особенно тем, кто обеспокоен влиянием ИИ на общество. Документальный фильм сочетает интервью с экспертами и захватывающую личную историю, предлагая как тревожные предупреждения, так и заставляющие задуматься решения в доступном 83-минутном хронометраже.
