гуманистический сверхразум

мустафа сулейман, соучредитель deepmind и руководитель направления ai в microsoft о том, каким должен быть актуальный путь человечества

сулейман вспоминает, как в 2010-м идея о создании «обучающихся алгоритмов» казалась научной фантастикой. для него самого мотивация была следующей: создавать технологии, которые служат людям. спустя пятнадцать лет он по-прежнему формулирует задачу именно так — изобретения должны уменьшать страдания, усиливать благополучие и проходить тест «делает ли это мир лучше».

если у вас нет возможности прочесть статью — мы рекомендуем вам перейти в ее конец и послушать подкаст по теме, который мы создали с помощью ai.

сулейман утверждает, что мы находимся на пороге новой формы отношений. если раньше у нас были три категории — инструменты, природа и люди, — то ai агенты становятся «четвертым видом». они не вписываются в привычные рамки. это целостные агенты, действующие в среде. именно поэтому он говорит о цели построить «гуманистический сверхразум» — систему, которая направлена на служение человеческим интересам, а не на их подмену.

одна из ключевых тем: как установить ограничения, не убивая инновации, и не допуская сценариев разрушения. су­лейман признает: полное сдерживание, возможно, невозможно — технологии уже в свободном доступе, распространение идей сложно контролировать.

он вводит понятие «pessimism aversion» — психологическое нежелание серьезно рассматривать крайние негативные сценарии. люди склонны игнорировать или минимизировать риски. эта установка мешает принимать заблаговременные действия и готовиться к критическим сценариям, потому что «что-то такое страшное» кажется фантазией.

су­лейман не рассматривает ai как автономную тему — он видит ее как часть «прилива», объединяющего ai + биотехнологии. он предупреждает: когда эти две волны объединятся, риск возрастает экспоненциально. биотехнологии дают инструменты трансформации жизни, и их сочетание с ai дает возможность проектировать болезни, изменять гены, создавать новые организмы — что открывает как огромные блага, так и угрозы.

оптимизм: энергия и климат

сулейман прогнозирует, что за два десятилетия стоимость энергии упадет в сто раз. ai, управляя сетями и изобретая новые материалы, сделает энергию дешевым и изобильным ресурсом.

это означает возможность опреснять воду, выращивать урожай в засушливых регионах, снижать масштабы миграций из-за климата.

при этом он признает: вычислительные мощности требуют огромных ресурсов. его позиция: чистая польза от технологий перевешивает экологическую цену, как когда-то автомобили перевесили свои издержки. условие — новые стандарты: переработка воды, полный переход на возобновляемые источники.

риски: работа и регулирование

массовое вытеснение рабочих мест сулейман считает самой реальной угрозой. сначала ai системы — помощник, который усиливает когнитивного работника. но рутинная часть труда быстро исчезает. через двадцать лет большинство привычных профессий могут оказаться ненужными.

он предлагает налоги и перераспределение. создание искусственных «трений», чтобы замедлять внедрение технологий и давать обществу время адаптироваться. конечная цель — среда, в которой человек может находить призвание и жить полноценной жизнью.

он подчеркивает, что многие люди недооценивают скорость, с которой технологии движутся. и сравнивает первые годы ai как «плоскую часть кривой», когда рост еще не ощущался, но за этой фазой пришли резкие удвоения возможностей. если система способна ставить цели, накапливать ресурсы и действовать автономно, — тогда нужны меры военного уровня, включая физические выключатели.

сулейман подчеркивает: решать, когда наступает такой момент, — задача коллективного выбора. искусственный интеллект не должен манипулировать, убеждать или иметь собственную волю. он должен оставаться инструментом в интересах людей. он остро критикует концепции, дающие ai «право» как будто он сознательный субъект. он считает это антропоморфизмом, который мешает держать ai под контролем.

будущее и гуманистический вектор

сулейман верит, что следующие десятилетия могут стать самыми продуктивными в истории: дешевле энергия, доступнее медицина, ликвидировано базовое страдание. его цель — обеспечить условия, где три миллиарда человек, сегодня живущих в нищете, получат шанс на достойную жизнь.

в качестве примеров пользы он приводит уже работающие кейсы: программы для фермеров в индии и кении, предсказание наводнений, быстрый переход к солнечной энергетике в пакистане.

cу­лейман активно призывает к построению институций, которые будут сочетать технологический контроль, международные рамки, безопасные протоколы, аудит и глобальное сотрудничество. он делает параллели с контролем над ядерными технологиями, но подчеркивает: ai и биотехнологии отличаются тем, что сделать «мораторий» или запрет практически невозможно — технологии уже децентрализованы.

с помощью ai мы создали для вас подкаст по данной теме, чтобы вам было удобно погрузиться в нее в аудио формате: