Чем опасен искусственный интеллект

На днях основатель Tesla Motors Илон Маск анонсировал начало работы над проектом OpenAI стоимостью в один миллиард долларов, который во многом напоминает другие похожие инициативы — такие, например, как «Grand Challenge» агентства DARPA, «X-Prize» и «Ноутбук каждому ребенку» авторства MIT Media Lab. Эти институциональные механизмы, направленные на создание инноваций, призваны привлечь внимание мировой общественности и лучших специалистов к решению важных и нетривиальных задач. Такого рода начинания могут быть весьма успешными, и я уверен, что ответ конкурентов не заставит себя долго ждать. Умные высокотехнологичные компании, подобные Google, Facebook*, Amazon, Baidu и Alibaba, быстро осознают, что так называемые «некоммерческие задачи», о которых говорят ученые, необходимо включить и в их собственные планы развития технологий искусственного интеллекта (ИИ) и машинного обучения.

И, на мой взгляд, основной проблемой ИИ, которой должны заняться исследователи OpenAI, являются чувства. «Искусственный интеллект» — термин не вполне точный, он плохо отражает суть процессов обучения и познания. Исторические свидетельства говорят о том, что интеллект и когнитивные способности эволюционируют параллельно с эмоциями и чувствами, а воображение и творчество в одинаковой степени связано со всеми этими явлениями.

Если мы хотим, чтобы машины усиливали наши творческие возможности (а мы этого хотим), тогда проект по разработке «искусственного интеллекта» и «машинного обучения» должен признать тот факт, что дело не только в нашем интеллекте и знаниях, но и в тех эмоциях и темпераменте, которые мы вкладываем в наши решения, действия и общение. То, что продвинутая технология, наделенная в прямом и переносном смысле своим собственным разумом, не будет при этом обладать цифровыми аналогами страха, боли, желаний, любопытства, раздражения, сентиментальности и амбиций, лишь научная гипотеза, требующая проверки, а не доказанный факт. «Чувства» и «эмоции» подобных машин, возможно, будут отличаться от свойственных человеку, но это не значит, что их нет и никогда не будет.

Для тех задач, ради которых Apple, Google, Facebook*, GE, Amazon и другие занимаются проблемой машинного обучения, не говоря уж о других вещах, которые беспокоят Маска (считающего ИИ потенциально «более опасным, чем атомные бомбы»), эмоции машины могут быть более важным фактором, чем ее интеллект. Следовательно, нельзя относиться к ИИ только как к чистому «разуму». Проект OpenAI должен заняться этими аспектами, лишь так он сможет добиться настоящего влияния и эффективно справиться с реальными рисками, которые несет в себе ИИ.

И хотя катастрофические прогнозы в духе сингулярности Курцвейла или терминаторов Скайнета, пожалуй, избыточно драматичны, все же угроза действительно существует и требует внимательного изучения. Для того чтобы придумать печальный сценарий с участием ИИ, можно обойтись без научной фантастики, прибегнув к простой логической экстраполяции. Представьте себе следующие проблемы (нагруженные этикой, предубеждениями и эмоциями), которые придется решать искусственному разуму:

* деятельность на территории РФ запрещена