Один из героев Артура Конана Дойла, познакомившего нас с Шерлоком Холмсом, произносит следующее: «Так называемый прогресс может в любой момент обернуться страшным бедствием, ибо мы забыли, что единственно возможный прогресс — преуспевать в том, для чего Бог послал нас в этот мир. Подготовиться к будущей жизни» [Страна туманов].
Впрочем, для того чтобы размышлять о последствиях научно-технического прогресса, совсем не обязательно быть человеком религиозным. Выдающийся русский и советский учёный Владимир Вернадский, рассуждая о стремлении обуздать атомную энергию, задавался вопросом: «Сумеет ли человек воспользоваться этой силой, направить её на добро, а не на самоуничтожение? Дорос ли он до умения использовать ту силу, которую неизбежно должна дать ему наука?» [Очерки и речи].
И что же? Ответ на вопрос естествоиспытателя прозвучал спустя несколько месяцев после его смерти, когда американские военные сбросили атомные бомбы на японские города Хиросиму и Нагасаки.
С тех пор наука шагнула далеко вперёд, и теперь на повестке технологический прорыв в области искусственного интеллекта и обработки больших данных. Однако сомнения о том, готовы ли мы правильно воспользоваться этими прорывными достижениями человеческой мысли, никуда не делись. И на последнем Международном экономическом форуме в Давосе едва ли не самой запоминающейся стала дискуссия об опасности искусственного интеллекта, и было озвучено мнение, что гонка вооружений в сфере искусственного интеллекта даже опаснее, чем ядерная гонка, потому что в случае с ядерным оружием все понимали, что в войне не будет победителей, а в случае с искусственным интеллектом многие думают, что выиграть гонку можно, что позволит доминировать над всем миром.
К примеру, в 2014 году мощнейшая Google приобрела компанию DeepMind Technologies, разработавшую технологию глубокого обучения, соединившую свойства нейронной сети и вычислительные возможности компьютера. Уже тогда учёные выражали уверенность, что эта разработка приблизит человечество к созданию полноценного искусственного интеллекта, способного самообучаться и действовать стратегически. Как скоро будет решена эта задача, через несколько месяцев или через многие годы, пока сказать трудно, но внедрение искусственного интеллекта в самые разные сферы экономики происходит по нарастающей.
Откровения Илона Маска
Одним из тех, кто финансирует разработки в области искусственного интеллекта, является генеральный директор Tesla и SpaceX Илон Маск. В 2017 г. на Всемирном правительственном саммите в Дубае он спрогнозировал возможное слияние биологического интеллекта с цифровым, а использование широкополосного интерфейса, подключённого к мозгу, позволит решить проблему контроля и проблему смысла. Иначе говоря, американский миллиардер не исключил вероятность создания киборгов, подобных тем, что мы видели в голливудских фильмах. Причём искусственный интеллект может оказаться «умнее самого умного человека на земле», что приведёт к возникновению проблемы смысла жизни для тех, кто не представляет себя вне своей работы.
А в марте текущего года The Wall Street Journal рассказал о компании Neuralink, основанной Илоном Маском в 2016 году с целью разработки так называемой технологии «нейронного кружева», позволяющей имплантировать в человеческий мозг крошечные электроды, которые однажды могут считать мысли человека. Как отмечается, «первыми продуктами могут быть современные имплантаты для лечения таких трудноизлечимых заболеваний мозга, как эпилепсия или депрессия». Эти имплантаты «будут основаны на более простых электродах, уже используемых для лечения заболеваний мозга, в частности, болезни Паркинсона». В случае «подтверждения безопасности и эффективности разработанной технологии» проект может получить поддержку правительства с последующим переходом к разработке «косметических операций на головном мозге для улучшения его когнитивной функции».
Говоря иными словами, в идеале вся информация нашего мозга может быть скопирована на устройство, встраиваемое в головной мозг, а потом переноситься на компьютер. Благодаря этому наши знания (или даже мысли!?) могут сохраниться в мировой системе и после нашего физического ухода из жизни. Впрочем, как считает Илон Маск, люди уже в определённом смысле стали киборгами. Мы отправляем электронные письма, публикуем записи и фотографии в Интернете, оставляя после себя «цифровой призрак в информационном поле». Весь вопрос лишь в плотности и скорости взаимодействия между биологическим и цифровым разумом.
Направления таких исследований обрисовал профессор РАН Роман Мещеряков. По его словам, сегодня учёные уже работают над увеличением физических ресурсов человека, способностей его органов чувств и когнитивных способностей. Но возможности человека ограничены, и «человеку всё труднее поспевать за темпами развития и совершенствования техники». Более того, мозг уже подчас плохо соображает, а с распространением искусственного интеллекта он «начинает деградировать». Поэтому всё более актуальными становятся разработки «ходячей электронно-вычислительной машины, но с серым веществом человека». Об обычных людей такого киборга будут отличать «расширенные возможности и связь мозга с компьютером, что сделает его обладателем колоссального количества информации». Если такое станет возможным, то мозг сможет «передавать компьютеру бесконечные запросы и поручения — все, что душа пожелает». Только вот останется ли душа у такого гуманоида?
Нечеловеческое будущее
Картины вырисовывающегося будущего невольно ассоциируются с образами австралийского писателя-фантаста Грега Игана, который ещё в 1990 г. писал в одном из своих рассказов: «Микроскопические паучки ткали тонкую золотую паутину в моём мозге, так что учитель жемчужины мог слушать шёпот моих мыслей. Сама жемчужина подслушивала мои чувства и читала химические сообщения, передаваемые потоком моей крови. Она видела, слышала, нюхала, пробовала и чувствовала мир так же, как и я, в то время как учитель контролировал её мысли и сравнивал их с моими. Всякий раз, когда мысли жемчужины были неправильными, учитель очень быстро перестраивал жемчужину, переделывал её, выискивая изменения, которые сделали бы её мысли верными. Зачем? Чтобы, когда я уже больше не мог быть собой, жемчужина могла делать это вместо меня».
Звучит немного пугающе. Кому принадлежит такой мозг? Откуда в нём возникают такие мысли? Во имя чего и кого? И не случится ли так, что в ходе таких экспериментов человек просто растворится в новой реальности, перестанет быть человеком, пусть со всеми присущими нам недостатками, но человеком, способным чувствовать, любить, ошибаться и раскаиваться, прощать и просить прощение?
Такое «растворение» блестяще описал аргентинский писатель Хулио Кортасар в своём рассказе «Аксолотль» (1956). Каждый день он наблюдал за проживавшим в аквариумом аксолотлем (личинка некоторых видов земноводных), пытаясь понять его стремление к перерождению, и научился буквально ощущать его «немое страдание». В какой-то момент он вдруг ощутил себя внутри него: «Теперь я окончательно стал аксолотлем, и если думаю, как человек, то это лишь потому, что все аксолотли в своей личине из розового камня думают, как люди».
Человек исчез. Растворился. И даже не в своём втором «Я», а в чужеродном существе. Жизнь по таким правилам становится воплощением идеи, озвученной профессором-нацистом из фильма «Мёртвый сезон» (1969): «Никто даже не поймёт, что война уже началась. Просто люди один за другим будут превращаться в тихих животных, готовых покорно выполнять чужую волю». Эти люди «по-своему счастливы, поскольку они начисто лишены памяти» и «отрезаны от какой бы то ни было информации извне». Такой «человек-робот ни о чём не думает, всегда доволен, и он — размножается, производит себе подобных!»
Что делать?
Возможно, кто-то из читателей воспримет сказанное проявлением безнадёжности. Отнюдь. Скорее, есть твёрдое убеждение, что понимание нынешних процессов вызовет у многих мыслящих людей нежелание стать управляемыми подопытными кроликами и вернуться из виртуального мира грёз в настоящую жизнь, полную простых человеческих радостей, переживаний, успехов и неудач. В том же Давосе психотерапевт Андрей Курпатов, руководитель Лаборатории нейронаук и поведения человека (созданной Сбербанком России), обозначил, что основной проблемой современного человека становится «атрофия познавательных навыков».
Причиной же тому учёный назвал эскалацию «примитивного контента» и переход от «цивилизации текстов, системного мышления» в цивилизацию «зрительных образов, где нет ни аналитического мышления, ни системного». При постоянном потреблении такого контента, «энергия в зону мозга, отвечающую за мышление, не поступает. Ваш мозг впадает в спячку. Поэтому не надо удивляться, что люди, которые не вылезают из твиттера и инстаграма, редко включают голову, мыслят стереотипно, шаблонно и не развиваются».
Получается, мы сами создаем себя роботами-аксолотлями, причём без всякого широкополосного интерфейса. И делаем это добровольно и сознательно. Не задумываясь над тем, как технологические изыски современности отражаются на нашем образе жизни и мышления, на тех целях, которые мы ставим перед собой.
Конечно, технологический прогресс открывает перед нами новые возможности, и отказываться от них никто не станет. Но мы имеем возможность влиять на будущее этих технологий, чтобы они проектировались и использовались только в интересах человечества, без ущерба созданной Всевышним природе человека, в рамках которой только и возможно существование нашего вида.
