Искусственный ты. Машинный интеллект и будущее нашего разума

Глава 1
Век ИИ

Возможно, вы даже не задумываетесь о существовании ИИ, но он уже вокруг вас повсюду. Он помогает вам искать информацию в Google. Он одерживает верх над мировыми чемпионами Jeopardy!^[7] и го. И он совершенствуется с каждой минутой. Но универсального ИИ, т. е. такого, который способен самостоятельно поддержать разумную беседу, включающую идеи из различных областей знания, и даже превзойти человека в сообразительности, у нас нет. Такого рода ИИ фигурирует в кинофильмах «Она», «Из машины» и прочей фантастике, и может показаться, что там он и останется.

Я, однако, подозреваю, что момент его появления не так уж далек от нас. К развитию ИИ нас подталкивают рыночные механизмы и военно-промышленный комплекс – в настоящее время миллиарды долларов тратятся на разработку боевых роботов, умных помощников по дому и суперкомпьютеров, имитирующих работу человеческого мозга. Так, правительство Японии, предвидя недостаток рабочих рук, развернуло программу, результатом которой должны стать андроиды для ухода за престарелыми.

С учетом нынешних более чем стремительных темпов развития ИИ можно ожидать появления универсального искусственного интеллекта уже в ближайшие десятилетия. Универсальный ИИ – это разум, способный, подобно человеческому, соединять воедино неочевидные знания из разных тематических областей и демонстрировать при этом гибкость и здравый смысл. Уже сейчас предполагается, что в ближайшие десятилетия ИИ сделает ненужными многие человеческие профессии. Согласно недавнему обзору, например, самые цитируемые исследователи искусственного интеллекта считают, что ИИ сможет «освоить большинство человеческих профессий по крайней мере так же хорошо, как средний человек» к 2050 г. с вероятностью 50 %, а к 2070 г. – с вероятностью 90 %^[8].

Я уже говорила, что многие эксперты предупреждают о появлении сверхразумного ИИ: искусственного интеллекта, превосходящего умнейших представителей человечества во всех отношениях, включая логические рассуждения и социальные навыки. Сверхразум будет способен уничтожить нас, утверждают они. В противоположность этому Рэй Курцвейл – футурист, занимающий в настоящее время должность технического директора в компании Google, рисует технологическую утопию, которая принесет с собой конец старению, болезням, бедности и недостатку ресурсов. Курцвейл говорит даже о потенциальных достоинствах дружбы с персонализированными ИИ-системами вроде программы «Саманта» из фильма «Она».

Сингулярность

Курцвейл и другие трансгуманисты сходятся в том, что мы быстро приближаемся к «технологической сингулярности» – точке, где ИИ намного превзойдет человеческий разум и сможет решать задачи, которые мы прежде были не в состоянии решить, с непредсказуемыми последствиями для цивилизации и человеческой природы.

Понятие сингулярности проистекает из математики и физики, в первую очередь из концепции черной дыры. Черные дыры – это «сингулярные» объекты в пространстве и времени, места, где нормальные физические законы рушатся и не работают. По аналогии, технологическая сингулярность должна привести к неуправляемому техническому развитию и вызвать принципиальные изменения в цивилизации. Правила, по которым человечество жило тысячи лет, внезапно перестанут действовать. Ситуация станет непредсказуемой.

Технологические изменения могут оказаться не настолько стремительными, чтобы породить полномасштабную сингулярность, при которой мир меняется чуть ли не в одночасье. Но это не должно отвлекать нас от более серьезного момента: осознания того, что уже в XXI веке мы, вполне возможно, перестанем быть самыми разумными существами на планете. В будущем лучшими станут умы искусственные.

Мне кажется, мы уже видим причины, по которым искусственный интеллект превзойдет нас во всем. Даже сейчас микрочипы действуют быстрее, чем нейроны. Сегодня, когда я пишу эту главу, самым быстрым в мире является суперкомпьютер Summit в Окриджской национальной лаборатории в штате Теннесси. Его производительность составляет 200 петафлопс, т. е. 200 миллионов миллиардов операций в секунду. То, что Summit делает в мгновение ока, заняло бы всех людей на Земле, производящих по одной вычислительной операции в минуту в течение всего дня, на 305 суток^[9].

Разумеется, скорость – это еще не все. Если за мерило взять не арифметические расчеты, то окажется, что ваш мозг обладает куда большей вычислительной мощностью, чем Summit. Ваш мозг – продукт 3,8 млрд лет эволюции (именно во столько оценивается возраст жизни на нашей планете), и его мощь направлена на распознавание закономерностей, быстрое обучение и другие практические задачи выживания^[10]. Индивидуальные нейроны, возможно, работают медленно, но они организованы в многократно запараллеленную структуру, которая до сих пор оставляет современные системы ИИ далеко позади. Но ИИ обладает почти неограниченной возможностью для развития. Пройдет, может быть, совсем немного времени, и появится суперкомпьютер, способный сравняться по интеллекту с человеческим мозгом или даже превзойти его. Сделано это будет путем воспроизведения мозга и усовершенствования его алгоритмов или через создание новых алгоритмов, вообще не связанных с работой мозга.

Помимо прочего, любой искин можно будет загружать одновременно во множество устройств, легко дублировать и модифицировать, он может уцелеть в условиях, неблагоприятных для биологической жизни, в том числе во время межзвездных путешествий. Наш мозг, несмотря на свою мощность, ограничен объемом черепа и процессами обмена веществ. ИИ, в отличие от нас, может распространить свое присутствие на весь интернет и даже организовать галактический «компьютроний» – громадный суперкомпьютер, использующий в своих расчетах все вещество какой-нибудь галактики. В долгосрочной перспективе о каком бы то ни было состязании не может быть и речи. ИИ будет намного способнее и долговечнее нас.

Ошибка Джетсонов

Все это вовсе не обязательно означает, что мы, люди, потеряем контроль над ИИ и приговорим себя к вымиранию, как утверждают некоторые. Если мы усилим свой интеллект при помощи ИИ-технологий, нам, возможно, удастся не отстать от искусственного интеллекта. Не забывайте, ИИ позволит создавать не только все более совершенных роботов и суперкомпьютеры. В фильме «Звездные войны» и мультсериале «Джетсоны» люди окружены сложными искинами, притом что сами обходятся без улучшений и остаются просто людьми. Историк Майкл Бесс называет это «ошибкой Джетсонов»^[11]. В реальности ИИ не просто преобразует мир. Он преобразует и нас тоже. Нейронное кружево, искусственный гиппокамп^[12], имплантируемые в мозг микрочипы для лечения аффективных расстройств – вот лишь некоторые из изменяющих разум технологий, которые уже находятся в разработке. Так что Центр конструирования разума не такая уж невероятная выдумка. Напротив, это вполне правдоподобная экстраполяция нынешних технологических тенденций.

Чем дальше, тем больше человеческий мозг рассматривается как нечто, что может быть взломано подобно компьютеру. В одних только США уже немало проектов, где разрабатываются мозговые импланты для лечения психических заболеваний, двигательных расстройств, инсультов, деменции, аутизма и многого другого^[13]. Сегодняшние методы оказания медицинской помощи с неизбежностью найдут продолжение завтра. В конце концов, люди жаждут стать умнее, эффективнее или просто усилить способность радоваться жизни. С этой целью ИИ-компании, такие как Google, Neuralink и Kernel, пытаются определить, как «скрестить» человека с машиной. В ближайшие десятилетия вы, возможно, станете киборгом.

Трансгуманизм

Исследования в этой области начались недавно, но стоит подчеркнуть, что ее основные идеи появились намного раньше и обрели форму философско-культурного движения, известного как трансгуманизм. Джулиан Хаксли пустил в оборот термин «трансгуманизм» в 1957 г., когда написал, что в самом близком будущем «биологический вид человека окажется на пороге нового типа существования, отличающегося от нашего не меньше, чем наше существование отличается от существования синантропа»^[14].

Трансгуманизм исходит из того, что наш биологический вид в настоящее время находится на сравнительно ранней ступени и что развивающиеся технологии изменят саму эволюцию человека. В перспективе люди будут совершенно непохожи на свое нынешнее воплощение как в физическом, так и в ментальном отношении и приблизятся к персонажам научно-фантастических рассказов. Они получат значительно более развитый интеллект и почти полное бессмертие, подружатся с искинами и будут сами выбирать свои телесные характеристики. Трансгуманисты уверены, что такой результат очень желателен как в отношении индивидуального развития, так и в отношении развития нашего биологического вида в целом. (Чтобы полнее познакомить читателя с трансгуманизмом, я включила Декларацию трансгуманистов в приложение.)

Хотя концепция эта отдает научной фантастикой, многие технические достижения, которые описывает трансгуманизм, представляются вполне возможными: не исключено, что начальная стадия ожидаемых радикальных перемен заключается в некоторых технических достижениях, которые либо уже здесь (если не общедоступны), либо, по мнению многих экспертов в соответствующих областях науки, на пути к нам^[15]. Например, Институт будущего человечества Оксфордского университета – одно из крупных объединений трансгуманистов – выпустил доклад о технических требованиях к загрузке разума в машину^[16]. Одно из агентств Министерства обороны США финансирует программу Synapse, участники которой пытаются сконструировать компьютер, напоминающий мозг по форме и функциональности^[17]. Рэй Курцвейл говорит даже о потенциальных преимуществах дружбы с персонализированными ИИ-системами – искинами – в стиле фильма «Она»^[18]. Всюду вокруг нас исследователи стремятся превратить научную фантастику в научный факт.

Вы, возможно, удивитесь, узнав, что я считаю себя трансгуманистом, но это действительно так. Впервые я узнала о трансгуманистах во время учебы в Калифорнийском университете в Беркли и тогда же вступила в одну из их групп – Экстропианское общество. Я запоем прочитала коллекцию фантастики своего бойфренда и регулярно знакомилась с экстропианской рассылкой. Меня очаровали представления трансгуманистов о техноутопическом будущем Земли. Я по-прежнему надеюсь на то, что новые технологии принесут нам радикальное увеличение продолжительности жизни, помогут справиться с недостатком ресурсов и болезнями и даже повысят качество ментальной жизни – если, конечно, мы захотим себя усовершенствовать.

Небольшое предостережение

Проблема в том, как попасть отсюда туда в условиях радикальной неопределенности. Ни одна из написанных сегодня книг не в состоянии точно обрисовать контуры пространства конструирования разума, и не исключено, что базовые философские тайны так и останутся неразгаданными с расширением нашего научного знания и повышением технического уровня.

Полезно помнить, что будущее туманно в двух важных отношениях. Во-первых, существуют известные неизвестные. Мы не можем с уверенностью сказать, например, когда использование квантовых компьютеров станет привычной повседневностью. Мы не можем сказать, будут ли и как именно будут регулироваться те или иные технологии, основанные на ИИ, или достаточно ли эффективными окажутся существующие меры ИИ-безопасности. Кроме того, простых и непротиворечивых ответов на философские вопросы, которые мы будем обсуждать в этой книге, по моему мнению, просто не существует. Во-вторых, есть и неизвестные неизвестные – будущие события, такие как политические изменения, технические инновации или научные прорывы, которые могут захватить нас совершенно врасплох.

В следующих главах мы обратимся к одному из основных известных неизвестных: к загадке осознанного переживания. Мы посмотрим, как появляется эта загадка в случае человека, а затем зададимся вопросом: сможем ли мы распознать сознание в существах, сильно отличающихся от нас в интеллектуальном отношении и даже состоящих из другой материи? Для начала попробуем хотя бы просто почувствовать глубину вопроса.

Глава 2
Проблема искусственного сознания

Что значит обладать сознанием? Во время бодрствования и сновидений вы каждое мгновение каким-то образом ощущаете себя собой. Услышав любимую мелодию или почувствовав аромат утреннего кофе, вы испытываете осознанные переживания. Хотя утверждение о том, что сегодняшние искины обладают сознанием, будет, пожалуй, преувеличением, со временем, когда они станут более сложными, может, и у них появится самоощущение? Способен ли искусственный разум испытывать чувственные переживания или эмоции, такие как жгучее любопытство или мучительная скорбь? А может быть, он способен испытывать переживания совершенно иного характера, чем наши? Назовем это проблемой искусственного сознания. Независимо от того, насколько поразительными станут искины будущего, если машины в принципе не способны обладать сознанием, то они могут иметь суперинтеллект, но внутренней ментальной жизни у них все равно не будет.

В контексте биологической жизни интеллект и сознание, судя по всему, неразделимы. Высокоразвитые биологические существа, обладающие интеллектом, имеют, как правило, сложные и тонкие внутренние переживания. Но будет ли эта закономерность распространяться и на небиологический разум? Многие полагают, что да. Например, трансгуманисты, такие как Рэй Курцвейл, склонны считать, что сознание неусовершенствованного человека померкнет в сравнении с внутренней жизнью и переживаниями сверхразумного ИИ^[19]. Но, как мы увидим, такие заключения преждевременны. Не исключено, что андроиды, в машинном разуме которых горит искра сознания, вроде Долорес из телесериала «Мир Дикого Запада» или Рейчел из фильма «Бегущий по лезвию», нереальны. Даже если искины превзойдут нас интеллектуально, мы все равно будем стоять выше их в одном принципиально важном аспекте – способности ощущать себя собой.

Попробуем просто оценить, насколько непостижимо сознание, даже в случае человека.

Сознание искина и трудная проблема

Философ Дэвид Чалмерс сформулировал «трудную проблему сознания», задав вопрос: почему вся информация, которая обрабатывается в мозге, должна ощущаться внутренне определенным образом? Почему нам необходимы осознанные переживания? Чалмерс подчеркивал, что эта проблема, судя по всему, не имеет чисто научного ответа. Например, мы можем разработать всеобъемлющую теорию зрения и выяснить в деталях, как обрабатывается в мозгу зрительная информация, но при этом все равно не понять, почему вся информация, обрабатываемая зрительной системой, непременно сопровождается субъективными переживаниями. Чалмерс противопоставляет трудную проблему сознания тому, что он называет «легкими проблемами», которые связаны с сознанием и имеют, в принципе, научные ответы (это может быть механизм внимания, то, как мы распределяем все по категориям или реагируем на раздражители)^[20]. Конечно, эти научные проблемы сложны, просто Чалмерс называет их «легкими», чтобы противопоставить «трудной проблеме сознания», которая, как он считает, никогда не получит чисто научного решения.

Мы же теперь сталкиваемся еще с одним непостижимым вопросом, имеющим отношение к сознанию, – со своеобразной «трудной проблемой» машинного сознания, если хотите.

Проблема искусственного сознания: должна ли обработка информации искином ощущаться определенным образом внутренне?

Развитый искин должен решать задачи, которые не могут решить даже умнейшие из людей, но будет ли обработка информации в нем сопровождаться какими бы то ни было субъективными ощущениями?

Проблема искусственного сознания – это не просто трудная проблема Чалмерса в приложении к ИИ. Мало того, между двумя проблемами существует принципиальная разница. Трудная проблема Чалмерса априори предполагает, что мы обладаем сознанием. В конце концов, каждый из нас, опираясь на самоанализ, может сказать, что он сейчас в сознании. Вопрос в том, почему мы обладаем сознанием. Почему некоторые результаты обработки информации мозгом ощущаются внутренне определенным образом? Проблема же искусственного сознания состоит в том, способен ли в принципе ИИ, созданный на основе других материалов, таких как кремний, обладать сознанием. Здесь не предполагается заранее, что ИИ обладает сознанием, – в этом и состоит вопрос. Это разные проблемы, правда, у них есть кое-что общее: не исключено, что их невозможно решить при помощи одной только науки^[21].

При обсуждении проблемы искусственного сознания доминируют, как правило, две противоположные позиции. Сторонники первой – биологического натурализма – считают, что даже самые продвинутые типы искинов будут лишены внутренних переживаний^[22]. Способность обладать сознанием – уникальное свойство биологических организмов, так что даже сложные андроиды и сверхразумы не смогут осознать себя. Представители второй позиции, которую я буду называть «технооптимизмом в отношении искусственного сознания» (или «технооптимизмом» – для краткости), отрицают биологический натурализм. Опираясь на эмпирические работы в области когнитивистики, они утверждают, что сознание – это полностью вычислительный процесс и, соответственно, сложные вычислительные системы будут испытывать внутренние переживания.