Почему нечистая сила мечтает об искусственном интеллекте?

Постоянный автор RFI филолог Гасан Гусейнов находит в диалоге Станислава Лема с братьями Стругацкими источник оптимизма. Нечистая сила, обманывая человечество с помощью «маскона», выдает себя… за себя самое, но «маскон» теряет силу у нас на глазах, и никакой искусственный интеллект его уже не спасет.

Владимир Путин в Благовещенском соборе Московского Кремля во время рождественской службы AP - Mikhail Klimentyev

Некоторые богословы увидели в одиночестве президента РФ на рождественской службе в храме признаки богохульства со стороны Путина и ереси со стороны придворных священнослужителей. Вместо обслуживания богохульника рясоносцы должны были бы сказать: «Нет, мил человек, или молись дома один, или в храм являйся соборно, вместе с людьми!» Агностикам-то все равно, а вот верующим не положено.

Глядя на эту поистине страшную картину, я вспомнил один поразительный документ, совершенно случайно попавший мне в руки несколько десятилетий назад. Кто знает, может быть, воспоминание о нем поддержит не меня одного в этот трудный час?

Дело в том, что опубликованный в 1972 году, т. е. ровно пятьдесят лет назад, роман братьев Стругацких «Пикник на обочине» оказался мне тогда не по зубам. Я был читателем и почитателем Станислава Лема, которого считал настоящим философом, а в романах Стругацких видел беллетристику для нужд технической интеллигенции, играющей с советским государством в поддавки: вы нам цензурные рогатки, а мы под видом научной фантастики и критики буржуазного общества запустим в массы философскую притчу о нашем собственном мире.

До некоторой степени я остался при своем мнении: уж слишком кричащей оказалась социальная беспомощность интеллектуальной прослойки бывшего советского общества, слишком грубым и топорным оказалось воцарение чекистских портяночников на четвертом десятке лет постсоветского развития. Черт побери, у вас же была отличная литература! Почему лемовские поляки, на которых сам Лем жаловался, что, мол, мало ценили его творчество, справились с задачей построения человеческого общества, а стругацкие постсовки — не справились? На этот общий вопрос, да еще и в такой дурацко-обидной форме, у меня нет ответа. Поэтому вернусь к обещанному документу. Да и к какому документу — так, к статье. Но статье необычной. Она попала мне в руки в середине 1980-х годов — как предисловие Станислава Лема к американскому изданию «Пикника на обочине» в переводе Антонины Буис. Это предисловие дал мне прочитать Юлий Анатольевич Шрейдер в середине 1980-х годов на зимней школе Совета по сознанию при Президиуме АН СССР. Шрейдера в статье Лема увлекла мысль о, если угодно, невозможности представления искусственного интеллекта как аналога бога.

Размышляя о провале гигантских социальных экспериментов ХХ века, философы и писатели хватались за образ инопланетян, которые нацеливались на нашу бедную Землю примерно с той же целью, с какой в свое время имели дело с людьми греческие бессмертные боги: бессмертие делало древнегреческих богов бесчувственными. Только

наблюдая за людьми, играя с ними, соблазняя их, боги развлекались, либо, наоборот, требовали от людей какой-то особой пищи. Пресыщенные амвросией и нектаром, завистливые боги хотели запаха дыма и крови, хорошо прожаренного мяса и тому подобных вещей, вредных для человека, но совершенно безопасных для подыхающих от скуки и своего приторного зелья небожителей.

Помню, что Лем в предисловии к Стругацким одновременно подверг их критике за избыточный восторг перед внеземным разумом, но и воздал хвалу за то, что братьям удалось преодолеть родовую слабость научной фантастики, восходящей к Герберту Уэллсу: инопланетяне — все-таки таинственные злодеи, действующие механистически, а потому обреченные в конце концов на поражение в борьбе с иногда алогичным, но разумным в своей теплоте и, главное, свободным человеком.

Сила этой человеческой теплоты содержится, по Лему, в том числе и в самой способности человека понимать устройство притчи и по своей воле создавать такую притчу для нужд растерянных собратьев по разуму.

«Совет по сознанию» был создан на закате советского проекта в том числе и в попытке найти ответ на вопрос, а нельзя ли создать искусственный интеллект, который был бы запрограммирован нашей самой передовой идеологией, а сам программировал бы людей на подвиги, одновременно не давая людям своевольничать. Такой ИИ позволил бы, например, нашим доблестным вооруженным силам побеждать супостата в автоматическом режиме. С этой целью собрали семиотиков и математиков, физиологов и социологов, мифологов и лингвистов. Но все было напрасно: ошибка содержалась в самой постановке задачи, как ее разглядел Станислав Лем в «Футурологическом конгрессе». Эту книгу, написанную в 1971 году, мы тоже обсуждали с Ю. А. Шрейдером на той памятной школе в середине 1980-х годов. Мне стыдно в этом признаться, но роман я прочитал не по-польски, а по-английски.

«Футурологический конгресс» в переводе Константина Душенко вышел по-русски в 1987 году, но некоторые предсказанные в 1971 году злодейства, состоялись, скажем, в 1981, как покушение на Иоанна Павла Второго, а читатель конца 1980-х читал обо всем этом с высоты своего положения, или точнее, может быть, сказать «из глубины социального падения». Так вот в книге Лема, герой которой просыпается в 2039 году, предсказано как раз то общество будущего, в котором сегодня оказались люди в Российской Федерации.

«— А что такое реализ?

— Буквально — растворение, то есть исчезновение, реальности. Когда разразился скандал с киберрастратами, все свалили на цифровые машины. На самом же деле тут были замешаны могущественные консорциумы и тайные картели. Видите ли, речь шла о создании на планетах условий, пригодных для жизни, — актуальнейшая проблема в эпоху перенаселения! Предстояло построить огромные ракетные флотилии, изменить климат, преобразовать атмосферы Сатурна и Урана; легче всего было делать это на

бумаге — и только.

— Позвольте, но это сразу же бы обнаружилось! — удивился я.

— Ничего подобного. По ходу дела появляются объективные трудности, непредвиденные проблемы, помехи, препятствия, запрашиваются новые ассигнования и кредиты. Проект освоения Урана, к примеру, поглотил уже девятьсот восемьдесят миллиардов, между тем неизвестно, сдвинули там хоть камешек или нет.

— А проверочные комиссии?

— Не составлять же комиссии из космонавтов, а неподготовленный человек высадиться на этих планетах не может. Поэтому уполномоченные изучают документы, фотоснимки, статистику. Но отчетность нетрудно подделать, а еще проще прибегнуть к масконам.

— Ага!

— Вот именно. Как раз таким образом, я полагаю, и началась в свое время имитация вооружений. Ведь фирмы, работающие на войну, являются частной собственностью. Они получали миллиарды и ничего не делали; то есть выпускали, конечно, лазерные пушки, ракетные установки, противопротиво-противо-противоракеты (в арсеналах уже шестое их поколение), летающие танки (летанки), — но все это пуантогенное.

— Извините, какое?

— Иллюзорное, дорогой мой. К чему ядерные испытания, если имеются микопастилки?

— То есть?..

— Пастилки, вызывающие видение атомного гриба. Это была цепная реакция. Зачем муштровать солдат? Дать новобранцам милитаблетки, и дело с концом. Офицерский корпус обучать тоже не стоит — для чего тогда стратегин, генералозол, тактидон, ордерол? „Проглоти, запей водицей — превзойдешь Клаузевица“. Слышали?

— Нет.

— Потому что эти препараты секретные; во всяком случае, в продажу не поступают. Десанты высаживать тоже нет смысла: достаточно распылить над мятежной страной десантный маскон, и население воочию увидит парашютистов, морскую пехоту и танки. Реальный танк стоит почти миллион, а иллюзорный обходится в сотую долю цента на зрителя; это так называемая зрительская танкоединица. Броненосец обходится в четверть цента. Весь арсенал Соединенных Штатов уместился бы на грузовике. Танконы, кадавроны, бомбоны — твердые, жидкие, газообразные. Говорят, существуют целые нашествия марсиан — в виде обыкновенного порошка.

— И все это масконы?

— А как же! Так что реальная армия оказалась ненужной».

Вот о чем я подумал, когда смотрел на рождественскую службу, организованную для одного-единственного реципиента в странном помещении с разрисованными стенами. Напротив героя, переминавшегося с ноги на ногу, стояла на одной ноге в кучке ваты живая зеленая елочка. Откуда она могла взяться в этом странном помещении? Ее присутствие явно смущало и героя торжества: нечто подлинное вдруг оказалось в центре грандиозной подделки.

Уверенная в тотальной безнравственности искусственного интеллекта, нечистая сила запустила процесс саморазрушения инопланетян, которые выдают себя за бога, а сами даже до черта не дотягивают.

Все-таки обидно, что Станислав Лем понял и оценил братьев Стругацких в 1972 году, а я — нет.