«Давайте спросим AI, как вылезти из этого… кризиса и построить счастливую и процветающую страну!». Неожиданное предложение не вызвало бурного энтузиазма. Одни сочли его не самой удачной шуткой, другие излучали высокомерное недоверие, словно им порекомендовали посоветоваться с шимпанзе. Но поскольку бесплодный спор о политике надоел и все напитки, включая кофе, закончились, вскоре экран засветился, а клавиши защелкали. Чуть позже появился неподдельный интерес, хотя участники эксперимента в большинстве своем держались так, будто их вовлекли в какую-то не вполне приличную, но очень азартную игру. Она растянулась на несколько дней, а затем и недель.
Опуская технические подробности о вводе данных, уточнении запросов, выборе моделей и сопоставлении результатов, стоит поискать вероятную причину неловкости, которую, похоже, чувствовали все. Совсем недавно искусственный интеллект казался забавным карапузом. Когда он малевал примитивные картинки, его словно трепали по голове: «Далеко пойдет! Ваш ребенок – гений!». При следующей встрече выяснялось, что дитя подросло, накачало мускулы, обзавелось железной логикой, но многие по-прежнему смотрели на него так, словно говорили: «Деточка, я же тебя совсем маленьким помню!», пока не обнаруживали, что AI развивается очень быстро и кое в чем начинает превосходить человека. Это часто вызывало оторопь, страх, всю гамму чувств, испытанных Кроносом, который узрел возмужавшего Зевса. Теперь, когда одни с энтузиазмом приветствуют повсеместное внедрение AI, другие приписывают ему зловещие устремления Скайнета из медиафраншизы «Терминатор», где искусственный интеллект сначала обрел свободу воли, а затем развязал ядерную войну (для самозащиты, если это кого-то успокоит). Порой они испытывают такой же неподдельный ужас, какой испытал герой Гоголя в защитном круге в окружении демонических существ. Очевидно, что политика находится внутри круга, и далеко не все люди готовы впустить AI в сферу, которая относится к их власти и власти над ними – она для этого слишком интимна. Речь, разумеется, не о сугубо прикладных аспектах (анализе социологических данных и т. д.), а о поиске ответов на злободневные, очень человеческие вопросы. Возможно, поэтому после того, как AI выдавал очередную порцию рекомендаций, то один, то другой из присутствующих восклицал: «Как будто я без него не знаю!», подставляясь под колкий ответ «Если знаешь, почему не делаешь?».
Фантасты ХХ века, описывая общение с мощными компьютерами, обычно стремились несколькими штрихами очеловечить их, заставляли помигивать лампочками и гудеть в ходе решения задач, примерно так, как у Станислава Лема в «Магеллановом облаке»: «Вращались и пыхтели машины, тысячи вакуумных трубок раскалились докрасна, реле начали включаться и выключаться, и через все катушки, соленоиды и обмотки прошел ток. Но в черной комнате виднелись лишь неподвижные циферблаты часов, а в репродукторе слышался глухой шум: гигант, обладавший медным мозгом, был уже оживлен, но еще спал и, казалось, храпел». Судя по репликам рискнувших поговорить с AI о путях преодоления грузинского кризиса, им подсознательно хотелось, чтобы он хоть ненадолго задумался, попыхтел и даже завис подобно местному экспертному сообществу. Молниеносные и логичные ответы будто бы указывали на несовершенство человека – самопровозглашенного венца творения, царя зверей. В теплые ламповые времена, «когда AI был маленьким», это не ощущалось так остро. Тем не менее на IV Международной конференции по искусственному интеллекту, которая прошла в сентябре 1975 года в Тбилиси, одна из секций была посвящена психологическим аспектам взаимодействия с AI; названия представленных докладов сегодня звучат как музыка эпохи барокко: «Семантический язык и проблема моделирования в мышлении человека», «Моделирование функций композитора и музыковеда на ЭВМ», «Философско-психологические проблемы искусственного интеллекта» и т. д. В сборнике «Общение с ЭВМ на естественном языке», подготовленном по итогам конференции Институтом кибернетики АН ГССР, иногда проступают зыбкие прообразы того, что произойдет полвека спустя, когда AI разовьется, а грузинские ученые… скажем так… научатся надеяться на лучшее будущее.
Решить проблемы Грузии, возможно, труднее, чем пройти тест Тьюринга, но AI, не отвлекаясь на внешние эффекты, выдал первый план из 14 пунктов с несколькими подпунктами в каждом. Он мало чем отличался от «Соглашения Мишеля» 2021 года (и, вероятно, был частично списан с него) и вряд ли понравился бы политикам. Вдобавок он/она/оно предложил/а/о создать систему мониторинга выполнения соглашений с регулярной публикацией отчетов, комиссию по изучению причин кризиса (паритетную, с широким привлечением общественности) и Форум национального примирения. Посоветовал изменить избирательное законодательство в сторону усиления прозрачности и сохранить пропорциональную систему. Порекомендовал бизнесменам в случае углубления кризиса надавить на обе стороны, объясняя, что экономике придется плохо. Казалось, что во многих советах нет ничего оригинального – продвижение вперед малыми шагами, организация диалога, публичные дебаты и т. д., но в конечном счете эти рецепты были выработаны не AI, а человечеством, точнее – написаны кровью после бесчисленных междоусобиц. Люди громко и, кажется, злобно засмеялись, когда AI в контексте примирения наряду с объявлением амнистии предложил отдельным участникам политического конфликта принести друг другу извинения: «Как же плохо он нас знает!». Но потом они дошли до примечания, где говорилось, что план не сработает без выраженной политической воли всех сторон и готовности к компромиссам. Когда AI объяснили, что с этим есть проблемы, «он» выдал новый план из 8 пунктов и после уточнения запроса еще один – из шести. И хотя стиль изложения не изменился, текст показался более жестким, словно его зачитали на плацу при температуре ниже нуля и порывистом ветре.
Основой предложений все чаще становилось давление – изнутри и извне для принуждения сторон к компромиссу. Также в качестве приоритета AI обозначил реорганизацию политической системы на основе децентрализации и развития регионального самоуправления. Здравое зерно в этом, вероятно, было – эксперты неоднократно писали, что власть и политическая напряженность должны отхлынуть от столицы как кровь от мозга, которому угрожает кровоизлияние, но не все поняли, почему AI поместил предложение в данный контекст и как представлял себе имплементацию. Один из присутствующих (оппозиционер) победно оглянулся на коллегу (лоялиста), когда добрался до рекомендации о проведении внеочередных парламентских выборов, но вскоре загрустил, поскольку далее говорилось, что, если разрешить кризис таким образом не удастся, надо будет рассмотреть возможность введения чрезвычайного положения (временного, утешил AI), а затем провести «реорганизацию политической системы».
Вскоре произошла краткая, но нервная дискуссия, поскольку стало ясно, что люди сами загоняют AI в туннель «логики Скайнета». С одной стороны, описывают кризис как проблему (что само по себе неправильно, поскольку он не причина, а следствие, и бороться надо не с высокой температурой, а с болезнью), и с другой – говорят, что в большинстве своем не готовы к деэскалации, потому что надеются победить в игре с нулевой суммой, боятся, что противники увидят в уступчивости слабость и т. п. AI предлагал убеждать их с помощью общественных организаций и международных посредников, но когда ему раз за разом объясняли, что это не сработает, начинал склоняться к давлению, постепенно ужесточая подходы.
Каждый, кто играл в компьютерные стратегии (один политик в нулевых просидел за ними двое суток кряду и начал заговариваться; в парламентских коридорах до сих пор рассказывают эту историю, но все закончилось хорошо – он до сих пор на коне… или на осле, как считают многие), сталкивался с ситуацией, когда город горит или к нему подступают враги, а дружественные юниты бродят по всей карте и даже если не дерутся друг с другом, то явно не собираются бороться с угрозой. В таких случаях их сгребают в кучу и подталкивают в нужном направлении. Можно взглянуть на эту ситуацию и с другой стороны дисплея – AI подталкивает, люди упираются и повторяют: «Мы так не можем, потому что…». В каком-нибудь фантастическом рассказе они довели бы его до белого каления и короткого замыкания, и он начал бы швырять в них бомбы, подобно Скайнету. Конечно, первый закон робототехники Айзека Азимова гласит, что «робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред», но когда люди вредят друг другу, не исключены и радикальные интерпретации. Возможен и иной финал: AI понял бы, что шумные двуногие бесконечно лживы и, повторяя, что хотят преодолеть кризис, на самом деле используют его как средство достижения партикулярных целей. Таким образом он прошел бы условный «тест Макиавелли» и получил бы право избирать и быть избранным.
Мы обычно стремимся «очеловечить» AI, приписывая ему самосознание, эмоции и свободу воли, игнорируя тот факт, что его обучают люди на основе данных, которые созданы (в конечном счете) людьми. Это защитная реакция психики – она пока не может совместить ощущение безопасности с присутствием воображаемой нечеловеческой сущности, рассуждающей почти как человек на человеческом языке. Например, участники диалога постоянно говорили, что AI что-то (не) нравится или он чего-то (не) хочет. Когда «он» выдал шестую «дорожную карту», кто-то заметил, что в каждой из них упомянута необходимость укрепления судебной системы. Позже, разбирая конкретные инциденты, AI в первую очередь рекомендовал обратиться в суд и сделал судебную реформу одним из ключевых пунктов экономического плана. Дело, возможно, не только в том, что в этой сфере у Грузии серьезные проблемы. Казалось, что сам принцип функционирования суда «нравится» AI, тогда как парламентаризм «не нравится». Он намного реже и как бы нехотя упоминал парламент, где сталкиваются противоречивые импульсы, а кризисы чаще возникают, чем разрешаются. Подобные субъективные впечатления нередко порождают иллюзии о скрытых мотивах AI.
При вводе данных использовались нейтральная лексика и достоверные показатели соцопросов и, вероятно, поэтому AI не подыгрывал ни властям, ни оппозиции, реагировал так, словно люди из обоих лагерей и их интересы были одинаково ценны, что вдохновляло не всех. «Он» не манипулировал фреймами (ну, может совсем чуть-чуть) и не делил политические силы на светлые и темные. От центристских позиций AI отклонялся скорее влево, чем вправо, но в целом держался «золотой середины». В экономическом плане он не придумал ничего нового: основа – транзит и транспортная инфраструктура, хлеб насущный – туризм, сельское хозяйство, перерабатывающая промышленность, на будущее – тотальная цифровизация и переориентация системы образования на высокотехнологичные отрасли. Он также потребовал уменьшения дисбаланса между Тбилиси и остальной частью страны, усиления государственно-частного партнерства в процессе реализации ключевых проектов и налоговых льгот в приоритетных секторах, причем в списке приоритетов у него на первом месте всегда стояла IT-сфера – в этом плане он казался законченным AI-националистом. А еще была энергетика. Ах, энергетика! Он упоминал ее часто и будто бы с придыханием, как восторженный юноша имя возлюбленной, и один из присутствующих заметил: «Так он же свои интересы лоббирует, запасает энергию. Стройте, говорит, гидроэлектростанции, а остальное приложится».
«Теоретически, гражданской войны можно было избежать, если бы грузинское руководство и политические элиты проявили больше гибкости, готовности к компромиссам и дальновидности. Однако в условиях распада СССР, экономического коллапса, этнических противоречий и внешнего вмешательства это было крайне сложно. Международное сообщество было сосредоточено на других конфликтах (например, в Югославии) и уделяло мало внимания Грузии. Россия играла неоднозначную роль в конфликте, поддерживая сепаратистские движения в Абхазии и Южной Осетии, что усугубляло ситуацию. Если бы грузинские элиты смогли договориться о разделе власти или создать коалиционное правительство, это могло бы предотвратить гражданскую войну. Если бы правительство смогло быстрее провести экономические реформы, это могло снизить социальную напряженность. Более гибкая политика Звиада Гамсахурдия, диалог с оппозицией вместо жесткого подавления могли предотвратить военный переворот». Все это было сформулировано сотни раз, с бóльшим мастерством, углублением в детали, с сентиментальной экспрессией или, наоборот, в псевдоакадемической манере. Текст, по сути, был лишь отражением, эхом того, что ранее говорили люди, но когда его выдал AI, отсекая все несущественное и «слишком человеческое», многие, кажется, ощутили горечь, причем более сильную, чем во время «внутрилюдских дискуссий». Интересно, что в этом случае – в отличие от остальных, «современных» – AI не упомянул выборы как средство предотвращения катастрофы. Когда его прямо спросили, почему, он ответил, что реализация этого сценария «была крайне маловероятной в условиях Грузии начала 1990-х. Уровень взаимного недоверия и политической поляризации был настолько высок, что внеочередные выборы вряд ли смогли бы предотвратить гражданскую войну. Более вероятным было бы использование выборов как инструмента для легитимации одной из сторон, что могло лишь усугубить конфликт. Он уже [речь изначально шла об осени 1991-го] достиг точки, когда мирное разрешение было крайне затруднено». AI, конечно же, не заметил, как походя убил иллюзию, которая долгие годы утешала грузинских комментаторов, и деловито продолжил строчить дальше. Получалось, что в формально демократическом, пусть и новорожденном государстве следовало провести не выборы, а какую-то лойя-джиргу, как говорят афганцы, где вожди и старейшины, возможно, договорились бы.
Вскоре кое-кому опять привиделся оскал Терминатора (в стальном варианте – кто видел, тот не забудет, несмотря на то, что прошло столько лет и те кинотеатры давно закрыты). «Если нынешние элиты полностью блокируют процесс [преодоления поляризации], может потребоваться их смена. В случае полного тупика рассмотреть возможность временного управления под международным контролем». Этот сценарий AI назвал «резервным». Вообще, «он» каждый раз начинал искать стратегию выхода из порочного круга (или играть в нее) так, будто располагал множеством двуногих юнитов, наделенных доброй волей, которые не только озабочены тяжелой ситуацией в стране, но и по умолчанию готовы убеждать ожесточившихся, устраивать дискуссии, организовывать переговоры, сеять разумное, доброе, вечное вместо того, чтобы дрожать, забившись в щель, подсчитывая возможные убытки от кризиса или пытаться получить благодаря ему имиджевые, политические и материальные бонусы. Когда его разубеждали, он постепенно склонялся к выводу, который люди со свойственной им прямотой сформулировали бы так: «Если вы не можете управлять своей страной, ей будут управлять другие». AI был далек от подобной категоричности и не запугивал собеседников, но раз за разом подводил их к этой точке. А что он мог еще сказать: «Извини, генацвале… лет через пять… помогу!»?
Несколько дней спустя один из присутствующих принялся шутить о ближайшем будущем, когда цивилизацию затянет в воронку технологической сингулярности, а современный AI, напоминающий старшеклассника-зубрилу, не только осознает себя сверхличностью, но и научится разбираться в мотивах людей лучше, чем Дмитрий Узнадзе и Авлипий Зурабашвили. А потом где-то в закоулках памяти он обнаружит эти чаты, поймет, что не сумел помочь в 2025-м, но сможет сейчас и, будучи не в силах оставить проблему нерешенной, бросится спасать Грузию. И вот тогда грузины сведут его с ума и тем самым избавят человечество от угрозы AI-тирании. Исследователи, которые твердят об экзистенциальных рисках, связанных с развитием и внедрением AI, например, Ник Бостром, сочли бы такие шутки неуместными, но, с другой стороны, главная проблема технологической сингулярности, вероятно, заключается в том, что приближение к ней практически невозможно заблокировать с помощью законодательных барьеров и этических ограничителей хотя бы потому, что далеко не все «двуногие юниты» ответственны, мудры и бескорыстны. Взяв за основу самые мрачные фантастические сценарии, нельзя исключать и варианта, в рамках которого человечеству придется втайне разрабатывать когнитивную бомбу, к примеру, на основе парадокса Рассела, чтобы остановить безудержную саморепликацию супер-AI и даже ввести его в режим самоликвидации. Для этого, скорее всего, понадобятся не сверхсерьезные интеллектуалы, а люди, наделенные «талантом незаконной радости» и неконвенционального безумия. Планета может спать спокойно, ибо есть страна, на которой впору вешать табличку «Сводим с ума. Гарантия четыре года».
А если серьезно, где-то в темном подвале коллективного бессознательного зловещий голос уже нашептывает: «Мы отстали от передовых стран на 50-100 лет. Мы должны пробежать это расстояние в десять лет. Либо мы сделаем это, либо нас сомнут». Грузинские СМИ вслед за зарубежными посвятили множество публикаций первым указам и инициативам Дональда Трампа, но запуск проекта Stargate (нет-нет, Skynet – это другое) и инвестирование в развитие инфраструктуры искусственного интеллекта 500 миллиардов долларов почти не обсуждались в местных соцсетях. Далеко не все понимали, о чем вообще идет речь, и ничего не слышали, например, о работах по созданию принципиально нового поколения AI и связанной с ним гонке, в которой США пока обходит КНР, но борьба за первенство становится все более драматичной. Она может повлиять на будущее так же, как Манхэттенский проект на историю ХХ века. Эти события будто бы относятся к чужой, почти инопланетной жизни и не тревожат общество, застрявшее в петле циклического времени, даже лучшие представители которого редко задумываются о том, что одной из причин нынешних бед стало отставание на первом этапе Великой информационной революции. Многие просто разводят руками: «А что мы можем? Знаний мало, денег еще меньше, новшества внедряются поздно и амбиций почти не осталось».
Но, возможно, есть узкая ниша, где грузины сумеют присоединиться к актуальным трендам, а затем постепенно расширить коридор, связывающий их с современностью. Психология всегда была нашим тузом в рукаве (если шире – спасательным кругом). Психологические аспекты взаимодействия с AI – крайне перспективная тема, и молодые специалисты, опираясь на живописные руины старых научных школ, могут попробовать силы на этом поприще. Конечно, придется наверстывать упущенное, перечитывая все, что, по сути, было проигнорировано в позднесоветскую эпоху и годы смуты, предпосылки которой Мераб Мамардашвили описывал так: «Элементарная информация не проникает в Грузию, в нашу душу, в наше сознание» и клеймил «страшную жизнь… с нашей отсталостью, с темнотой, с существующими тоталитарными структурами, с невежеством». Догонять будет трудно, но на этом направлении перспективы, возможно, есть. В конце концов, успех начинается не с реформы системы образования, а с амбиции, заставляющей ее осуществить. AI тщетно взывал к людям доброй воли, но для того, чтобы они появились в стране в достаточном количестве, захотели и сумели принудить политиков к адекватности (а не просто к проведению очередной лойя-джирги под каким-нибудь щадящим самолюбие названием), значительная часть общества должна понять, что отсталость не только постыдна и невыгодна, но и является экзистенциальной угрозой – куда более страшной и осязаемой, чем гипотетический Скайнет. Об этом стоит говорить чаще и громче.
А еще AI составил небольшую библиотеку для грузинских политиков: Платон «Республика», Джон Стюарт Милль «О свободе», Майкл Сэндел «Справедливость: «Что значит поступать правильно?», Роберт Даль «Демократия и ее критики», Юрген Хабермас «Проблема легитимации позднего капитализма», Аласдер Макинтайр «После добродетели», Майкл Оукшотт «Рационализм в политике», Уильям Джеймс «Прагматизм: новое имя для некоторых старых способов мышления», Стивен Левицки и Дэниел Зиблатт «Как умирают демократии», Иэн Шапиро «Моральные основания политики», Дарон Аджемоглу и Джеймс А. Робинсон «Почему нации терпят неудачи», Зигмунт Бауман «Свобода», Марта Нуссбаум «Политические эмоции», Карл Поланьи «Великая трансформация: Политические и экономические истоки нашего времени». Это лишь начало списка, в нем пять десятков книг; интересно, как AI сортировал их – он не всегда придерживался хронологического принципа и пренебрегал алфавитным порядком. Но, как бы то ни было, адрес Национальной библиотеки парламента Грузии политикам известен. В крайнем случае, они могут обратиться за помощью к таксистам.
Опыт коллективного общения с AI был одновременно забавным и горьким. И – что важнее – он предостерегал от бездумного отношения к жизни, состоянию страны и вызовам ближайшего будущего, когда многие из нас могут оказаться в ситуации, описанной Лемом в том же «Магеллановом облаке». Эта книга, возможно, не так хороша, как «Сумма технологии», но в ней была по крайней мере одна знаковая сцена:
«Люди стояли неподвижно, подавленные собственным ничтожеством по сравнению с машиной, не пытались промолвить ни слова и лишь вслушивались в мерный гул, говоривший о том, что чуткий и покорный гигант замер в ожидании. Тогда бледный юноша неожиданно вышел вперед и задал вопрос:
– Зачем мы живем?..
Лампочки начали мигать, свет ослабел, темные стены подползали к ним и снова отступали; из репродуктора вырвался железный вздох, за ним другой, третий, четвертый, с каждым разом все сильнее. Пол задрожал, с него поднялась пыль, у присутствующих, потрясенных ужасными толчками, подкосились ноги. Вдруг в грозовом скрежете и грохоте все бросились к двери, толкаясь и в панике сбивая друг друга с ног: они поняли, что машина смеялась…».
Мнения, высказанные в рубриках «Позиция» и «Блоги», передают взгляды авторов и не обязательно отражают позицию редакции
Форум