Сергей Медведев: Новый Google явился. Появление чат-бота ChatGPT в ноябре 2022 года стало сенсацией. Алгоритм дает ответы на сложные вопросы, пишет рефераты и статьи, программирует, сочиняет музыку. Предполагается, что он может лишить работы аналитиков, юристов, преподавателей, журналистов. Может ли чат-бот заменить или отменить человека? И что такое вообще человек? С нами писатель и философ Андрей Баумейстер и IT-эксперт Михаил Гуревич.
Видеоверсия программы
Корреспондент: В ноябре прошлого года компания OpenAI запустила ChatGPT, который изменил мир. Нейросети давно не новость, но приход этого чат-бота вкупе с обновлениями других продуктов, например Midjourney, которая распознает печатный текст и преобразует его в картинки, стал важнейшим событием. Бот проходит собеседование на работу в Google, пишет диссертации, стихи и песни, выстраивает прогнозы, финансовую аналитику и даже может генерировать простейший код. Сеть способна общаться на многих языках мира, в том числе и на русском. Уже сейчас технологию можно встраивать в сайты и приложения, например Microsoft собирается интегрировать ее во все свои продукты, что в будущем очень сильно изменит рынок, а также и само понятие поиска: это может стать угрозой для того же Google.
Сергей Медведев: Миша, это что, действительно, убийца Google? Или это все-таки такой хайп последних месяцев?
Бот проходит собеседование на работу, пишет диссертации, стихи и песни, выстраивает прогнозы
Михаил Гуревич: На самом деле это упрощение, которое стало доступно широким массам. Стоит вспомнить айфон. Компания Apple была не первой, которая изобрела тачскрин. Однако если сегодня спросить обычного пользователя, у какого телефона появился первый тачскрин, то люди, у которых даже были другие модели с тачскринами, не вспомнят их, а скажут про айфон. OpenAI со своим чат-ботом, уже с четвертой версией существенно упростила использование тех наработок, которые появляются в нашей жизни уже даже не первое десятилетие.
Условно говоря, искусственный интеллект – это хайп последнего десятилетия среди разработчиков. Теперь они буквально за два месяца без особой рекламы набрали 100 миллионов пользователей в свой продукт, и это абсолютный рекорд (у инстаграма это заняло два года). И в тот момент это стало, безусловно, информационным хайпом, который послужит добру, потому что больше попыток использовать, больше наработок, больше проверок, соответственно, больше выявленных ошибок.
Сергей Медведев: Андрей, в чем революция ChatGPT по сравнению с Google? Здесь выдача человеку происходит уже в виде связного текста, а это именно то, что ищут люди: им нужен убедительный связный текст на заданную тему. Есть ли в этом революционность?
Андрей Баумейстер: Мне кажется – да. Это лишь первые шаги, но это возможность иметь спаринг-партнера, тренера, полезную обучалку, с которой можно взаимодействовать, которая может усилить вопросы, поиск человека, исследования в тех или иных сферах. Пока, к сожалению, GPT не может это делать. На примере моих вопросов ситуация показывает, что он больше выдумывает действительность. В моей сфере это фактически такой обаятельный врун, который сочиняет то, чего нет, а то, что есть в интернете, не хочет обобщать.
Сергей Медведев: Он же выдумал вашу биографию.
Андрей Баумейстер: Да. Это Алексей Буров, американский физик, спросил: "Кто такой Андрей Баумейстер?", а он придумал историю еврейского философа Евгения Баумейстера, который дружил с Иваном Франко, Миколой Хвылевым и так далее. Там были нестыковки, и на наводящие вопросы он извинялся и постоянно переписывал эту историю, пытаясь преодолеть противоречия. Это при том, что в интернете на всех языках встречается фамилия Баумейстер: и философ, и художник, и архитектор, и психолог. Но его пока не интересует, что есть в Сети. Его больше интересует творчество, интересует, как можно создавать второй, вымышленный, иллюзорный мир.
Сергей Медведев: Такой цифровой Хлестаков, которого несет. Очевидно, сила ChatGPT в том, что он овладел искусством дискурса, связной речи, которая обладает властью, и он ее проецирует. Поэтому и ведутся сотни миллионов людей.
В моей сфере ChatGPT это – обаятельный врун, который сочиняет то, чего нет, а то, что есть в интернете, не хочет обобщать
Андрей Баумейстер: Я бы добавил еще один момент. Алексей спрашивал об отрывках из моих вымышленных книг, и Chat давал список блестящих цитат. Они красивы, обтекаемы, но от них разит такой банальностью, что читать невозможно! Там были и курьезные явления, что Маркс что-то там сделал, убил человека в насекомом. Это такой набор банальных фраз, которые он тут же комбинирует.
Сергей Медведев: Это чисто борхесовский сюжет, знаменитый рассказ "Тлён, Укбар Orbis Tertius", где группа писателей, журналистов, экспертов начинает писать энциклопедию вымышленного мира. Затем эта энциклопедия завладевает реальностью, люди переезжают жить в этот вымышленный мир, в этот Тлён. Гений Борхеса в том, что он прозрел ChatGPT. А ведь сам ChatGPT не обладает целеполаганием, ему надо задавать вопросы, и тогда возрастает роль промпт-инженера.
Михаил Гуревич: Да, это такая новая профессия будущего, которая появляется буквально на наших глазах. Все-таки в данном случае я не соглашусь с Андреем. Говорят: "Я нашел в интернете". Вот доказательства какой-нибудь совершенно безумной идеи – вот ссылка в интернете, и попробуй ее опровергни. Собственно, ChatGPT показывает нам иногда, насколько все это смешно и фантазийно выглядит. Он сам ничего не создает: он агрегирует, компилирует на основе самых разнообразных данных, чтобы было похоже и по качеству исполнения отвечало на качество запроса.
Сергей Медведев: Но это же 90% деятельности юрисконсульта, экономического, бизнес-консультанта, студента. Написание дипломной, курсовой работы – это же компиляция!
Андрей Баумейстер: Программа будет совершенствоваться и, я уверен, что она будет отвечать лучше, чем средний студент и даже средний профессор, например, в гуманитарной сфере. Начнется интересная игра с непрогнозируемым исходом для человека.
Сергей Медведев: Тогда вопрос, чем студент лучше ChatGPT?
Андрей Баумейстер: Он будет хуже.
Сергей Медведев: Михаил, какие профессии находятся под ударом?
Начнется интересная игра с непрогнозируемым исходом для человека
Михаил Гуревич: Безусловно, ChatGPT будет лучше, чем студент прошлого, то есть человек, который заучивает факты, даты, формулировки. С каждым годом становится все важнее умение анализировать: поиск, адекватность данных, которые приходят по поисковому запросу и, соответственно, уточнять поисковой запрос, то есть уметь работать уже с агрегированными данными. Это во многом другой формат образования. ChatGPT не может задавать тренд развития человеческого мышления. Он может реализовывать те задумки, которые человек в него вкладывает. Безусловно, ChatGPT победит любого студента, докладчика, юриста! Однако когда мы изменим подход к знаниям, к их оценке, к тому, что является знаниями, ChatGPT в существующей сегодня версии будет уже не столь грозным и всепобеждающим.
Сергей Медведев: Надо ли ограничивать использование ChatGPT на экзаменах в школах и университетах?
Андрей Баумейстер: Мы не сможем ограничить. Мы должны использовать это в образовательных целях. Но, мне кажется, идет игра на повышение. Менять пути образования, критически мыслить сейчас умеет небольшая часть людей, а большинство становится здесь ненужным. И играя на повышение, мы будем требовать друг от друга все большего уровня оригинальности, критичности, аналитичности, но параллельно понижается общая культура в соцсетях, в коммуникационных группах. Может быть, я излишний пессимист, но я не вижу, что качество аналитики повышается, что есть достаточная критическая масса мыслящих людей. Это элитарная культура! ChatGPT готовит нас к суперэлитарной цивилизации, где средний, обычный человек должен прыгать выше головы. Это очень серьезная социологическая, историческая проблема: все должны быть гениями, все должны критически мыслить, но это биологически и физиологически невозможно.
Сергей Медведев: Появляется некая новая цель в высшем образовании – подготовить когорту людей, способных обыграть ChatGPT в деле генерации текстов и уж, тем более, идеи, мысли и направлении для мыслей. Главное здесь – умение ставить вопросы.
Андрей Баумейстер: И небанально мыслить.
Сергей Медведев: Я читал одного из разработчиков: ChatGPT дали задачу описать, как работает система. И он внутри себя создал еще один маленький ChatGPT и начал наблюдать за его функционированием и описывать. Что это такое, как не саморефлексия? Может ли машина обладать самосознанием?
Критически мыслить умеет небольшая часть людей, а большинство становится здесь ненужным
Михаил Гуревич: В рамках той массы знаний, тех законов и той логики, которые этой машине даны. Назвать это сознанием все-таки невозможно. Когда человек действует нелогично, это бывает гениально, а когда машина действует нелогично, ее надо чинить. Машина никогда не станет гениальной, потому что ошибки будут считаться ошибками.
Сергей Медведев: Ноам Хомский с коллегами сформулировали действия ChatGPT как "плагиат, апатия и уклончивость, неуклюжий статистический механизм для сопоставления с образцом". Действительно, это одна из базовых проблем – он не отличает правду от фейка, возможное от невозможного. Нет ли здесь риска, что буквально через несколько лет мы окажемся в мире, наводненном фейками, учитывая способности современных масс-медиа, мифотворчество и желание людей верить в эти вымышленные миры? Это мы видим в Украине: Путин и его приближенные живут в одном огромном фейке. А ChatGPT еще и картинки подкинет, как российские танки победоносно входят в украинские села.
Андрей Баумейстер: Опасность исходит не только от программы и машины, а в первую очередь от нас самих. До того как мы изобрели мощные программы, мы сами стали программами, причем примитивными. И если задавать вопросы – нужна ли нам истина, нужно ли нам отличать истину от лжи или фейк от правды? – мы скажем: да, конечно, это важно, но на практике мы показываем, что нам нужны успокаивающие нас, работающие на нашу идеологию схемы. Сама воля к истине все менее и менее заметна в широких кругах людей, по крайней мере, в соцсетях, и вот это вызывает тревогу. И здесь программа может "использовать" эту слабость человека, и тогда мы совсем не будем пересекаться с разными истолкованиями действительности. Мы будем жить в своих норах, в своих китайских комнатах, нас не будет интересовать реальность, и тогда это новый вызов, даже боюсь предугадывать, что это может быть.
Сергей Медведев: Современный мир дает возможность параллельному существованию нескольких миров. Существует огромное количество людей, верящих, что есть плоская земля: рекомендую посмотреть это эпическое интервью Юрия Лозы.
ChatGPT готовит нас к суперэлитарной цивилизации, где средний человек должен прыгать выше головы
Андрей Баумейстер: Это хорошо, когда люди в соцсетях между собой эпатируют друг друга, но другое дело, когда на территорию чужой страны начинают вторгаться танки, бронетранспортеры и солдаты. Это уже другой уровень: вторгается сама реальность.
Сергей Медведев: Да, огромный фейк, созданный российской пропагандистской силовой машиной, обернулся человеческой кровью.
Андрей, вспоминается знаменитый платоновский диалог Фараона с Тором, изобретателем письменности, который приводит Умберто Эко. Фараон говорит Тору: "Зачем мне эта письменность? Мне же уже не будет нужен собственный мозг. Мне не нужно будет запоминать вещи, если я смогу записывать их на глиняных табличках". Если сейчас мы будем обращаться к ChatGPT – действительно, зачем нам тогда собственный мозг? Может быть, это ведет к отмиранию когнитивной функции человека и вообще к изменению человеческой антропологии?
Андрей Баумейстер: Здесь вопрос интересен потому, что человек – неопределимое существо. Это одна из загадок. Мы можем определить, что такое волк, олень или кот: это определенные описания свойств, типов поведения. А вот описать человека и сказать, что это его типичное поведение или главное свойство человека как существа, – тут мы всегда можем ошибиться, потому что человек – это открытый неисчерпаемый проект. Мы не можем определить человека как такового. И во многом наши когнитивные функции связаны не только с решением задач и эффективностью, но и созерцательностью. Мозг должен бродить, гулять, созерцать восход солнца, то есть фундаментальная часть наших свойств совершенно не сводится к каким-то операциям решения задач. Мы создаем помощников для решения задач, а вот созерцать восход солнца, медитировать или обмениваться друг с другом энергетикой, сидя молча у камина, – это вещи, которые тоже заставляют быть человеком, и алгоритмизировать их невозможно. Мы чувствуем друг друга, имеем эстетические переживания и так далее. Это наше спасение! Мы – открытый проект.
Сергей Медведев: ChatGPT не пройдет тест Тьюринга?
Человек – это открытый неисчерпаемый проект
Андрей Баумейстер: Тест Тьюринга здесь устарел. Я думаю, например, что программа Lambda уже перешла. Но тут вопрос в другом. Я добавлю чуть-чуть апокалиптики. В плане эволюции, в плане прогресса для развития человечества это новый этап, потому что работа, рабочие места, рынок труда был составной частью развития человечества, мотивации, вознаграждения усилий, творчества и так далее. Развитые программы сильно ударят по рынку труда, сделают значительную часть людей лишними. Мы будем иметь три направления – небольшая креативная группа людей, умные машины, а посреди нетворческое большинство людей. И вот здесь очень серьезная задача – как занять людей, мотивировать их, организовать им досуг.
Михаил Гуревич: Одновременно со всеми технологиями идет разговор о безусловном доходе. Это важный момент, потому что происходит роботизация производства, высвобождается масса людей, им надо на что-то жить и чем-то заниматься. Я думаю, появятся новые профессии. Для примера. Сегодня можно создавать новости, переводя с одного языка на другой, но если вы не знаете всех подробностей происходящего внутри страны, вы не сможете сделать их адекватными. Соответственно, даже при переводе информации нужны люди, которые будут проверять, анализировать, поправлять. Я думаю, что с развитием подобного рода технологий, с повышением роботизации производства мы будем видеть больший перекос в творческие отрасли. И это прекрасно!
Над искусственным интеллектом нужен старый добрый человеческий контроль
Сергей Медведев: Хочу вспомнить знаменитое эссе "Человек отменяется" британского философа, писателя Клайва Стейплза Льюиса. Нет, человек не отменяется. Человек – это открытый проект, а ChatGPT – надстройка на этом открытом проекте, расширение, продление нашей человечности, но мы остаемся людьми, и мы в силах управлять параметрами нашей человечности. Главное, чтобы та виртуальная фейковая реальность, которую часто создает искусственный интеллект, не превращалась в тотальную картинку и не попадала в головы и в руки людей с ядерным и прочим оружием, когда они садятся на танки, въезжают в соседнюю страну и палят по ней ракетами. Над виртуальной реальностью и над искусственным интеллектом по-прежнему нужен старый добрый человеческий контроль.
