Вкалывают роботы, а не человек. Искусственный интеллект наступает нам на пятки.
Мумин Шакиров: На этой неделе китайский чат-бот DeepSeek перевернул рынок нейросетей. Во всяком случае, на несколько суток. Трамп уже пригрозил Китаю новыми пошлинами, а чат-бот уже оскандалился с утечкой данных своих пользователей. Почему DeepSeek стал неожиданностью для американского рынка, и в чем разница между китайской нейросетью и ChatGPT?
Нейросети – это компьютерные программы, которые учатся на огромном количестве данных, и потом сами могут анализировать, прогнозировать и даже творчески создавать тексты, музыку или изображение. По словам специалиста по интернет-безопасности Михаила Климарёва, отличительная черта DeepSeek – более высокая точность в анализе сложных запросов: "У них не одна большая сеть с миллиардами токенов, а у них получается много-много сетей, которые эксперты в каких-то определенных вещах: эксперт по программированию на каком-то определенном языке, эксперт по математике и так далее". По мнению эксперта, несмотря на недостатки, нейросети, как DeepSeek, уже сегодня имеют большие возможности полезного применения, как в исследовательских целях, так и в жизни обывателей.
Мумин Шакиров: Патриарх Кирилл уже сравнил искусственный интеллект с ядерной энергией и допустил, что он может предшествовать приходу Антихриста: "Мы должны помнить, что ни с неба свалится, и ни из преисподней возникнет этот Антихрист. Он не сможет возникнуть в контексте, который будет отторгать его. Он может возникнуть и развиваться только в контексте, который будет его поддерживать. И неизвестно, какова будет роль искусственного интеллекта в приближении этой апокалиптической картины".
На вопрос, связан ли приход Антихриста с нейросетями, мой герой не ответит, но расскажет о многих других опасностях для общества, связанных с нейросетями. Со мной на связи IT-предприниматель, программист Григорий Бакунов.
Скажите, чем отличается китайский DeepSeek от американского ChatGPT?
Григорий Бакунов: Мне кажется, глобальной разницы никакой нет, но тут важно знать и понимать, в чем глобальная разница не в самой модели, а в подходе, в создании этой модели. Дело в том, что DeepSeek – это модель, которая обучалась, то есть тренировалась на тех ответах, которые дают американские и европейские модели. Нельзя сказать, что DeepSeek возник в вакууме: без того, что сделали OpenAI и ChatGPT, она бы не могла обучиться до своего текущего состояния. И это заставляет по-другому взглянуть на то, как будет идти прогресс дальше. Я за последние пару недель поговорил с несколькими большими специалистами по развитию искусственного интеллекта, и все они сходятся к тому, что это новый подход к развитию. Мы теперь думаем, что будут появляться новые сильные модели искусственного интеллекта, более слабые модели будут вторично обучаться на более сильных, постепенно, обучаясь, они будут превосходить первых, и таким образом искусственный интеллект будет учиться у искусственного интеллекта. Это на самом деле невероятно большое событие, фундаментальный сдвиг.
Мумин Шакиров: Какой будет ответный ход американских компаний, которые потеряли триллион долларов?
Григорий Бакунов: Я думаю, что не надо ждать ответного хода, рынок очень быстро понимает, что происходит, и пройдет еще пара недель, и мы увидим, на самом деле, никакое не падение, а даже рост. Мне кажется, все американские компании спокойно воспринимают происходящее – это не первое падение в их жизни, и будут продолжать двигаться в том же направлении, этот огромный крейсер уже не остановить.
Мумин Шакиров: Как DeepSeek решает вопросы цензуры?
Григорий Бакунов: Дело в том, что в DeepSeek цензура сделана не на том уровне, как в других моделях. В других моделях цензура сделана на уровне обучения, то есть на самом глубинном уровне. Дело в том, что DeepSeek – это не столько лингвистическая модель, сколько модель размышления. Лингвистическая модель – это штука, которая просто генерирует текст, а модель размышления – это такая штука, которая генерирует текст о том, как она думает, и что она думает в процессе. То есть модель размышления сильно больше похожа на размышления внутри человеческой головы, как мы размышляем на какую-то тему.
Судя по всему, у DeepSeek в очень поверхностных слоях есть важная установка – не осуждать ничего, что делает китайское правительство. И если вы раскроете ход рассуждений моделей, там буквально будет написано: мне нельзя об этом говорить, потому что это нарушает, потому что это ставит под сомнение политику китайской партии. То есть это очень интересный процесс, где в открытую происходит цензура на уровне размышления. Самое интересное, что в DeepSeek, судя по всему, цензура происходит так же, как она происходит в голове у живого человека: то есть внутри она все понимает, но выдать наружу в качестве результата она может только отцензурированное все.
Мумин Шакиров: Как изменились модели вроде ChatGPT за последний год?
Григорий Бакунов: Главное изменение – это появление моделей, которые прежде, чем отвечать, пытаются размышлять на тему того, как правильно найти ответ. Модель говорит: "Для того, чтобы сложить два числа, как известно, нужно использовать вот эту формулу математики. Давайте попробуем ею воспользоваться. Ой, оказывается, эти числа не целые, а дробные. Тогда нужно, наверное, воспользоваться каким-то другим математическим методом". Это настолько удивительно, настолько похоже на то, как работает человеческая голова.
Тут, правда, нужно сделать важную поправку: не надо пытаться думать, что нынешние модели искусственного интеллекта работают, как голова у людей. Это выглядит так же, как работает наша голова, потому что это сделано людьми, во-первых. И во-вторых, потому что мы хотим от нее получить такой результат, который похож на работу нашей головы. То есть, на самом деле, внутри все там устроено совсем по-другому. Однако, это настолько точная имитация интеллекта, настолько точное поведение, что у меня сильно изменилось отношение к моделям искусственного интеллекта. Я раньше думал, что до появления такой модели, которая заменит типового человека на его работе, пройдет 5-7 лет, сейчас я думаю, что скорее 3-5. Этот промежуток сокращается за счет появления неожиданных применений.
Мумин Шакиров: Стоит ли людям бояться массовой безработицы из-за искусственного интеллекта?
Григорий Бакунов: Я бы хотел сказать, что заботиться об этом не надо, но боюсь, что на самом деле надо, потому что кратковременная буря все равно будет. Каждая техническая революция приводит к тому, что на какое-то время появляются люди, которые пострадали от технической революции. Любая революция приводит к тому, что страдает какая-то группа людей.
Есть приятный для многих ваших слушателей момент: первыми пострадают как раз те самые люди, которые прямо сейчас активнее всего используют искусственный интеллект. Первыми будут страдать программисты, технологи, специалисты по IT, некоторые люди, которые зарабатывают ремеслом вокруг искусства, то есть не художники, а иллюстраторы, не люди, которые занимаются музыкой как искусством, а скорее как ремеслом. Эти люди все легче и легче заменимы по двум причинам: во-первых, растет искусственный интеллект, а во-вторых, падают критерии качества. Мы постепенно становимся все более готовы к не супервысокому качеству, если оно сильно дешевле.
