Нобелевскую премию по физике 2024 года получили Джон Хопфилд и Джеффри Хинтон "за фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей". Нобелевский комитет подхватил витающие в воздухе восхищение и страх на тему искусственного интеллекта. Пользуясь случаем, рассказываем, как он работает и что говорят сами ученые о том, стоит ли бояться ИИ.

Нейросети в авангарде и арьергарде

Говоря сегодня об искусственном интеллекте, мы часто имеем в виду машинное обучение с использованием искусственных нейронных сетей. Эта технология изначально была вдохновлена структурой мозга. Узлы нейросети моделируют нейроны, а связи между ними – синапсы. Эти связи можно сделать сильнее или слабее, и таким образом нейросеть обучается.

Но так было не всегда. Сложно поверить, но в истории науки последних пятидесяти лет были длительные периоды, когда никто не верил в перспективы нейросетей для развития искусственного интеллекта. Они не были синонимом ИИ, а другие подходы выглядели более предпочтительными. Поэтому роль сегодняшних лауреатов не только научно-техническая, но и историческая. И Джеффри Хинтон – образец безусловной преданности своему делу, центральная фигура, которая провела нейросети через бури к победе. Если быть точнее – не бури, а зимы. Когда Хинтон начал работать с машинным обучением в 70-х годах XX века, это была "первая зима ИИ", когда многие ученые не верили в будущее нейронных сетей и не хотели заниматься этим безнадежным делом. Но это его не остановило. Хинтон стал соавтором метода обратного распространения ошибки, который сейчас активно используется для обучения нейронных сетей. Но и когда в середине 90-х годов наступила "вторая зима ИИ", Хинтон не отказался от своего дела. Вместо этого он изучал методы математической статистики, используемые в физике, чтобы применить их для обучения более глубоких нейронных сетей, и именно за эту работу он был удостоен сегодня Нобелевской премии.

Хинтон – психолог, математик, кибернетик, но точно не физик. Физик – Хопфилд (он даже одно время был президентом Американского физического общества). Он и придумал физические принципы, которые оказались так полезны Хинтону.

"Вторая зима" нейросетей наступила тогда, когда ученые пришли в тупик – не смогли обучать нейросети глубже двух слоев. И революция, совершенная Хинтоном, состоит в том, что он пошел в статистическую физику практически как самоучка, понял, как работает подход Хопфилда, а затем перенес его на обучение глубоких нейросетей, заставив их корректно передавать информацию с одного слоя на другой. И это "выстрелило".

Хинтон также подготовил несколько десятков первоклассных ученых, многие из которых стали драйверами того расцвета, что мы наблюдаем сейчас. Не говоря уже о том, что современный успех нейронных сетей начался в 2012 году с AlexNet, обученной классифицировать изображения, соавтором которой был Хинтон.

Как это работает?

"Два лауреата Нобелевской премии по физике этого года использовали инструментарий физики для разработки методов, которые являются основой современного мощного машинного обучения. Джон Хопфилд создал ассоциативную память, которая может хранить и восстанавливать изображения и другие типы шаблонов в данных. Джеффри Хинтон изобрел метод, который может автономно находить свойства в данных и таким образом выполнять такие задачи, как идентификация определенных элементов на изображениях", – говорится в сообщении Нобелевского комитета.

Джон Хопфилд создал сеть, которая использует так называемый метод сохранения и воссоздания узоров. Сеть основана на физических принципах, которые описывают характеристики материала через его атомный спин – параметр, делающий каждый атом крошечным магнитом. Сеть в целом описывается способом, эквивалентным энергии в спиновой системе – физической модели, – и обучается путем поиска значений для связей между узлами (они эквивалентны пикселям картинки) так, чтобы сохраненные изображения имели самую низкую энергию. Когда сети Хопфилда подается искаженное или неполное изображение, она методично проходит через узлы и обновляет их значения так, что энергия сети падает.

Джеффри Хинтон использовал сеть Хопфилда в качестве основы для новой сети, которая использует другой метод – машину Больцмана. Она может научиться распознавать характерные элементы в заданном типе данных. Хинтон использовал инструменты из статистической физики – науки о системах, построенных из очень большого числа похожих компонентов. Машина обучается путем подачи ей примеров задач, которые с большой вероятностью возникнут при ее работе. Машина Больцмана может использоваться для классификации изображений или создания новых примеров типа шаблона, на котором она была обучена. Эта работа Хинтона и стала толчком к нынешнему взрывному развитию машинного обучения.

Ученые о "восстании машин": стоит ли бояться искусственного интеллекта?

Для самого Хинтона любимой сферой применения машинного обучения является медицина – ИИ хорош в анализе томограмм и других диагностических изображений (лучше большей части врачей!), а также полезен в создании лекарств. А самыми большими проблемами, связанными с ИИ, Хинтон считает потерю рабочих мест, генерацию фейкньюс и применение автономных роботов против людей в военных целях.

Однозначного ответа на вопрос, состоится ли "восстание машин", у ученых нет – даже "крестные отцы" машинного обучения разделились на два лагеря.

Скептиков "возглавляет" сегодняшний лауреат Джеффри Хинтон. Он настолько опасается ИИ, что даже ушел с поста вице-президента Google из-за этих опасений. В недавнем интервью на вопрос "Понимает ли человечество, что делает?" – он категорично ответил: "Нет". Схожих взглядов придерживается и еще один "крестный отец" ИИ Йошуа Бенжио, который в марте 2023 года подписал открытое письмо "Pause Giant AI Experiments: An Open Letter" с призывом приостановить работы по внедрению ИИ (свои подписи поставили также Илон Маск, Стив Возняк и Юваль Ной Харари).

Лагерь энтузиастов (хотя и их можно назвать скептиками, только с другой стороны) представляет Ян Лекун, третий "крестный отец" ИИ (Хинтон, Бенжио и ЛеКун разделили премию Тьюринга за нейросети) и глава Лаборатории искусственного интеллекта Facebook. Он указывает на четыре базовые характеристики разума живых существ: умение воспринимать физический мир, память и умение извлекать из нее информацию, умение рассуждать и умение планировать.

"Языковые модели не умеют ничего из этого либо умеют это в очень примитивном виде. Они не понимают физического мира, у них нет стабильной памяти, они не могут рассуждать, и они совершенно точно не умеют планировать, – утверждает Лекун. – Мы можем улучшить языковые модели, скормив им картинки, но они все равно не достигнут уровня разума или понимания мира кошки или собаки, у которых даже языка нет".