ИИ, вдохновлённый наукой о мозге

ИИ творится по образу и подобию человеческому.

Во всяком случае, такой был план. Как оно там дальше развивалось, вопрос отдельный, однако исследования мозга человека (и других животных) и развитие ИИ связаны очень тесно. Сегодня посмотрим на эту взаимосвязь, опираясь на хорошую статью 2017 года, которая называется «Neuroscience-Inspired Artificial Intelligence» («ИИ, вдохновлённый наукой о мозге»).

#AI #ИИ #мозг #наука

ИИ вырос из потребности исследовать работу мозга через строгие математические модели и продолжал развиваться по мере того, как появлялись новые способы заглянуть внутрь нашей черепной коробки и посмотреть, что там происходит.

На первый взгляд может показаться, что современный ИИ уже давно не имеет ничего общего с подобными исследованиями, однако это не так: открытия из наук о мозге вдохновили многие изобретения, которые сделали ИИ таким, какой он есть сейчас.

И науки о мозге продолжают развиваться. И ИИ продолжает развиваться параллельно, и на их пересечении лежит весьма плодородная почва для будущих разработок.

Зачем нам об этом знать? В первую очередь, чтобы иметь взвешенное представление о том, что есть ИИ и куда всё движется.

Начнём с того, что «искусственный интеллект» – не самый удачный термин. Дело в том, что, когда мы говорим «интеллект», мы думаем о творчестве, способности принимать решения, этических дилеммах и прочих сложных вещах. На самом же деле, к области искусственного интеллекта относятся, в первую очередь вероятностные модели. То есть, такие закономерности, которые можно описать формулой. Иногда очень длинной и сложной формулой, но тем не менее.

Из-за этого в публичном пространстве складывается двойственное отношение к ИИ: с одной стороны, как к чему-то почти магическому, с другой – как к некому шарлатанству, не имеющему под собой оснований.

С одной стороны люди говорят: «ИИ захватит мир и будет мстить.» С другой стороны слышно: «ИИ – это пузырь, который вот-вот лопнет,» – или «уже лопнул».

Чтобы понять, что происходит на самом деле, полезно проследить развитие области, что авторы нашей сегодняшней статьи и делают – и что вслед за ними сейчас сделаем мы.

Всё началось с того, что в мозгу открыли механизм возбуждения нейрона. Мы как-то говорили о нём: нейрон накапливает электрический потенциал, потенциал превышает определённый порог, и нейрон испускает электрический импульс. Импульс либо есть, либо его нет – тогда можно описать его логической функцией, результатом которой будет ответ «ПРАВДА» / «ЛОЖЬ» или 1 / 0.

Это было в 1940-х, когда у учёных ещё не было инструментов, которыми можно было бы изучать активность мозга на уровне цепочек нейронов. Поэтому они формулировали гипотезы и проверяли их на математических моделях. Построив математическую модель нейрона, учёные смогли сказать: «Смотрите, в мозгу происходит не что-то случайное. Сложное поведение формируется из более простых блоков и следует правилам, которые можно логически описать».

И это было прекрасно, потому что математика вносит в науку системность. Она не заменяет описательные модели в духе: «Мы наблюдали А, затем Б, потом добавили В и случилось Г,» – но гармонично дополняет их, позволяя проверять и масштабировать на более глобальные процессы и функции.

Но как сложные процессы, например обучение, выстраиваются из маленьких простых кирпичиков? Следующим шагом в развитии ИИ – и науки и мозге – стала разработка механизмов обучения нейронных сетей из нескольких слоёв.

Во-первых, учёные пришли к тому, что в мозгу у нас очень много нейронов, они объединены между собой и разные группы нейронов выполняют разные функции. Во-вторых, они придумали, как это смоделировать.

Очень важным осознанием было: «Наш мозг работает не только с чёткими правилами вида «если…, то», но представляет окружающую среду в форме паттернов». Остановимся на нём поподробнее.

Первым ИИ был так называемый «символьный» (или «символический» – symbolic AI). Это буквально программирование, основанное на чётких правилах вида «если А, то Б» – и это тоже ИИ. Его ещё называют «старый добрый ИИ» (good old-fashioned AI – GOFAI). Сегодня такие системы почти не называют «интеллектом», хотя они выросли из описания процессов в нашем мозгу в самом прямом и буквальном смысле.

Их сейчас как только не называют. Меня, например, регулярно просят написать «алгоритм без ИИ», имея в виду программу, которая работает на строгих правилах. И я в ответ смотрю на этих людей с осуждением. Но ладно, я вас поняла, я сделаю, что вам надо, что с вами поделать.

В общем, это был символьный ИИ. А потом пришла идея про паттерны.

Паттерн – это набор шаблонов. Наш мозг оперирует наборами шаблонов постоянно, потому что это не так энергозатратно, как рассматривать каждую конкретную ситуацию по отдельности. Оптимальнее иметь готовый набор действий, а потом на месте подстроиться, если в ситуации есть нюансы (и если они вообще имеют значение).

Символьный ИИ не располагает подобной гибкостью. Чтобы прочувствовать разницу, давайте рассмотрим небольшой игрушечный пример:

И дальше исследования развивались в двух направлениях, которые активно обогащали друг друга. Одно направление условно более биологическое, нацеленное на то, чтобы взять исследования мозга и воспроизвести их – отсюда выросли сверточные нейронные сети, например. Другое направление условно более статистическое, нацеленное на сбор больших массивов данных. Так свёрточные нейронные сети стали очень хорошо классифицировать изображения, например.

В какой-то момент могло показаться, что пути наук о мозге живом и мозге цифровом разошлись. Однако это лишь на первый взгляд.

Наука о мозге открывала механизмы внимания, изучала работу памяти и процессы обучения. Область ИИ активно впитывала в себя все новые открытия.

Что позволило научить нейросети генерировать убедительные изображения? Механизм внимания. Наш мозг умеет концентрироваться на отдельных компонентах наблюдаемой реальности и придавать им больший вес – и этот механизм удалось смоделировать сначала для изображений, а потом и для текста.

Что позволило научить нейросети играть в видеоигры и подстраиваться под быстро меняющуюся реальность? Память. Наш мозг умеет сохранять кусочек нашего опыта и воспроизводить его по нескольку раз, извлекая ценную информацию. Он умеет консолидировать информацию, то есть, усиливать связанные с ней нейронные связи. И это тоже удалось в определённом приближении воспроизвести.

Работа с механизмами внимания и памяти позволила обучать нейросети на небольших наборах данных и адаптировать их к области применения. Механизм, за счёт которого предыдущая информация, поступившая в нейросеть, влияет на обработку последующей информации, тоже заимствован из исследований мозга.

Разумеется, не все механизмы заимствуются в полной мере. Кое-что кое-где адаптировали и подкрутили, просто потому что есть ограничения: не всё мы знаем достаточно детально, чтобы воспроизвести; не всё пока воспроизводится на имеющемся железе.

Статья опубликована в 2017 году, поэтому кое-что из этого раздела для нас уже «настоящее». Однако работа всё ещё активно ведётся, и она далека от завершения. Так что оставим перечисленные авторами направления в «будущем».

Одно из важнейших направлений развития ИИ – перенос его в физическую реальность. У меня телеграме есть пост про то, как языковые модели используются, чтобы научить роботов складывать носки.

Мы многому учимся, взаимодействуя с окружающим миром. Мы приобретаем то, что называется здравым смыслом. Мы знаем, что «одна нога здесь, другая там» – это просто выражение, и его не нужно воспринимать буквально. Мы не пишем в книгах: «Я съезжу к бабушке на выходных забрать посылку. Одна нога здесь, другая там, но не буквально,» – потому что для нас это очевидно. А для ИИ – нет. Так что целое научное направление нужно, чтобы вложить в ИИ те знания о мире, о которых мы даже не задумываемся.

Ещё одно интересное направление – перенос знаний. Допустим, вы использовали какое-то приложение для своей работы. Специальную среду для написания кода, например, или что-то такое. Потом вы перешли на новый инструмент. Пару минут поругались на бестолковых разработчиков, которые засунули нужные кнопки Бог знает куда, а потом разобрались. Может, за пару дней или пару недель – всё зависит от инструмента. Но вы в целом имеете представление о том, какие кнопки вам нужны, как они выглядят и где обычно находятся, и вы быстро натыкаете нужную последовательность под свою задачу.

ИИ пока так не умеет – его надо переобучать под каждую новую задачу. Кое-какой прогресс в этой области имеется, однако есть ещё над чем работать. Что любопытно, есть исследования, из которых можно аккуратно предположить, что в мозге локализуем нужный механизм.

Добавлю от себя то, о чём сама думаю некоторое время как – нейропластичность. У меня в телеграме и про неё есть пост, посмотрите.

Суть в том, что наш мозг, обучаясь, меняется, и это невероятно мощная способность, и было бы здорово её тоже заимствовать. То есть, некоторые механизмы пластичности уже реализованы в искусственных нейронных сетях, но не все. И есть несколько интересных работ про те, что не реализованы – мы разберём их отдельно как-нибудь.

Нельзя не упомянуть и об этических вопросах, связанных с ИИ. Они возникли не сегодня и даже не в момент возникновения ИИ как научной области, а задолго до того. Но сейчас о них вспоминают чаще, потому что инструменты и продукты на основе ИИ пробрались-таки в нашу повседневную жизнь, часто совершенно без нашего ведома.

Про этические вопросы и вообще вопросы, связанные с тем, как быть людям, когда есть ИИ, практически весь этот блог.

Короче говоря, ИИ вырос из науки о мозге, развивался по мере развития науки о мозге и будущее его тоже будет связано с наукой о мозге.

Небольшое уточнение: единой «науки о мозге» нет – это комплекс наук от нейрофизиологии до когнитивной психологии. Когда авторы писали свою статью, имели в виду их все (о чём честно сообщили), и я здесь следую за ними: всё, что мы узнаём про живой мозг, поддерживает исследования в области ИИ.

Обратное тоже верно: ИИ помогает исследовать мозг. Как минимум, помогает расшифровывать снимки и искать закономерности, ускользающие от человеческого взора. Так что развитие, как мне кажется, родится в этой красивой синергии мозгов живых и математических.

А вы что думаете по этому поводу?

Вы вообще кто больше – оптимист или пессимист в смысле развития ИИ? То есть, у вас это скорее энтузиазм вызывает или скорее страх? Или вы не думаете, что из него что-то путное вырастет?

Пишите, очень интересно узнать.

А ещё заходите в телегу ко мне, там постов и тем для обсуждения ещё больше.