Руководители секции «Нейроморфные вычисления и искусственный интеллект» Школы молодых учёных о нейросетях и научной молодежи

В этом году руководить секцией «Нейроморфные вычисления и искусственный интеллект» ШМУ Форума будут к.т.н. О. А. Тельминов и к.ф.-м.н. Н. В. Воронова (АО «НИИМЭ»), а также впервые к.ф.-м.н. А. Н. Михайлов (ННГУ им. Лобачевского).

В названии секции ШМУ объединены нейроморфные вычисления и искусственный интеллект. Последний – очень широкое понятие, о котором сегодня не говорит только ленивый. Какие научные аспекты ИИ будут рассматриваться на секции?

О. А. Тельминов: Название нашей секции ШМУ – калька с секции основного Форума, которая создана по инициативе академика РАН Е. С. Горнева в 2019 г. В ИИ мы особо выделяем нейросетевые методы машинного обучения, поскольку благодаря параллелизму наиболее пригодны для аппаратного масштабирования. Помимо алгоритмических и программных решений наши докладчики в области микроэлектроники делают акцент на разработке вариантов быстрых и энергоэффективных нейросетевых вычислений как для формальных, так и спайковых нейросетей.

Нейроморфные вычисления стоят особняком, поскольку основаны на представлении информации в виде спайков – коротких импульсов. Они ориентированы именно на событийную обработку сигналов от датчиков и, поскольку наиболее полно имитируют работы естественной нейросети, при определённых условиях могут воздействовать на работу живых тканей и организмов. Это область, где исследователи и разработчики могут воплощать свои смелые и нестандартные решения в области физики работы твёрдого тела, имитации работы живых нейронов и синаптических связей с реализацией на традиционной и новой элементной базе, неочевидных способов сопряжения операций умножения, суммирования, преобразования и хранения.

Нейроморфы – это очень разноплановая песочница для создания истинных киберфизических систем, где объединяются гики из областей математики, физики, нейробиологии, схемотехники, защиты информации и безопасности, даже некоторого рода философы для переосмысления традиционных алгоритмов работы. Это совершенно другой мир, отличный от суперкомпьютерных вычислений с бешеным тактированием на пределе физических ограничений и непрерывным перемножением матриц. В нём принципы живой природы воплощаются не только в представлении сигналов, элементной базе, но и в построении алгоритмов, ориентированных на восприятие и поведенческие функции. Как в живом организме элементы нейроморфной системы в процессе работы заряжаются и релаксируют в зависимости от поступающей с датчиков и перемещающейся внутри системы информации. Более элегантными выглядят локальные правила обучения спайковых нейросетей. Некоторые даже считают, что работа с классическими формальными нейросетями – ремесло, а с нейроморфными – высокое искусство. Доля правды в этом есть.

В этом году мы выслушаем и обсудим проблемы и решения мемристорной и магнонной элементной базы: конструкции, материалы, технологии, физические процессы, исследование характеристик и анализ параметров работы, обучение, эмуляция работы. В фокус нашего внимания также попадут цифровые двойники, предсказание параметров и надёжности изделий, нейросетевой анализ изображений, нейросетевой контроль состояния системы, нейросетевой входной контроль микроэлектронных приборов, ряд других применений нейросетей.

Особенные преимущества достигаются в нейроморфной области, где применяются новые архитектуры процессора и разрабатывается элементная база на новых физических принципах.

Что из осуществлённого учёными АО «НИИМЭ» по нейроморфной тематике в последние годы стоит отметить особо?

О. А. Тельминов: Основная деятельность АО «НИИМЭ» связана с разработкой технологий микроэлектроники, с помощью которых проектируется и промышленно производится как классическая элементная база, так и изготавливаются приборы на новых физических принципах. Этим объясняется специфика применения передовых нейросетей нашими коллегами при проектировании, на этапах производства, при входном и функциональном контроле, при испытаниях и эксплуатации изделий микроэлектроники. Ведутся работы по созданию цифровых двойников отечественного оборудования. Все усилия сосредоточены на обеспечении высокого процента выхода годных и надёжности изделий.

Нейросетевые подходы позволяют выявить оптимальные решения, которые при использовании классических методов не были выявлены или занимали значительное время. В 2018 г. благодаря симбиозу значительного задела в области проектирования фотошаблонов и применения машинного обучения была создана Школа вычислительной литографии НИИМЭ. Мы ведём научно-исследовательские работы с ННГУ им. Н. И. Лобачевского по различным направлениям нейроморфной тематики, в том числе и путём совмещения усилий по разработке устройств на мемристорных и КМОП-технологиях.

В этом году в рамках смотра проектов Фондом перспективных исследований на ШМУ выдвинуто предложение нашего коллеги по построению нейроускорителей на основе многовходовых ячеек с плавающим затвором EEPROM по освоенной отечественной технологии. В течение нескольких лет на ШМУ от АО «НИИМЭ» выступают с докладами об успехах применения нейросетевых подходов к задачам биомедицины, и первой ласточкой был проект экзоскелета руки.

Расскажите поподробнее, в каких областях науки и техники в АО «НИИМЭ» Вы применяете методы ИИ.

Н. В. Воронова: В настоящее время сотрудниками АО «НИИМЭ» ведутся работы в области обработки массива измеренных данных с производства изделий микроэлектроники, обработки и визуализации изображений, а также в отладке и корректировке технологических процессов на основе моделей предсказания. Хочется также отметить применение нейросетевых подходов в современной сенсорике – науке о датчиках, которая включает в себя явления, эффекты, процессы и алгоритмы физических, химических и биологических процессов. Эта область науки наряду с ИИ в последние годы набирает быстрые темпы развития, и интеграция двух областей науки является современным и актуальным решением. Так, при разработке и эксплуатации датчиков на различных физических принципах традиционно применяемый набор классических подходов требует модернизации. Во-первых, для проектирования датчиков на акустических волнах используется метод практически ручного подбора нужного типа и конкретной волны (её характеристик) для использования её в качестве элемента сенсора. Также для улучшения точности модели при проектировании датчиков необходимо выполнять экстракцию (извлечение) параметров из уже изготовленных образцов и использовать их в модели. Во-вторых, при обработке полученных данных часто требуется адаптивная подстройка параметров таких алгоритмов предобработки первичной информации под условия внешней среды и измеряемых величин. В НИИМЭ мы уже применяем методы машинного обучения в обоих указанных направлениях, результаты доложены и обсуждены в прошлые годы на ШМУ и большом Форуме, новые результаты будут представлены и в этом году. Мы уже ощущаем видимый положительный эффект от применения технологий ИИ для работы с датчиками.
Данные подходы демонстрируют явные преимущества перед стандартными методами проектирования и обработки сигналов.

Можно ли сегодня говорить о технологической независимости России применительно к обеспечению нейроморфных систем собственной элементной базой (мемристорами, нейроускорителями и др.)?

О. А. Тельминов: Давайте снова проведём черту между классическими нейроускорителями для формальных нейросетей и нейроморфными процессорами. Архитектуры нейроускорителей давно устоялись, и при переходе от версии к версии в рамках конкретной организации-разработчика кардинальных изменений не наблюдается. Большинство отечественных разработчиков реализуют свои решения на технологии с нормами 28 нм. В планах одного из них выпустить линейку из трёх видов процессоров для серверов, бортовых вычислителей и носимой электроники с нормами 5 нм. Эта ветка развивается путём снижения топологических норм, улучшения архитектуры процессора, поддержкой ускорения особых функций новых типов нейросетей, возможно, введением более эффективной реализации матричных вычислений.

В нейроморфных системах вычислительная нагрузка по матричным вычислениям ложится на нейроморфный сопроцессор, в идеале с аналоговой реализацией. Мемристор является наиболее популярным элементом для таких аналоговых сопроцессоров. Кроме того, развивается направление применения мемристоров для интерфейса электронных устройств с живыми тканями и организмами. Управление такими сопроцессорами остается на классических процессорах, например, с архитектурами ARM, RISC-V и даже Intel.

Ситуация с отечественным производством по технологии КМОП хорошо известна: основные мощности расположены в Москве и Н. Новгороде. Набирает обороты Центр нанофабрикации Росатома: оборудование и освоенные технологии позволяют на пластине с уже выращенными транзисторными (приборными, FEOL-) слоями вырастить слои металлизации (BEOL), а также и другие элементы, включая некоторые виды датчиков. Прорабатываются вопросы размещения производства мемристорных устройств в указанной организации. География отечественных организаций, разрабатывающих, изготавливающих и исследующих мемристоры и матрицы на их основе, весьма обширна. Однако не все такие приборы совместимы по используемым материалам с производством монолитных с мемристорами КМОП-контроллеров, что приводит к необходимости сопряжения отдельных мемристорного и КМОП-чипов на интерпозере или в виде 3D-сборки.

Поскольку сопроцессоры на мемристорах менее требовательны к топологическим нормам управляющих ими КМОП-контроллеров по сравнению с классическими формальными нейроускорителями, при определённых усилиях их можно изготовить на отечественных производственных мощностях.

Учитывая, что в Республике Беларусь исторически сложилась сильная школа микроэлектроники, можно ли рассчитывать на представление в ШМУ нейроморфных разработок из этой страны?

О. А. Тельминов: Хорошая идея. К следующей ШМУ попробуем установить молодёжные контакты для обмена опытом и взаимодействия в нашей области. Сейчас налицо только общение состоявшихся учёных и специалистов наших стран на «взрослом» Форуме.

Каков вклад АО «НИИМЭ» в подготовку специалистов по нейроморфным системам, в том числе высшей квалификации?

О. А. Тельминов: Пожалуй, самый подходящий вуз для развития технологий микроэлектроники – это Физтех. В 2011 г. была создана базовая кафедра НИИМЭ в МФТИ «Микро- и наноэлектроника» (зав. кафедрой – академик РАН Г. Я. Красников, зам. заведующего кафедрой – академик РАН Е. С. Горнев), на которой проходят обучение студенты 4-го курса бакалавриата, магистратуры и аспиранты. Сегодня там «зреют» физтехи – будущие доктора физико-математических наук. Все они работают в НИИМЭ, ведут или участвуют в проведении тематических для нашей организации НИОКР, в том числе и с широким применением нейросетевых решений. В этот процесс вовлекаются даже школьники в рамках профессиональной ориентации, а также студенты-практиканты из других вузов во время летних каникул. Маховик работает, выросшие из бывших студентов учёные формируют вокруг себя крепкие научные коллективы. Срабатывает «перекрёстное опыление», коллеги делятся мыслями и наработками, которые начинают применяться в других подразделениях нашего НИИ.

Какие вузы страны сегодня занимают ведущие позиции в сфере нейроморфных вычислений?

О. А. Тельминов: На мой взгляд, это МФТИ, ННГУ, ЛЭТИ, ЮФУ, ТюмГУ, ВГТУ, МИЭМ НИУ ВШЭ, МГТУ им. Н. Э. Баумана, НГУ и ряд других.

Алексей Николаевич, в этом году Вы впервые выступите в роли руководителя секции ШМУ «Нейроморфные вычисления и искусственный интеллект», что говорит о роли исследований ННГУ им. Н. И. Лобачевского в данной сфере. В Университете Лобачевского выполняется научный проект «Нейроэлектроника – интеллектуальные нейроморфные и нейрогибридные системы на основе новой электронной компонентной базы». Что можно отметить из уже достигнутого в его рамках?

А. Н. Михайлов: Да, наше участие в этом году выходит на качественно новый уровень. ННГУ официально стал партнёром (соорганизатором секции) ШМУ, а для наших учёных стало большой честью лично выступить в качестве руководителей секций по приглашению оргкомитета Школы. Что касается указанного крупного научного проекта, то он с 2022 года реализуется в рамках научной программы Национального центра физики и математики (направление №9 «Искусственный интеллект и большие данные в технических, промышленных, природных и социальных системах»).

Выполняемый проект является ядром междисциплинарного научного направления, активно развивающегося на стыке разных областей знаний (физика, химия, прикладная математика, электроника и информационные технологии, нейробиология и нейротехнологии), и объединяет ведущие научные и научно-производственные центры России для достижения общей цели, которая состоит в создании и применении новой элементной базы информационно-вычислительных систем на основе принципов функционирования элементов биологических нейронных сетей для поддержки развития и массового внедрения технологий искусственного и гибридного интеллекта. На данном этапе консорциум включает три вуза (ННГУ, ЮФУ, ЛЭТИ), два академических института (ИФМ РАН – филиал ИПФ РАН, ИПТМ РАН), АО «НИИМЭ» и подразделения РФЯЦ-ВНИИЭФ (НИИИС им. Ю. Е. Седакова, ИЯРФ, КБ-2). НИИИС является основным технологическим партнёром для реализации новой ЭКБ по технологии КМОП КНИ 0,35 мкм, НИИМЭ как стратегический технологический партнёр отвечает за масштабирование технологии до уровня КМОП 180-90 нм. Эти партнёры обеспечивают освоение полностью отечественной технологии СБИС энергонезависимой памяти типа ReRAM и создание опытных образцов сопроцессоров для реализации и ускорения нейроморфных вычислений для специальных применений.

Выход на потребительский (в том числе мировой) рынок электроники станет возможным благодаря освоению технологии BEOL/КМОП 90/55 нм на базе Центра нанофабрикации СП «Квант» (новый технологический партнёр проекта) и доступных зарубежных фабрик. Трансфер технологии ReRAM на промышленную линию Центра нанофабрикации в данный момент осуществляется в рамках программы «Приоритет 2030» (стратегический технологический проект ННГУ «Нейроморфные и квантовые технологии искусственного и гибридного интеллекта»).

Как вы оцениваете вклад молодых учёных, магистрантов и студентов Университета Лобачевского в области нейроморфных вычислений? Будут ли они представлены в этом году на ШМУ?

А. Н. Михайлов: Наш университет последние годы был хорошо представлен на Школе и на основном форуме «Микроэлектроника». В этом году молодые учёные ННГУ планируют принять участие в работе секций ШМУ «Нейроморфные вычисления и искусственный интеллект», «Физика микро- и наноразмерных приборов» и «RISC-V и системное программное обеспечение», а также в работе круглых столов. В частности, на секции «Нейроморфные вычисления и искусственный интеллект» будут представлены пленарный доклад аспиранта ННГУ Д. А. Серова «КМОП-интегрированные мемристоры на основе двухслойного диэлектрика Al₂O₃/ZrO₂(Y)» и устный доклад магистранта ННГУ Г. Д. Жаркова «Исследование электрофизических свойств ячеек памяти в мемристорных кроссбарах на основе диоксида циркония, стабилизированного иттрием». В работе специальной сессии «Молодёжные лаборатории в области микроэлектроники» я также расскажу о результатах исследований, выполняемых молодёжной лабораторией мемристорной наноэлектроники ННГУ.

Олег Александрович, вы руководите секцией ШМУ Форума уже несколько лет. Были ли среди Ваших подопечных такие, чьи доклады заслуживали бы быть представленными на одноимённой Секции №10 научной конференции Форума?

О. А. Тельминов: Конечно. Я бы сказал, что между ШМУ и «взрослым» Форумом проложена дорога с двухсторонним движением: докладчики мигрируют как из ШМУ на Форум, так и обратно. Здесь важен не только уровень самого доклада, но и мироощущение докладчика – некоторым особо близок тот уют и молодёжный дух, который царит в ШМУ с её основания.
Сейчас мы видим только вершину айсберга c 2019 г. – даты основания ШМУ Форума. А на самом деле много десятилетий назад в Гурзуфе (Крым) НИИМЭ ежегодно проводил такую осеннюю школу, она давала большой заряд её участникам, каждый готовился к выступлению весьма ответственно, даже выше своих сил. У нас в НИИМЭ и в других близких нам по работе организациях ещё активно трудятся те участники, из их первых уст доподлинно знаю. Кажется, наша современная команда организаторов впитала и приумножает тот натруженный задел и азарт. Каждый день в ШМУ начинается с задорной утренней зарядки, продолжается в научных дискуссиях, завершается вечерними играми, конец рабочей недели радует экскурсиями. На основном Форуме совершенно другой «колорит». Однажды мы нарушили традицию и совместили ШМУ и Форум в одну и ту же неделю: в первый же день поняли, что так делать не нужно.

А вот приглашать состоявшихся учёных на ШМУ совершенно необходимо. В 2020 г. вместе со ШМУ мы провели конференцию «Кремний-2020» с многолетней историей. С удовольствием наблюдал, как были счастливы известные учёные, когда вокруг них вились стайки студентов и аспирантов, общаясь с ними в кулуарах и неожиданно находя для себя ответы на важные вопросы. А может, просто улавливали мотивацию для своих исследований. На вечер закрытия мы пригласили отдыхавших в Крыму учёных из РАН, и, хотя они впервые попали на нашу ШМУ, в своих тостах сразу отметили эту невидимую связь между учёными и студентами. Кстати, о подготовке кадров: в состоявшейся в тот вечер «Мозгобойне» выиграла команда физтехов из НИИМЭ.

Какие новые задачи смогут решать нейроморфные системы в ближайшие годы?

О. А. Тельминов: В классике есть объект управления и система управления таким объектом. Мир развивается в сторону киберфизических систем, где в это взаимодействие включаются живые организмы. Встают вопросы организации интерфейса между организмами и электронными изделиями, резкого роста степени модальности разнородных данных, обеспечения надёжности путём адаптации при непредвиденных обстоятельствах, конфиденциальности и безопасности, обеспечения требований работы в жёстком реальном времени. На мой взгляд, достигнутые и ожидаемые успехи от внедрения нейроморфных систем в ближайшие годы позволят закрыть большинство из таких вопросов. Эта область притягивает матёрых учёных из разных областей знаний, которые немного «засиделись» в своей привычной рутине. За последние пару лет я вижу, как их буквально приводят за руку, и они начинают творить в нейроморфной песочнице, которая раскрепощает их и даёт возможность выложиться по полной. Это очень добротное и тщательно отобранное сообщество, имеющее глубокие корни «ещё в тех самых» фундаментальных науках, солидный багаж практических наработок, жажду к чтению и обсуждению новейших статей и дающее довольно быстрый наблюдаемый результат, удовлетворение и новые цели.

Приглашаем всех заинтересованных участников ШМУ присоединиться к работе секции «Нейроморфные вычисления и искусственный интеллект».

***

Организаторами форума «Микроэлектроника 2025» выступают АО «НИИМЭ» и АО «НИИМА «Прогресс» при поддержке Министерства промышленности и торговли Российской Федерации, Министерства науки и высшего образования Российской Федерации. Генеральные партнёры – НИЦ «Курчатовский институт», Государственная корпорация по атомной энергии «Росатом», Фонд перспективных исследований (ФПИ). Стратегический партнёр – Группа компаний «Элемент». Официальный партнёр – ОАО «РЖД». Инновационные партнёры – Холдинг «Швабе», ООО «Лазерный Центр», Многопрофильный ИТ-Холдинг «Национальная компьютерная корпорация», ООО «Т8», АО «Крафтвэй корпорэйшн ПЛС». Стратегический информационный партнёр – Генеральное информационное агентство «ТАСС». Образовательный партнёр – Университет «Сириус». Спортивный партнёр – НИУ МИЭТ. Партнёры – ООО «ХайТэк», ООО «НМ-Тех», АО «Корпорация Роботов»,Т1 Интеграция, АО НИИТМ, АО «Концерн ВКО «Алмаз – Антей», АО «Уральское проектно-конструкторское бюро «Деталь», НИЯУ МИФИ, АО «Сигналтек», АО «Нанотроника», Российский научный фонд, АО «НПЦ «РПК», Группа компаний «Остек», Консорциум робототехники и систем интеллектуального управления, ООО «ФОРМ». Генеральный информационный партнёр – АО «РИЦ «ТЕХНОСФЕРА». Оператор Форума – Агентство деловых коммуникаций «ПрофКонференции».