Автор: admin

Electronics 2019, 8(1), 75;

https://doi.org/10.3390/electronics8010075

Физики из Петрозаводского государственного университета предложили новый тип осцилляторной нейронной сети и научили сеть распознавать простейшие образы. Нейроны-осцилляторы в модели могут иметь электрическую, магнитную или биологическую природу. Считается, что такие сети на аналоговой компонентной базе биоподобны, то есть отражают связи между нейронами в живом мозге. Исследование, выполненное при поддержке РНФ, опубликовано в открытом доступе в журнале Electronics.

Рисунок 1. Схема нейронной сети на основе связанных осцилляторов.

Перед учеными кафедры электроники и электроэнергетики ПетрГУ, как рассказывает руководитель гранта, доцент Величко Андрей Александрович была поставлена актуальная задача разработки методики распознавания образов на основе сетей из связанных осцилляторов, давно исследуемых авторами, и реализуемых на оксидных структура из двуокиси ванадия. Оказалось, что, используя разработанный авторами алгоритм регистрации синхронизации осцилляторов, обладающий высокой чувствительностью и селективностью, удалось сделать такую сеть обучаемой, способной, к примеру, распознавать образы как это делают нейронные сети. Сети с вынужденными осцилляторами напоминают спайковые нейронные сети, когда в нейронах генерируются отдельные импульсы (спайки), которые вызывают поочередную когерентную активацию других нейронов, и формируют, таким образом, пространственно-временную последовательность возбуждений. Считается, что такие процессы ответственны за кодирование и передачу информации, проходящие в мозгу человека, и поэтому очень интересны для изучения.

Обучение сети происходит за счет подбора сил связей между осцилляторами и значений основных частот осцилляторов. Самой замечательной особенностью является то, что существует великое множество комбинаций параметров, которые перепрограммируют (обучают) сеть для выполнения заданных функций.

В данной работе авторами ставятся задачи распознавания входных образов размерности 3×3. Образы передаются в сеть за счет модуляции питающих токов осцилляторов (I_OFF и I_ON), как это показано на рисунке 1. Эти токи меняют частоты осцилляторов, и, в результате, динамика осцилляций связанной сети откликается на каждый входной образ. Идея заключается в том, что, подобрав нужным образом значения этих токов и величин коэффициентов связи между осцилляторами (s_r, s_m, s_o) можно заставить сеть синхронизироваться только для определенного входного образа. Это и есть реализация функции распознавания.

Авторы работы пошли дальше, в качестве выходного сигнала сети было выбрано состояние синхронизации входного осциллятора и референсного осциллятора (см. рисунок). Авторы показали, что синхронизация может наблюдаться не только на основных частотах, но и субгармониках. Увеличение числа синхронных состояний за счет субгармоник называется эффектом синхронизации высокого порядка. Он универсален для разных осцилляторных систем. Имея одновременно несколько состояний синхронизации, нейрон, по словам авторов, становится мультиуровневым, то есть обладает повышенной функциональностью для решения когнитивных задач. Благодаря этому осцилляторная сеть из малого количества нейронов может выполнять сложные операции, к примеру, по распознаванию речи, изображений и видео, а также способна к решению задач прогнозирования, оптимизации и управления.

Используя это свойство авторам удалось настроить (обучить) сеть так, что на разные входные образы выходной осциллятор обладал разной синхронизацией. В работе было показано, что сеть способна распознавать одновременно до 14-ти классов фигур из 102 возможных, имея при этом на выходе всего один осциллятор.

В перспективе на основе этих сетей могут быть созданы компактные нейросетевые чипы с наноразмерными осцилляторами. Особенность разрабатываемой в проекте нейросетевой технологии – это новый принцип обработки информации на основе эффекта синхронизации высокого порядка импульсных сигналов, позволяющий реализовывать мультиуровневые нейроны с высокой степенью функциональности. Преимуществом подобных ОНС является перспектива их реализации на аналоговой компонентой базе, с использованием самых различных физических осцилляторов, в том числе электронной (электрической) природы, с минимальной потребностью в компьютерных вычислениях на этапе сопряжения интерфейсов. Кроме того, осцилляторные сети могут быть реализованы на высокопроизводительных вычислительных платформах используя цифровые осцилляторы и их модели.

Впервые исследован эффект влияния временной задержки термической связи на синхронизацию двух VO₂-осцилляторов. Предложена модификация методов определения параметров синхронизации высокого порядка. Изучена зависимость этих параметров от величины временной задержки и расстояния между осцилляторами в присутствии внутреннего шума. Полученные результаты позволят внести вклад в развитие технологии создания трехмерных нейронных сетей.

http://dx.doi.org/10.21883/PJTF.2019.03.47261.17502

Письма в журнал технической физики » Год 2019, выпуск 3 » Статья стр. 3

Просьба перейти по ссылке и ознакомиться с полным текстом статьи, опубликованной в журнале Electronics, в которой  с помощью численного моделирования двух- и трехосцилляторных схем с термически связанными VO2-переключателями показан новый метод запоминания и распознавания образов (векторов) в импульсной осцилляторной нейронной сети (ОНС) на основе эффекта синхронизации высокого порядка. Данный способ обладает высокой емкостью запоминания,  что обусловлено возможностью реализации большого числа синхронных состояний Ns осцилляторной системы. Каждое состояние системы характеризуется порядком синхронизации, определяемым как отношение номеров гармоник на общей частоте синхронизации. Модельно показано достижение Ns нескольких порядков, так для трех осциляторной схемы Ns~650 и   для двух осциляторной схемы Ns~260. Несмотря на то, что исследования в данной работе проведены на конкретном модельном объекте (термически связанные VO2 релаксационные генераторы), продемонстрированный метод реализации ассоциативной памяти является достаточно общим, а фундаментальность полученных закономерностей может стать предметом дальнейших исследований для ОНС с различными механизмами и топологией связей осцилляторов.

 

Преимущество термического способа взаимодействия VO2-осцилляторов для 3D-интеграции в том, что термические волны распространяются радиально от переключателя во все стороны по подложке, и, следовательно, позволяют термически связывать осцилляторы, находящиеся на разных слоях.

1. Velichko, A.; Belyaev, M.; Putrolaynen, V.; Perminov, V.; Pergament, A. Thermal coupling and effect of subharmonic synchronization in a system of two VO2 based oscillators. Solid. State. Electron. 2018, 141, 40–49, https://doi.org/10.1016/J.SSE.2017.12.003
2. Velichko, A.; Belyaev, M.; Putrolaynen, V.; Perminov, V.; Pergament, A. Modeling of thermal coupling in VO 2 -based oscillatory neural networks. Solid. State. Electron. 2018, 139, 8–14, https://doi.org/10.1016/j.sse.2017.09.014
3. Patent for invention №2663546 from 07.08.2018 A method of interaction in the system of coupled oscillators based on oxide structures with the effect of an electric switch, authors V. Putrolainen , Velichko A.A. , Belyaev M.A. , Pergament A.L. (priority date 05/31/2017)

В ходе научных исследований за 2017 год нами была проведена экспериментальная и теоретическая работа по наблюдению новых эффектов синхронизации осцилляторов, в том числе с использованием мемристоров, а также изучены особенности электрического переключения переключателей планарного и сэндвич типов при масштабировании. Предложен альтернативный вид не электрической, а термической связи, имеющей перспективы для 3D интеграции осцилляторных сетей и организации связей вида все-со-всеми. Проведено исследование эффекта синхронизации на субгармониках, используемого для увеличения емкости классификации осцилляторной системы и распознавания образов, а также синхронизации на длинные расстояния.
Описанные результаты в большей своей степени имеют универсальный характер и в дальнейшем могут быть применены к другим переключательным структурам, в том числе на основе полупроводниковых компонентов, для которых существует промышленная технология изготовления. 
1.     Методами электронной и лазерной литографии, с использованием магнетронного напыления, нами были изготовлены планарные переключательные структуры с величиной межэлектродного промежутка a в диапазоне от 500 до 3000 нм. Экспериментально было обнаружено снижение пороговых токов и напряжений, времен включения и выключения, а также пороговой мощности при уменьшении величины a. Используя численное моделирование, выявлены обобщенные формульные зависимости пороговых характеристик от масштаба области переключения и свойств пленки. 
 Наиболее интересным является оценка максимально достижимых частот при осцилляциях, поэтому нами было проведено моделирование непосредственно переключателя включенного в схему осциллятора.  Оценка собственной частоты F0 осцилляторов при фиксированной емкости (C=10 нФ) показывает, что F0 незначительно падает с уменьшением размеров переключательной структуры, несмотря на снижение временных характеристик переключения. В свою очередь, с уменьшением а, можно снижать минимальную емкость, при которой колебания вообще существуют, поэтому, при размерах области a~100 нм, максимальная частота осцилляций может приближаться к F0~20 МГц, а в некоторых случаях может достигать F0~300 МГц.
Показано, что для изучения физики переключения одиночных наноструктур удобно использовать сэндвич структуры, например, на основе аморфных анодных VO2 пленок, которые являются хорошими модельными объектами.  Для этих целей нами был разработан стенд на основе атомно-силового микроскопа СММ-2000, позволяющий получать топографические карты и карты распределения проводимости на изучаемом участке поверхности, до и после проведения электрической формовки (in situ).
С помощью стенда был изучен процесс электрической формовки в пленке оксида ванадия толщиной ~50 нм. Показано, что после формовки образуется модифицированный участок с повышенной проводимостью, соответствующий сформированному каналу диаметром ~500 нм, который в свою очередь состоит из наноканалов диаметром в диапазоне (10-100 нм). 
Сделан вывод, что на данном этапе предпочтительнее использовать планарные структуры, т.к сэндвич технология пока еще нуждается в электрической формовке канала. Тем не менее, сэндвич структуры на основе аморфного VO2 перспективны, в будущем, для разработки технологии 3D интеграции элементов и миниатюризации.
2. Показано, что существуют возможности эффективного применения мемристоров обоих типов в осцилляторных контурах, однако, для униполярной резистивной памяти переход между состояниями требует более сложных схем с наличием управляемого ограничителя по току. Для биполярной памяти схемная реализация перехода между состояниями значительно проще, так как в осцилляторной цепи, на определенных ветках, можно создать условия поочерёдного возникновения импульсов положительной и отрицательной полярности. 
Показано, что биполярная память проявляет свойство мультистабильности, когда сопротивление низкоомного состояния может меняться в широком диапазоне значений. Здесь уместно говорить о квазистабильном состоянии, т.к сопротивление ячейки зависит не только от величин приложенных напряжений, но и является функцией времени. Такое поведение физически связано с полевым управлением концентрацией кислородных вакансий в межэлектродном промежутке, за счет электрополевой миграции. При положительной полярности их концентрация возрастает, при этом со временем наблюдается обратная диффузия, что приводит к восстановлению равновесных значений сопротивления. 
Двухэлектродные сэндвич МОП(МОМ) структуры на основе оксидов Ti, Ta, Nb, V формировались нами методами реактивного магнетронного распыления и анодного окисления. В большинстве случаев биполярная память наблюдается без предварительной формовки, что является несомненно плюсом, а проведение формовки обычно приводит к возрастанию токов включенного состояния и подавлению мультистабильности.  
Анодные аморфные пленки ниобия и ванадия представляются нам хорошими кандидатами на роль мультистабильной биполярной памяти, за исключением одного минуса – использования жидкого электролита. Таким образом, сделан вывод, что биполярная память с мультистабильными состояниями на основе представленных оксидов может претендовать на роль элементов для моделирования синаптической пластичности нейронной сети.
3.  Нами была разработана схемотехническая модель биполярной памяти, которая по динамике ВАХ очень напоминала квазистабильное поведение реальных ячеек. Здесь использовалась аналогия концентрации вакансий к величине напряжения на конденсаторе, которая зависела не только от амплитуды входных напряжений, но и от времени, за счет процессов зарядки и разрядки емкости через сопротивления.  
Модельная ячейка (мемристор) была использована нами в схемах одиночного и двух связанных контуров. В первом случае мы обнаружили очень интересный режим работы схемы, когда вид осциллограмм напряжения на мемристре напоминает пачечную (взрывную) активность нейрона, и обусловлен последовательной сменой режимов работы одиночного осциллятора. 
Целью создания схемы связанных осцилляторов с ячейкой памяти являлось моделирование процесса обучения. Мемристор часто используется при моделировании нейронных систем организмов, как элемент, позволяющий симулировать эффект синаптической пластичности, выражающийся в увеличении силы синаптической связи при активации постсинаптических рецепторов. Для моделирования эффекта синаптической пластичности мы использовали два нейрона-осциллятора, соединенных мемристором и последовательной емкостью. Емкость была необходима для реализации практически униполярных импульсов напряжения на ячейке памяти при осцилляциях. Первый осциллятор, работающий в нормальном режиме, возбуждает второй осциллятор, который находится в подпороговом режиме, в котором значение питающего тока незначительно ниже, чем необходимое для возникновения осцилляций. Под воздействием импульсов напряжения сопротивление мемристора начинает уменьшается, что равносильно усилению электрической связи между контурами. При падении сопротивления мемристора до некоторого порогового уровня, инициируется включение второго осциллятора. 
Таким образом, нами была показана динамика работы одиночного и двух связанных осцилляторов, с включенным в схему мемристором, которые моделируют эффекты пачечной активности и синаптической пластичности нейронов, а также связанный с ними процесс обучения.
4. Разработана схема двух термически связанных осцилляторов с нагрузочными сопротивлениями (Rx, Ry), представляющими собой   матрицу 3×3 фоторезистивных преобразователей. В одном поле матрицы находятся два гальванически развязанных фоторезистора, которые засвечиваются одновременно, а сама матрица представляет собой сенсор засвечиваемых образов (фигур).  Каждой фигуре соответствует определенный набор светлых и темных полей и определенные значения Rx и Ry, а значит и свое SHR (при соответствующем подборе статических параметров схемы). Таким образом, данная система из двух осцилляторов может классифицировать и распознавать образы с учетом симметрии фигур.
5. В результате проведенных экспериментальных исследований и численного моделирования динамики развития канала переключения в планарных структурах на основе диоксида ванадия установлены закономерности поведения времен перехода из высокоомного в низкоомное состояние и обратно в зависимости от амплитуды и длительности импульса и величины опорного напряжения. Полученные данные, в совокупности с результатами расчета и измерений температуры в канале переключения, свидетельствуют об определяющей роли в процессе переключения фазового перехода “металл−полупроводник” в диоксиде ванадия, стимулированного джоулевым разогревом. 
Предложен альтернативный вид не электрической, а термической связи, имеющей перспективы для трехмерной интеграции осцилляторных сетей и организации связей вида все-со-всеми и эффекта синхронизации на субгармониках.
Термическая связь между осцилляторами осуществляется за счет распространения тепла через подложку, на которой находятся элементы осцилляторов.  Для этого необходимо, чтобы элементы цепи при генерации колебаний могли играть роль источника тепла переменной мощности (подойдет любой резистивный элемент по которому течет переменный ток, в том числе сам переключательный элемент) и, одновременно, параметры окружающих осцилляторов должны иметь сильную зависимость от температуры (например, пороговое напряжение переключателя имеет сильную зависимость от температуры). 
Получены расчетные зависимости радиусов термической связи RTC, соответствующие ΔT ~ 0.2 K, от величин емкости и ограничительного сопротивления. Это доказывает возможность управления силой и радиусом связи не только статическими величинами, такими как расстояние между структурами и тепловыми константами подложки, но также и динамическими, варьируя параметры схемы.
Экспериментальное и численное изучение колебаний двух термически связанных осцилляторов привело нас к явлению синхронизации на субгармониках (частичной синхронизации). Это явление заключается в том, что синхронизация может происходить на неосновных (кратных) гармониках спектра осцилляций. 
Был разработан достаточно простой, но эффективный алгоритм, основанный на фазовом подходе, который определяет наличие эффекта синхронизации, эффективность синхронизации µ и значение SHR (отношение номеров гармоник на частоте синхронизации). 
Рассчитана карта синхронных состояний в пространстве питающих токов, имеющая вид языков Арнольда. Для случая сильной связи, соответствующей эксперименту по параметрам и уровню шума, было получено 12 различных состояний. Для других параметров системы, с меньшим уровнем шума, количество возможных состояний может значительно возрастать, и при учете 20 первых гармоник доходить до 200. 
 Таким образом, эффект синхронизации на субгармониках обладает большой емкостью классификации и может быть использован в задачах распознавания образов.
6.  Показано, что эффект синхронизации на большие расстояния может наблюдаться в цепочке термически связанных осцилляторов, при этом параметр синхронизации (SHR) между крайними элементами цепи выражается через произведение SHR соседних осцилляторов. Таким образом, эффект синхронизации на субгармониках позволяет реализовать синхронизацию на большие расстояния, через попарное взаимодействие осцилляторов составляющих цепочку связи. Показано, что при варьировании токов питания двух первых осцилляторов (I1, I2) в цепочке из N=100 осцилляторов, распределение SHR1,100, в пространстве управляющих токов, имеет градиент изменения только по оси I1, в отличии от двух-осцилляторной схемы, в то же время симметрия синхронных состояний осталась диагональной, что говорит о роли взаимного соотношения токов соседних осцилляторов в физике распространения синхронизма по цепочке. Однако области синхронизации распределены неравномерно, и не образуют яркой системы языков Арнольда. 
При варьировании токов питания центральных осцилляторов (I51, I52) мы получаем распределение одного единственного состояния SHR1,100=1/1, что, очевидно, связано с неизменными частотами крайних осцилляторов. Таким образом, соотношение I51 и I52 играет роль ключа, включающего или выключающего синхронизацию крайних осцилляторов.
7.  Основным методом для решения задачи распознавания образов, мы считаем, является использование явления синхронизации на субгармониках для увеличения емкости классификации осцилляторной системы. В работе исследовалась термическая связь, но аналогичные эффекты частичной синхронизации могут быть получены и на других видах связи (R- и C-типа), т.к физический механизм синхронизации на субгармониках является универсальным. 

1)	Разработана технология изготовления переключательных элементов планарного типа на основе VO2 пленок с фазовым переходом металл – изолятор (ФПМИ). Тонкие (~200 нм) пленки диоксида ванадия получались методом DC магнетронного напыления с последующим отжигом в атмосфере кислорода (10 мТорр, 480°C, t = 40 минут). Лучшими для электрического переключения являются пленки нестехиометрического VO2, со скачком удельного сопротивления при ФПМИ до двух порядков, с температурой фазового перехода ~60°C (по сравнению с Tt ≈ 70°C в стехиометрическом VO2) и повышенной проводимостью. Методами оптической литографии и lift-off процесса сформированы планарные переключательные структуры с электродами в виде двухслойных V-Au металлических контактов толщиной порядка 50 нм и с межэлектродным зазором ~ 2,5 мкм; ширина электродов составляла ~10 мкм. ВАХ переключателя имеет S-образный вид с пороговым напряжением 1-15 В; скачок тока при пороговом напряжении включения Vth составляет ~10, при напряжении выключения Vh скачок ~5, динамические сопротивления во включенном Ron и выключенном Roff состояниях составляют ~40 Ом и ~1,1 кОм, соответственно. Статическое сопротивление во включенном состоянии имеет нелинейный характер и изменяется от 40 до 200 Ом в диапазоне напряжений от Vh до Vth.
Данная технология позволила получить двухэлектродные структуры со стабильным эффектом электрического переключения, выдерживающие более 10Е8 циклов переключения, а также устанавливать переключатели в макетные платы, для дальнейшего изучения в условиях вакуума. 
2)	Для наблюдения автоколебаний, на основе VO2 переключателя собрана схема одиночного колебательного контура. Последовательное сопротивление Rs и напряжение питания Vdd (в диапазоне от 20 до 100 В) подбираются таким образом, чтобы нагрузочная прямая проходила через участок отрицательного дифференциального сопротивления (ОДС), что является условием возникновения осцилляций. Путем вариации условий и режимов получения пленок (в частности, t отжига), подобраны оптимальные параметры, при которых достигается минимальное значение Vth и максимальное   отношение токов Ih/Ith. Это обеспечивает максимальный наклон ОДС и лучшую стабильность получаемых осцилляций. 
На основе программы LTSpice создана модель VO2-переключателя, описывающая поведение переключательной структуры. Экспериментальные осциллограммы автоколебаний падения напряжения на переключателе и спектр колебаний с высокой степенью точности совпадают с соответствующими теоретическими кривыми, полученными в рамках данной модели. Зафиксировано уширение спектральных пиков, связанное с наличием шума в предпороговых областях, что приводит к слабой частотной модуляции автоколебаний хаотическим сигналом; наблюдались эффекты стохастического резонанса.
При исследовании одиночного контура обнаружено явление бистабильности, заключающееся в управляемом включении и выключении автоколебаний внешним импульсом. Данный эффект обусловлен наличием общего разогрева структуры в силу того, что за один период автоколебания канал переключения не успевает остыть до равновесной температуры. Для прекращения автоколебаний подается импульс обратной полярности с амплитудой, достаточной для выключения переключателя и длительностью, равной времени остывания канала до равновесной температуры. Указанный эффект может быть использован для создания осцилляторных элементов памяти и реализации режима импульсной связи в искусственных нейронных сетях. 
3)	Показано, что электронно-лучевая модификация (ЭЛМ) существенным образом изменяет параметры ФПМИ, снижает температуру перехода Tt и приводит к общему снижению сопротивления полупроводниковой и металлической фаз. Уменьшение Roff и Tt в свою очередь снижает Vth.  
Проведен квантово-химический расчет энергий образования кислородных вакансий и миграции кислорода в моноклинной и тетрагональной фазах диоксида ванадия. Показано, что диффузия в обеих фазах диоксида ванадия имеет преимущественное направление миграции кислорода вдоль кристаллографической оси а в моноклинной фазе (T < Tt) и оси с в тетрагональной фазе рутила (T > Tt). Различие в темпе генераций кислородных вакансий при электронно-лучевом воздействии выше и ниже температуры ФПМИ объясняется скачком (~1,5 раза) энергии активации диффузии кислорода при структурном фазовом переходе, что изменяет подвижность кислорода (кислородных вакансий) более чем на порядок. Расчеты электронных структур кристалла проводились в программном пакете Quantum Espresso.
Исследована ЭЛМ пороговых параметров ВАХ VO2-переключателя и частоты автоколебаний осциллятора на его основе. Показано, что ЭЛМ, проводимая в вакууме, носит обратимый характер и параметры восстанавливаются при экспозиции на воздухе с давлением 150 Па. При ЭЛМ с дозой 3 Кл/см2 напряжения Vth и Vh, а также сопротивление в выключенном состоянии Roff, уменьшаются до 50% от исходных значений.  Частота осцилляций возрастает на 30% при ЭЛМ с дозой 0,7 Кл/см2. Физический механизм наблюдаемых процессов связан с окислительно-восстановительными реакциями и образованием кислородных вакансий в результате ЭЛМ с учетом вышеописанного различия вкладов металлической и полупроводниковой фаз канала переключателя. 
Управляемая модификация позволяет проводить электронно-лучевую формовку переключателей с заданными параметрами, а также ЭЛМ может быть использована в искусственных осцилляторных нейронных сетях для распознавания образов на основе частотной манипуляции (frequency shift keying). 
4)	Проведено численное моделирование динамики осцилляций, с учетом изменения параметров переключателя при ЭЛМ, а также расчет временных характеристик и распределения температуры в канале переключателя. При этом применяется два подхода: 1) использование стандартных математических комплексов, которые могут предсказывать работу электрических схем (пакет LTSpice) и моделировать физические процессы в микроструктурах (пакет COMSOL Multiphysics); 2) создание собственных программных комплексов, использующих первопринципные методы и аналитическая оценка параметров осцилляций простейших схем.
Показано, что теоретические (полученные с помощью численного моделирования) кривые с высокой точностью соответствуют экспериментальным данным, в частности, таким как зависимости частоты осцилляторов от дозы облучения при ЭЛМ, временные характеристики восстановления после ЭЛМ в металлической и полупроводниковой фазах, а также стационарные ВАХ и распределение температуры в планарном переключателе.
5)	Исследована динамика переключения двух связанных осцилляторов на основе VO2 с резистивной и емкостной связью, а также показана принципиальная возможность их применения в осцилляторных нейронных сетях. Построена адекватная SPICE модель для описания режимов работы связанных осцилляторных контуров. Установлены физические механизмы, определяющие времена прямого и обратного электрического переключения, которые, в свою очередь, определяют пределы применимости предложенной модели.
Для резистивной связи показано, что синхронизация происходит при определенном значении сопротивления связи, однако она является нестабильной и периодически происходит сбой синхронизации. При минимальной величине связи не наблюдается ни частотной ни фазовой синхронизации осцилляторных контуров. При резистивной связи в диапазоне 3 кОм < Rcoup < 10 кОм наблюдается постепенное нерегулярное искажение формы автоколебаний напряжения. Данное изменение связано с шунтированием одного переключателя другим при их взаимном переключении в высокопроводящую фазу. В этом диапазоне резистивной связи наблюдается искажение спектров с появлением новых гармоник при взаимомодуляции, и колебания в целом имеют квазипериодических характер.
Для емкостной связи наблюдаются два режима синхронизации: со слабой и сильной связью. Переход между этими режимами сопровождается хаотическими колебаниями. Переход к хаосу происходит по механизму удвоения периода. Обнаружено уменьшение ширины гармоник спектра в режиме слабой связи, и ее увеличение в режиме сильной связи. Таким образом, осцилляторы, связанные с помощью емкостей, показали большее разнообразие режимов работы по сравнению с резистивной связью. При емкостной связи осцилляции контуров наблюдаются во всем диапазоне значений Сcoup. В режиме слабой связи при увеличении номинала связующей емкости, частоты осцилляторов сближаются, и после порогового значения Сcoup ~ 2,5 нФ осцилляторы синхронизуются. В отличие от резистивной связи, разность фаз после синхронизации может управляемо меняться в широком диапазоне (от 30º до 170º), поэтому использование такого типа связи в системах распознавания образов, использующих схему распознавания на основе сдвига фаз (phase shift keying), является более предпочтительным. 
В качестве применения рассмотренных систем связанных осцилляторов продемонстрирована совместная работа R- и С-связи в ансамбле из четырех осцилляторов для моделирования центрального генератор ритма (ЦГР). 
6)	Исследовано влияние электронного облучения на синхронизацию связанных осцилляторов. Исходные частоты осцилляторов составляли 850 Гц и 770 Гц, что не обеспечивало синхронизацию при емкостной связи Сcoup = 10 нФ. Для установления синхронизации частота одного из осцилляторов изменялась при помощи ЭЛМ. Показано, что синхронизация устанавливается при дозе облучения ~1 Кл/см2, а при дальнейшем облучении происходит десинхронизация.
Продемонстрирован отклик осцилляторной системы на электронно-лучевое воздействие, где важным аспектом является направление изменения частот при ЭЛМ, а также то, что даже при наличии зашумлённости параметра частоты осцилляций, по поведению разности фаз можно достаточно точно предсказать возникновение синхронизации. Поэтому метод фазового детектирования синхронизации здесь может являться ключевым методом для анализа осцилляторных нейронных сетей.  
7)	Электрическая схема автоколебательного контура была дополнена последовательно включенным фоторезистором. Показано, что освещенность фотосопротивления влияет на частоту колебаний. Найдены значения освещенности, при которых наблюдались устойчивые автоколебания в схеме (1,25 – 4,1 лк, фоторезистор GL5516). При освещенности I < 1,25 лк переключатель находился в устойчиво выключенном состоянии, а при I > 4,1 лк – в устойчиво включенном. Данный способ управления параметрами автоколебаний в схемах на основе VO2-переключателей аналогичен вышеописанному способу с использованием ЭЛМ, однако необходимость ЭЛМ самого переключателя не всегда может быть целесообразна в связи со сложностью системы электронного экспонирования и необходимостью наличия вакуума. 
8)	 Проведено моделирование функции распознавания образ-векторов с использованием метода фазовой синхронизации осцилляций. Методика распознавания при использовании такой системы заключается в установлении начальной (входной) разности фаз Δφt (входной фазовый вектор) и выявление спустя время Δts конечной разности фаз Δφi,j, являющейся одним из запомненных собственных образ-векторов. В ходе модельного эксперимента использованы три одиночных осцилляторных контура на основе VO2-переключателей, которые были соединены через связующие емкости, по топологии «звезда». Для моделирования использовалась среда NGSpice с программой автоматизации модельного эксперимента (написанной на Си) для расчетов в условиях вариации значений параметров схемы. Результаты моделирования показали, что время стабилизации фазы тем меньше, чем меньше разница между входным и собственным фазовым вектором, а актом распознавания является выявление «победителя» (критерий наименьшего времени) из набора входных векторов.

Проект РНФ 16-19-00135
Приоритет:
Нейротехнологии и когнитивные исследования
Конкретные задачи:
П16-3 Разработка новых вспомогательных и заместительных технологий для улучшения когнитивных способностей человека
Ключевые проблемы:
П16-3-2 Разработка искусственных когнитивных систем, включая разработку новых парадигм и теорий нейрокомпьютеров и биоподобных нейронных сетей, крупномасштабных симуляторов нервных сетей, специализированных архитектур для нейроморфных вычислений.

В проекте ставится задача реализации искусственных динамических нейронных сетей с функциями ассоциативной памяти и распознавания образов с помощью массива связанных осцилляторов. В качестве объекта исследования и разработки используются структуры на основе двуокиси ванадия, с эффектами фазового перехода металл-изолятор и электрического переключения, на базе которых проектируются релаксационные автогенераторы(осцилляторы), а за основу физического моделирования взята модель сети из взаимодействующих нейронных осцилляторов. Масштабность и актуальность задачи проекта связана в первую очередь с разработкой новой парадигмы компьютерных вычислений и распознавания образов, а также имеет аспект, связанный с пониманием физики функционирования оксидных переключательных микро и нано структур. На данный момент существует несколько подходов к моделированию нейронной сети. Это прежде всего cети из нейронов, в которых динамика каждого элемента описывается системой дифференциальных уравнений, например, уравнения для ионного транспорта через мембрану, как в модели Ходжкина – Хаксли, сети из интегративно-пороговых нейронов, накапливающих поступающие сигналы и генерирующим импульс (спайк) при достижении порога, и сети из взаимодействующих нейронных осцилляторов, в том числе фазовых осцилляторов. В осцилляторном подходе сети из нейронных осцилляторов исследуются методами теории бифуркаций, что позволяет аналитически и численно описать области параметров, при которых имеет место тот или иной вид динамики сети. В более простом подходе активность связанных осцилляторов характеризуется лишь разностью фаз или частот. Основная задача этого подхода состоит в описании областей пространства параметров, соответствующих различным режимам синхронизации (полной или частичной), а распознавание образа, трактуется как попадание входных параметров в область синхронизации взаимодействующих осцилляторов. Разрабатываемые в проекте ‘искусственные нейроны’ на основе двуокиси ванадия с эффектом электрического переключения на фоне релаксационных колебаний демонстрируют также естественный электрический шум, имеющий иногда детерминированный характер. Это явление (в пределах комнатных температур), присутствующее реальным биообъектам, в совокупности с быстродействием и возможностью наномасштабирования, делают переключатели на основе VO2 перспективным элементом для создания искусственной нейронной сети связанных осцилляторов. В результате будут разработаны технологий создания переключательных структур, планарного и сэндвич типов, на основе оксидов ванадия, с эффектом электрического переключения, с микронными и нанометровыми размерами рабочих областей и электродов. Одна из научных задач решаемая в проекте, это разработка новых методов ввода информации в искусственную нейронную сеть. Здесь планируется использовать свойство оксидно-ванадиевых структур обратимо модифицироваться под действием электронно-лучевого облучения (ЭЛМ). Это позволит напрямую управлять динамикой релаксационных колебаний, через изменение пороговых характеристик переключательного элемента, при этом электронно-литографическая система будет преобразовывать любой видимый образ в распределение экспонированной дозы. Планируется также исследование фоторезистивных преобразователей включенных последовательно с переключательным элементом для прямого влияния освещения, от распознаваемого образа, на динамику осцилляторной нейросети. Другой научной задачей является задача хранения образа тест объекта в параметрах осциллятора. Здесь будут исследоваться осцилляторные цепи содержащие резистивный элемент памяти, играющий функцию памяти состояния системы (частоты, фазы), с последующим распознаванием этого состояния. Одним из аспектов задачи будет поиск оксидных структур, обладающих несколькими устойчивыми резистивными состояниями, так называемый Multilevel ReRam. Кроме этого экспериментальные наблюдения будут дополнены результатами численного моделирования динамики связанных осцилляторов и программно- аппаратными методиками обработки сигналов. Будет получена технологий создания массива (размерностью не менее 4*4) связанных осцилляторов и элементов резистивной памяти на базе переключательных структур оксидов переходных металлов. Изучено влияния ЭЛМ и фотомодификации на динамику осцилляций массива связанных осцилляторов, для реализации функции ассоциативной памяти и распознавания образов. Таким образом, открывается новое направление исследований в разработке нейронных сетей на основе принципиально новых осцилляторов не только по физическому механизму, но и организованных по совершенно другому принципу параметрического воздействия. С практической точки зрения эта работа даст вклад в разработку новых устройств оксидной биоподобной электроники и методов обработки информации.

Нейронауки современной биологии привлекают особое внимание специалистов математики и физики и по количеству работ технической направленности соперничают с молекулярной генетикой и экотехнологиями. Одна из таких областей, теория нейронных сетей, с одной стороны, решает фундаментальную задачу об общих принципах обработки информации живых организмов, с другой, как часть современной кибернетики основные усилия направляет на резкое изменение в вычислительной парадигме, охватывающей разработку квантовых компьютеров и нейропроцессоров. 
В области разработки нейропроцессоров, текущие исследования фокусируются на развитие новых вычислительных архитектур, основанных на динамически адаптивной работе мозга с массивной параллельной логикой. Стрежневой направление этих исследований  - разработка устройств, которые могут “учиться” реагировать на различные внешние воздействия. 
На данный момент существует несколько подходов к моделированию нейронной сети. Это прежде всего cети из нейронов, в которых динамика каждого элемента описывается системой дифференциальных уравнений, например, уравнения для ионного транспорта через мембрану, как в модели Ходжкина – Хаксли, сети из интегративно-пороговых нейронов, накапливающих поступающие сигналы и генерирующим импульс (спайк) при достижении порога, и сети из взаимодействующих нейронных осцилляторов, в том числе фазовых осцилляторов [1].  
Последние исследования показали, что переключатели, охваченные емкостной обратной связью, могут вести себя как идеальные искусственные наносинапсы [2], и рассматриваться как строительные блоки для развития принципиально новых вычислительных систем. В этой связи принципиально новым моментом в создании нейронной сети является подход на основе осцилляторной цепи, где динамика каждого элемента характеризуется лишь одной переменной — фазой колебания, а связь между осцилляторами описывается на основе теории бифуркации. Основная задача этого подхода состоит в описании областей пространства параметров, соответствующих различным режимам синхронизации (полной или частичной), а распознавание образа, трактуется как попадание входных параметров  в область синхронизации. Оцилляторный подход сложен для численного моделирования, но по физическому механизму очень схож с поведением реальных нейронных сетей и может быть реализован экспериментально, используя элементы с нелинейной вольтамперной характеристикой переключательного типа. Как показано в недавних работах [3-5], системы с синхронизированными колебательными режимами имеют уникальные возможности для реализации ассоциативных вычислительных схем и алгоритмов. 
Разработка переключателей только на основе традиционной кремниевой технологии (CMOS), сужает возможности и перспективы подобных разработок в виду однотипности физических принципов управления, фундаментальных (например, квантово-механические) ограничений дальнейшего увеличения степени интеграции микросхем или требований все более и более сложных и дорогостоящих технических решений. Хотя усилия по созданию новых вычислительных систем с компонентами CMOS постоянно предпринимаются, существуют опасения по их дальнейшей масштабируемости и увеличению производительности. Альтернативные подходы базируются на новых физических механизмах – это, например, спинтроника, сверхпроводниковая электроника, одно-электроника. В частности, особый интерес представляют осцилляторы на основе спин-трансферных колебаний (spin-torque oscillator, STO), связанные током спиновой диффузии [6]. 
Несмотря на хорошую масштабируемость, связанные STO испытывают высокие токи смещения (порядка мА) и имеют медленные скорости, ограниченные угловой прецессией спина. Кроме того, хотя связь через токи спиновой диффузии имеют малую мощность, но локализуется на малой длине диффузии (порядка единиц микрона) при комнатных температурах. Таким образом, исследователи продолжают искать альтернативные топологии наногенераторов с перспективной масштабируемостью и более устойчивыми гальваническими развязками.
Одно из таких новых направлений, оксидная электроника, базируется на идее использования уникальных свойств и физических явлений в сильно коррелированных оксидах переходных металлов (ОПМ). К числу таких явлений относится, например, фазовый переход металл-изолятор (ФПМИ), присущий целому ряду ОПМ.
Возможности управления параметрами ФПМИ в ОПМ и, прежде всего, в диоксиде ванадия, остаются  в центре внимания многих исследователей, что обусловлено в практическом плане применением ФПМИ в различных технических устройствах, в том числе в элементах памяти [7]. Среди многих известных методов управления параметрами ФПМП, таких как приложение внешнего электрического поля [8], инжекция заряда через диэлектрик [9], воздействие лазерного излучения [10] и т.п., особое место занимает электронно-лучевая модификация (ЭЛМ) [11, 12]. В настоящее время ЭЛМ управление является менее изученным и приобретает все большую актуальность в виду   возможность ЭЛМ-подстройки параметров ФПМП в интерактивном режиме и в малых рабочих областях устройств. 
С ФПМИ ‘генетически’ связан, по крайне мере в диоксиде ванадия, другой технически значимый  эффект – электрическое переключение, которое  обусловлено развитием токовых неустойчивостей в сильных электрических полях в условиях фазового перехода и сопровождается появлением участков ВАХ с отрицательной дифференциальной проводимостью (ОДП). Этот эффект в VO2 наблюдается в монокристаллах, в тонкоплёночных планарных структурах, в сэндвич структурах V-VO2-металл, а также в различных VO2-содержащих системах: в оксидных в анадатно-фосфатных стеклах, в плёнках V2O5-геля, в керамике состава VOx-SnO2-Pd. 
Структуры на основе двуокиси ванадия с эффектом электрического переключения, используемые в данном проекте, являются превосходными объектами для создания связанных осцилляторов, не только в силу того что фазовый переход металл изолятор в VO2 хорошо изучен, и эффект переключения наблюдается в пределах комнатных температур (0-60) oС, где активно живут реальные биообъекты. Но и в силу наличия естественного электрического шума, имеющего иногда детерминированный характер [13], присутствующего в реальных биообъектах, а также быстродействия и возможности наномасштабирования устройств на основе VO2.
С позиции задачи управления ФПМИ в диоксиде ванадия можно отметить недавний результат, полученный нами [12], о  влиянии ЭЛМ на параметры переключения в тонкопленочных структурах на основе этого материала. Это позволит напрямую управлять динамикой релаксационных колебаний, через изменение свойств переключательного элемента, при этом электронно-литографическая система будет преобразовывать любой видимый образ в распределение экспонированной дозы. Планируется также исследование фоторезистивных преобразователей включенных последовательно с переключательным элементом для прямого влияния освещения, от  распознаваемого образа, на динамику осцилляторной нейросети.
Это открывает новое направление исследований в разработке нейронных сетей на основе принципиально новых осцилляторов не только отличных, например, по физическому механизму от STO, но и организованных по совершенно другому принципу параметрического воздействия.
Ввиду сказанного выше, представляется перспективным исследовать возможность применения эффекта переключения в структурах на основе VO, чтобы имитировать функцию нейристорной сети на основе осцилляторного подхода.  Отметим, что для реализации этих идеи можно использовать и другие ОПМ, например, оксид ниобия. Однако из-за относительно высокой температурой перехода (1070 К), диоксид ниобия потребляет значительное количество энергии. Диоксида ванадия при температуре ФПМИ лишь 340 K, кажется, более привлекательным материалом для этого приложения.
Таким образом, судя по нарастающему числу публикаций, актуальность научной проблемы данного проекта не вызывает сомнений, а одним из перспективных кандидатов для разработки новых переключательных устройств нейротехнологии являются оксиды металлов и полупроводников, в частности диоксид ванадия.

1.	Борисюк Г.Н., Борисюк P.M., Казанович Я.Б., Иваницкий Г.Р. Модели динамики нейронной активности при обработке информации мозгом — итоги "десятилетия". УФН, Том 172, № 10, 1189-1216, (2002).
2.	Pickett M. D., Medeiros-Ribeiro G. and Williams R. S. A scalable neuristor built with Mott memristors. NATURE MATERIALS 12, 114-117 (2013).
3.	 Maffezzoni P., Daniel L., Shukla N., Datta S. and Raychowdhury A. Modeling and Simulation of Vanadium Dioxide Relaxation Oscillators. IEEE Trans. on Circ. and Syst.  62, №9, 2207-2214 (2015).
4.	Datta S., Shukla N., Cotter M., Parihar A., Raychowdhury A. Neuro Inspired Computing with Coupled Relaxation Oscillators. Design Automation Conference (DAC), 2014 51st ACM/EDAC/IEEE, Date 1-5 June 2014, pp.1-6.
5.	Nikonov D. E., Csaba G., Porod W., Shibata T., Voils D., Hammerstrom D., Young I. A. and Bourianoff G. I. Coupled-Oscillator Associative Memory Array Operation.  arXiv:1304.6125 [cond-mat.mes-hall], 32 c.
6.	Kaka S., Pufall M. R., Rippard W. H., Silva T. J., Russek S. E. and Katine J., Mutual phase-locking of microwave spin torque nano-oscillators. Nature 437, № 7057, 389– 92 (2005).
7.	S.-H. Bae , S. Lee , H. Koo , L. Lin , B. H. Jo , C. Park and Z. L. Wang. The Memristive Properties of a Single VO2 Nanowire with Switching Controlled by Self-Heating. Adv. Mater., 25, 36, p. 5098 (2013).
8.	M. A. Belyaev, V. V. Putrolaynen, A. A. Velichko, G. B. Stefanovich and A. L. Pergament, Field-effect modulation of resistance in VO2 thin film at lower temperature. Jpn. J. Appl. Sci., 53, 11, p. 111102 (2014).
9.	G. B. Stefanovich., A. L. Pergament and D. G. Stefanovich. Electrical switching and Mott transition in VO2. J. Phys.:Condens. Matter, 12, p. 8837 (2000).
10.	A. Cavalleri, Th. Dekorsy, H. H. W. Chong, J. C. Kieffer and R. W. Schoenlein. Evidence for a structurally-driven insulator-to-metal transition in VO2: A view from the ultrafast timescale. Phys. Rev. B, 70, p. 161102 (2004).
11.	A. V. Ilinskii, V. Yu. Davydov, R. A. Kastro, O. E. Kvashenkina, M. E. Pashkevich and E. B. Shadrin. ElectronBeam Modification of the Parameters of the Insulator–Metal Phase Transition in Vanadium Dioxide Films. Technical Phys. Lett., 39, 8 (2013).
12.	M. A. Belyaev, A. A. Velichko, S. D. Khanin, G. B. Stefanovich, V. A. Gurtov and A. L. Pergament. Electron-beam modification and electrical property recovery dynamics of vanadium dioxide films in semiconducting and metallic phases. // Japanese Journal of Applied Physics 54, 051102 (2015).
13.	Величко А.А., Стефанович Г.Б., Пергамент А.Л., Борисков П.П. Детерминированный шум в структурах на основе диоксида ванадия // ПЖТФ Т. 29, № 10, С. 82-87 (2003).