Проблема "катастрофического забывания" возникает, когда глубокие нейронные сети обучаются для выполнения новой задачи. Это происходит потому, что новая оптимизация просто перезаписывает предыдущую. У мозга этой проблемы нет, потому что он, по-видимому, может регулировать степень синаптических изменений; эксперты сейчас также говорят о так называемой "метапластичности". Они подозревают, что только благодаря этим различным степеням пластичности наш мозг может постоянно осваивать новые задачи, не забывая старое содержание. Новый мемристор выполняет нечто подобное.

"Его уникальные свойства позволяют использовать различные режимы переключения для управления модуляцией мемристора таким образом, чтобы сохраненная информация не терялась", - говорит Илья Валов из Института Петера Грюнберга (PGI-7) в Исследовательском центре Юлиха.

Идеальные кандидаты для устройств, основанных на нейронах

Современные компьютерные чипы быстро развиваются. Их развитие могло бы получить дополнительный импульс благодаря мемристорам - термину, производному от слов "память" и "резистор". Эти компоненты, по сути, являются резисторами с памятью: их электрическое сопротивление изменяется в зависимости от приложенного напряжения, и, в отличие от обычных переключающих элементов, значение их сопротивления остается даже после отключения напряжения. Это связано с тем, что мемристоры могут претерпевать структурные изменения - например, из-за осаждения атомов на электродах.

"Запоминающие элементы считаются идеальными кандидатами для обучаемых компьютерных компонентов, вдохновленных нейронами, смоделированных на основе мозга", - говорит Илья Валов.

Несмотря на значительный прогресс и усилия, коммерциализация компонентов продвигается медленнее, чем ожидалось. Это связано, в частности, с высокой частотой отказов при производстве и коротким сроком службы изделий. Кроме того, они чувствительны к выделению тепла или механическим воздействиям, что может привести к частым неисправностям в процессе эксплуатации. "Таким образом, фундаментальные исследования необходимы для лучшего управления наноразмерными процессами", - говорит Валов, который много лет работает в этой области мемристоров. "Нам нужны новые материалы и механизмы переключения, чтобы снизить сложность систем и расширить спектр функциональных возможностей".

Именно в этом отношении химик и материаловед вместе с немецкими и китайскими коллегами теперь смогли сообщить о важном успехе: "Мы обнаружили принципиально новый электрохимический механизм запоминания, который является более стабильным химически и электрически", - объясняет Валов. Теперь разработка была представлена в журнале Nature Communications.

Новый механизм для мемристоров

"К настоящему времени были определены два основных механизма функционирования так называемых биполярных мемристоров: ECM и VCM", - объясняет Валов. ECM расшифровывается как "Электрохимическая металлизация", а VCM - как "Механизм изменения валентности".

• Мемристоры ECM образуют металлическую нить между двумя электродами - крошечный "проводящий мостик", который изменяет электрическое сопротивление и снова растворяется при изменении напряжения на противоположное. Критическим параметром здесь является энергетический барьер (сопротивление) электрохимической реакции. Такая конструкция обеспечивает низкие напряжения переключения и быстрое время переключения, но генерируемые состояния изменчивы и относительно недолговечны.
• С другой стороны, мемристоры VCM изменяют сопротивление не за счет перемещения ионов металла, а скорее за счет перемещения ионов кислорода на границе раздела между электродом и электролитом - путем изменения так называемого барьера Шоттки. Этот процесс сравнительно стабилен, но требует высоких коммутационных напряжений.

Каждый тип мемристора имеет свои преимущества и недостатки. "Поэтому мы рассмотрели возможность разработки мемристора, сочетающего в себе преимущества обоих типов", - объясняет Илья Валов. Среди экспертов ранее считалось, что это невозможно. "Наш новый мемристор основан на совершенно ином принципе: в нем используется нить накала, изготовленная из оксидов металлов, а не чисто металлическая, как в ECM", - объясняет Валов. Эта нить образуется в результате движения ионов кислорода и тантала и обладает высокой стабильностью - она никогда полностью не растворяется. "Вы можете думать об этом как о нити накала, которая всегда существует в той или иной степени и только химически модифицирована", - говорит Валов.

Таким образом, новый механизм переключения очень надежен. Ученые также называют это механизмом модификации проводимости нити накала (FCM). Компоненты, основанные на этом механизме, обладают рядом преимуществ: они химически и электрически более стабильны, более устойчивы к высоким температурам, имеют более широкий диапазон напряжений и требуют для производства более низких напряжений. В результате в процессе производства выгорает меньше компонентов, снижается процент брака и увеличивается срок их службы.

Перспективное решение для "катастрофического забвения"

Кроме того, различные степени окисления позволяют мемристору работать в двоичном и/или аналоговом режиме. В то время как двоичные сигналы являются цифровыми и могут выводить только два состояния, аналоговые сигналы являются непрерывными и могут принимать любое промежуточное значение. Такое сочетание аналогового и цифрового поведения особенно интересно для нейроморфных чипов, поскольку оно может помочь преодолеть проблему "катастрофического забывания": глубокие нейронные сети удаляют то, чему они научились, когда их обучают для выполнения новой задачи. Это происходит потому, что новая оптимизация просто перезаписывает предыдущую.

У мозга этой проблемы нет, потому что он, по-видимому, может регулировать степень синаптических изменений; эксперты сейчас также говорят о так называемой "метапластичности". Они подозревают, что только благодаря этим различным степеням пластичности наш мозг может постоянно осваивать новые задачи, не забывая старое содержание. Новый омический мемристор обеспечивает нечто подобное. "Его уникальные свойства позволяют использовать различные режимы переключения для управления модуляцией мемристора таким образом, чтобы сохраненная информация не терялась", - говорит Валов.

Исследователи уже внедрили новый запоминающий компонент в модель искусственной нейронной сети в ходе моделирования. В нескольких наборах данных изображений система достигла высокого уровня точности распознавания образов. В будущем команда хочет поискать другие материалы для мемристоров, которые могли бы работать еще лучше и стабильнее, чем представленная здесь версия. "Наши результаты еще больше продвинут разработку электроники для приложений "вычисления в памяти"", - уверен Валов.