Это препятствовало внедрению одного многообещающего ускорителя глубокого обучения - массивов электрохимической памяти с произвольным доступом, или ECRAM, - пока исследовательская группа из Университета Иллинойса Урбана-Шампейн не добилась первой интеграции ECRAM на уровне материалов на кремниевых транзисторах. Исследователи, возглавляемые аспирантом Цзиньсун Цуй и профессором Цин Цао с кафедры материаловедения и инженерии, недавно сообщили об устройстве ECRAM, разработанном и изготовленном из материалов, которые могут быть нанесены непосредственно на кремний во время изготовления в Природная электроника, реализующий первый практический ускоритель глубокого обучения на базе ECRAM.

"Другие устройства ECRAM были созданы со многими труднодоступными свойствами, необходимыми для ускорителей глубокого обучения, но наше устройство является первым, достигшим всех этих свойств и интегрируемым с кремнием без проблем с совместимостью", - сказал Цао. "Это было последним серьезным препятствием на пути широкого использования технологии".

ECRAM - это ячейка памяти или устройство, которое хранит данные и использует их для вычислений в одном и том же физическом местоположении. Эта нестандартная вычислительная архитектура устраняет энергозатраты на передачу данных между памятью и процессором, позволяя выполнять операции с большим объемом данных очень эффективно.

ECRAM кодирует информацию путем перемещения подвижных ионов между затвором и каналом. Электрические импульсы, подаваемые на вывод затвора, либо вводят ионы в канал, либо вытягивают их из канала, и результирующее изменение электропроводности канала сохраняет информацию. Затем он считывается путем измерения электрического тока, протекающего по каналу. Электролит между затвором и каналом предотвращает нежелательный поток ионов, позволяя ECRAM сохранять данные в виде энергонезависимой памяти.

Исследовательская группа выбрала материалы, совместимые с технологиями микрообработки кремния: оксид вольфрама для затвора и канала, оксид циркония для электролита и протоны в качестве подвижных ионов. Это позволило интегрировать устройства в стандартную микроэлектронику и управлять ими. Другие устройства ECRAM черпают вдохновение из неврологических процессов или даже технологии перезаряжаемых батарей и используют органические вещества или ионы лития, которые несовместимы с кремниевой микротехникой.

Кроме того, устройство Cao group обладает множеством других функций, которые делают его идеальным для ускорителей глубокого обучения. "Хотя интеграция кремния имеет решающее значение, идеальная ячейка памяти должна обладать целым рядом свойств", - сказал Цао. "Выбранные нами материалы обеспечивают множество других желаемых характеристик".

Поскольку для выводов затвора и канала использовался один и тот же материал, ввод ионов в канал и извлечение ионов из канала являются симметричными операциями, что упрощает схему управления и значительно повышает надежность. Канал надежно удерживал ионы в течение нескольких часов, чего достаточно для обучения большинства глубоких нейронных сетей. Поскольку ионы были протонами, самыми маленькими ионами, устройства переключались довольно быстро. Исследователи обнаружили, что их устройства рассчитаны на более чем 100 миллионов циклов чтения-записи и значительно более эффективны, чем стандартная технология памяти. Наконец, поскольку материалы совместимы с технологиями микропроизводства, устройства могут быть уменьшены до микро- и наноразмерных размеров, что обеспечивает высокую плотность и вычислительную мощность.

Исследователи продемонстрировали свое устройство, изготовив массивы ECRAM на кремниевых микрочипах для выполнения матрично-векторного умножения, математической операции, имеющей решающее значение для глубокого обучения. Элементы матрицы, или веса нейронной сети, были сохранены в ECRAMs, и массив выполнил умножение на входных векторных данных, представленных в виде приложенных напряжений, используя сохраненные веса для изменения результирующих токов. Эта операция, а также обновление веса были выполнены с высоким уровнем параллелизма.

"Наши устройства ECRAM будут наиболее полезны для приложений для периферийных вычислений с искусственным интеллектом, чувствительных к размеру чипа и энергопотреблению", - сказал Цао. "Именно здесь устройства этого типа обладают наиболее значительными преимуществами по сравнению с тем, что возможно с ускорителями на основе кремния".

Исследователи патентовали новое устройство и работают с партнерами по полупроводниковой промышленности, чтобы вывести эту новую технологию на рынок. По словам Цао, основное применение этой технологии - в автономных транспортных средствах, которые должны быстро изучать окружающую среду и принимать решения с ограниченными вычислительными ресурсами. Он сотрудничает с Иллинойским факультетом электротехники и вычислительной техники в интеграции их ECRAM с кремниевыми чипами, изготовленными на литейном производстве, и Иллинойским факультетом компьютерных наук в разработке программного обеспечения и алгоритмов, использующих уникальные возможности ECRAM.