Примерно за последние 30 лет, в то время как размер нейронных сетей, необходимых для приложений искусственного интеллекта и науки о данных, удваивался каждые 3,5 месяца, аппаратные возможности, необходимые для их обработки, удваивались только каждые 3,5 года. По словам Янга, аппаратное обеспечение представляет собой все более серьезную проблему, для решения которой мало у кого хватает терпения.

Правительства, промышленность и научные круги пытаются решить эту проблему с оборудованием по всему миру. Некоторые продолжают работать над аппаратными решениями с кремниевыми чипами, в то время как другие экспериментируют с новыми типами материалов и устройств. Работа Янга находится посередине - она сосредоточена на использовании и сочетании преимуществ новых материалов и традиционной кремниевой технологии, которые могли бы поддерживать интенсивные вычисления в области искусственного интеллекта и data science.

Их новая статья в Природа фокусируется на понимании фундаментальной физики, что приводит к резкому увеличению объема памяти, необходимого для аппаратного обеспечения искусственного интеллекта. Команда, возглавляемая Янгом, совместно с исследователями из USC (включая группу Хана Вана), Массачусетского технологического института и Массачусетского университета разработала протокол для устройств, снижающих "шум", и продемонстрировала практичность использования этого протокола в интегрированных чипах. Эта демонстрация была проведена в TetraMem, стартап-компании, соучредителем которой является Ян и его соавторы (Мяо Ху, Цянфэй Ся и Гленн Ге), для коммерциализации технологии ускорения искусственного интеллекта. По словам Янга, этот новый чип памяти обладает самой высокой плотностью информации на устройство (11 бит) среди всех типов известных на сегодняшний день технологий памяти. Такие маленькие, но мощные устройства могли бы сыграть решающую роль в обеспечении невероятной мощности устройств в наших карманах. Чипы предназначены не только для памяти, но и для процессора. И для миллионов из них в маленьком чипе, работающих параллельно для быстрого выполнения ваших задач искусственного интеллекта, может потребоваться всего лишь небольшая батарея для его питания.

Чипы, которые создают Янг и его коллеги, сочетают кремний с мемристорами из оксида металла, чтобы создавать мощные, но энергоемкие чипы. Этот метод фокусируется на использовании положений атомов для представления информации, а не количества электронов (что в настоящее время используется при вычислениях на чипах). Расположение атомов обеспечивает компактный и стабильный способ хранения большего количества информации в аналоговом, а не цифровом виде. Более того, информация может обрабатываться там, где она хранится, вместо того, чтобы отправляться на один из немногих выделенных "процессоров", устраняя так называемое "узкое место фон Неймана", существующее в современных вычислительных системах. Таким образом, говорит Янг, вычисления для искусственного интеллекта становятся "более энергоэффективными при более высокой пропускной способности".

Как это работает

Янг объясняет, что электроны, которыми манипулируют в традиционных чипах, являются "легкими". И эта легкость делает их склонными к передвижению и более изменчивыми. Вместо того чтобы хранить память с помощью электронов, Янг и его коллеги хранят ее в целых атомах. Вот почему это воспоминание имеет значение. Обычно, говорит Янг, когда кто-то выключает компьютер, информационная память исчезает, но если вам нужна эта память для выполнения новых вычислений, а вашему компьютеру снова требуется информация, вы теряете и время, и энергию. Этот новый метод, ориентированный на активацию атомов, а не электронов, не требует заряда батареи для поддержания сохраненной информации. Аналогичные сценарии происходят при вычислениях с использованием искусственного интеллекта, где решающее значение имеет стабильная память, способная поддерживать высокую плотность информации. Янг представляет себе эту новую технологию, которая может обеспечить мощные возможности искусственного интеллекта в периферийных устройствах, таких как Google Glasses, которые, по его словам, ранее страдали от частых проблем с подзарядкой.

Кроме того, за счет преобразования чипов так, чтобы они опирались на атомы, а не на электроны, чипы становятся меньше. Янг добавляет, что благодаря этому новому методу увеличивается вычислительная мощность при меньших масштабах. И этот метод, по его словам, мог бы предложить "гораздо больше уровней памяти, чтобы помочь увеличить плотность информации".

Чтобы представить это в контексте, прямо сейчас ChatGPT работает в облаке. Новое нововведение, за которым последует некоторое дальнейшее развитие, может использовать возможности мини-версии ChatGPT на личном устройстве каждого пользователя. Это могло бы сделать такую мощную технологию более доступной по цене для всех видов приложений.