"Исследовательское сообщество по искусственному интеллекту не обязательно имеет полное представление о том, что делают нейронные сети; они дают нам хорошие результаты, но мы не знаем, как и почему", - сказал Хейдн Джонс, исследователь из группы передовых исследований в области киберсистем в Лос-Аламосе. "Наш новый метод лучше справляется с сравнением нейронных сетей, что является важным шагом на пути к лучшему пониманию математики, лежащей в основе искусственного интеллекта".

Джонс является ведущим автором статьи "Если вы обучили одного, вы обучили их всех: сходство между архитектурами возрастает с повышением надежности", которая была недавно представлена на конференции по неопределенности в искусственном интеллекте. В дополнение к изучению сходства сетей, эта статья является важным шагом на пути к характеристике поведения надежных нейронных сетей.

Нейронные сети обладают высокой производительностью, но хрупки. Например, самоуправляемые автомобили используют нейронные сети для обнаружения знаков. Когда условия идеальны, они делают это довольно хорошо. Однако малейшая аберрация - например, наклейка на знаке остановки - может привести к тому, что нейронная сеть неправильно определит знак и никогда не остановится.

Чтобы улучшить нейронные сети, исследователи ищут способы повысить надежность сети. Один из самых современных подходов предполагает "атаку" сетей во время их процесса обучения. Исследователи намеренно вводят аберрации и обучают искусственный интеллект игнорировать их. Этот процесс называется состязательным обучением и, по сути, затрудняет обман сетей.

Джонс, сотрудники из Лос-Аламоса Джейкоб Спрингер и Гаррет Кеньон, а также наставник Джонса Джастон Мур применили свою новую метрику сетевого сходства к нейронным сетям, обученным состязательным образом, и неожиданно обнаружили, что состязательное обучение приводит к тому, что нейронные сети в области компьютерного зрения сходятся к очень похожим представлениям данных, независимо от архитектуры сети, по мере увеличения масштабов атаки.

"Мы обнаружили, что когда мы тренируем нейронные сети, чтобы они были устойчивы к атакам противника, они начинают делать то же самое", - сказал Джонс.

В промышленности и академическом сообществе были предприняты значительные усилия по поиску "правильной архитектуры" для нейронных сетей, но выводы команды из Лос-Аламоса показывают, что внедрение состязательного обучения существенно сужает пространство поиска. В результате сообществу исследователей искусственного интеллекта, возможно, не придется тратить столько времени на изучение новых архитектур, зная, что состязательное обучение приводит к тому, что различные архитектуры сходятся к схожим решениям.

"Обнаружив, что надежные нейронные сети похожи друг на друга, мы облегчаем понимание того, как на самом деле может работать надежный искусственный интеллект. Возможно, мы даже обнаружим намеки на то, как происходит восприятие у людей и других животных", - сказал Джонс.