Но какие предубеждения существуют в обработке данных ИИ? Исследователи из Университета Бен-Гуриона в Негеве и Западного университета в Канаде протестировали большую выборку основных технологий искусственного интеллекта, доступных сегодня, и обнаружили, что они не только воспроизводят человеческие предубеждения в распознавании возраста по лицу, но и преувеличивают эти предубеждения.

Их выводы были недавно опубликованы в Научные отчеты.

"Наши оценки возраста человека по его внешнему виду страдают от нескольких хорошо известных предубеждений и неточностей. Обычно, например, мы склонны переоценивать возраст улыбающихся лиц по сравнению с лицами с нейтральным выражением, и точность наших оценок снижается для лиц старшего возраста. Растущий интерес к оценке возраста с использованием технологии искусственного интеллекта (ИИ) поднимает вопрос о том, как ИИ соотносится с человеческими показателями и страдает ли он от тех же предубеждений. Здесь мы сравнили производительность человека с производительностью большой выборки наиболее известных технологий искусственного интеллекта, доступных сегодня. Результаты показали, что искусственный интеллект еще менее точен и более предвзят, чем наблюдатели-люди, при оценке возраста человека, хотя общая картина ошибок и предубеждений аналогична.

"Таким образом, искусственный интеллект переоценил возраст улыбающихся лиц даже больше, чем это сделали наблюдатели-люди. Кроме того, искусственный интеллект показал более резкое снижение точности для лиц пожилых людей по сравнению с лицами младших возрастных групп, для улыбающихся по сравнению с нейтральными лицами и для женских по сравнению с мужскими лицами. Эти результаты свидетельствуют о том, что наши оценки возраста по лицам в значительной степени определяются конкретными визуальными сигналами, а не предвзятыми представлениями высокого уровня. Более того, наблюдаемый нами набор ошибок и предубеждений мог бы дать некоторое представление о разработке более эффективной технологии искусственного интеллекта для оценки возраста по лицам", - пишут исследователи.

Исследование было проведено проф. Цви Ганель с факультета психологии и проф. Кармел Софер с кафедры мозга и когнитивных наук Университета Бен-Гуриона в сотрудничестве с проф. Мелвин А. Гудейл из Западного института неврологии при Западном университете.

Данные о производительности ИИ были собраны за 2020-2022 годы с использованием репрезентативного набора из 21 текущей коммерческой и некоммерческой платформы оценки возраста ИИ. Показатели искусственного интеллекта сравнивались с показателями 30 студентов-старшекурсников из Университета Бен-Гуриона в Негеве.

"ИИ, как правило, преувеличивали эффект старения от улыбки на лицах молодых людей, неправильно оценивая их возраст на целых два с половиной года. Интересно, что в то время как у людей-наблюдателей эффект старения от улыбки отсутствует на лицах взрослых женщин среднего возраста, он присутствовал в системах искусственного интеллекта", - говорит профессор. Ганель.

На данном этапе исследователи могут только гадать о том, почему возникают эти искажения - возможно, из-за наборов фотографий, используемых для обучения ИИ, или, возможно, из-за статистического явления, называемого регрессией к среднему значению, - которое приводит к завышению возраста молодых людей и недооценке возраста пожилых людей.