"Мы обнаружили систематическую закономерность, когда люди, которые меньше доверяют другим людям, проявляют большее доверие к классификации искусственного интеллекта", - сказал С. Шьям Сундар, профессор медиа-эффектов Джеймса П. Джимирро в Пенсильванском университете. "Основываясь на нашем анализе, это, по-видимому, связано с тем, что пользователи ссылаются на идею о том, что машины точны, объективны и свободны от идеологических предубеждений".

Исследование, опубликованное в журнале Новые медиа и общество также выяснилось, что "опытные пользователи", которые являются опытными пользователями информационных технологий, имели противоположную тенденцию. Они меньше доверяли модераторам искусственного интеллекта, потому что считали, что машинам не хватает способности улавливать нюансы человеческого языка.

Исследование показало, что индивидуальные различия, такие как недоверие к другим и энергопотребление, предсказывают, будут ли пользователи ссылаться на положительные или отрицательные характеристики машин, когда столкнутся с системой модерации контента на основе искусственного интеллекта, что в конечном итоге повлияет на их доверие к системе. Исследователи предполагают, что персонализация интерфейсов, основанная на индивидуальных различиях, может положительно изменить пользовательский опыт. Тип модерации контента в исследовании включает мониторинг сообщений в социальных сетях на предмет проблемного контента, такого как ненавистнические высказывания и суицидальные мысли.

"Одна из причин, по которой некоторые могут не решаться доверять технологии модерации контента, заключается в том, что мы привыкли свободно выражать свое мнение онлайн. Мы чувствуем, что модерация контента может лишить нас этого", - сказала Мария Д. Молина, доцент кафедры коммуникационных искусств и наук Мичиганского государственного университета и первый автор этой статьи. "Это исследование может предложить решение этой проблемы, предполагая, что для людей, придерживающихся негативных стереотипов об ИИ для модерации контента, важно усилить участие человека при принятии решения. С другой стороны, для людей с позитивными стереотипами о машинах мы можем усилить силу машины, выделив такие элементы, как точность искусственного интеллекта ".

Исследование также показало, что пользователи с консервативной политической идеологией с большей вероятностью доверяют модерации с использованием искусственного интеллекта. Молина и соавтор Сундар, который также является соруководителем исследовательской лаборатории медиа-эффектов штата Пенсильвания, сказали, что это может быть вызвано недоверием к основным СМИ и компаниям социальных сетей.

Исследователи набрали 676 участников из Соединенных Штатов. Участникам сказали, что они помогают тестировать систему модерации контента, которая находится в разработке. Им были даны определения разжигания ненависти и суицидальных мыслей, за которыми последовал один из четырех различных постов в социальных сетях. Сообщения были либо помечены как соответствующие этим определениям, либо не помечены. Участникам также сообщили, было ли решение пометить сообщение или нет принято искусственным интеллектом, человеком или комбинацией того и другого.

За демонстрацией последовала анкета, в которой участникам был задан вопрос об их индивидуальных различиях. Различия включали их склонность не доверять другим, политическую идеологию, опыт работы с технологиями и доверие к ИИ.

"Нас засыпают таким количеством проблемного контента, от дезинформации до разжигания ненависти", - сказал Молина. "Но, в конце концов, речь идет о том, как мы можем помочь пользователям откалибровать их доверие к ИИ в соответствии с реальными характеристиками технологии, а не зависеть от этих индивидуальных различий".

Молина и Сундар говорят, что их результаты могут помочь сформировать будущее признание искусственного интеллекта. Создавая системы, адаптированные под пользователя, дизайнеры могли бы смягчить скептицизм и недоверие и создать соответствующую уверенность в ИИ.

"Основным практическим результатом исследования является определение коммуникационных и проектных стратегий, помогающих пользователям откалибровать их доверие к автоматизированным системам", - сказал Сундар, который также является директором Центра социально ответственного искусственного интеллекта штата Пенсильвания. "Определенные группы людей, которые, как правило, слишком сильно верят в технологию искусственного интеллекта, должны быть предупреждены о ее ограничениях, а те, кто не верит в ее способность модерировать контент, должны быть полностью проинформированы о степени участия человека в процессе".