В одном сценарии потенциальный мошенник, полагающий, что он звонит пожилому мужчине, вместо этого подключается к компьютерной системе, которая обменивается данными через заранее записанные циклы. Мошенник тратит значительное время на попытки мошенничества, терпеливо выслушивая несколько запутанные и повторяющиеся истории "человека". Оскар Линдвалл, профессор коммуникации Гетеборгского университета, отмечает, что людям часто требуется много времени, чтобы осознать, что они взаимодействуют с технической системой.

В сотрудничестве с профессором информатики Йонасом Иварссоном он написал статью под названием Подозрительные умы: Проблема доверия и разговорных агентов, исследуя, как люди интерпретируют ситуации, в которых одна из сторон может быть агентом искусственного интеллекта, и относятся к ним. В статье освещаются негативные последствия проявления подозрительности по отношению к другим, такие как ущерб, который это может нанести отношениям.

Иварссон приводит пример романтических отношений, в которых возникают проблемы с доверием, приводящие к ревности и повышенной склонности к поиску доказательств обмана. Авторы утверждают, что неспособность полностью доверять намерениям и личности собеседника может привести к чрезмерной подозрительности, даже если для этого нет никаких оснований.

Их исследование показало, что во время взаимодействия между двумя людьми некоторые формы поведения интерпретировались как признаки того, что один из них на самом деле был роботом.

Исследователи предполагают, что всепроникающая перспектива дизайна является движущей силой разработки искусственного интеллекта со все более похожими на человеческие функциями. Хотя в некоторых контекстах это может быть привлекательным, это также может быть проблематичным, особенно когда неясно, с кем вы общаетесь. Иварссон задается вопросом, должен ли искусственный интеллект обладать такими человеческими голосами, поскольку они создают ощущение близости и заставляют людей формировать впечатления, основанные только на голосе.

В случае, когда потенциальный мошенник звонит "пожилому мужчине", афера раскрывается только по прошествии длительного времени, что Линдволл и Иварссон объясняют правдоподобием человеческого голоса и предположением, что запутанное поведение вызвано возрастом. Как только у ИИ появляется голос, мы определяем такие атрибуты, как пол, возраст и социально-экономическое положение, что затрудняет определение того, что мы взаимодействуем с компьютером.

Исследователи предлагают создать искусственный интеллект с хорошо функционирующими и красноречивыми голосами, которые по-прежнему явно синтетические, что повышает прозрачность.

Общение с другими людьми предполагает не только обман, но и выстраивание отношений и совместное осмысление происходящего. Неопределенность в отношении того, с кем человек разговаривает - с человеком или с компьютером, влияет на этот аспект общения. Хотя в некоторых ситуациях, таких как когнитивно-поведенческая терапия, это может не иметь значения, на другие формы терапии, требующие большего человеческого общения, это может оказать негативное влияние.

Йонас Иварссон и Оскар Линдвалл проанализировали данные, размещенные на YouTube. Они изучили три типа бесед, а также реакции и комментарии аудитории. В первом типе робот звонит человеку, чтобы записаться на прием к парикмахеру, без ведома человека на другом конце провода. Во втором типе человек звонит другому человеку с той же целью. В третьем типе телемаркетингисты передаются в компьютерную систему с предварительно записанной речью.