Исследователи из Пенсильванского университета и Калифорнийского университета в Санта-Барбаре (UCSB) обнаружили, что люди с меньшей вероятностью будут обращаться за медицинской помощью к врачу с искусственным интеллектом, когда робот знает их имя и историю болезни. С другой стороны, пациенты хотят обращаться к своим врачам-людям по имени.

Исследователи добавили, что когда врач с искусственным интеллектом использовал имя пациентов и ссылался на их историю болезни в разговоре, участники исследования с большей вероятностью считали чат-бота с искусственным интеллектом навязчивым, а также с меньшей вероятностью прислушивались к медицинским советам искусственного интеллекта. Однако они ожидали, что врачи-люди будут отличать их от других пациентов, и были менее склонны подчиняться, когда врач-человек не мог запомнить их информацию.

Полученные результаты являются еще одним доказательством того, что машины проходят тонкую грань в качестве врачей, сказал С. Шьям Сундар, Джеймс П. Джимирро, профессор медиаэффектов в Колледже коммуникаций имени Дональда П. Беллисарио и содиректор исследовательской лаборатории медиаэффектов в Пенсильванском университете.

"Машины не обладают способностью чувствовать и переживать, поэтому, когда они спрашивают пациентов, как они себя чувствуют, на самом деле для них это просто данные", - сказал Сундар, который также является филиалом Института вычислительных наук и данных штата Пенсильвания (ICDS). "Возможно, это причина, по которой люди в прошлом были устойчивы к медицинскому ИИ".

Машины действительно имеют преимущества в качестве поставщиков медицинских услуг, сказал Джозеф Б. Вальтер, заслуженный профессор в области коммуникаций и президентской кафедры технологий и общества Марка и Сьюзан Бертельсен в Калифорнийском университете. Он сказал, что, подобно семейному врачу, который долгое время лечил пациента, компьютерные системы могли бы - гипотетически - знать полную историю болезни пациента. По сравнению с этим, посещение нового врача или специалиста, который знает только ваши последние лабораторные анализы, может быть более распространенным опытом, сказал Вальтер, который также является директором Центра информационных технологий и общества в UCSB.

"Это заставило нас задаться вопросом: "Кто на самом деле знает нас лучше: машина, которая может хранить всю эту информацию, или человек, который никогда не встречался с нами раньше или не установил с нами отношений, и что мы ценим в отношениях с медицинским экспертом?" - сказал Вальтер. "Итак, это исследование спрашивает, кто знает нас лучше - и кто нам нравится больше?"

Команда разработала пять чат-ботов для двухэтапного исследования, набрав в общей сложности 295 участников для первого этапа, 223 из которых вернулись для второго этапа. В первой части исследования участники были случайным образом распределены для взаимодействия либо с врачом-человеком, врачом с искусственным интеллектом, либо с врачом с помощью искусственного интеллекта.

На втором этапе исследования участникам было поручено снова пообщаться с тем же врачом. Однако, когда врач инициировал беседу на этом этапе, он либо идентифицировал участника по имени и вспоминал информацию из последнего взаимодействия, либо снова спрашивал, как пациент предпочитает, чтобы к нему обращались, и повторял вопросы об их истории болезни.

На обоих этапах чат-боты были запрограммированы на то, чтобы задавать восемь вопросов, касающихся симптомов и поведения COVID-19, а также предлагать диагноз и рекомендации, сказал Джин Чен, докторант по массовым коммуникациям штата Пенсильвания и первый автор статьи.

"Мы решили сосредоточить внимание на COVID-19, потому что это была серьезная проблема со здоровьем в период исследования", - сказал Цзинь Чен.

Прием врачей с искусственным интеллектом

Поскольку поставщики медицинских услуг ищут экономически эффективные способы оказания более качественной медицинской помощи, медицинские услуги с искусственным интеллектом могут стать одной из альтернатив. Однако, по словам Ченга Чена, докторанта по массовым коммуникациям в Пенсильванском университете, врачи с искусственным интеллектом должны предоставлять уход и советы, которые пациенты готовы принять.

"Одной из причин, по которой мы провели это исследование, было то, что мы прочитали в литературе много сообщений о том, как люди неохотно принимают ИИ в качестве врача", - сказал Чен. "Они просто не чувствуют себя комфортно с технологией, и они не чувствуют, что искусственный интеллект признает их уникальность как пациента. Итак, мы подумали, что, поскольку машины могут сохранять так много информации о человеке, они могут обеспечить индивидуализацию и решить эту проблему уникальности ".

Полученные результаты свидетельствуют о том, что эта стратегия может иметь неприятные последствия. "Когда система искусственного интеллекта распознает уникальность человека, это воспринимается как навязчивость, отражающая более серьезные проблемы с ИИ в обществе", - сказал Сундар.

Исследователи пришли к ошеломляющему выводу, что около 78% участников эксперимента, в котором участвовал врач-человек, считали, что они взаимодействуют с врачом-искусственным интеллектом. Сундар добавил, что предварительное объяснение этого вывода заключается в том, что люди, возможно, больше привыкли к онлайн-платформам здравоохранения во время пандемии и, возможно, ожидали более насыщенного взаимодействия.

В будущем исследователи ожидают дополнительных исследований роли, которую аутентичность и способность машин отвечать на вопросы "туда-сюда" могут сыграть в развитии лучшего взаимопонимания с пациентами.

Исследователи представили свои результаты сегодня на конференции virtual 2021 ACM CHI по человеческому фактору в вычислительных системах - главной международной конференции по исследованию взаимодействия человека и компьютера.