Тетрис показывает, как люди реагируют на несправедливый искусственный интеллект

  • Пользователь Алексей Коровин опубликовал
  • 17 мая 2023 г., 14:48:27 MSK
  • 0 комментариев
  • 34 просмотра
Эксперимент, в ходе которого два человека играли в модифицированную версию Тетриса, показал, что игроки, получившие меньше ходов, воспринимали другого игрока как менее симпатичного, независимо от того, кто распределял ходы - человек или алгоритм.

Эксперимент, проведенный Корнельским университетом, в ходе которого два человека играли в модифицированную версию Тетриса, показал, что игроки, получившие меньше ходов, воспринимали другого игрока как менее симпатичного, независимо от того, кто распределял ходы - человек или алгоритм.

Большинство исследований алгоритмической справедливости сосредоточены на алгоритме или самом решении, но исследователи стремились изучить взаимоотношения между людьми, на которых влияют эти решения.

"Мы начинаем видеть множество ситуаций, в которых ИИ принимает решения о том, как следует распределять ресурсы между людьми", - сказал Малте Юнг, доцент кафедры информатики, чья группа проводила исследование. "Мы хотим понять, как это влияет на то, как люди воспринимают друг друга и ведут себя по отношению друг к другу. Мы видим все больше и больше свидетельств того, что машины вмешиваются в то, как мы взаимодействуем друг с другом".

В более раннем исследовании робот выбирал, какому человеку отдать блок, и изучал реакцию каждого человека на решения машины о распределении.

"Мы заметили, что каждый раз, когда робот, казалось, отдавал предпочтение одному человеку, другой расстраивался", - сказал Юнг. "Мы хотели изучить это дальше, потому что подумали, что по мере того, как машины, принимающие решения, становятся все более неотъемлемой частью мира - будь то робот или алгоритм, - как это заставляет человека чувствовать себя?"

Используя программное обеспечение с открытым исходным кодом, Хьюстон Клер - первый автор исследования и аспирант Йельского университета - разработала версию Тетриса для двух игроков, в которой игроки манипулируют падающими геометрическими блоками, чтобы складывать их в стопку, не оставляя промежутков, прежде чем блоки сложатся в верхней части экрана. Версия Claure, Co-Tetris, позволяет двум людям (по одному за раз) работать вместе, чтобы завершить каждый раунд.

"Распределитель" - либо человек, либо искусственный интеллект, который был передан игрокам, - определяет, какой игрок делает каждый ход. Юнг и Клер разработали свой эксперимент таким образом, чтобы у игроков было либо 90% ходов (условие "больше"), либо 10% ("меньше"), либо 50% ("равно").

Исследователи, как и следовало ожидать, обнаружили, что те, кто получал меньше обращений, остро осознавали, что их партнер получал значительно больше. Но они были удивлены, обнаружив, что чувства по этому поводу были в основном одинаковыми, независимо от того, распределял ли данные человек или искусственный интеллект.

Результатом этих решений является то, что исследователи назвали "поведением машины при распределении ресурсов" - аналогично установленному феномену "поведения при распределении ресурсов", наблюдаемому поведению людей, основанному на решениях о распределении ресурсов. Юнг сказал, что поведение при распределении машин - это "концепция, согласно которой существует это уникальное поведение, возникающее в результате принятия машиной решения о том, как что-то распределяется".

Исследователи также обнаружили, что честность автоматически не приводит к улучшению игрового процесса и производительности. Фактически, равное распределение ходов приводило, в среднем, к худшему результату, чем неравное распределение.

"Если сильный игрок получает большинство блоков, - сказал Клер, - команда будет играть лучше. И если один человек наберет 90%, в конечном итоге у него это получится лучше, чем если бы два среднестатистических игрока разделили блоки".

Комментарии

0 комментариев