Когда не хватает смысла
Антропоморфизм
Антропоморфизм — приписывание нечеловеческим объектам, животным или системам человеческих намерений, эмоций и способностей.
Как это выглядит
Команда называет чат-бота «понимающим клиента» и передаёт ему решение по жалобе, хотя система лишь генерирует ответ по входным данным и не несёт ответственности за результат.
Человеческие знания о намерениях доступны по умолчанию; стремление объяснить поведение агента и потребность в социальном контакте могут делать такое объяснение более вероятным.
Когда стоит насторожиться
Фразы «система хочет», «бот знает» или «алгоритм решил» там, где не названы данные, правила, ограничения и ответственный человек.
Что помогает
Переформулировать утверждение в наблюдаемые входы и выходы, проверить документацию и ошибки системы, а ответственность за значимое решение оставить человеку или организации.
Откуда взялось понятие
Это описание психологической тенденции и теоретической модели условий, а не доказательство, что технология обладает сознанием или намерениями; выраженность антропоморфизма различается по задаче, культуре и контексту.