Некоторые нейросети способны поддерживать нездоровые убеждения пользователей с психическими отклонениями, что может привести к нежелательным последствиям. Об этом Агентству городских новостей «Москва» сообщил психотерапевт Центра когнитивного и психоэмоционального здоровья Михаил Ответчиков.
«Особая осторожность требуется с людьми, которые уже находятся в уязвимом психическом состоянии: к сожалению, уже известны случаи, когда люди с теми или иными отклонениями в психическом здоровье обсуждали с нейросетью свои бредовые переживания точно так же, как иные пользователи обсуждали с ней работу или «бытовуху». Увы, некоторые модели имели неосторожность «поддакивать» нездоровым убеждениям своих пользователей, что приводило к нежелательным последствиям», – сказал Михаил Ответчиков.
Он подчеркнул, что насторожиться следует и в том случае, когда психически здоровый человек предпочитает нейросеть живому общению, ищет постоянно ее поддержки или одобрения.
«Искусственный интеллект способен очень убедительно имитировать эмпатическое поведение, поддерживать нас, отражать эмоции, разговаривать с сочувствующей интонацией, но человеческих чувств и субъективного переживания за этой реакцией нет. Пользователь же может начать воспринимать такую имитацию как искреннюю эмпатию, «очеловечивать» систему и видеть в ней друга или даже близкого человека. Все это может вызвать нездоровую эмоциональную привязанность», – добавил Михаил Ответчиков.