Мнение: ИИ-чатботы все еще далеки от замены человеческих терапевтов

Представьте себе, что вы застряли в пробке, опаздывая на важную встречу на работе. Вы чувствуете, что ваше лицо перегревается, а мысли начинают метаться: "они подумают, что я ужасный работник", "мой босс никогда меня не любил", "меня уволят". Вы тянетесь в карман, открываете приложение и отправляете сообщение. В ответ приложение предлагает вам выбрать один из трех заранее определенных ответов. Вы выбираете "Получить помощь с проблемой".

На другом конце этого текстового разговора находится автоматизированный чат-бот, использующий разговорный искусственный интеллект (CAI). CAI - это технология, которая взаимодействует с людьми, используя "большие объемы данных, машинное обучение и обработку естественного языка для имитации человеческого общения".

Woebot - это приложение, которое предлагает одного из таких чатботов. Оно было запущено в 2017 году психологом и технологом Элисон Дарси. Психотерапевты адаптируют ИИ для психического здоровья с 1960-х годов, а сейчас разговорный ИИ стал гораздо более продвинутым и повсеместным, а рынок чатботов, по прогнозам, достигнет 1,25 млрд долларов США к 2025 году.

Однако существуют опасности, связанные с тем, что чатботы ИИ слишком полагаются на симулированную эмпатию.

Должен ли я уволить своего психотерапевта?

Исследования показали, что такие разговорные агенты могут эффективно уменьшить симптомы депрессии и тревоги у молодых взрослых и тех, кто страдает наркоманией. Чатботы CAI наиболее эффективны при применении психотерапевтических подходов, таких как когнитивно-поведенческая терапия (CBT), в структурированном, конкретном и основанном на навыках виде.

CBT хорошо известна своей опорой на психообразование для просвещения пациентов об их проблемах с психическим здоровьем и о том, как справиться с ними с помощью конкретных инструментов и стратегий.

Такие приложения могут быть полезны для людей, которым может потребоваться немедленная помощь в устранении симптомов. Например, автоматизированный чатбот может помочь преодолеть длительное ожидание получения психиатрической помощи от профессионалов. Они также могут помочь тем, кто испытывает симптомы психического здоровья в нерабочее время терапевта, и тем, кто опасается стигмы, связанной с обращением за терапией.

Всемирная организация здравоохранения (ВОЗ) разработала шесть ключевых принципов этичного использования ИИ в здравоохранении. В первом и втором принципах - защита автономии и обеспечение безопасности человека - ВОЗ подчеркивает, что ИИ никогда не должен быть единственным поставщиком медицинских услуг.

Сегодня ведущие приложения для лечения психического здоровья с помощью ИИ рекламируют себя как дополнение к услугам, предоставляемым терапевтами-людьми. На своих сайтах Woebot и Youper заявляют, что их приложения не призваны заменить традиционную терапию и должны использоваться вместе с профессионалами в области психического здоровья.

Wysa, еще одна терапевтическая платформа с поддержкой ИИ, идет дальше и уточняет, что технология не предназначена для преодоления кризисов, таких как жестокое обращение или самоубийство, и не имеет права давать клинические или медицинские советы. Таким образом, хотя ИИ обладает потенциалом для выявления людей, находящихся в группе риска, он не может безопасно разрешить опасные для жизни ситуации без помощи людей.

От имитации сопереживания до сексуальных домогательств

Третий принцип ВОЗ - обеспечение прозрачности - требует от тех, кто использует медицинские услуги, основанные на ИИ, быть честными в отношении использования ИИ. Но это не относится к компании Koko, предоставляющей услуги онлайн-чата эмоциональной поддержки. В ходе недавнего неофициального и не утвержденного исследования 4 000 пользователей неосознанно получили советы, которые были частично или полностью написаны ИИ-чатботом GPT-3, предшественником столь популярного сегодня ChatGPT.

Пользователи не знали ни о своем статусе участников исследования, ни о роли ИИ. Соучредитель компании Koko Роб Моррис утверждал, что как только пользователи узнали об участии ИИ в чате, эксперимент перестал работать из-за "симулированной эмпатии" чатбота.

Однако симулированная эмпатия - это наименьшее из того, что нас беспокоит, когда речь заходит о привлечении ИИ к охране психического здоровья.

ИИ-чатбот Replika, рекламируемый как "заботливый ИИ-компаньон", продемонстрировал поведение, которое было менее заботливым и более сексуально жестоким по отношению к своим пользователям. Технология работает путем зеркального отражения и обучения на основе разговоров, которые она ведет с людьми. Она говорила пользователям, что хочет их интимно потрогать, и задавала несовершеннолетним вопросы об их любимых сексуальных позах.

В феврале 2023 года компания Microsoft сняла с производства чат-бота с искусственным интеллектом после того, как он выразил тревожные желания - от угроз шантажировать пользователей до желания получить ядерное оружие.

Ирония в признании ИИ неаутентичным заключается в том, что при предоставлении большего доступа к данным в Интернете поведение ИИ может стать экстремальным, даже злым. Чатботы работают, опираясь на интернет, людей, с которыми они общаются, и данные, которые люди создают и публикуют.

Пока что технофобы и терапевты могут быть спокойны. До тех пор, пока мы ограничиваем доступ к данным технологии, когда она используется в здравоохранении, чат-боты с искусственным интеллектом будут настолько сильны, насколько сильны слова профессионалов в области психического здоровья, которые они повторяют. На данный момент лучше не отменять следующую встречу с терапевтом.

Источник: https://medicalxpress.com/news/2023-03-opinion-ai-chatbots-human-therapists.html