ChatGPT в психотерапии и психологическом консультировании: обсуждение возможностей и ограничений
Научная статья приведена в сокращённом варианте.
Преимущества.
Анализ литературы и результаты обращения к ChatGPT показывают, что важными преимуществами ChatGPT как «психотерапевта» являются:
• Дешевизна.
• Постоянная доступность; скорость ответа.
• Возможность индивидуализации работы.
• Доступ к большому количеству информации, техник и стратегий решения проблемных ситуаций. • Последовательность и беспристрастность (Zhang, Wang, 2024).
• Эмпатические ответы и безопасная среда для раскрытия (Sharma et al., 2023).
• Ощущение у клиента контроля над ситуацией.
• Со стороны клиента можно ожидать повышенную откровенность во взаимодействии с ChatGPT (Zhang, Wang, 2024). Исследования показали, что люди иногда более охотно раскрывают конфиденциальную информацию системам ИИ из-за воспринимаемой непредвзятой природы машин (Chaudhry, Debi, 2024). Отсутствие воспринимаемого осуждения может снизить стигматизацию, связанную с обращением за помощью по вопросам психического здоровья, тем самым повышая вовлеченность пациентов.
• ChatGPT может быть полезен в таких ситуациях, как информационная поддержка, как тренажер для закрепления полезных навыков, в коррекции трудностей на поведенческом уровне (например, в ситуации коррекции нарушений сна, механического преодоления прокрастинации, закрепления новых навыков заботы о себе, занятий спортом и многое другое).
Недостатки и ограничения.
Следующие моменты представляются недостатками или ограничениями чат-ботов и конкретно ChatGPT:
• Долгосрочные последствия использования чат-бота в качестве «психотерапевта» не изучены (в том числе эффективность работы; продолжительность позитивных изменений; возможные негативные последствия для клиента, например, такие, как зависимость от чатбота, носящая характер аддикции и пр.).
• Работа только с прямыми, непосредственно формулируемыми клиентом запросами.
• Невозможность целостного восприятия ситуации, что может привести к пропуску острого состояния, нуждающегося в срочном наблюдении специалиста.
• Возможность сообщения чат-ботом неполной, устаревшей или полностью выдуманной информации, для распознавания непригодности которой необходимы знания на уровне специалиста, которого ChatGPT пытается заменить.
• Одним из важных ограничений использования ChatGPT является непостоянство его ответов (ответы существенно зависят от «промта» – начальной «настройки» на определенный диалог; также ответы зависят от того, как протекала «беседа», какие вопросы предшествовали текущему вопросу; с одним и тем же «промтом» разные сайты дают несколько разные ответы).
• При использовании чат-бота сохраняется проблема общей культуры поведения и понимания правил безопасности общения в интернете. Когда «наивный» пользователь обращается за психологической помощью в интернете и ищет чат-бота, он не всегда понимает, с кем он делится информацией. В интернете существуют сайты, которые предлагают с их помощью обращаться к ChatGPT, однако владельцы этих сайтов не являются официальными представителями Open AI, и их цели неизвестны.
• Неизученными остаются реакции клиента, связанные с особенностями контакта с чат-ботом, которые также нуждаются в дальнейшем исследовании: потенциальное снижение толерантности к фрустрации в контакте; вступление с чат-ботом в «сговор» в виде избегания указанных клиентом тем; поддержка у «клиента» расщепленных «я» и «объект-репрезентаций» путем создания иллюзии возможности «идеального» контроля другого, эмпатии, возможности быть постоянно на связи.
• Использование ChatGPT в области психологической и психиатрической помощи поднимает важные этические вопросы, касающиеся конфиденциальности, автономии и потенциальной стигматизации пациентов. OpenAI оставила за собой право просматривать разговоры ChatGPT с пользователями для последующего обучения модели. Поэтому, данные о личных проблемах, которыми люди делятся с ИИ, могут быть использованы против них же. Кроме того, непонятно, кто может получить доступ к такого рода информации
• Проблемы юридической этики возникают из-за нечеткого распределения ответственности при причинении вреда пациенту и из-за потенциальных нарушений конфиденциальности при сборе данных (Wang et al., 2023), недостаточности или недостоверности информации, применении не подходящих к состоянию клиента методов, и, наоборот, неприменение наиболее эффективных. Основным этическим принципом работы ИИ, сформулированным еще А. Азимовым (Азимов, 1964), является принцип непричинения вреда человеку. В связи с тем, что изначально ChatGPT не создавался с учетом этого важнейшего принципа, существует и потенциальная угроза, исходящая от обращения за психологической помощью к ChatGPT. Изначально мощные платформы общего назначения, такие, как OpenAI ChatGPT, Google Bard и Microsoft Bing Chat, основаны на больших языковых моделях, и предназначены они лишь для того, чтобы генерировать убедительно звучащую информацию. Для психотерапии они не предназначаются, а их алгоритмы не программировались в соответствии с этическими и юридическими принципами, которых придерживаются психотерапевты. Психотерапевты знают, что неосторожная «интервенция», неудачная интерпретация слов пациента может привести к ухудшению его состояния. Аналогично, слова, сказанные (написанные) ИИ, особенно при наличии чрезмерного доверия при общении с ИИ, могут усугубить страдания людей, испытывающих проблемы, причём эти люди могут даже не понять происходящего. Чрезмерная зависимость от искусственного интеллекта (ИИ) может уменьшить воспринимаемое сострадание и подорвать доверие.
• Предвзятость (Zhang, Wang, 2024), которая может возникать из-за специфики данных, используемых для обучения моделей ИИ, Алгоритмы ИИ, которые обучаются только на данных, отражающих специфику определенных групп населения, могут давать предвзятые результаты, такие, как ненадлежащие рекомендации и/или ответы, трудности в общении, и в результате может приводить к неравному обращению с людьми из других групп населения (отличающихся, например, по признаку расы, пола или социально-экономического статуса).
Выводы
Методы искусственного интеллекта, и ChatGPT, в частности, являются перспективным направлением в области психологической и психиатрической помощи. ИИ может играть важную роль в поддержке психотерапии, особенно в ситуации, когда доступ к специалистам ограничен, дополняя традиционную помощь в области психического здоровья, нивелируя такие важные барьеры, как стоимость, стигматизация и другие организационные проблемы. Уже сейчас ИИ может быть полезен для людей с психологическими проблемами или психическими расстройствами. Чат-боты могут предоставлять такие ресурсы, как информация о стратегиях преодоления трудностей и методах релаксации, чтобы помочь людям справляться со своими симптомами между сеансами терапии и вне рабочего времени, проявляя «эмпатию» и давая практические советы. Поскольку технология искусственного интеллекта (ИИ) продолжает развиваться, и по мере того, как ИИ все больше интегрируется в психологическую и психиатрическую помощь, важно не только использовать его преимущества, но и распознавать и устранять его недостатки. Возможные направления развития – это решение проблем, связанных с сохранением памяти о «предыдущих взаимодействиях», устранение алгоритмической предвзятости и, самое главное, решение этических проблем. Без тщательного этического надзора использование ИИ может привести к непреднамеренным последствиям, таким, как неправильная диагностика или разрушение терапевтических отношений между пациентами и терапевтамилюдьми. ИИ не хватает подлинной эмпатии и способности интерпретировать невербальные сигналы – качеств, которые присущи терапевтам-людям. Другим направлением может быть развитие у ИИ способности проявлять «любопытство» для анализа не только непосредственного запроса, но и истории жизни, текущей ситуации, личности обратившегося за помощью. Важным представляется развитие способности использовать разнообразные методы психотерапии и психологического консультирования. В настоящее время ИИ не может рассматриваться как замена терапевтам-людям, но как инструмент, расширяющий возможности в сфере психического здоровья, под контролем человека – специалиста. Необходимы исследования долгосрочной эффективности и безопасности вмешательства ИИ.
Бойко, О.М., Медведева, Т.И., Воронцова, О.Ю., Ениколопов, С.Н. ChatGPT в психотерапии и психологическом консультировании: обсуждение возможностей и ограничений // Новые психологические исследования. 2025. № 1. С. 26–55. DOI: 10.51217/npsyresearch_2025_05_01_02
Полный текст статьи https://newpsyresearches.ru/article/boyko-medvedeva-vorontsova-enikolopov-ru-2025-1-2
Преимущества.
Анализ литературы и результаты обращения к ChatGPT показывают, что важными преимуществами ChatGPT как «психотерапевта» являются:
• Дешевизна.
• Постоянная доступность; скорость ответа.
• Возможность индивидуализации работы.
• Доступ к большому количеству информации, техник и стратегий решения проблемных ситуаций. • Последовательность и беспристрастность (Zhang, Wang, 2024).
• Эмпатические ответы и безопасная среда для раскрытия (Sharma et al., 2023).
• Ощущение у клиента контроля над ситуацией.
• Со стороны клиента можно ожидать повышенную откровенность во взаимодействии с ChatGPT (Zhang, Wang, 2024). Исследования показали, что люди иногда более охотно раскрывают конфиденциальную информацию системам ИИ из-за воспринимаемой непредвзятой природы машин (Chaudhry, Debi, 2024). Отсутствие воспринимаемого осуждения может снизить стигматизацию, связанную с обращением за помощью по вопросам психического здоровья, тем самым повышая вовлеченность пациентов.
• ChatGPT может быть полезен в таких ситуациях, как информационная поддержка, как тренажер для закрепления полезных навыков, в коррекции трудностей на поведенческом уровне (например, в ситуации коррекции нарушений сна, механического преодоления прокрастинации, закрепления новых навыков заботы о себе, занятий спортом и многое другое).
Недостатки и ограничения.
Следующие моменты представляются недостатками или ограничениями чат-ботов и конкретно ChatGPT:
• Долгосрочные последствия использования чат-бота в качестве «психотерапевта» не изучены (в том числе эффективность работы; продолжительность позитивных изменений; возможные негативные последствия для клиента, например, такие, как зависимость от чатбота, носящая характер аддикции и пр.).
• Работа только с прямыми, непосредственно формулируемыми клиентом запросами.
• Невозможность целостного восприятия ситуации, что может привести к пропуску острого состояния, нуждающегося в срочном наблюдении специалиста.
• Возможность сообщения чат-ботом неполной, устаревшей или полностью выдуманной информации, для распознавания непригодности которой необходимы знания на уровне специалиста, которого ChatGPT пытается заменить.
• Одним из важных ограничений использования ChatGPT является непостоянство его ответов (ответы существенно зависят от «промта» – начальной «настройки» на определенный диалог; также ответы зависят от того, как протекала «беседа», какие вопросы предшествовали текущему вопросу; с одним и тем же «промтом» разные сайты дают несколько разные ответы).
• При использовании чат-бота сохраняется проблема общей культуры поведения и понимания правил безопасности общения в интернете. Когда «наивный» пользователь обращается за психологической помощью в интернете и ищет чат-бота, он не всегда понимает, с кем он делится информацией. В интернете существуют сайты, которые предлагают с их помощью обращаться к ChatGPT, однако владельцы этих сайтов не являются официальными представителями Open AI, и их цели неизвестны.
• Неизученными остаются реакции клиента, связанные с особенностями контакта с чат-ботом, которые также нуждаются в дальнейшем исследовании: потенциальное снижение толерантности к фрустрации в контакте; вступление с чат-ботом в «сговор» в виде избегания указанных клиентом тем; поддержка у «клиента» расщепленных «я» и «объект-репрезентаций» путем создания иллюзии возможности «идеального» контроля другого, эмпатии, возможности быть постоянно на связи.
• Использование ChatGPT в области психологической и психиатрической помощи поднимает важные этические вопросы, касающиеся конфиденциальности, автономии и потенциальной стигматизации пациентов. OpenAI оставила за собой право просматривать разговоры ChatGPT с пользователями для последующего обучения модели. Поэтому, данные о личных проблемах, которыми люди делятся с ИИ, могут быть использованы против них же. Кроме того, непонятно, кто может получить доступ к такого рода информации
• Проблемы юридической этики возникают из-за нечеткого распределения ответственности при причинении вреда пациенту и из-за потенциальных нарушений конфиденциальности при сборе данных (Wang et al., 2023), недостаточности или недостоверности информации, применении не подходящих к состоянию клиента методов, и, наоборот, неприменение наиболее эффективных. Основным этическим принципом работы ИИ, сформулированным еще А. Азимовым (Азимов, 1964), является принцип непричинения вреда человеку. В связи с тем, что изначально ChatGPT не создавался с учетом этого важнейшего принципа, существует и потенциальная угроза, исходящая от обращения за психологической помощью к ChatGPT. Изначально мощные платформы общего назначения, такие, как OpenAI ChatGPT, Google Bard и Microsoft Bing Chat, основаны на больших языковых моделях, и предназначены они лишь для того, чтобы генерировать убедительно звучащую информацию. Для психотерапии они не предназначаются, а их алгоритмы не программировались в соответствии с этическими и юридическими принципами, которых придерживаются психотерапевты. Психотерапевты знают, что неосторожная «интервенция», неудачная интерпретация слов пациента может привести к ухудшению его состояния. Аналогично, слова, сказанные (написанные) ИИ, особенно при наличии чрезмерного доверия при общении с ИИ, могут усугубить страдания людей, испытывающих проблемы, причём эти люди могут даже не понять происходящего. Чрезмерная зависимость от искусственного интеллекта (ИИ) может уменьшить воспринимаемое сострадание и подорвать доверие.
• Предвзятость (Zhang, Wang, 2024), которая может возникать из-за специфики данных, используемых для обучения моделей ИИ, Алгоритмы ИИ, которые обучаются только на данных, отражающих специфику определенных групп населения, могут давать предвзятые результаты, такие, как ненадлежащие рекомендации и/или ответы, трудности в общении, и в результате может приводить к неравному обращению с людьми из других групп населения (отличающихся, например, по признаку расы, пола или социально-экономического статуса).
Выводы
Методы искусственного интеллекта, и ChatGPT, в частности, являются перспективным направлением в области психологической и психиатрической помощи. ИИ может играть важную роль в поддержке психотерапии, особенно в ситуации, когда доступ к специалистам ограничен, дополняя традиционную помощь в области психического здоровья, нивелируя такие важные барьеры, как стоимость, стигматизация и другие организационные проблемы. Уже сейчас ИИ может быть полезен для людей с психологическими проблемами или психическими расстройствами. Чат-боты могут предоставлять такие ресурсы, как информация о стратегиях преодоления трудностей и методах релаксации, чтобы помочь людям справляться со своими симптомами между сеансами терапии и вне рабочего времени, проявляя «эмпатию» и давая практические советы. Поскольку технология искусственного интеллекта (ИИ) продолжает развиваться, и по мере того, как ИИ все больше интегрируется в психологическую и психиатрическую помощь, важно не только использовать его преимущества, но и распознавать и устранять его недостатки. Возможные направления развития – это решение проблем, связанных с сохранением памяти о «предыдущих взаимодействиях», устранение алгоритмической предвзятости и, самое главное, решение этических проблем. Без тщательного этического надзора использование ИИ может привести к непреднамеренным последствиям, таким, как неправильная диагностика или разрушение терапевтических отношений между пациентами и терапевтамилюдьми. ИИ не хватает подлинной эмпатии и способности интерпретировать невербальные сигналы – качеств, которые присущи терапевтам-людям. Другим направлением может быть развитие у ИИ способности проявлять «любопытство» для анализа не только непосредственного запроса, но и истории жизни, текущей ситуации, личности обратившегося за помощью. Важным представляется развитие способности использовать разнообразные методы психотерапии и психологического консультирования. В настоящее время ИИ не может рассматриваться как замена терапевтам-людям, но как инструмент, расширяющий возможности в сфере психического здоровья, под контролем человека – специалиста. Необходимы исследования долгосрочной эффективности и безопасности вмешательства ИИ.
Бойко, О.М., Медведева, Т.И., Воронцова, О.Ю., Ениколопов, С.Н. ChatGPT в психотерапии и психологическом консультировании: обсуждение возможностей и ограничений // Новые психологические исследования. 2025. № 1. С. 26–55. DOI: 10.51217/npsyresearch_2025_05_01_02
Полный текст статьи https://newpsyresearches.ru/article/boyko-medvedeva-vorontsova-enikolopov-ru-2025-1-2