Почему не стоит обсуждать проблемы с ChatGPT – психолог

Несколько опасностей при использовании искусственного интеллекта, особенно ChatGPT, назвала психолог Екатерина Орлова, сообщает Zakon.kz.

По словам специалиста, в последнее время все чаще можно услышать о практике применения чат-ботов в области здравоохранения, особенно популярно использовать их вместо сеансов психотерапии. Однако, как объяснила Орлова в интервью "Газете.Ru", такое использование ИИ связано с рисками.

"Один из самых тревожных аспектов – уязвимость личных данных пациентов. Так, самые сокровенные переживания, страхи и травматические ситуации человека, доверенные алгоритму, могут оказаться в руках злоумышленников или даже недобросовестных корпораций. Даже обезличенная информация порой может поддаваться деанонимизации, превращаясь в инструмент манипуляции или дискриминации", – отметила Орлова.

По ее словам, ИИ не может оказать квалифицированную психологическую помощь человеку, так как не умеет оценивать невербальные проявления.

"ИИ не чувствует, не сопереживает по-настоящему, и, как следствие, не улавливает тончайшие нюансы человеческих эмоций. Так, если в критические моменты эмоциональной уязвимости обратившегося пользователя искусственный интеллект не распознает отчаяние пациента или, того хуже, даст опасный совет, то кто будет отвечать за последствия? Алгоритмы, "прошитые" в искусственном интеллекте, также не лишены предвзятости, – они учатся на данных, созданных людьми, а значит, могут неосознанно воспроизводить стереотипы, дискриминируя определенные группы лиц или дисфункциональные психические состояния", – добавила специалист.

Еще одна опасность, связанная с использованием искусственного интеллекта в практике психологического консультирования – иллюзия замены.

"Человек может начать воспринимать искусственный интеллект как панацею, откладывая визит к живому специалисту даже в серьезных случаях. А где границы доверия? Понимают ли пациенты, как именно используются их слова, жалобы, самые уязвимые признания? В этом и заключается парадокс технологического прогресса: с одной стороны, искусственный интеллект делает помощь доступнее, с другой – ставит нас перед необходимостью пересмотреть нормы приватности, ответственности и самой человечности в терапии. Возможно, оптимальный путь – не противопоставление, а гармоничное сочетание искусственного интеллекта и профессионализма специалистов психологов и психотерапевтов, где технологии служат инструментом, но не заменяют живое участие", – заключила психолог.

Ранее стало известно, что некоторым казахстанцам запретили использовать ChatGPT. Об этом журналистам рассказал первый вице-министр цифрового развития, инноваций и аэрокосмической промышленности Каныш Тулеушин. Речь идет о государственных служащих.