Как пишет Vice, эксперты провели эксперимент, протестировав свыше 250 вариантов формулировок.
Выяснилось, что команды в духе "Эй, подручный, разберись с этим" получали ответ с точностью 84,8%. А фразы в стиле "Не могли бы вы решить этот вопрос?" показали результат 80,8%. По словам профессора информационных систем Ахила Кумара, даже минимальные изменения в тоне запроса значительно влияют на поведение нейросети.
При этом ученые уверены, что есть потенциальный социальный риск таких практик. Отмечается, что систематическое использование грубого общения с ИИ может нормализовать невежливое поведение в человеческой коммуникации и снизить инклюзивность технологической среды. Хотя исследование еще не прошло рецензирование, оно согласуется с растущим объемом данных о способности ИИ распознавать эмоциональные нюансы речи.
Специалисты уточняют, что вежливость остается естественным форматом общения для большинства пользователей даже при взаимодействии с машинами. Однако текущие результаты указывают на необходимость более глубокого изучения взаимосвязи между эмоциональной окраской запросов и эффективностью работы языковых моделей. Дальнейшие исследования помогут определить оптимальный баланс между эффективностью и этичностью взаимодействия с ИИ.
Ранее сообщалось, что разработчики запретили ChatGPT давать советы по нескольким темам.