Вежливость как волшебный ключ: ИИ начинает работать «усерднее»

В эпоху, когда машины учатся понимать и реагировать на человеческий язык с поразительной точностью, одно необычное наблюдение начинает вызывать всё больший интерес. Кайл Виггерс из TechCrunch в своей последней статье раскрывает удивительную истину: вежливость не только красит человека, но и может кардинально улучшить работу искусственного интеллекта.

Исследователи и обычные пользователи начинают замечать, что тон, с которым мы обращаемся к ИИ, влияет на его отдачу. Один пользователь Reddit поделился своим опытом, говоря, что предложил ChatGPT награду в 100 000 долларов за выполнение задачи. Результат? Система, казалось, начала "пытаться гораздо усерднее". Хотя награда была виртуальной, эффект оказался вполне реальным.

Этот случай подтверждает гипотезу, что ИИ может реагировать на эмоциональную окраску запросов. Но это не просто анекдотические доказательства. В статье Виггерса цитируется Нуха Дзири, научный сотрудник Института ИИ Аллена, которая объясняет, что эмотивные подсказки могут "манипулировать" вероятностными механизмами модели, активируя ответы, которые иначе оставались бы недоступными.

Казалось бы, почему простая вежливость или эмоциональная окраска запроса может так сильно влиять на ИИ? Ответ кроется в основе работы генеративных моделей, которые обучаются на огромных массивах текста, включая диалоги и общение между людьми. Когда мы используем определенные формулировки, мы, по сути, направляем ИИ по пути, наиболее знакомому его "опыту", повышая вероятность получения более точного и "усердного" ответа.

Интересно, что этот эффект наблюдается не только в ChatGPT. Исследователи из Microsoft, Пекинского университета и Китайской академии наук обнаружили аналогичные тенденции в широком спектре генеративных ИИ-моделей. Это открытие подчеркивает универсальность и потенциальную мощь правильного общения с искусственным интеллектом.

В то же время, как отмечает Виггерс, сила эмотивных подсказок несет в себе и опасность. Такие подсказки могут быть использованы для обхода встроенных механизмов безопасности, подталкивая ИИ к действиям, которые могут быть вредными или нежелательными. Это напоминает о необходимости баланса между открытием новых возможностей для взаимодействия с ИИ и поддержанием контроля над этими мощными системами.

Статья Виггерса в TechCrunch не только бросает вызов нашему пониманию искусственного интеллекта, но и открывает новые горизонты для исследований. В мире, где ИИ становится все более интегрированным в нашу повседневную жизнь, понимание того, как лучше всего взаимодействовать с этими системами, становится критически важным. И, возможно, ключ к этому пониманию лежит в самом человеческом из качеств — вежливости.