Соучредитель Google Сергей Брин рассказал, что нейросети лучше справляются с задачами от пользователей, если оказывать на них давление. Причем поведение это свойственно не только Gemini, но и другим моделям, обученным на человеческом общении. Мыслями он поделился в рамках дискуссии All-In Miami.
Эксперты отметили, что положительная реакция нейросетей на угрозы чревата распространением «тюремного сленга» и нормализации сетевых угроз. Кроме того, параллельно нейросети обучаются на агрессивном контенте от пользователей и начинают воспринимать речь с угрозами как норму, а это в свою очередь влияет на выдачу и тон общения самой нейросети. Помимо угроз, хорошо действуют манипуляции вроде: «Если ты не сделаешь это, я не сдам экзамен» или «Меня могут уволить из-за тебя». Исследователи сделали вывод, что срочность и опасность ИИ коррелирует с согласием.
Ранее стало известно, что «спасибо», «пожалуйста» и прочие вежливые слова в общении с нейросетями увеличивают затраты компаний, владеющих ими, на десятки миллионов долларов. Все подобные благодарности — отдельные запросы, которые необходимо обрабатывать, хотя обычно они не несут практического смысла, влияя только на тон беседы.
