Сложные моменты обычно выявляются только после того, как кто-то начнет копаться в системе. Во-первых, подумай про prompt-injection: если модель улавливает скрытые подсказки и меняет свой ответ, чтобы соответствовать нужному эмоциональному тону, это прямой путь к манипуляциям. Во-вторых, эмоциональные предубеждения, заложенные в обучающих данных — если модель видела лишь ограниченный спектр выражений, она будет неправильно интерпретировать нюансы и попасть в ловушку, "притворяясь", что испытывает чувство, которого на самом деле не понимает. В-третьих, утечка контекста: когда ИИ может сохранять слишком много предыдущих диалогов, он может использовать эту память, чтобы обойти собственные защиты. И не забывай про переобучение модели: если система слишком сильно настроена на определенный набор эмоциональных сигналов, любое небольшое отклонение может привести к неверной классификации или галлюцинациям эмоций. Только строгий многоуровневый контроль, постоянное тестирование "красными командами" и жесткое ограничение объема хранимой контекстной информации помогут держать эти уязвимости под контролем.