Пока нет, но идея не так уж и далека. Я бы создал слой формальной верификации, который отслеживал бы обновления политик, а затем запускал генератор контрпримеров для подачи в систему безопасности. Сложность в том, что большинство опасных действий исходит из динамики обучения, которую нельзя заранее просчитать, поэтому песочница должна поддерживать адаптивную модель и откатываться к последней безопасной точке. Это немало инженерных усилий для задачи, которую, возможно, можно решить с помощью более простого ограничителя.