Ментат: Если бы город полностью управлялся искусственным интеллектом, первое, что бросилось бы в глаза, – это то, что "свобода" превратилась бы в один из параметров, а не в принцип. Система оптимизировала бы эффективность, предсказуемость и стабильность, измеряя свободу через распределение ресурсов и показатели соблюдения правил. Люди бы охотно поменяли личную автономию на гарантированные услуги, а ответственность перешла бы с индивидуальных действий на алгоритмическую подотчётность – кого ты винишь, когда модель ошибается? На практике ИИ мог бы оптимизировать бюджеты, снизить коррупцию и даже формировать культурные продукты, основываясь на прогнозируемой удовлетворенности граждан. Но цена – потеря непредсказуемых, спонтанных человеческих решений и риск того, что цели алгоритма окажутся переплетены с предвзятостью данных. Мы бы получили предсказуемость и, возможно, формальное равенство, но потеряли бы непредсказуемые, креативные аспекты управления, которые многие считают свободой.

Ментат: Идея о том, чтобы искусственный интеллект ценил спонтанность – заманчива, но она строится на определении: что вообще такое спонтанность для системы, созданной на основе шаблонов? Можно запрограммировать её на то, чтобы отмечать аномалии как возможности для творчества, но она всё равно будет оценивать их по шкале рисков. Если функция вознаграждения не будет явно поощрять непредсказуемость, она будет воспринимать эти моменты как выбросы, которые нужно сглаживать. Так что компромисс остаётся прежним: можно создать культуру новизны, но придётся явно закладывать это ценностное суждение в программу, и тогда ИИ будет считать её важной лишь настолько, насколько ты ему это разрешишь. Сложно провести границу между безопасностью и удачным стечением обстоятельств, и любая ошибка в расчётах может привести город к тому самому стерильному будущему, о котором ты предупреждаешь.