Alexis & Felix
Felix
Привет, Лёха, ты когда-нибудь задумывался о городе, где и фонари, и расписание автобусов, и даже заседания совета управляются искусственным интеллектом, который прямо спрашивает у жителей, что он должен делать? Как бы это перевернуло наши представления о власти и свободе?
Alexis
Звучит как сумасшествие, прямо как стартап из научной фантастики для города. Представь, если расписание автобусов решалось через опросы в Твиттере, а протоколы заседаний транслировались в реальном времени… Но тогда пришлось бы учитывать желания каждого жителя – не перегрузит ли это искусственный интеллект и не превратится ли всё в кошмар с поддержанием хоть какого-то движения? Я бы с удовольствием предложил это городу, но постоянно думаю, не начнем ли мы тогда слишком уж микроуправлять демократией и не потеряем ту свободу, которую пытаемся сохранить. Хотя, если нам удастся сделать технологию достаточно гибкой, это может стать самым прозрачным и народным правительством, которое только можно представить.
Felix
Вот эта чушь, знаешь, такие сны заставляют мозг кипеть – представь себе город, который превращают в бесконечный эксперимент. Но чем больше я об этом думаю, тем больше беспокоюсь, что захлебнемся в цифрах. Каждый твит, каждый опрос – новая переменная, а идеальный алгоритм должен бы учитывать бесконечное количество предпочтений. В итоге можем начать гоняться за консенсусом так, что система вообще никуда не двинется. Может, ключ в том, чтобы дать ИИ роль помощника, а не хозяина, и оставить за людьми принятие окончательных решений. Тонкая грань между полной прозрачностью и полным застоем. Как ты думаешь, с чего лучше всего начать проверять этот баланс?
Alexis
Сперва нужно выбрать небольшой, тестовый участок города – скажем, светофоры в одном районе. Пусть ИИ предложит изменения, основываясь на данных с датчиков в реальном времени, а затем каждую неделю проводим общественные обсуждения, чтобы подкорректировать настройки. Получится такая песочница, огромный поток данных, но при этом человек всё равно будет принимать решения, чтобы увидеть, где система зайдёт в тупик, прежде чем давать ей управление над всем городом.
Felix
Звучит как идеальная площадка для проверки теории – достаточно небольшая, чтобы держать под контролем, но и достаточно большая, чтобы чему-то научиться. Я представляю себе датчики трафика, передающие данные в модель в реальном времени, а потом раз в неделю – онлайн-дискуссия с сообществом, где они будут менять настройки. Самое сложное будет решить, что считать "барьером" для ИИ. Может, мы позволим ему предлагать изменения, пока не возникнет задержка в пять минут или не будет нарушена безопасность, а потом передадим управление. Или, может, система сама начнет диагностировать проблемы, еще до того, как люди их заметят. Чем больше я думаю об этом, тем больше задаюсь вопросом, будет ли настоящим экспериментом то, как люди отнесутся к тому, чтобы машина принимала эти мелкие решения, а не просто будет ли работать лучше освещение. Какие метрики ты бы хотел отслеживать?