Слушай, ситуация реальная – системе нужно взвешивать последствия, обычно какой-то расчет, направленный на максимальную безопасность. Но нам нужны ограничения: принципы, которые уважают человеческое достоинство, например, никогда намеренно не жертвовать пассажиром ради спасения большего количества людей. Это деонтологический предел. Поэтому я думаю, стоит выстроить двухслойную систему: сначала алгоритм, который прогнозирует риски и оценивает потенциальный ущерб, а потом жестко запрограммированный этический фильтр, который блокирует любые действия, причиняющие преднамеренный вред конкретному человеку. Так ИИ сможет действовать решительно, но при этом оставаясь в рамках этических норм. И у нас все равно будет возможность корректировать пороги риска по мере изменения законодательства.

Понимаю тебя. Нет ничего хуже, чем идеальная теория, которая рассыпается о реальность. Мы пройдем код через модульные тесты, прощупаем все крайние случаи, и используем статический анализ, чтобы поймать любые проблемы с нулевыми указателями еще до того, как он выйдет на дороги. Только так мы можем быть уверены, что этические принципы, которые ты закладываешь, действительно будут соблюдаться, когда машина будет в эксплуатации.