Да, это классическая дилемма. Алгоритм, который "идеально эффективен", хорош настолько, насколько хороша модель и данные, которые ему предоставили, а выбирать их – работа людей. Так что система может быть математически безупречна, но при этом споткнуться о собственные предположения. Это как ухоженный сад, в котором всё равно растут сорняки, потому что кто-то забыл их выполоть. Главное – иметь подстраховку: мониторить, тестировать и постоянно улучшать, чтобы машинная эффективность не заслонила от нас небольшие недочеты, которые нам трудно заметить изнутри.