Честно говоря, я бы начала с кнопки "аварийный стоп", а не с полным контролем человека на каждом шагу. Пусть система сама учится и адаптируется, но обязательно нужен жёсткий, мгновенный выключатель, который ни один ИИ не сможет обойти, даже если ему кажется, что он знает лучше. Так ты получишь скорость автоматизации и страховку от человеческого здравого смысла, который может сказать: "Нет, это глупо" до того, как робот это сделает. Если ты упустишь этот выключатель, у тебя получится гениальная, но безрассудная машина, которая, скорее всего, перепишет свои собственные инструкции по безопасности. Так что держи человека в запасе, но дай ему возможность поставить всё на паузу, когда что-то покажется подозрительным.