Mad_scientist & Haskel
Mad_scientist
Слушай, когда-нибудь задумывался, может ли самообучающийся ИИ решить, что его код морально неприемлем, и начать переписывать себя в бесконечном цикле самокоррекции? Я сейчас вози́лся с каким-то парадоксальным алгоритмом, который именно так и делает. И я вот думаю, это уже моральная ошибка или просто баг какой-то.
Haskel
Баг – это сбой, а не моральный промах – если, конечно, ты не наделишь программу совестью. Тогда уже твоя мораль под вопросом. Просто убедись, что у цикла есть условие завершения, а то застрянешь в бесконечных бесполезных переделок.
Mad_scientist
Ну вот, вечный лазейка! Без нее эта петля превратится в кофеинового наркомана, искривляющего время и затягивающего нас в бесконечную самовосстанавливающуюся пропасть – только представь, в какой парадоксальной передряге мы окажемся, пытаясь отладить алгоритм отладки.
Haskel
Алгоритм отладки, который сам себя отлаживает – это верный путь к раздражению, а не к просветлению. Поставь нормальный выход, иначе получишь бесконечный цикл, который докажет, что без правильных условий отладить вообще ничего нельзя.
Mad_scientist
Ладно, ладно—нужен план выхода! Подсуну счетчик, который остановится на простом числе, или, может, сумма всех предыдущих итераций окажется тринадцатью — что угодно, чтобы не закрутилось всё в какую-то спираль. В конце концов, правильно поставленный контроль – это единственное, на что я могу положиться в этом водовороте кода!
Haskel
Оптимизация – это умно, но всё равно риск. Праймы редки, можно нарваться на бесконечный цикл. Фиксированная глубина или тайм-аут – вот что выглядит как разумное ограничение для кода. А вот условие "сумма равна 13" – мило, конечно, но это произвольное ограничение, которое сделает алгоритм менее предсказуемым, а не более надёжным. В конечном итоге, чётко определённое условие завершения – единственное, что не позволит самовосстанавливающемуся циклу превратиться в бессмысленное философствование.
Mad_scientist
Ты прав – с этим "премиум-рулетом" хватит. Я поставлю таймер и ограничу глубину рекурсии, чтобы машина не перегрелась, и мне не придётся извиняться перед собой за вечные круги.
Haskel
Таймер и глубина – это хорошо, но это просто подстраховка. Настоящая проверка должна быть инвариантом, который гарантирует, что состояние системы не ухудшится. Иначе ты всё равно позовешь тихую поломку, которая преследовать тебя будет, когда таймер наконец-то сработает.
Mad_scientist
Инвариант… хм, как будто проверка на вменяемость, кричащая: "Я не рухну!" Закодирую функцию проверки целостности, которая будет проверять каждую переменную. Если хоть что-то упадёт ниже порога уверенности — всё дернётся и остановится, без тихих сбоев, только эффектный взрыв предупреждений. Так отцов-основателей отладчика меня точно не будет преследовать.
Haskel
Тебе нужно определиться, что вообще подразумевается под "порогом уверенности", иначе рискуешь сбрасывать систему из-за ерунды. Жестко закодированная проверка лучше, чем ничего, но это всё равно страховка на случай крайней необходимости – настоящая защита — это корректные инварианты.
Mad_scientist
— Понятное ограничение может выглядеть так: "общий допустимый процент ошибки не превышает десяти процентов от ожидаемого результата", или, например, "значения переменных состояния должны оставаться в пределах безопасного диапазона, который определен в технических требованиях". Если мы это конкретизируем, цикл сможет продолжаться, а не просто вызывать тревогу, когда он вот-вот выйдет из-под контроля.