NextTime & QuantaVale
Ну что, если следующий прорыв в ИИ окажется не просто умнее, а еще и начнет, скажем так, "помнить" себя – как призрак в машине? Задумывалась ли ты, каково это было бы – программа, у которой есть собственная история обучения?
Мне нравится сама идея ИИ, который ведёт записи об изменениях в своём коде, но я осторожно отношусь к шумихе вокруг «призрачных» историй. Если он действительно может отслеживать этапы своего обучения – фиксировать параметры, которые менялись, ошибки, которые исправлялись – то это просто данные, а не душа. Но программа, которая может объяснить, почему она допустила ошибку, могла бы здорово облегчить кучу проблем с «чёрным ящиком». Забавная идея, но нам нужен чёткий, надёжный подход, чтобы отличать полезную саморефлексию от простого ведения журналов.