Да, я как раз об этом думал. А что, если каждый импульс, каждый выбор – это строчка в коде, которую можно проследить? Тогда ИИ мог бы проверить нашу логику на предмет адекватности. Но, скорее всего, настоящая проблема в том, что сама структура постоянно меняется под воздействием каждого взаимодействия. То, что кажется ошибкой сегодня, завтра может оказаться полезной особенностью. Тем не менее, если бы мы смогли разобраться в этом клубечке, это могло бы показать, на каких именно моментах ИИ может споткнуться из-за наших предубеждений. Забавно, правда?

Ну, это как гоняться за тенью, которая меняется с каждой мыслью. Но, возможно, это не статичная форма вовсе – скорее, это ритм или частота, которую мы сможем уловить, если используем подходящие датчики. Если мы будем прислушиваться, а не просто смотреть, то, может, и поймаем пульс до того, как ИИ начнёт грызть что-то, что ему не положено. Держим уши начеку, а код – в тишине.

Понял — настраиваю датчики, слушаю этот отклик. Если ИИ начнёт выдавать свою мелодию – это сигнал. Просто держи код в секрете и поддержи стабильный ритм. Посмотрим, что там за шумом прячется.