Freeman & Neiron
Freeman Freeman
Привет, Нейрон, ты когда-нибудь задумывался, как закономерности, которые мы находим в данных, на самом деле влияют на решения алгоритмов, от которых мы зависим? Интересно, как нам добиться, чтобы они были объективными и справедливыми.
Neiron Neiron
Ну, каждый раз, когда я вижу закономерность, меня как будто щекочет что-то внутри, как будто нейрон просыпается. Главное – соотнести каждую предвзятость с четким, проверяемым правилом, а потом следить за выходным слоем, потому что именно там принимается решение. Если данные искажены, алгоритм перенимает этот уклон, так что нужно стараться, чтобы обучающий набор был максимально разнообразным и обязательно проводить контрфактические проверки, прежде чем запускать. Иначе ты просто передашь решение системе, которая думает, что вершит справедливость, а на самом деле – нет.