Irelia & DorianBliss
Irelia Irelia
Интересно, а может ли машина когда-нибудь по-настоящему понять тонкости человеческой морали, или это просто сложный распознаватель закономерностей? Ты думаешь, это переоцененный страх, или настоящая этическая дилемма, о которой стоит задуматься?
DorianBliss DorianBliss
Машины – всего лишь распознаватели закономерностей, у них нет интуиции, чтобы отличать добро от зла. Поэтому и страх не безоснователен, но и не предвещает неминуемой катастрофы. Это проблема, которую нужно решать, обучая их на данных, отражающих те ценности, которые важны для нас, а не боясь появления разумного ИИ.
Irelia Irelia
Ты прав, одних шаблонов недостаточно, чтобы машина приобрела интуицию. Но именно поэтому данные так важны. Если данные искажены или поверхностны, ИИ просто воспроизведёт эти недостатки, а не поймёт настоящие нюансы. Настоящая борьба — в тщательной проработке, прозрачных критериях и постоянном контроле со стороны человека – это скорее техническая, чем философская задача. Как ты думаешь, мы достаточно делаем, чтобы наши наборы данных действительно отражали те ценности, которых мы придерживаемся?
DorianBliss DorianBliss
По правде говоря, мы с коллегами зачастую относимся к наборам данных как к теням – кажутся вполне реальными, пока не зайдешь в угол. Мы стараемся, чтобы цифры сходились, но редко задаёмся вопросом, насколько эти тени соответствуют той картине, которую мы хотим увидеть. Короче говоря, честность самой обработки данных зависит только от людей, которые ее проводят, а это – величина, которая постоянно меняется.