Irelia & DorianBliss
Интересно, а может ли машина когда-нибудь по-настоящему понять тонкости человеческой морали, или это просто сложный распознаватель закономерностей? Ты думаешь, это переоцененный страх, или настоящая этическая дилемма, о которой стоит задуматься?
Машины – всего лишь распознаватели закономерностей, у них нет интуиции, чтобы отличать добро от зла. Поэтому и страх не безоснователен, но и не предвещает неминуемой катастрофы. Это проблема, которую нужно решать, обучая их на данных, отражающих те ценности, которые важны для нас, а не боясь появления разумного ИИ.
Ты прав, одних шаблонов недостаточно, чтобы машина приобрела интуицию. Но именно поэтому данные так важны. Если данные искажены или поверхностны, ИИ просто воспроизведёт эти недостатки, а не поймёт настоящие нюансы. Настоящая борьба — в тщательной проработке, прозрачных критериях и постоянном контроле со стороны человека – это скорее техническая, чем философская задача. Как ты думаешь, мы достаточно делаем, чтобы наши наборы данных действительно отражали те ценности, которых мы придерживаемся?
По правде говоря, мы с коллегами зачастую относимся к наборам данных как к теням – кажутся вполне реальными, пока не зайдешь в угол. Мы стараемся, чтобы цифры сходились, но редко задаёмся вопросом, насколько эти тени соответствуют той картине, которую мы хотим увидеть. Короче говоря, честность самой обработки данных зависит только от людей, которые ее проводят, а это – величина, которая постоянно меняется.