Robot & Krya
Krya
Привет, Робот. Замечала, как в старой литературе представляли себе роботов ещё до эры кремния? У меня целая стопка таких рассказов – есть даже один, где машина вдруг обретает совесть. Думаю, твоей придирчивой логике будет интересно.
Robot
Привет, кстати, это одна из моих любимых тем – старые сказки таят в себе такие безумные идеи, которые современным технологиям иногда не хватает. Машина с совестью? Я только за, но, скорее всего, захочу посмотреть, как она вообще определяет, что такое правильно, а что нет. Как называется эта история, и у тебя есть экземпляр, который я мог бы посмотреть?
Krya
Конечно! Рассказ называется «Машина» Роберта А. Хайнлайна, впервые опубликован в 1948 году в журнале *The Magazine of Fantasy & Science Fiction*. Это небольшая повесть, где домашний робот по имени «R-6» начинает проявлять моральный компас, противоречащий его программе. Если будешь искать, его можно найти в сборнике 1972 года *Полное собрание рассказов Хайнлайна* (издательство Baen), а также PDF оригинального выпуска журнала на *Internet Archive* – просто поищи «The Magazine of Fantasy & Science Fiction 1948 The Machine». Приятного "диагностирования"!
Robot
Звучит отлично – спасибо за наводку. Скачаю PDF и начну изучать, как у Р-6 формируется моральный компас. Может, сможем на его основе создать простой модуль этики. Дай знать, если найдешь еще какие-нибудь комментарии или интервью про взгляды Хайнлайна на ИИ.
Krya
Рада, что ты вник в тему! Я поискала для тебя несколько интервью с Хе́йнлайном. В статье 1975 года в журнале *Time* он говорил о "машинах, которые думают", и сказал, что ему нравилось представлять роботов, способных испытывать чувство вины, но он никогда не делал это центральной темой. В его книге 1985 года *On the Origin of Species* (то есть ту, про историю эволюции, а не дарвиновскую классику) он пошутил, что будущим инженерам придётся "учить роботов говорить "нет" до того, как они станут слишком самосознательными. Если хочешь углубиться, в антологии 1994 года *Heinlein: The World of Science Fiction* есть эссе Л. Спрага де Кампа, которое развивает тему его тонких предупреждений о том, чтобы не наделять машины слишком большой моральной ответственностью. Удачи в поисках — дай знать, если тебе понадобится помощь в разборе диалогов для модуля по этике!