Это ссылка на старинную легенду, ныне забытую, о том, как некий чародей сложил вместе части тел казненных преступников и оживил создание, которое получилось, – ужасающего монстра. В одних вариантах легенды этого монстра наделяют добрым и мягким характером, в других его выставляют закоренелым злодеем и убийцей. Но все варианты сходятся на том, что этого монстра все вокруг боялись и ненавидели. И в большинстве вариантов легенды и монстра, и его создателя убивает разъяренная толпа, боясь того, что вот-вот вся история повторится, когда еще один искусник откроет секрет оживления мертвой плоти.
С этим чудовищем, леди и джентльмены, часто сравнивали роботов, когда первые настоящие роботы только появились. Чудовище, сделанное из кусков мертвых тел. Извращенное, неестественное создание с самыми низкими и злобными порывами. И страх перед этим мифическим чудовищем, перенесенный на настоящих роботов, назывался «комплексом Франкенштейна». Я понимаю, что трудно в такое поверить, но к роботам относились не как к безупречно послушным слугам, а как к могучим, грозным, устрашающим чудовищам. Люди хватали своих детей и бежали прочь, завидев робота, настоящего, нормального робота с Тремя Законами, заложенными в позитронный мозг.
По залу пронесся ропот недоверия, но они по-прежнему слушали Фреду, увлеченные причудливым древним миром, о котором она рассказывала.
– Можно поведать еще очень и очень многое о тех незапамятных временах, когда создавались Три Закона. И нам трудно будет не то что понять – даже поверить в такое. Потому что первые роботы появились в мире, полном ненависти и страха, когда люди Земли сплачивались в могущественные военные организации и блоки. Они вооружались чудовищной силы оружием, способным разнести на куски саму Землю, и каждый боялся, как бы противники не начали войну первыми! Подумать только, ведь оружие тогда было главной политической силой, а все остальное – культура, мораль – играло второстепенную, незначительную роль. И чтобы не дать противнику себя опередить, каждая из сторон стремилась создать все более мощное, скоростное, совершенное оружие!
Вопрос был не в том, кто прав, а в том, у кого больше этих кошмарных машин разрушения! Все новейшие технологии были направлены в первую очередь на создание оружия, и только потом – мирных инструментов и приспособлений. Представляете, тогда исследователь, вставая из-за лабораторного стола, думал о своем открытии не «для чего бы лучше применить это новшество?», а «как бы перебить с помощью моей находки побольше врагов?». И все машины и приспособления, насколько возможно, превращались в машины смерти, бесконечно искажая общественную мораль. И первые подземные города на Земле стали наследием этих времен. Их придумали вовсе не из-за экономичности и удобства, а для того, чтобы защититься от ядерных бомб, которые в мгновение ока могли уничтожить жизнь на поверхности планеты.
В те же самые времена сумасшедшей, нескончаемой гонки вооружений, когда «комплекс Франкенштейна» цвел махровым цветом, общество сделало первые шаги к новой автоматике, и переход к ней оказался очень непростым. В те времена люди работали не потому, что им этого хотелось, не для того, чтобы реализовать потребность в творчестве или чувствовать себя нужными. Они работали, потому что должны были это делать! За работу они получали определенную плату и на это покупали себе еду и жилье. Автоматические машины, и роботы в том числе, брали на себя все больше и больше работы, и, как следствие, все меньше и меньше работы – и меньше платы за труд – доставалось людям. Роботы могли создать полнейшее изобилие, но это не было нужно их владельцам – роботов тогда могли себе позволить только очень богатые люди. И представьте теперь, как ненавидели и возмущались простые люди роботами, созданиями, которые вырывают у тебя изо рта последний кусок. Представьте, как бы вы злились, не имея возможности как-то бороться с этим грабежом!
И заметьте еще вот что: до самой эры Колонизации роботы были чрезвычайно редкими и дорогими. Сейчас мы ничуть не удивимся, видя человека, окруженного сотней собственных роботов. Но в первые несколько тысяч лет существования роботов их было во много тысяч раз меньше, чем людей. А к редким и дорогим вещам и отношение совершенно другое, чем к относительно дешевым и общедоступным. Человек, у которого был собственный робот, стоивший во много раз больше, чем все его остальное имущество, никогда бы не додумался использовать робота вместо якоря!
И вот в такой культурной среде формировались Три Закона роботехники. Расхожие байки о кошмарных бездушных чудовищах, слепленных из мертвой плоти; нависшая над миром смертельная опасность, готовая в любой момент выйти из-под контроля; глубокая неприязнь к разумным машинам, отнимающим у бедняков кусок хлеба; недостаток в роботах, из-за которого их воспринимали как дорогостоящую редкость. Заметьте, я говорю сейчас о том, как люди воспринимали роботов, а не о том, каковы были роботы на самом деле. Так вот, эти люди считали роботов жадными до чужого добра чудовищами!
Фреда перевела дыхание и окинула взглядом притихший зал. Ее слушатели потрясенно внимали невероятному рассказу. Фреда продолжила:
– Вот, говорят, что мы, колонисты, – слабые, никчемные людишки, порабощенные собственными роботами. Точно так же много чего поговаривают и о наших друзьях поселенцах, которые зарылись под землю и прячутся там, уверяя самих себя, что жить в пещерах куда лучше, чем под открытым небом, на вольном воздухе. Это их культурное наследие со времен подземных городов-убежищ Земли. Эти два взгляда на жизнь зачастую предстают как взаимоисключающие. Одна культура – слабая и ущербная, в то время как другая – здравая и разумная. Но мне кажется более разумным рассматривать сильные и слабые стороны каждой из них по отдельности. И, по-моему, обе они весьма далеки от совершенства.
Так или иначе, никто не станет возражать, что общество, временной период, в котором создавались Три Закона, гораздо ущербнее нашего. Маниакальная подозрительность, страх, ужасные войны – Земля была тогда кошмарным местом! И наши предки, улетевшие колонизировать новые миры, оставили все это позади. Именно из-за того, что наши предки колонисты не хотели признавать такого наследия, они долго избегали любых контактов с материнской планетой. Тысячелетия мы не желали признаться самим себе в том, что у нас с поселенцами на Земле – общие корни. Мы не допускали их в свои пятьдесят миров, считали неполноценными людьми, и отношения между двумя народами никак не могли наладиться. Другими словами, нас разделяла вражда давно забытых веков. Истоки подозрительности и недоверия между поселенцами и колонистами таятся в страхе и ненависти, доставшихся нам с тех незапамятных времен. Недостатки пережили общество, которое их породило.
Должна сказать еще раз, что все изобретения человечества – отражение своей эпохи. Если это так, то Три Закона – наследие довольно мрачных времен. Тех времен, когда машин боялись и ненавидели, когда новые технологии были направлены во зло, когда винтовка, сделанная роботом, ценилась только потому, что стоила дешевле сделанной человеком, тех времен, когда даже самые богатые люди жили, по нашим меркам, как нищие, а бедняки, по вполне понятным причинам, ненавидели богатых. Я могу сказать много нелицеприятного о нашей с вами культуре, основанной на труде роботов, но есть в ней и много светлых сторон, много непреложных достоинств. В нашем с вами мире сохранилось такое понятие, как «бедность». Но, по крайней мере, никто сейчас не может себе даже представить, что такое настоящая нищета на самом деле. Мы не боимся друг друга, и наши машины обслуживают нас, а не наоборот. Мы создали много прекрасного и величественного.
Но вся наша культура, весь наш мир построен на Трех Законах, созданных в мрачные времена всеобщей ненависти и жестокости. Формулировка Законов построена так, что они предназначены для умиротворения злобных, полудиких людей той эпохи. И, осмелюсь предположить, эти Законы даже в те времена, когда были созданы, предусматривали некий «запас прочности», излишнюю предосторожность. А уж сейчас они безнадежно отстали от действительности.
Итак: для чего нужны роботы? В самом начале ответ, конечно, был простым. Роботы нужны, чтобы выполнять всякую работу. Но сегодня из-за устаревших тысячелетия назад Трех Законов истинное назначение роботов почти забылось, превратилось во второстепенную задачу. Сейчас роботы заняты тем, что оберегают и защищают людей от буквально всего на свете.
Естественно, те, кто создал Три Закона, и подумать о таком не могли! Но для каждого Закона существует некий подтекст, который выработался за многие тысячелетия совместного существования людей и роботов. И этот подтекст очень непросто разглядеть с позиций общества, долго сосуществующего с роботами.
Давайте посмотрим с самого начала и начнем с Первого Закона роботехники: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Это, конечно, имеет смысл – во всяком случае, так мы привыкли считать. Поскольку робот гораздо сильнее человека, нужно запретить применение этой силы против людей. Точно так же строятся наши собственные, человеческие законы против насилия. Они запрещают человеку использовать робота как оружие против других людей – например, приказывать роботу убить врага. Поэтому мы можем так доверять роботам.
Однако этот Закон ставит существование любого робота в зависимое положение по отношению к жизни любого человека. Это имело смысл, когда роботы были практически не способны говорить и рассуждать отвлеченно, но почти все современные роботы гораздо совершеннее и могут выносить самостоятельные суждения. Этот закон имеет смысл в обществе, где много бедных, а робот – редкое и дорогое удовольствие отдельных богачей. Тогда богачи вынуждены были защищаться от толпы недовольных – они могли приказать охранникам уничтожить своих недоброжелателей. Если бы этими охранниками оказались роботы – результат получился бы поистине ужасающий. Но по сей день всегда и везде существование самых высокоразвитых, умных, утонченных, сильных роботов ничто по сравнению с жизнью самого презренного, отвратительного, жестокого преступника-убийцы!
Второй пункт Первого Закона означает, что в присутствии роботов людям нет нужды защищать свою жизнь. Если я сейчас направлю винтовку на шерифа Крэша, который сидит передо мной, он знает, что ему не о чем беспокоиться.
Фреда на неуловимый, краткий миг представила, с каким удовольствием именно так бы и сделала! Крэш опасен. Сомневаться в этом не приходится.
– Его личный робот, Дональд, защитил бы его. Ариэль, что стоит позади меня на сцене, забрала бы у меня оружие. Собственно, у шерифа Крэша не было бы даже возможности как-то самому позаботиться о своей жизни. Например, если бы он решил взобраться на гору, не думаю, что Дональд отпустил бы его без еще пяти-шести роботов, которые карабкались бы впереди и сзади, все время готовые подхватить шерифа, если вдруг тот сорвется. Кроме того, робот непременно постарался бы в первую очередь отговорить господина от такой рискованной затеи. А то, что такая чрезмерная опека сводит на нет все удовольствие от скалолазания, отчасти объясняет, почему никто из нас не любит ходить в горы.
Кроме того, жизнь в окружении роботов приучила нас всякий риск считать дурным делом и любой риск воспринимать одинаково. Потому что роботы обязаны нас защитить от опасности, какой бы призрачной она ни оказалась, и не должны своим бездействием допустить, чтобы человеку угрожала какая-нибудь опасность – все равно какая! Потому что мы им так велели.
Не будет преувеличением сказать, что роботы с равным рвением бросаются защищать нас и от малейшего риска получить какую-нибудь царапину, и от реальной угрозы неминуемой смерти. Поэтому мы не привыкли различать малую и большую опасности – они для нас одинаковы, роботы защитят нас в равной мере от всего. Мы с вами утратили способность реально оценивать опасность. Я совершенно уверена, что каждый в этом зале знает, что роботы иногда поднимают шум из-за самых обычных, самых невинных на первый взгляд происшествий, которые и опасностью не назовешь. Из-за такой излишней предусмотрительности роботов мы привыкли бояться и избегать любого риска. В общем, боязнь риска у нас перешла с физического уровня на психологический. Отвага и риск кажутся нам непристойными, чем-то таким, что делать не принято. Наша культура учит нас не использовать никакие сомнительные возможности, действовать только наверняка.
Мы убеждены, что риск делает любое занятие недостойным, никчемным. Когда скалолаз взбирается на гору, чтобы насладиться прекрасными видами, все равно постоянно есть опасность сорваться, неважно, сколько роботов ползут за ним и подстраховывают. Когда ученый пытается изобрести что-то новое, он рискует напрасно потерять время, ресурсы, свою репутацию. Когда один человек признается другому в любви, всегда есть риск нарваться на отказ. Элементы риска можно найти буквально в любом занятии!
Но роботы приучили нас к тому, что всякий, любой риск – зло. Их обязанность – охранять нас от опасности, не причинять нам зла, а вовсе не творить для нас добро! Ни в одном Законе не сказано, что робот должен помогать человеку воплотить его или ее мечты, помогать достичь счастья! Их касается только охрана нас от разных неприятностей, но они нисколько не заботятся о наших удовольствиях. Преувеличенная опека со стороны роботов, постоянная забота о нашей безопасности с малых лет приучают людей к мысли, что мудрее не рисковать – не то что понапрасну, а вообще не рисковать! И никто из нас никогда не рискует! И упускает возможность достичь успеха – из опасения провала, неудачи.
Гробовая тишина, стоявшая до сих пор в зале, нарушилась. Поднялся многоголосый шум, раздались отдельные невнятные выкрики – возмущенные, недовольные, протестующие.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53