«Угроза всем». Как уроженец Смоленщины влияет на будущее человечества

Эмигрант

Дата 2 января 1920 года условна. Даже сам Айзек Юдович Азимов не знал точно, когда он родился. Это произошло в деревне Петровичи Смоленской губернии. Россия, охваченная хаосом, была в замешательстве из-за смены властей и календарей. Новорождённых не регистрировали должным образом. Писатель, будучи уже взрослым, сам назначил себе эту дату.

Его родители были русскими евреями. Фамилия происходит от слова «зима». У Юда Ароновича и Анны-Рахиль Исааковны была мельница. В 1923 году, вслед за многими земляками, они переехали за границу. Они поселились в Бруклине и открыли кондитерскую.

В семье говорили на идиш. Мальчик, конечно, освоил английский. Русского он не знал — его мать и отец использовали язык своей родной страны для «секретных разговоров», которые ребенок не должен был слышать.
Айзек учился на химика в Колумбийском университете в Нью-Йорке. Работал по специальности на Филадельфийской армейской верфи (где, по совпадению, работал и другой гуру научной фантастики — Роберт Хайнлайн). В первые послевоенные годы служил в армии. Там интеллект смолянина замерялся — его IQ был крайне высок: 160. После демобилизации он продолжил научную карьеру — получил степень профессора биохимии. До конца 1950-х он преподавал в университете, пока доходы от книг не превысили его зарплату.
Классическая фантастика — это не «Звездные войны», создатели которых плевали на все известные законы физики; такая литература должна быть убедительной, в том числе и с научной точки зрения. Под впечатлением от знаний Азимова его пытались привлечь к своим проектам настоящие разработчики передовых систем — например, писателя пригласили в DARPA, секретную структуру Пентагона. Он отказался: боялся, что это помешает его творчеству.
Вот еще несколько интересных фактов: боялся летать и обожал морские круизы; был клаустрофилом, то есть любил замкнутые пространства и всячески пытался в них очутиться; вел трезвый образ жизни; в последние годы носил густые бакенбарды. Умер в 1992 году — как выяснилось позже, за девять лет до этого заразился ВИЧ во время переливания крови.

60~br />Писательские способности проявились еще в раннем подростковом возрасте. Публиковался с конца 1930-х годов. Спустя двадцать лет стал звездой первой величины. Самым значительным его произведением считается цикл из семи романов «Основание» — о событиях в Галактической Империи, государстве, охватывающем весь Млечный Путь.

Не менее значим сборник рассказов «Я, робот». В одном из них — «Хоровод» (1941) — писатель впервые формулирует Три закона робототехники (это слово придумал Азимов):

1. 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. 2. Робот должен подчиняться всем приказам человека, за исключением тех, которые противоречат Первому закону.
3. 3. Робот должен защищать свою жизнь, пока это не противоречит Первому или Второму закону. законы.

Законы стали своего рода заповедями для всех любителей научной фантастики. На них выросли не только многочисленные ценители и производители подобной литературы (разного качества), но и сегодняшние звезды высокотехнологичного бизнеса.

Судьба человека

Именно в книгах Азимова и Хайнлайна южноафриканский подросток Илон Маск, имевший серьезные проблемы со сверстниками из-за расстройства аутистического спектра, нашел утешение после столкновения с суровой реальностью. Там же будущий глава SpaceX искал выход из экзистенциального кризиса: его любимая наука физика убедительно объясняла, как устроена Вселенная, но не могла ответить на вопросы «почему» и «зачем». Обращение к трудам философов вроде Ницше только усугубило проблему. А легкое чтение о вымышленных мирах задавало позитивный тон, помогало выбрать правильную «жизненную интонацию» и определить цели. Именно Азимов и компания вдохновили Маска устремиться на Марс (и по пути в Белый дом).

Тот же набор авторов определил судьбу основателя Amazon Джеффа Безоса, основателей Microsoft Билла Гейтса и Пола Аллена и других крупных звезд технологий, которые во многом из-за своих детских увлечений решили заняться инновационным бизнесом.

Сегодня наследие Азимова особенно актуально в связи с разработкой систем искусственного интеллекта. Крупнейшие мировые компании вступили в «гонку вооружений» в этой области — тратя миллиарды на вычислительные мощности и источники энергии, которые их питают (включая ядерные реакторы). По некоторым прогнозам, не за горами появление так называемого всеобщего ИИ — то есть искусственного интеллекта, не уступающего человеческому. И судьба вида Homo sapiens буквально зависит от того, будет ли такая система соблюдать «заповеди» Азимова.
Разработчики ИИ делятся на два лагеря в зависимости от отношения к Трем законам. Известен спор между Маском и соучредителем Google Ларри Пейджем. Первый называет неконтролируемый цифровой интеллект «фундаментальной угрозой» человечеству, второй — просто очередной стадией эволюции, которая придет нам на смену. По словам Пейджа, ничего плохого в этом не будет. Обе компании разрабатывают свои собственные, конкурирующие системы искусственного интеллекта.

Маск подчеркивает, что его беспилотные автомобили Tesla, андроиды Optimus и чат-бот Grok созданы для того, чтобы помогать людям. Google тоже, кажется, делает полезные вещи. Но, что характерно, их языковая модель Gemini недавно пожелала пользователю «умереть», назвав человечество «пустой тратой времени и ресурсов» и «пятном на Вселенной». Видимо, из-за сбоя. Но это не точно.

Поправки к законам

Следует отметить, что Три закона — это, прежде всего, литературная конструкция. В ней конкретно заложены противоречия, на которых построены произведения писателя — начиная с «Хоровода». Перенести законы в реальную жизнь практически невозможно.

Проблема в том, что они написаны на человеческом языке. Например, как правильно объяснить роботу, что такое «вред»? А если неправильно трактовать понятие «человек», то искусственный интеллект может отнести к этой категории не всех людей, а только часть — и страшно представить, что будет с остальными в этом случае.

60~br />Тем не менее, уже предпринимаются попытки разработать протоколы безопасности на основе Трех Законов. Так, в январе 2024 года команда робототехники DeepMind опубликовала так называемую Конституцию робота, которой будут руководствоваться механические домашние помощники. Правда, оригинальный текст фантаста пришлось подкорректировать — например, убрать часть о «вреде бездействием», поскольку функциональность машин все равно ограничена.
Между тем, многие роботы уже давно нарушают и первый, и третий законы Азимова: убивают людей, а иногда и самих себя (дроны-камикадзе). Такие устройства не всегда полностью контролируются людьми.

Роботы-убийцы: хорошие или плохие?

Уже существуют нейронные сети военного уровня, способные определять характер цели и самостоятельно принимать решение о нанесении удара. В частности, на такие технологии делают ставку новые американские оборонные компании, созданные выходцами из Кремниевой долины (Palantir, Anduril).

Некоторые разработчики считают, что предоставление ИИ права управлять жизнями людей — это «ящик Пандоры, который невозможно будет закрыть». Об этом заявили в своем обращении в ООН 116 экспертов в области нейронных сетей, среди которых Маск и основатель DeepMind Мустафа Сулейман.
Однако есть мнение, что роботы-убийцы, наоборот, сделают войны более гуманными: ведь механизм никогда не будет руководствоваться страхом или ненавистью. «У него будет доступ к информации и данным, которые ни один солдат-человек не смог бы обработать так быстро, что снижает вероятность совершения им ошибки в пылу боя. Он никогда не будет намеренно убивать мирных жителей в отместку за смерть товарища. И он сможет следить за солдатами, чтобы они не совершали зверств», — ранее заявил профессор Рональд Аркин из Технологического института Джорджии, один из разработчиков боевых роботов.

По сути, Три Закона в какой-то момент перестали удовлетворять их создателя, и Азимов придумал четвертый — вернее, нулевой: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред».

Это означает, что причинение вреда отдельному человеку все еще допустимо, если это спасет большинство. По сути, робот сталкивается с «проблемой тележки». Ее и сегодня решают вполне мирные системы ИИ. Например, недавно автомобиль Tesla S, управляемый, что называется, автопилотом, сделал сложный выбор. Прямо перед ним на проезжую часть выпал пешеход. Робот на колесах тут же выехал на встречную полосу, где столкнулся с другим автомобилем. Таким образом, была спасена одна жизнь, но еще несколько подверглись риску.
Сможет ли робот принять правильное решение, когда решаются судьбы не участников незначительного ДТП, а всего человечества? Ответа не знает никто.