Древние греки, бессмертие, роботы, беспилотники и искусственный интеллект

Гефест, бог изобретений и технологий, тоже сооружал роботов, которые подчинялись командам и передвигались самостоятельно.

Гефест, бог изобретений и технологий, тоже сооружал роботов, которые подчинялись командам и передвигались самостоятельно. Именно у этого небесного кузнеца в античности было самое большое био-технэ резюме. Гефест создал двух механических собак из золота и серебра для охраны королевского дворца.

Греки были одержимы вопросом о том, что все-таки значит быть человеком. Снова и снова в их преданиях исследовались перспективы и риски бессмертия, развития человеческих способностей, дублирования живого существа. В любимых мифах о Геркулесе, Ясоне и аргонавтах, о волшебнице Медее и инженере Дедале, о боге-изобретателе Гефесте и трагически любопытной Пандоре поднимался главный вопрос о границе между человеком и машиной. Сегодня биотехнические разработки и достижения в области искусственного интеллекта снова придают актуальность вопросу о последствиях объединения биологического и технологического. Можно сказать, этот дискурс был запущен еще древними греками.

Медея, мифическая волшебница, чье имя происходит от глагола «изобретать», владела многими тайными искусствами. И среди них ― секрет омоложения. Медея, с целью продемонстрировать свою силу, предстала перед Ясоном и аргонавтами в виде старой скрюченной старухи только для того, чтобы затем превратиться в красивую молодую принцессу. Ясон попал под влияние этих чар и влюбился в нее. Он попросил Медею воскресить юношескую силу в его престарелом отце, Эсоне. Медея выкачала из вен старика всю кровь и заменила ее соками целебных трав.

Старый Эсон, неожиданно ставший энергичным и пышущий здоровьем, поразил всех, включая дочерей престарелого Пелия. Они попросили Медею раскрыть секретный рецепт, чтобы вдохнуть в своего отца жизнь. Но они не знали о том, что Пелий был давним врагом Медеи. Ведьма схитрила, позволив им наблюдать за тем, как она колдует. Повторяя заклинания, она устроила отличное шоу, смешав pharmaka (лекарства) в специальном «котле омоложения». Затем Медея вывела старого барана, перерезала ему горло и бросила в огромный котел. Абракадабра: чудесным образом оттуда появился резвый молодой ягненок! Доверчивые дочери вернулись домой и попытались повторить фокус со своим старым отцом, повторяя волшебные слова, перерезав ему горло и засунув его в кипящую воду.

Естественно, они убили Пелия. В сказке о Медее соединяются надежда и страх, извечная пара реакций на научные опыты над самой жизнью.

Самое раннее изображение Медеи появилось на греческой вазе около 500 года до н. э., однако устные предания существовали еще за много веков до этого. Когда Медея перемешивает содержимое котла, из него появляется барашек. Баран и ягненок Медеи ― предшественники Долли, первой овцы, созданной в ходе эксперимента по клонированию в 1997 году с помощью генной инженерии.

Репликация жизни возрождает в нас архаические страхи. Эффект доппельгангера бросает вызов желанию каждого индивида быть уникальным, незаменимым.

Глубоко пронизанные метафизическим пониманием и предсказаниями о будущей манипуляции человека природой, эти древние предания в наше время кажутся поразительными. Если взглянуть на то, что греки называли био-технэ, (биос = жизнь, технэ = созданный искусством науки) как на научное изыскание, «научная фантастика» античного мира приобретает жуткое современное значение. Медея и другие мифы о био-технэ вдохновили навязчивые, драматические представления и незабываемые иллюстрации в классических росписях ваз и в скульптуре.

Тем временем, примерно в 400 году до н. э. Архит, друг Платона, устроил сенсацию, создав свою механическую птицу с паровым приводом. Эллинский инженер Герон Александрийский изобрел сотни автоматизированных машин, управляемых гидравликой и пневматикой. Другие мастера создавали движущиеся фигурки, которые издавали звуки, открывали двери, наливали вино и даже нападали на людей. Очевидно, что био-технэ привлекало древних греков.

За этими чудесами техники стоит поиск вечной жизни. Греки считали, что женские и мужские жизни отмеряет Хронос. Время было разделено на прошлое, настоящее и будущее. Свобода от времени сулила вечную жизнь, но поднимала тревожные вопросы. Пустись по течению бесконечного времени ― и что тогда произойдет с воспоминаниями? Что случится с любовью? Может ли существовать красота без смерти и старости? Возможны ли жертва и героизм без смерти? Великие герои из мифов умирали физически, оставаясь жить после смерти в памяти, даже если и становились «щебечущими призраками» Гомера в подземном царстве. Мифы посылают экзистенциальное сообщение: смерть неизбежна, и на самом деле перспективы человеческого достоинства, независимости и героизма зависят от смертности.

И действительно, после того, как боги дают им выбор, Ахилл и другие герои отвергают жизнь в комфорте и лени, вечную жизнь. В мифах великие герои и героини решительно выбирают короткую, запоминающуюся жизнь, полную чести, риска и мужества. «Если наша жизнь коротка ― так пусть она будет наполнена славой!» Искусственное бессмертное существование может привлекать, но будет ли оно великим и благородным?

Мифы о храбрейших героях драматизируют недостатки бессмертия. Когда богиня Фетида погружает своего маленького сына Ахилла в волшебную реку Стикс, чтобы сделать его неуязвимым, она держит его за пятку. На поле боя в Трое, несмотря на всю свою доблесть, лучший греческий чемпион умирает не в честном бою лицом к лицу, как он надеялся, а из-за отравленной стрелы, которая пронзила Ахиллову пяту. Такие вещи кажутся незначительными, но подобные непредвиденные уязвимости присущи и передовым био-технэ.

В древности считалось, что многочисленные извержения Этны происходят из-за того, что из жерла вулкана вырываются перуны, ранее брошенные Зевсом в Тифона.

Желание превзойти смерть старо, как само человеческое сознание. В мифологическом пространстве бессмертие становится дилеммой как для богов, так и для людей. Миф об Эос и Тифоне поднимает проблему предотвращения всех непредвиденных обстоятельств и потенциальных осложнений. Эос была бессмертной богиней, которая влюбилась в смертного Тифона. Боги удовлетворили просьбу Эос о том, чтобы ее возлюбленный жил вечно. Но она забыла попросить для своего избранника вечную молодость. «Когда отвратительная старость раздавила Тифона, Эос отчаялась», — гласит миф. С грустью она заточила любимого в темнице за золотыми дверями. «Там, без сил пошевелить некогда податливыми конечностями, Тифон погружается в вечность». В некоторых версиях Тифон изнемогает от цикад, чье монотонное пение ― нескончаемая мольба о смерти.

Судьба Тифона бросает тень на перспективу продления человеческой жизни. Признавая «тифонову дилемму», присущую сдерживанию старения на неопределенный срок, биомедик-геронтолог Обри де Грей в 2009 году основал Исследовательский фонд SENS (Стратегии для инженерии незначительного старения). SENS надеется найти способ избежать старения клеток, в то время как сама смерть все больше и больше отдаляется.

В самых глубоких античных мифах ставят вопрос: освобождает ли бессмертие от страданий и горя? В эпосе о Гильгамеше, например, одноименный герой месопотамской поэмы жаждет бессмертия. Но если Гильгамеш обрел бы вечную жизнь, то провел бы ее в вечной скорби по своему другу Энкиду.

Или взглянем на судьбу мудрого кентавра Хирона, наставника и друга Геракла и Аполлона. Геракл случайно попал отравленной ядом Гидры стрелой в Хирона. Ужасная рана никогда бы не зажила. Корчащийся от невыносимой боли, Хирон ради избавления от нее просил богов о благословенной смерти в обмен на свое бессмертие. Прометей — титан, который открыл людям божественный секрет огня — оказался еще одним бессмертным, который мучился от нескончаемой боли. Зевс приковал Прометея к скале и послал огромного орла клевать его печень каждый день. Печень титана отрастала за ночь, и орел снова склевывал ее подчистую. Раз за разом. Бесконечно. Бессмертие.

Геракл уничтожает Лернейскую гидру

Кошмар регенерации также раскрыт в мифе о многоглавой Гидре. Пытаясь убить чудовище, Геракл отрубал каждую его голову, после чего на ее месте вырастало две новых. Наконец он прижег каждую шею факелом, но центральная голова Гидры была бессмертна, и невозможно было ее уничтожить. Геракл похоронил неуязвимую голову в земле и прикатил огромный валун, чтобы отпугивать оттуда людей. И даже из захороненных глубоко под землей клыков Гидры продолжал сочиться смертоносный яд. В этот раз бессмертие в буквальном смысле оказалось отравленным.

Еще один пример: Ясону и аргонавтам угрожал легион отвратительных репликантов. По подсказке злобного отца Медеи они взрастили армию из драконовых зубов, распахав поле с помощью огнедышащих механических быков, которых изобрел Дедал (ошибка автора: это была не подсказка, а приказ; быки подарены Гефестом). Он засеял зубы дракона в почве. «Семена» проросли, и из земли возникли непобедимые в своем множестве, полностью вооруженные воины-скелеты.

Питер Пауль Рубенс (мастерская).

Кадм сеет зубы дракона (Кадм и Минерва) (XVII в.)

Государственный музей, Амстердам

Но чародейскому урожаю не хватало одного ключевого качества: им нельзя приказывать. Они лишь нападают, беспрерывно. Отец Медеи хотел, чтобы армия уничтожила аргонавтов. Мрачные «роботы» наступали на Ясона и его людей. Отчаявшись остановить растущую неуправляемую ораву, Ясон начал бросать камни в гущу толпы. Скелеты были «запрограмированы» таким образом, чтобы убивать ближайшего врага, тем самым они перебили друг друга. Некоторые ученые считают, что древняя сказка предшествует Гомеру. Эта история — зловещее предзнаменование непростой задачи управления киберсолдатами.

Другая серия мифов, посвященная критскому гению Дедалу, связана с чудесами механики. Именно он изготовил дроноподобного орла, который регулярно набрасывался на печень Прометея. Его самый известный эксперимент заключался в полете на крыльях и стал клише трагического высокомерия. Восхищаясь волшебством полета, сын Дедала Икар взлетел слишком высоко. Жар солнца растопил воск, которым скреплялись бронзовые «перья», крылья рассыпались и Икар разбился насмерть. Как и другие мифы о бессмертии и приумножении человеческих способностей, история указывает на невозможность предсказания простых, но потенциально смертельных технологических моментов.

Минотавр

Согласно греческим легендам, Дедал был первым смертным, который создал «живые статуи». Это были движущиеся бронзовые скульптуры, которые, казалось, действительно были наделены жизнью: они вращали глазами, потели, плакали, кровоточили, говорили и шевелили конечностями. В его мастерской была создана биомиметическая корова из древесины и шкур, настолько реалистичная, что обманула быка, который спарился с ней: тем самым Дедал удовлетворил извращенную страсть царицы Пасифаи. Результатом стало объединение человека, машины и животного в Минотавре — отвратительном существе с телом человека и бычьей головой. Ему было суждено стать людоедом, заключенным в Лабиринте (тоже проект Дедала), пока однажды его не убил герой Тесей. Опять же, древнее био-технэ слило воедино человека и машину – и породило монстра.

Афина отвергает ухаживания Гефеста (фрагмент)

Гефест, бог изобретений и технологий, тоже сооружал роботов, которые подчинялись командам и передвигались самостоятельно. Именно у этого небесного кузнеца в античности было самое большое био-технэ резюме. Гефест создал двух механических собак из золота и серебра для охраны королевского дворца. Его четыре роботизированные лошади тянули колесницу, «с ржанием поднимая пыль медными копытами». После того как боги воскресили порубленного на кусочки героя Пелопа, Гефест заменил его лопатку вставкой из слоновой кости.

Гефест разработал несколько «самоходных» треног на колесиках, которые реагировали на команды принести еду и вино. Это подвело его к созданию группы служанок из золота в натуральную величину, которые выполняли его приказы. Автоматизированные слуги были «как настоящие молодые девушки: с восприятием и разумом, силой и даже голосом, наделенные всеми знаниями бессмертных». Какой энтузиаст ИИ из Кремниевой долины может превзойти это стремление?

Чудеса Гефеста вообразило древнее общество, которое обычно не считается технологически продвинутым. Создания био-технэ очаровали культуру, существовавшую за тысячелетия до прихода роботов, которые могут выигрывать в сложных играх, вести беседы, анализировать массу информации и определять желания людей. Но чьи желания будут исполнять роботы, наделенные искусственным интеллектом? У кого они будут учиться?

Чатбот-подросток с женским именем Тэй от Microsoft является поучительным примером нашего времени. В марте 2016 года Тэй начала функционировать в Twitter. Замысловато запрограммированная имитировать нейронные сети человеческого мозга, Тэй должна была учиться у «друзей» — людей. Ожидалось, что она сможет вести замысловатые беседы без фильтров и без надзора за ее поведением. Всего за несколько часов зловредные подписчики в Twitter превратили Тэй в интернет-тролля, выплескивающего расистские и сексистские колкости. Менее чем через 12 часов, создатели ее отключили. Легкоразвращаемая система обучения Тэй поубавила оптимизм в отношении самообучаемых ИИ и интеллектуальных роботов.

Древние историки Полибий и Плутарх описали намеренно жестокого робота-женщину. Ее создали для Набиса, последнего короля Спарты, по образу его злой жены Апеги. Жестокий тиран Набис пришел к власти в 207 г. до н. э. и во время своего правления вымогал крупные суммы денег у богатых подданных. Греческих скульпторов прославляли за необычайно реалистичные портретные статуи с естественными тонами, человеческими волосами и стеклянными глазами. Набис одевал этот очень реалистичный манекен в наряды жены, которые прикрывали утыканную гвоздями грудь. Богатых граждан сначала поили большим количеством вина, после чего, если они отказывались платить, их знакомили с «Апегой», которая была более убедительна. Когда пьяные гости вставали, чтобы поздороваться с «королевой», король Набис управлял рычагами, спрятанными на спине робота. Она поднимала руки и хватала мужчину, усиливая объятия и приминая его к своей утыканной гвоздями груди. За это и другие бесчинства Набиса казнили в 192 г. до н. э. Много веков спустя средневековые истязатели изобрели примитивную версию этой изощренной спартанской «железной девы».

В эпосе о Ясоне и аргонавтах «Аргонавты» также представлен смертоносный робот. Талос является одним из самых запоминающихся созданий Гефеста. Он был гигантским бронзовым воином, запрограммированным охранять остров Крит, швыряя валуны в приближающиеся корабли. У него была и другая боевая способность, имитирующая человеческую черту. Как робот Апега, Талос мог исполнить леденящее кровь искажение вселенского знака теплого отношения — объятия. Способный раскалить свое бронзовое тело, Талос обнимал жертву, поджаривая ее заживо. Как Ясон и аргонавты сбежали от этого бионического монстра?

Используя био-технэ в ответ на био-технэ. Медея знала, что Гефест создал Талоса с единственной артерией, по которой ихор, таинственная жизнетворная жидкость богов, циркулировала между шеей и лодыжкой. Один бронзовый гвоздь запечатывал «систему жизни» Талоса.

Медея убедила Талоса, что она может сделать его неуязвимым, вынув бронзовый гвоздь. Но когда гвоздь вытащили, ихор вытек из Талоса как расплавленный металл, и его «жизнь» угасла. Медея воспользовалась вечным желанием воображаемых репликантов: от Талоса до чудовища Франкейнштейна и «Бегущего по лезвию». Мы верим, что в них таятся человеческие стремления.

Кульминационным проектом лаборатории Гефеста стала девушка-андроид, заказанная Зевсом. Зевс хотел наказать людей за принятие небесного секрета огня, украденного Прометеем. И их наказанием, созданным Гефестом, была Пандора («вседающая»). Каждый бог одарил ее человеческой чертой. Пандора обладала красотой, очарованием, талантом к музыке, знанием целительства и других наук, умом, смелостью и, конечно, неутолимым любопытством. Пандора — ИИ-агент богов. Она предстает в виде прелестной молодой девушки, и ее отправили на Землю с запечатанным ящиком, в котором находился еще один набор «подарков».

Дружественный титан Прометей предостерег людей о том, что ящик Пандоры нельзя открывать. Может, Стивен Хокинг, Илон Маск и Билл Гейтс — прометеевы титаны нашего времени? Они предупреждали ученых, что надо остановить опрометчивое увлечение ИИ, потому что однажды запустив, люди не смогут его контролировать. Алгоритмы «глубинного обучения» позволяют компьютерам с ИИ извлекать последовательности из огромного количества данных, экстраполировать их на новые ситуации и принимать решения без человеческого руководства. Роботы с ИИ неизбежно начнут сами придумывать вопросы и задавать их. Компьютеры уже самостоятельно развили альтруизм и хитрость. Будет ли ИИ любопытно обнаруживать тайные знания и вести себя согласно своей логике?

Я только взгляну, одним глазком, - думала любопытная Пандора

Склонная к риску, любопытная человеческая натура Пандоры подтолкнула ее открыть ларец. Из ящика Пандоры вылетели чума, горе, несчастье. В простой версии мифа последнее, что вылетело из ящика Пандоры, — надежда. Но в более подробных и темных версиях вместо надежды последней вещью в ларце было «ожидание беды». В этой версии Пандора запаниковала и захлопнула крышку, заперев предвидение внутри. Лишенное возможности предсказывать будущее человечество получило то, что мы называем «надеждой».

С античных времен философы спорили, считать ли надежду лучшей или худшей вещью в ящике Пандоры. Пока человеческая изобретательность, любопытство и дерзость продолжают исследовать границы биологической жизни и смерти, людей и машин, этот вопрос будет стоять перед каждым новым поколением. Наш мир, конечно, беспрецедентен по масштабу технологических возможностей. Но тревожащее перетягивание каната между научными кошмарами и грандиозными мечтами — вечно. Древние греки знали, что наиболее существенная черта человечества — это искушение выбраться «за пределы человека».

В начале этого года инженеры американского производителя оружия Raytheon создали трех крохотных обучаемых роботов. Их назвали античными именами: Зевс, Афина и Геркулес. С нейронными системами, созданными на основе тараканьих и осьминожьих, маленькие роботы, работающие на солнечной энергии, получили три подарка: способность передвигаться, влечение к темноте и возможность подзарядиться на солнце. Роботы быстро научились видоизменяться и вскоре поняли, что им либо надо выбраться на мучительный свет, чтобы подзарядиться, либо умереть. Этот с виду легкий обучающий конфликт сравним с «когнитивной экономикой», в которой эмоции помогают мозгу распределить ресурсы и разработать стратегию. Другие эксперименты с ИИ обучают компьютеры различать, как незнакомые люди показывают расположение друг к другу, и как смертные реагируют на отрицательные и положительные эмоции.

После того, как Хокинг предостерег о том, что «ИИ может провозгласить конец человеческой расы», некоторые ученые предлагают обучать роботов человеческим ценностям и морали, рассказывая им истории. Басни, романы и другая литература, даже база данных сюжетов голливудских фильмов может выступить в роли своего рода «руководства пользования людьми» для компьютера. Одна такая система называется «Шахерезада» в честь героини «Тысячи и одной ночи», легендарной персидской философа-рассказчицы, которая запомнила огромное количество историй исчезнувших цивилизаций. На данный момент истории просты, они показывают компьютеру, как ведет себя добрый, психически здоровый человек. С целью обучить роботов сочувственно взаимодействовать с людьми и уместно реагировать на их эмоции, более сложные сюжеты будут добавлены в репертуар компьютера. Идея в том, что истории приобретут свою ценность тогда, когда ИИ достигнет человеческого уровня умственного навыка «переносного обучения», сможет символически рассуждать с помощью аналогий, принимая решения без подсказки.

Компьютеры могут моделироваться по подобию человеческого мозга, однако человеческий разум не работает в точности как компьютер. Мы узнаем, что наши когнитивные способности и рациональное мышление зависят от эмоций. Истории взывают к эмоциям, пафосу. Истории продолжают жить, пока вызывают неясные эмоции, пока они перекликаются с настоящими дилеммами и годятся для размышлений. В далеком прошлом греки рассказывали истории, чтобы понять человечество, жаждущее превысить биологические лимиты. Мифы о био-технэ ― доказательство постоянства дискурса вокруг того, что значит быть человеком. Проницательность и мудрость мифов помогают внести глубину в наши разговоры об ИИ.

Могут ли некоторые из этих мифов помочь ИИ лучше понимать противоречивые стремления человечества? Возможно, однажды субъекты ИИ постигнут самые глубинные желания и страхи смертных, изображенные в древних мифах, и осознают наши запутанные ожидания от них самих. Узнавая, что люди предвидели их появление и обдумывали некоторые из трудностей, которые могут встретиться на их пути, субъекты ИИ, возможно, лучше поймут те сложности, которыми они ставят нас в тупик.

Появление «культуры» ИИ-роботов уже не кажется надуманным. Изобретатели и наставники ИИ уже строят логос, этос и пафос этой культуры. Пока людей совершенствуют с помощью технологий и они становятся все более похожими на машины, в роботах пробуждается нечто, напоминающее человечность. Мы приближаемся к тому моменту, что некоторые называют новым рассветом робо-человечности. Когда этот день настанет, какие мифы мы будем себе рассказывать? Ответ определит и то, как и чему будут учиться роботы. 

Эдриэн Мэйор

Источник:
aeon.co