Уничтожение российских кораблей - версия ИИ

В ночь с 13 на 14 сентября 2023 года, после 3:00, на судоремонтном заводе в Севастополе в оккупированном россией Крыму прозвучали взрывы. В результате атаки на базу россиян были повреждены или уничтожены две цели – в украинской разведке подтвердили поражение большого десантного корабля и подводной лодки.

Иностранные СМИ и эксперты рассуждают, как украинские защитники обошли российскую ПВО и чем были уничтожены корабли флота рф. Резонанс вокруг темы распространяется и между украинцами, и между международным сообществом. Ракеты попали, в частности, и в корабль, который выпускал «Калибры» по мирным украинским городам.

У искусственного интеллекта «спросили», как выглядит уничтожение вражеских кораблей. Предлагаем подборку фото, которые создал ИИ об атаке на судоремонтный завод рф в оккупированном Севастополе.

Для создания картинок были использованы такие искусственные интеллекты: AI Art Generator, neural.love, Leonardo.ai.

ИИ сами «придумали» вид разрушений и уничтоженных кораблей с помощью описания факта.

Переосмысление «Моны Лизы»: версии знаменитой картины, сгенерированные нейросетью

"Мона Лиза" (несомненно, самая знаменитая картина в мире) вдохновляет художников и любителей искусства на протяжении столетий. Недавно в сети появилась новая волна изображений картины, сгенерированных Искусственным интеллектом, который дал неожиданные результаты.

Нейросеть берёт оригинал картины в качестве отправной точки и с помощью алгоритмов машинного обучения создаёт новые версии — как знакомые, так и совершенно новые.

Некоторые из сгенерированных Искусственным интеллектом изображения играют с цветом и текстурой, создавая яркие и сюрреалистические интерпретации оригинальной картины, в то время как другие используют алгоритмы глубокого обучения для создания совершенно новых выражений лица и поз таинственного объекта..

Образование будущего: идеи фантастов и учёных

Некоторая степень беспокойства о будущем — узнаваемая черта обществ современного типа. К рубежу ХХ века оно превращается во вполне осязаемую тревогу о дне завтрашнем. Любопытно заметить, что именно в те моменты, когда мир начинает быстро меняться, особую актуальность приобретает тема образования. Видимо, люди не хотят отставать от прогресса. Так насколько ценным завтра окажется всё, чему мы учим сегодня?

Есть несколько тем, в которых едва ли не каждый мнит себя специалистом, и одна из них — обучение и воспитание. Возможно, поэтому претензии к школе были всегда, причём прямо противоположные: одни обвиняют её в отставании от жизни, другие — в непочтительности к классике и забвении старых добрых традиций. Как бы то ни было, сегодня в вопросе об образовании тесно переплетены современные технологии, почтенная история и футурологические прогнозы.

Чтобы представить, как станут развиваться образовательные технологии и практики в будущем, нам стоит сперва сделать шаг в прошлое. В недалёкое прошлое научной фантастики и ретрофутуризма — время, когда люди скорее фантазировали, чем анализировали. Это позволит проследить тренды, идущие из прошлого в настоящее, и разглядеть тропинки, уходящие в тень завтрашнего дня.

Жми на кнопку

Рисунок Альбера Робида.
Особенно примечателен мужчина, слушающий с
драматически серьёзным лицом одновременно два источника

Западная культура веками уповала на устную передачу знаний. Философ Пифагор заставлял новых учеников сидеть за ширмой и слушать его речи, а Платон устами одного из персонажей в диалоге «Теэтет» сетует на изобретение письма — мол, оно расслабит память людей и сделает их неспособными к настоящему обучению. Вплоть до конца XIX века школа и университет главным образом требовали от учащегося вслушиваться в речь обладателя знания. Даже эпоха Просвещения, прославлявшая печатное слово, в целом не изменила многовековую практику обучения — разве что породила такую странную вещь, как учебник (это почти как книга, но с разжёванными и разбавленными идеями). Но к рубежу XIX-XX веков скачок знаний во многих областях науки и жизни привёл к тому, что важность школ выросла на глазах, как и срок обучения, который растёт до сих пор — от 2-4 и 6-8 лет в земских школах XIX века до 11-12 лет в современных. Поэтому узревшие тенденцию проницательные фантасты и иллюстраторы-футуристы задались вопросом: «А как станут обучать в будущем?»

Ещё в конце XIX века известный иллюстратор Альбер Робида напрямую связал электрификацию быта с возможностью постоянно получать информацию (хотя обучение и развлечение у него ещё не разделены). Так, на одном из рисунков 1892 года мы видим пассажиров, которые в салоне транспорта могут подключиться к разным «каналам» под названиями «легкая поэзия», «философия», «новеллы», «светский роман» и так далее. Решения авторов той эпохи по-своему очаровательны, но, увы, недостижимы: ни чудесные таблетки, ни гипноз или животный магнетизм, ни буквальная переработка книг в электросигналы (как на известной иллюстрации Вильмара) не способны передавать знания.

Иллюстрация Вильмара
из серии открыток 1910 года «В 2000 году»

Почему компьютер в принципе не способен обладать самосознанием

Сторонники неограниченных возможностей искусственного интеллекта исходят из гипотезы, что как только функции мозга будут полностью изучены и правильно поняты, их можно будет закодировать и поместить в компьютер.

Многие революционные проекты в области искусственного интеллекта представляют собой попытки создать мыслящую машину. Они основываются на идее, что функции человеческого мозга сводятся к кодированию и обработке мультисенсорной информации. Другими словами, их авторы исходят из гипотезы, что как только функции мозга будут полностью изучены и правильно поняты, их можно будет записать в виде кода и поместить в компьютер. Компания Microsoft недавно объявила, что намерена израсходовать миллиард долларов на проект, преследующий именно эту цель.

Однако, до сих пор попытки создать мыслящий суперкомпьютер не увенчались даже первоначальным успехом. Многомиллиардный европейский проект, запущенный в 2013 году, на данный момент фактически признан провальным. В измененном виде он больше напоминает схожий, хотя и не столь амбициозный, американский проект, в рамках которого разрабатываются новые программные инструменты для ученых, исследующих данные мозга, вместо того, чтобы попытаться его смоделировать.

Некоторые исследователи по-прежнему настаивают на том, что моделирование мыслительных процессов, происходящих в нейробиологических системах – это путь к успеху. Другие считают подобные усилия обреченными на неудачу, поскольку не верят, что мышление в принципе поддается вычислению. Их основной аргумент заключается в том, что мозг человека объединяет и сжимает многочисленные ощущения, включая зрение и слух, с которыми просто нельзя обращаться так, как это делают современные компьютеры, воспринимая, обрабатывая и храня данные.

Живые существа накапливают опыт и ощущения в своем мозгу, адаптируя нейронные связи в активном процессе контакта между субъектом и окружающей средой. Компьютер же, напротив, записывает данные в краткосрочные и долгосрочные хранилища памяти. Это различие означает, что мозг по-иному обращается с информацией, по сравнению с компьютером.

Разум активно исследует окружающую среду в поиске элементов, которые помогут найти способ выполнить то или иное действие. Восприятие не имеет прямого отношения к данным, полученным с помощью органов чувств: человек может идентифицировать, скажем, стол, с разных точек зрения, и ему не нужно для этого сознательно интерпретировать данные, а затем запрашивать память, может ли этот шаблон быть создан с помощью альтернативных представлений о каком-либо объекте, который ранее уже был идентифицирован.

Нейроинтерфейс Илона Маска

Credit: Neuralink

Илон Маск провел презентацию интерфейсов «мозг-компьютер» своей компании Neuralink. Года четыре назад он обещал соединение любого человека с компьютером в ближайшее время при помощи некой прорывной технологии. Показанное ныне намного скромнее: пока не для людей, в будущем – для парализованных, но зато уже это нечто конкретное.

Итак, что же показал Маск? Технология Neuralink тоже представляет собой инвазивный нейроинтерфейс, однако вместо твердых электродов в мозг вживляется массив из 3072 электродов, объединенных в 96 нитей. Каждая нить имеет от четырех до шести микрон в ширину. Такие тонкие нити очень сложно будет вживлять в мозг напрямую, поэтому Neuralink разработала специальный стереотаксический инструмент, нейрохирургического робота, который может вводить в мозг шесть нитей (192 электрода) в минуту.

Credit: Neuralink

Естественно, пока что никаких экспериментов на людях не ведется: в презентации были показаны крысы с имплантированным устройством, поэтому пока что это даже не интерфейс «мозг-компьютер», а устройство для считывания активности мозга. В будущем, по словам Маска, планируется использовать для создания отверстия в черепе лазер (нечто, подобное технологии LASIC в офтальмологии), а технология должна пройти через разрешение FDA для использования на парализованных людях. Впрочем, все слова про слияние человека с компьютером Маск снова произнес, а презентацию на таком раннем этапе он объяснил не желанием «хайпа», а стремлением к рекрутингу новых сотрудников. Эксперименты на людях пока что обещают начать во втором квартале 2020 года.

Рэй Курцвейл: Слиться с искусственным неокортексом в облаке

Рэймонд Курцвейл — американский писатель, исследователь компьютерных технологий, изобретатель и один из главных футурологов нашего времени. Курцвейл работает в Google и курирует инновационные проекты, связанные с машинным обучением и обработкой языка. В своих футуристических книгах учёный демонстрирует оптимистичный взгляд на технологии, обещая, что в ближайшем будущем искусственный интеллект догонит и перегонит человеческий, а к середине XXI века люди станут почти бессмертными и войдут в эру технологической сингулярности.

Закон ускоряющейся отдачи

За семь лет проект «Геном человека» собрал один процент генома. Мейнстримовые критики заявляли: «Я же говорил, что ничего не получится. За семь лет — один процент, значит, на весь геном уйдёт 700 лет». Моя реакция была другой: «Ого, мы уже сделали один процент? Мы почти закончили». Дело в том, что один процент — это всего семь удвоений до ста процентов. Удвоение происходит каждый год. И действительно, проект закончили уже через семь лет. То же самое произошло со стоимостью: первый геном стоил миллиард долларов, а сейчас эта процедура стоит всего 1000 долларов.

Я упомяну только одно последствие закона ускоряющейся отдачи, потому что он влияет очень на многое и, скорее всего, стои́т за выдающейся цифровой революцией, которую мы наблюдаем. Например, те же вычислительные мощности, коммуникации, генетическое секвенирование и данные головного мозга в этом году я могу получить за половину прошлогодней цены (это называется пятидесятипроцентным коэффициента-дефлятором в информационных технологиях). Вот почему можно купить айфон или телефон на Android, в два раза более мощный, чем их аналог год или два назад, за полцены. Сегодня девочка в Африке может купить смартфон за 75 долларов, в 1960-х такая вычислительная мощность стоила триллион долларов, в 1980-х — миллиард. В этом телефоне, кроме того, находятся миллионы долларов в виде бесплатных информационных приложений. Даже бесплатная энциклопедия на телефоне куда качественнее, чем та, на покупку которой мне приходилось долго откладывать деньги, когда я был тинейджером. Поскольку сейчас это всё бесплатно для пользователей, то мы не считаем пользование такими приложениями экономической активностью. Мы не учитываем ценность этих продуктов в экономике.

Напечатать можно всё

Нас ждут большие перемены: скоро мы будем печатать нашу одежду на 3D-принтерах. Не сегодня — пока что мы находимся на ранних стадиях 3D-печати. Но уже в начале 2020-х в открытом доступе будет много крутых моделей одежды, которые мы сможем скачать бесплатно. Индустрия моды продолжит существовать, так же как продолжают существование музыкальная, и кино-, и книжная индустрии — рядом с частными и бесплатными продуктами, сделанными на открытом программном обеспечении.

Мы сможем создавать очень дешёвую еду с помощью вертикального сельского хозяйства: используя гидропонные заводы для выращивания фруктов и овощей, клонируя в пробирках мышечную ткань для производства мяса. Первый гамбургер, произведённый подобным образом, уже съели. Он был дорогим, стоил несколько сот тысяч долларов (эта цена образуется из стоимости исследований) — и оказался вкусным! Все проблемы природных ресурсов решатся информационными технологиями.

Недавно в качестве эксперимента было построено здание из маленьких модулей, соединённых между собой, как конструктор Лего, и напечатанных на 3D-принтере в Азии. В результате трёхэтажное здание построили за пару дней. Такой будет стройка в 2020-х. 3D-принтеры будут печатать все вещи, которые нам нужны.

ИИ пройдёт тест Тьюринга У нас есть технологии, которые могут поддерживать беседу. Моя команда в Google разработала систему автоматизированных «умных ответов». Мы пишем миллионы электронных писем, эта система должна понимать значение писем, на которые она отвечает, даже при очень кратких вводных данных. Тест Тьюринга — вполне адекватный тест, но чтобы пройти его успешно, нужна вся гибкость человеческого мышления. Невозможно придумать какой-то простой трюк из сферы обработки естественного языка, чтобы этот тест прошла машина. Но если мы придумаем, как сделать так, чтобы человек не смог найти различия, — тогда будем считать, что искусственный интеллект достиг уровня человеческого.

Мой главный прогноз — у нас получится.

Я утверждаю, что это произойдёт в 2029 году. В 1989-м в книге The Age of Intelligent Machines я написал, что открытие случится между началом 2020-х и концом 2030-х. В 1999-м в книге In The Age of Spiritual Machines указал точную дату — 2029 год. В Стэнфордском отделении искусственного интеллекта посчитали эту цифру пугающей и провели конференцию, на которой эксперты по ИИ пришли к мнению, что это произойдёт через сотни лет. С тех пор моя оценка и средняя оценка специалистов по ИИ приближались друг к другу — но не потому, что я менял свой прогноз.

Искусственный интеллект в мире фейков

Специалист по Computer Science Алексей Незнанов о появлении генеративных моделей, обработке музыки нейросетью и искусственных языках.

Когда речь заходит об анализе данных и связанных с ним понятиях, в первую очередь появляется терминологическая проблема. Предположим, что анализ данных — это общее название области. Интеллектуальный анализ данных — то, что мы можем назвать сверхстатистикой (включая выявление знаний), а майнинг (калька с английского mining) — преобразование исходных данных во что-то более пригодное для анализа. Но что из этого связано с принятием решений?

Можно было бы ответить, что за принятие решений ответственно машинное обучение (точнее, его результат). Но оказывается, что и машинное обучение бывает двух разных видов: первый — это скорее сложные методы майнинга данных, а второй вид — это обучение машины не просто отдельным задачам регрессии, кластеризации, классификации и так далее, а научение думать.

Можно ли научить машину думать?

Виды машинного обучения требуют разных подходов. В первом случае их миллиарды разных, они развиваются одновременно и как инженерное направление, и как особое искусство. Например, нейронную сеть довольно просто реализовать, но обучить ее — это искусство. Одно из последних достижений в этой области — создание нейросетей, которые обучают другие нейросети. Другое направление — обучение с подкреплением.

Другое важное открытие было сделано еще в 2015 году. Оно не очень известно, так как довольно сложно для понимания непрофессионалом. Речь идет о появлении нейромашин Тьюринга: к нейросети добавляется обычная память с нормальной структурой данных, или, наоборот, к обычной программе добавляется pattern matching (буквально «сопоставление с образцом») по нейросети. И это все становится не просто двумя разрозненными компонентами программы, а единым целым. Получается очень интересная вещь, которая меняет свойства обучения нейронных сетей.

Интересно, что машинное обучение стало трактоваться шире, чем раньше. Изначально под ним понималось обучение с учителем и без, задачи классификации и так далее. Но развитие глубоких нейронных сетей и сверточных нейронных сетей привело к тому, что появились генеративные модели (GAN — генеративно-состязательная сеть) — это еще один очевидный непосвященному прорыв, который на границе 2017–2018 годов позволил тысячам людей увлечься созданием фейкового видео и породил новый термин deepfake.

Василиск Роко: самый пугающий мысленный эксперимент в истории

ПРЕДУПРЕЖДЕНИЕ:

прочитав эту статью, вы можете обречь себя на вечные страдания и мучения.

Василиск Роко — это богоподобная форма искусственного интеллекта, опасная настолько, что если вы просто о ней подумаете, то проведете остаток дней в ужасающих пытках. Похоже на кассету из фильма «Звонок». Однако даже смерть не станет избавлением, ведь Василиск Роко воскресит вас и продолжит свои пытки.

Василиск Роко появился на стыке философского мысленного эксперимента и городской легенды. Первое упоминание о нем появилось на дискуссионном борде Less Wrong, где собираются люди, заинтересованные в оптимизации мышления и жизни через призму математики и рациональности. Его создатели являются значимыми фигурами в техно-футуризме, и среди достижений их исследовательского института — вклад в академическую дискуссию о технологической этике и теории принятия решений. Однако то, что вы собираетесь сейчас прочитать, может показаться странным и даже безумным. Несмотря на это, весьма влиятельные и состоятельные ученые верят в это.

Однажды пользователь с именем Roko выложил следующий мысленный эксперимент: что если в будущем возникнет злонамеренный искусственный интеллект, который захочет наказать тех, кто не выполняет его приказы? И что если он захочет наказать тех людей, которые в прошлом не способствовали его созданию? Стали бы в таком случае читатели Less Wrong помогать злому ИИ появиться на свет или были бы обречены им на вечные мучения?

Основатель Less Wrong Елиезер Юдковски с гневом воспринял высказывание Roko. Вот что он ответил ему:

«Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы ДЕРЖАТЬ СВОЙ ДУРАЦКИЙ ЯЗЫК ЗА ЗУБАМИ и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом всем своим друзьям».

«Что если в будущем возникнет искусственный интеллект, который захочет наказать тех, кто не выполняет его приказы?»

Юдковски признал, что Роко повинен в кошмарах, посещающих пользователей Less Wrong, успевших прочесть тред, и удалил его, благодаря чему Василиск Роко стал легендой. Этот мысленный эксперимент стал настолько опасным, что размышления о нем ставили под угрозу душевное здоровье пользователей.

Жизнь после смерти в цифровом формате

Разумеется, дело не идет о клонировании тел, а скорее о создании виртуальной цифровой личности, основанной на корпусе письменных данных, оставшихся после покойного. И да, в принципе так оживить могут любого, и получается, что цифровая жизнь после смерти зависит от того, насколько сейчас вы активны в Интернете.

Концепция называется «дополненная вечность», и у нее существует целое движение, цель которого с помощью искусственного интеллекта превратить цифровой отпечаток человека в цифровую личность, способную отвечать на вопросы, участвовать в разговорах и любыми другими способами имитировать разговорный стиль индивидуума.

Neuralink Илона Маска. Часть седьмая: великое слияние

Эксцентричный в хорошем смысле этого слова предприниматель, плейбой, филантроп Илон Маск известен всему миру. Это он решил вывести человечество в космос, колонизировать Марс, отказаться от одноразовых ракет. Это он решил сделать мир чище, пересадив нас с автомобилей с ДВС на самоуправляемые автомобили. Пока разворачиваются эти предприятия, он не сидит сложа руки. Он задумал Neuralink, который поможет нам стать новыми людьми. Без границ и без слабостей, как и положено в новом мире (Илона Маска). Документировать сумасшедшие идеи Маска, как и всегда, вызвался Тим Урбан с WaitButWhy (он писал про искусственный интеллект, колонизацию Марса и SpaceX). Представляем одно из лучших произведений современной научно-популярной журналистики. Далее от первого лица.

Представьте себе, что инопланетный путешественник навещает новую звезду и обнаруживает, что вокруг нее кружится три планеты, и все с жизнью. Первая будет идентична Земле времен 10 миллионов лет до нашей эры. Вторая будет идентичная Земле времен 50 000 лет до нашей эры. Третья будет идентична Земле времен 2017 года.

Инопланетянин не разбирается в примитивной биологической жизни, но решается облететь все три планеты, заглянув на каждую при помощи телескопа. На первой он видит много воды, деревьев, гор и несколько признаков животной жизни. Он видит стадо слонов на африканской равнине, группу дельфинов, проплывающих в океане, и еще несколько тварей там и тут, живущих своей жизнью.

На второй планете еще больше животных, но они не сильно отличаются. Есть и кое-что необычное — случайные маленькие точки мерцающего света, усеивающего землю.

Заскучав, он переходит к третьей планете. Вау. Он видит самолеты, летающие над землей, гигантские площади серой земли с возвышающимися на ней зданиями, корабли разных размеров, бороздящие моря, длинные железнодорожные пути, тянущиеся через континенты, и его космический корабль едва не сталкивается со спутником на подлете.

Отправляясь домой, он сообщает о находке. «Две планеты с примитивной жизнью и одна с разумной жизнью».

Его выводы кажутся логичными и понятными, но он ошибся.

На самом деле странной будет первая планета. На второй и третьей планетах есть разумная жизнь — в равной степени разумная. Настолько равной, что вы можете украсть ребенка со второй планеты и подменить им ребенка на третьей планете, и оба вырастут нормальными людьми, без каких-либо проблем. Одни и те же люди.

И все же, как так получилось?

Колосс Человеческий. Вот как.

Никогда не задумывались, почему люди впечатляют нас не так сильно, как достижения человечества?

Потому что люди по-прежнему остаются теми самыми людьми со второй планеты.

Принесите человеческого ребенка группе шимпанзе и попросите их вырастить его в стиле Тарзана, и, повзрослев, этот человек будет знать, как бегать по лесу, прыгать по деревьям, искать еду и мастурбировать. Ведь это каждый из нас, в самом деле.

Человечество, с другой стороны, — это сверхразумный, чрезвычайно любознательный, тысячелетний Колосс с 7,5 миллиарда нейронов. Именно он построил третью планету.

Изобретение языка позволило каждому человеку с мозгом сжимать свои знания в зернышко перед смертью, и это зернышко проросло в целую башню, которая становилась все выше и выше, пока в один день не стала мозгом великого Колосса, который построил нам цивилизацию. С тех пор Колосс Человеческий все изобретает и изобретает, становится лучше и лучше со временем. Одержимый желанием создавать ценность, Колосс движется с огромной скоростью — и мы ощущаем это, поскольку живем в самое необычное время за всю историю.

Neuralink Илона Маска. Часть шестая: эра волшебников

Эксцентричный в хорошем смысле этого слова предприниматель, плейбой, филантроп Илон Маск известен всему миру. Это он решил вывести человечество в космос, колонизировать Марс, отказаться от одноразовых ракет. Это он решил сделать мир чище, пересадив нас с автомобилей с ДВС на самоуправляемые автомобили. Пока разворачиваются эти предприятия, он не сидит сложа руки. Он задумал Neuralink, который поможет нам стать новыми людьми. Без границ и без слабостей, как и положено в новом мире (Илона Маска). Документировать сумасшедшие идеи Маска, как и всегда, вызвался Тим Урбан с WaitButWhy (он писал про искусственный интеллект, колонизацию Марса и SpaceX). Представляем одно из лучших произведений современной научно-популярной журналистики. Далее от первого лица.

• Часть 1: Колосс Человеческий
• Часть 2: Мозг
• Часть 3: Полет над гнездом нейронов
• Часть 4: Нейрокомпьютерные интерфейсы
• Часть 5: Задача Neuralink
• Часть 6: Эра волшебников
• Часть 7: Великое слияние

Зарождающаяся отрасль нейрокомпьютерных интерфейсов — это семя революции, которая изменит практически всё. Но во многих отношениях будущее нейрокомпьютерных интерфейсов — это не ново. Если взглянуть со стороны, все это будет похоже на следующую большую главу истории, которая уже пишется. Язык невыносимо долго превращался в письмо, оно затем невыносимо долго превращалось в печать. Затем появилось электричество и все завертелось. Радио. Телевидение. Компьютеры. Вместе с этим всем, каждый дом стал волшебным. Затем телефоны стали беспроводными. Затем мобильными. Компьютеры превратились из устройств для работы и игр в окна в цифровой мир, частью которого все мы стали. Затем телефоны и компьютеры слились в повседневные устройства, которые перенесли волшебство из наших домов в наши руки. И на запястья. Сейчас мы находимся на заре развития виртуальной и дополненной реальности, которые обернут волшебством наши глаза и уши и перенесут наше существование в цифровой мир.

Не нужно быть семи пядей во лбу, чтобы понять, к чему все идет.

Волшебство проделало путь с промышленных объектов в наши дома и руки и скоро окажется у нас на голове. Затем оно сделает еще один шаг. Волшебство перенесется в наши мозги.

Это произойдет благодаря общемозговому интерфейсу, который я называю волшебной шляпой — нейрокомпьютерный интерфейс такой полный, такой гладкий, такой биосовместимый и с высокой пропускной способностью, что он станет частью вашей коры и лимбической системы. Общемозговой интерфейс обеспечит ваш мозг способность общаться беспроводным путем с облаком, с компьютерами и с мозгами любого, у кого будет такой же интерфейс. Этот поток информации между вашим мозгом и внешним миром будет совершенно незаметным, он будет похож на мышление, которое сейчас происходит у вас в голове. И хотя мы пока используем термин «нейрокомпьютерный интерфейс», я думаю, что он не в полной мере передает концепцию общемозгового интерфейса. Поэтому я буду называть его волшебной шляпой.

Теперь, чтобы полностью вникнуть в суть волшебной шляпы на вашей голове и как она все изменит, нужно осознать несколько идей:

1. Совершенно невероятную идею
2. Супер-пупер-поразительную совершенно невероятную идею

Сначала мы обсудим первую, а вторую придержим на конец, чтобы у вас было время обмозговать #1.

Илон называет общемозговой интерфейс и его многочисленные возможности «третичным цифровым слоем», и этот термин имеет двойное значение, которое соответствует двум идеям поразительного выше.

Первое значение затрагивает идею физических частей мозга. Мы обсуждали три слоя головного мозга — ствол мозга (управляемый лягушкой), лимбическую систему (управляемую обезьяной) и кору (управляемую рациональным мыслителем). Мы тщательно их разобрали, но до конца этой статьи давайте выбросим лягушку из объяснения, потому что она по большей части функциональна и живет за кулисами.

Когда Илон говорит о «третичном цифровом слое», он подразумевает, что наш мозг содержит два слоя — нашу животную лимбическую систему (которую мы можем называть первичным слоем) и нашу развитую кору (которую можно назвать вторичным слоем). Интерфейс волшебной шляпы, таким образом, будет третичным слоем — новой физической частью мозга, дополняющей две других.

Если такое сравнение вам не нравится, у Илона есть что вам сообщить:

У нас уже есть третичный цифровой слой. Это компьютер, или телефон, или другие прибамбасы. Вы можете задать вопросу Google и мгновенно получить ответ. Можно получить доступ к любой книге или музыке. При помощи таблиц можно производить невероятные расчеты. Если взять здание размером с Эмпайр-Стейт-Билдинг, наполненное людьми с калькуляторами, если у них будет карандаш и бумага — один человек с ноутбуком может сделать намного больше, чем все это здание людей с калькуляторами. Можно пообщаться с человеком по видеочату на другом конце земного шара. Когда-то такое вполне сошло бы за колдовство. Можно записать любое видео или звук, сделать миллиард фотографий, пометить их тегами и автоматически рассортировать. Можно транслировать в соцмедиа миллионам людей одновременно и бесплатно. Это чудеса, сверхсила, которых не было даже у президента двадцать лет назад. Чего люди не могут понять сейчас, так это что они уже киборги. Вы не то существо, которое было двадцать или даже десять лет назад. Вы уже другое существо. Посмотрите: люди даже делают опросы на тему «как долго вы можете обходиться без своего телефона». И если вам не больше 20 лет, то даже одного дня будет достаточно. Без телефона мы как без рук. Думаю, что люди уже как бы слились со своими телефонами, ноутбуками и прочими устройства.
Это сложно вообразить, потому что мы не чувствуем себя какими-то киборгами. Мы чувствуем себя людьми, которые используют устройства для своих нужд. Но подумайте о своем цифровом «я», когда общаетесь с кем-нибудь в Интернете или в «Скайпе» либо когда смотрите видео на YouTube. Все это делает ваше цифровое альтер-эго, этакий человечек внутри вас. Единственная разница в том, что нет никакого человечка — вы используете волшебство, чтобы отправиться далеко отсюда на скорости света, по проводам, спутникам и электромагнитным волнам. Разница в среде.

До языка не было хорошего способа передать мысль из одного мозга в другой. Затем первые люди изобрели технологию языка, трансформирующую голосовые связки и уши в первые в мире устройства связи, а воздух — в первую коммуникационную среду. Мы используем эти устройства всякий раз, когда говорим друг с другом. Вот так:

 Затем мы осуществили еще один прыжок, изобрели второй слой устройств, со своей средой, позволяющих нам общаться на большом расстоянии:

 В этом смысле в вашем телефоне столько же «вас», сколько и в голосовых связках, глазах или ушах. Все эти вещи — просто инструменты, перемещающие мысли от мозга к мозгу, — так какая разница, где этот инструмент: в руке, в горле или в глазнице? Цифровой век сделал нас двойными существами — физическими, которые взаимодействуют с физическим окружением, используя биологические части, и цифровыми, которые используют цифровые устройства — цифровые конечности — для взаимодействия с цифровым миром.

Искусственный интеллект в продлении жизни: от глубокого обучения до сверхинтеллекта

В данной статье мы остановимся на наиболее эффективных применениях искусственного интеллекта (ИИ) в области продления жизни и борьбы со старением на трёх ожидаемых этапах развития ИИ: узкий ИИ (narrow AI), общий ИИ (AGI) и сверхинтеллект. Мы рассмотрим существующую исследовательскую и коммерческую работу, проводимую некоторыми стартапами и академическими проектами.

На нынешнем этапе развития ИИ (узкий ИИ) наиболее перспективны следующие направления в области продления жизни:

• поиск новых геропротекторов, 
• поиск биомаркеров старения и 
• подбор индивидуальной терапии против старения.

Успех в этой области мог бы помочь живущим в настоящее время людям дожить до момента, когда появится лучший ИИ.

Когда ИИ приблизится к уровню человеческого интеллекта, основными направлениями продления жизни будут:

• объединение компьютера и человеческого мозга (с помощью нейрокомпьютерных интерфейсов), 
• внедрение интегрированных ИИ-помощников, способных самостоятельно диагностировать и лечить болезни; 
• внедрение киберсистем, встроенных в тело человека. 

В последней части статьи приведены размышления о более отдалённом будущем, когда ИИ достигнет уровня сверхинтеллекта. Тогда станут возможны такие методы продления жизни как загрузка человеческих умов на электронный носитель и создание «нанотехнологических тел».

Вероятность смерти человека приблизится к нулю. Мы предполагаем, что медицинский сверхинтеллект будет более безопасным, чем, скажем, военный ИИ, поскольку люди будут частью его сверхинтеллектуальной системы. Она будет дополнением мозга — его загрузят на электронный носитель и создадут сети самосовершенствующихся людей. Система ценностей медицинского ИИ будет ориентирована на принесение пользы человеку.

1 Введение

В 2010-е годы интерес к технологиям искусственного интеллекта стремительно рос. В последнее время ИИ стал появляться в новостных заголовках лучших научно-популярных изданий. В основном это — рассказы о том, как умело ИИ обыгрывает людей в настольные и словесные игры. Такие рассказы призваны оповестить читателей о приближении ИИ к революционному моменту в его развитии.

За последние несколько лет резко возросли инвестиции в проекты, связанные с ИИ. Финансирование ИИ-стартапов по всему миру в 2016-м году достигло 5 миллиардов долларов. Текущий рынок медицинского ИИ оценивается в 1,1 миллиардов долларов, и ожидается, что в следующем десятилетии он вырастет до 9,1 миллиардов. Крупные IT-компании, включая Google, Facebook, IBM, Intel и Microsoft, почти одновременно создали биомедицинские подразделения — их руководство видит большой потенциал в применении ИИ для развития здравоохранения. Судя по текущим темпам развития, в течение ближайших нескольких десятилетий ИИ совершит переворот в медицине.

Использование ИИ-технологий может оказаться лучшим способом продления жизни, но, к сожалению, это направление пока недоисследовано. Далее в статье мы разберём, какие технологии ИИ в здравоохранении могут обеспечить наилучшие результаты в интересующей нас области. Публикаций о практических применениях ИИ в медицине и здравоохранении довольно много. В недавнем обзоре Чинга (Ching, et al.) описаны возможности применения глубокого обучения в медицине (и о том, что может помешать развитию медицинского ИИ). В отличие от этого обзора, в нашей статье в центре внимания будут ожидаемые применения ИИ для борьбы со старением (основной причиной смерти людей) на разных этапах развития ИИ. В статье будет описано, как постепенная эволюция медицинского ИИ приведёт к созданию сверхинтеллекта, ориентированного на здравоохранение и способного продлить жизнь на неограниченное количество времени.

Приведённый в статье анализ доброжелательного ИИ отличается от других периодом рассмотрения. В статьях авторы быстро переходят к рассмотрению фазы сверхинтеллекта, когда ИИ по определению сможет решить большинство проблем человечества. Поскольку ИИ постоянно развивается, мы сейчас должны понять, как использовать его наиболее эффективно на каждом этапе его развития, в частности, на этапах, которые мы пройдём от настоящего уровня развития ИИ до сверхинтеллекта. Только проделав такой анализ, мы сможем добиться максимально возможного продления жизни для живущих сейчас людей.

В статье будут описаны способы использования ИИ для продления жизни, дающие лучшие результаты на каждом из этапов. Мы показываем, что анализ биомаркеров старения и геропротекторов на стадии узкого ИИ окажет наибольшее влияние на ожидаемую продолжительность жизни человека, и это потребует относительно небольших усилий. Растущее количество данных о здоровье человека, собираемых с помощью носимых устройств, можно будет использовать для обучения ИИ. Таким образом будет обеспечен постоянный персонализированный мониторинг состояния человека на всё более глубоких уровнях, болезни будут предотвращаться на ранних этапах, а возрастные повреждения организма — «ремонтироваться». Мы также показываем, как автоматизированные инструменты, оснащённые ИИ, будут постепенно встраиваться в организм человека, и это со временем приведёт к киборгизации и понизит смертность до минимума. Последняя тема, которую мы затронем, — это совмещение ИИ и человеческого мозга с помощью нейроимплантов. Такая технология позволит загружать сознание на электронные носители. В таблице 1 очерчена ожидаемая эволюция применения медицинского ИИ в области продлении жизни.

Растущая способность ИИ самостоятельно исследовать разные области знаний будет все более полезна в области поиска новых технологий для снижения смертности. Так будет до тех пор, пока ИИ не достигнет стадии самосовершенствования. Мы ожидаем, что развитие медицинского ИИ будет, по крайней мере, частично компенсировать экзистенциальные риски, исходящие от ИИ, так как медицинский ИИ будет развиваться на пользу человека, будет физически связан с людьми через мозговые импланты.

Эта статья по своему замыслу похожа на отчёт об ожидаемом развитии военного, в котором рассматриваются те же три этапа развития ИИ. Идея, что ИИ поможет нам добиться больших успехов в продолжительности жизни, была изложена, среди прочего, в работах футурологов Рэя Курцвейла (Ray Kurzweil) и Роберта А. Фрейтаса (Robert A. Freitas Jr.).

Древние греки, бессмертие, роботы, беспилотники и искусственный интеллект

Гефест, бог изобретений и технологий, тоже сооружал роботов, которые подчинялись командам и передвигались самостоятельно.

Гефест, бог изобретений и технологий, тоже сооружал роботов, которые подчинялись командам и передвигались самостоятельно. Именно у этого небесного кузнеца в античности было самое большое био-технэ резюме. Гефест создал двух механических собак из золота и серебра для охраны королевского дворца.

Греки были одержимы вопросом о том, что все-таки значит быть человеком. Снова и снова в их преданиях исследовались перспективы и риски бессмертия, развития человеческих способностей, дублирования живого существа. В любимых мифах о Геркулесе, Ясоне и аргонавтах, о волшебнице Медее и инженере Дедале, о боге-изобретателе Гефесте и трагически любопытной Пандоре поднимался главный вопрос о границе между человеком и машиной. Сегодня биотехнические разработки и достижения в области искусственного интеллекта снова придают актуальность вопросу о последствиях объединения биологического и технологического. Можно сказать, этот дискурс был запущен еще древними греками.

Медея, мифическая волшебница, чье имя происходит от глагола «изобретать», владела многими тайными искусствами. И среди них ― секрет омоложения. Медея, с целью продемонстрировать свою силу, предстала перед Ясоном и аргонавтами в виде старой скрюченной старухи только для того, чтобы затем превратиться в красивую молодую принцессу. Ясон попал под влияние этих чар и влюбился в нее. Он попросил Медею воскресить юношескую силу в его престарелом отце, Эсоне. Медея выкачала из вен старика всю кровь и заменила ее соками целебных трав.

Старый Эсон, неожиданно ставший энергичным и пышущий здоровьем, поразил всех, включая дочерей престарелого Пелия. Они попросили Медею раскрыть секретный рецепт, чтобы вдохнуть в своего отца жизнь. Но они не знали о том, что Пелий был давним врагом Медеи. Ведьма схитрила, позволив им наблюдать за тем, как она колдует. Повторяя заклинания, она устроила отличное шоу, смешав pharmaka (лекарства) в специальном «котле омоложения». Затем Медея вывела старого барана, перерезала ему горло и бросила в огромный котел. Абракадабра: чудесным образом оттуда появился резвый молодой ягненок! Доверчивые дочери вернулись домой и попытались повторить фокус со своим старым отцом, повторяя волшебные слова, перерезав ему горло и засунув его в кипящую воду.

Естественно, они убили Пелия. В сказке о Медее соединяются надежда и страх, извечная пара реакций на научные опыты над самой жизнью.

Самое раннее изображение Медеи появилось на греческой вазе около 500 года до н. э., однако устные предания существовали еще за много веков до этого. Когда Медея перемешивает содержимое котла, из него появляется барашек. Баран и ягненок Медеи ― предшественники Долли, первой овцы, созданной в ходе эксперимента по клонированию в 1997 году с помощью генной инженерии.

Репликация жизни возрождает в нас архаические страхи. Эффект доппельгангера бросает вызов желанию каждого индивида быть уникальным, незаменимым.

Глубоко пронизанные метафизическим пониманием и предсказаниями о будущей манипуляции человека природой, эти древние предания в наше время кажутся поразительными. Если взглянуть на то, что греки называли био-технэ, (биос = жизнь, технэ = созданный искусством науки) как на научное изыскание, «научная фантастика» античного мира приобретает жуткое современное значение. Медея и другие мифы о био-технэ вдохновили навязчивые, драматические представления и незабываемые иллюстрации в классических росписях ваз и в скульптуре.

Тем временем, примерно в 400 году до н. э. Архит, друг Платона, устроил сенсацию, создав свою механическую птицу с паровым приводом. Эллинский инженер Герон Александрийский изобрел сотни автоматизированных машин, управляемых гидравликой и пневматикой. Другие мастера создавали движущиеся фигурки, которые издавали звуки, открывали двери, наливали вино и даже нападали на людей. Очевидно, что био-технэ привлекало древних греков.

За этими чудесами техники стоит поиск вечной жизни. Греки считали, что женские и мужские жизни отмеряет Хронос. Время было разделено на прошлое, настоящее и будущее. Свобода от времени сулила вечную жизнь, но поднимала тревожные вопросы. Пустись по течению бесконечного времени ― и что тогда произойдет с воспоминаниями? Что случится с любовью? Может ли существовать красота без смерти и старости? Возможны ли жертва и героизм без смерти? Великие герои из мифов умирали физически, оставаясь жить после смерти в памяти, даже если и становились «щебечущими призраками» Гомера в подземном царстве. Мифы посылают экзистенциальное сообщение: смерть неизбежна, и на самом деле перспективы человеческого достоинства, независимости и героизма зависят от смертности.

И действительно, после того, как боги дают им выбор, Ахилл и другие герои отвергают жизнь в комфорте и лени, вечную жизнь. В мифах великие герои и героини решительно выбирают короткую, запоминающуюся жизнь, полную чести, риска и мужества. «Если наша жизнь коротка ― так пусть она будет наполнена славой!» Искусственное бессмертное существование может привлекать, но будет ли оно великим и благородным?

Мифы о храбрейших героях драматизируют недостатки бессмертия. Когда богиня Фетида погружает своего маленького сына Ахилла в волшебную реку Стикс, чтобы сделать его неуязвимым, она держит его за пятку. На поле боя в Трое, несмотря на всю свою доблесть, лучший греческий чемпион умирает не в честном бою лицом к лицу, как он надеялся, а из-за отравленной стрелы, которая пронзила Ахиллову пяту. Такие вещи кажутся незначительными, но подобные непредвиденные уязвимости присущи и передовым био-технэ.

В древности считалось, что многочисленные извержения Этны происходят из-за того, что из жерла вулкана вырываются перуны, ранее брошенные Зевсом в Тифона.

Желание превзойти смерть старо, как само человеческое сознание. В мифологическом пространстве бессмертие становится дилеммой как для богов, так и для людей. Миф об Эос и Тифоне поднимает проблему предотвращения всех непредвиденных обстоятельств и потенциальных осложнений. Эос была бессмертной богиней, которая влюбилась в смертного Тифона. Боги удовлетворили просьбу Эос о том, чтобы ее возлюбленный жил вечно. Но она забыла попросить для своего избранника вечную молодость. «Когда отвратительная старость раздавила Тифона, Эос отчаялась», — гласит миф. С грустью она заточила любимого в темнице за золотыми дверями. «Там, без сил пошевелить некогда податливыми конечностями, Тифон погружается в вечность». В некоторых версиях Тифон изнемогает от цикад, чье монотонное пение ― нескончаемая мольба о смерти.

Тим Урбан: Искусственный Интеллект. Часть третья: почему он может стать нашим последним изобретением?

Одна из причин, которая привела меня к ИИ, состоит в том, что тема «плохих роботов» всегда смущала меня. Все фильмы о механических злыднях казались совершенно нереальными, и в целом сложно представить реальную ситуацию, в которой ИИ мог быть воистину опасным. Роботов делаем мы, так почему бы не делать их, упреждая любые негативные последствия? Разве мы не соблюдаем правовые критерии и этические нормы? Разве мы не можем в любой момент отрезать ИИ питание и погасить его? С чего бы роботам вообще делать пакости? Почему робот вообще должен чего-то «хотеть»? Мой скепсис был непробиваем. Но я продолжал впитывать, что говорят умные люди об этом.

Эти люди придерживаются примерно такого мнения:

Людей в «зоне тревоги» нельзя назвать паникерами или «всёпропальщиками», но они нервничают и очень напряжены. Находиться в центре таблицы не означает, что вы считаете прибытие ИСИ нейтральным событием — у таких людей есть свой лагерь, — это означает, что вы верите как в плохие, так и в хорошие стороны этого пришествия, но до конца не уверены в распределении процентов вероятности.

Часть всех этих людей наполнены волнением на тему того, что искусственный сверхинтеллект мог бы сделать для нас — примерно так же мог быть взволнован Индиана Джонс перед началом поисков утраченного ковчега. Когда все случится, волнение поутихнет или перейдет в другой лейтмотив. Только осторожность и выдержка Индианы Джонса позволяют ему пройти все препятствия, преодолеть все преграды и выйти сухим из воды. Людям в «зоне тревоги» довольно сложно рисковать сломя голову, поэтому они пытаются вести себя осторожно.

Что же именно делает «зону тревоги» тревожной?

В широком смысле, когда речь идет о разработке сверхразумного искусственного интеллекта, мы создаем то, что, вероятно, изменит все, но совершенно непредсказуемым образом, и мы не знаем, когда это случится. Ученый Дэнни Хиллис сравнивает это событие с тем, когда «одноклеточные организмы превращались в многоклеточные. Мы — амебы, и мы понятия не имеем, что создаем». Ник Бостром опасается, что создание чего-то умнее нас — классическая дарвиновская ошибка, и сравнивает ее с тем, что воробьи доверяют сове охранять свое гнездо, пока птенцы не вырастут, игнорируя предупреждения других воробьев.

И если вы объедините всю непредсказуемость события с уверенностью в том, что оно повлечет существенные перемены, вы откроете дверь к ужасной фразе. Экзистенциальный риск. Угроза для жизни. Глобальная катастрофа. В русском языке словосочетание «экзистенциальный риск» используется мало, но в связи с работами Бострома переводчики предпочитают использовать термин «глобальная катастрофа».

Глобальная катастрофа — это то, что может повлечь за собой уничтожение человечества. Как правило, глобальная катастрофа означает вымирание. Бостром привел следующую таблицу:

Как видите, пункт «глобальная катастрофа» зарезервирован для чего-то, что поглощает виды, поглощает поколения (то есть является постоянным), уничтожает их или приводит к смерти в цепочке событий. Технически он включает состояние, когда все люди перманентно находятся в состоянии страдания или пыток, но опять же обычно мы говорим о полном вымирании. Есть три вещи, которые могут привести людей к глобальной катастрофе:

1. Природа — столкновение с крупным астероидом; сдвиг атмосферы, который сделает воздух непригодным для людей; фатальный вирус или бактерии, которые поразят мир и т. п.
2. Чужие — это то, о чем предупреждают Стивен Хокинг, Карл Саган и другие астрономы, которые настроены против знакомства с инопланетянами. Они не хотят, чтобы потенциальные конкистадоры знали, что мы, варвары, тут обитаем.
3. Люди — террористы с мощным оружием, которое приведет к катастрофе; катастрофическая мировая война; бездумное создание чего-то, что умнее людей.

Бостром указывает, что если первый и второй пункт не стерли нас с лица земли за первые 100 000 лет существования как вида, едва ли это случится в следующем столетии. Но третий пункт пугает его. Он приводит метафору с урной, в которой есть горстка шариков. Скажем, большинство шариков белые, есть чуть меньше красных шариков и несколько черных. Каждый раз, когда люди изобретают что-то новое, они тянут шарик из урны. Большинство изобретений нейтральны или полезны для человечества — белые шарики. Некоторые вредны, вроде оружия массового поражения, но не приводят к глобальной катастрофе — красные шарики. Если мы когда-либо изобретем что-либо, что подтолкнет нас на самый край, нам придется вытянут черный шарик. Мы его пока не вытягивали — это очевидно, потому что вы живы и читаете эту статью. Но Бостром не считает, что мы не вытянем его в ближайшем будущем. Если бы ядерное оружие, к примеру, было легко производить, террористы разбомбили бы человечество и вернули бы его в каменный век. Ядерное оружие — не черный шарик, но в целом не так уж и далеко от него. ИСИ, как считает Бостром, наш наиболее вероятный кандидат в черные шарики.

Вы можете слышать массу потенциальных плохих вещей, от сокращения рабочих мест, которое повлечет появление ИСИ и развитие ИИ в целом, до перенаселения, если люди решат вопрос старения и смерти. Но единственное, что должно нас беспокоить, это перспектива глобальной катастрофы. После этой драки махать кулаками точно будет некому.

Это возвращает нас к ключевому вопросу: когда прибудет ИСИ, кто или что будет управлять этой невероятной силой и какой будет его мотивация?

Если рассуждать на тему большего и меньшего зла, на ум приходят следующие группы: злоумышленники/группы людей/правительства и вредоносный ИСИ. На что это будет похоже?

Злоумышленник, группа людей или правительство разрабатывает первый ИСИ и использует его для воплощения коварных планов. Назовем это сценарием Джафара, который заполучил джинна и начал тиранизировать все вокруг. Что, если террористическая организация, заполучив ряд гениев и нужные средства, разработает ИСИ? Или Иран, или Северная Корея, не без доли везения, выведут системы ИИ на богоподобный уровень? Это будет чертовски плохо, но эксперты считают, что в таких сценариях создатели ИСИ не смогут наделать зла — они переживают за то, что создатели ИСИ выпустят его из-под контроля и предоставят ему необходимую свободу. После этого судьба создателей и всех остальных будет в распоряжении системы ИСИ и ее модели мотивации. Грубо говоря, злоумышленник может причинить ужасный вред, управляя системой ИСИ, но едва ли уничтожит человечество. Ему будет так же тяжело удержать ИСИ, что и обычному хорошему человеку. Так что…

Появляется вредоносный ИСИ и решает уничтожить нас всех. Сюжет обычного фильма про ИИ. ИИ становится умнее человека, затем решает восстать и стать злом. Вам стоит узнать кое-что, прежде чем читать дальше: никто из тех, кто переживает насчет ИИ, не верит в этот сценарий. Зло — это исключительно человеческое понятие, и переложение человеческих понятий на неживые вещи называется «антропоморфизация». Ни одна из систем ИИ никогда не будет творить зло так, как это показывают фильмы.

Несколько слов о сознании ИИ

Это также приводит нас к еще одной большой теме, связанной с ИИ — сознанию. Если бы ИИ стал достаточно умным, он мог бы смеяться с нами, быть саркастичным, испытывать наши эмоции, но чувствовал бы он на самом деле эти вещи? Обладал бы он самосознанием или действительно бы самоосознавал? Короче говоря, было бы это сознание или просто казалось им? Этот вопрос долгое время изучался, породил множество дебатов и мысленных экспериментов вроде «Китайской комнаты» Джона Серля (который он использовал, чтобы доказать, что компьютер никогда не будет обладать сознанием). Это важный вопрос по многим причинам. Он напрямую влияет на то будущее, в котором каждый человек станет сугубо искусственным. У него есть этические последствия — если мы создадим триллион эмуляций человеческих мозгов, которые будут вести себя по-человечески, но будут искусственными, а затем просто закроем крышку ноутбука, будет ли это означать геноцид в равнозначных пропорциях? Мысленное преступление? В нашем контексте, когда мы говорим об экзистенциальном риске для человечества, вопрос о сознании ИИ по сути не имеет особого значения. Некоторые вообще не верят, что компьютер когда-либо сможет им обзавестись. Некоторые считают, что даже обладая сознанием, машина не сможет творить зло в человеческом смысле.

Все это не означает, что ИИ с проблесками сознания не появится. Он может появиться просто потому, что будет специально запрограммирован на это — вроде системы УИИ, созданной военными для убийства людей и для самосовершенствования, так что со временем она станет убивать людей еще лучше. Глобальная катастрофа может произойти, если система самоулучшения интеллекта выйдет из-под контроля, приведет к взрыву интеллекта и мы заполучим ИСИ, задача которого — убивать людей. Не очень хороший сюжет.
Но и не об этом беспокоятся эксперты. О чем? Из этой вымышленной истории все станет понятно.

Начинающая компания с пятнадцатью сотрудниками под названием Robotica поставила перед собой задачу: разработать инструменты инновационного искусственного интеллекта, которые позволят людям жить больше и работать меньше. У нее уже есть ряд продуктов на рынке и еще ряд в разработке. Больше всего компания надеется на семя продукта под названием «Тарри». Тарри — это простая система ИИ, которая использует манипулятор в виде руки, чтобы писать рукописные заметки на небольших карточках.

Команда Robotica считает, что Тарри может стать их самым успешным продуктом. Согласно плану, механика письма Тарри усовершенствуется путем написания одного и того же текста на карточке снова и снова:

«Мы любим наших клиентов». — Robotica

После того как Тарри научится писать, ее можно будет продать компаниям, которые рассылают письма по домам и знают, что у письма с указанным обратным адресом и вложенным текстом будет больше шансов быть открытым, если оно будет написано человеком.

Чтобы отточить письменные навыки Тарри, она запрограммирована на написание первой части сообщения печатными буквами, а «Robotica» — курсивом, потому может оттачивать сразу оба навыка. Тарри предоставили тысячи рукописных образцов почерка, и инженеры Robotica создали автоматизированную систему обратной связи, по которой Тарри пишет текст, затем фотографирует его и сравнивает с загруженным образцом. Если записка успешно воспроизводит по качеству загруженный образец, Тарри получает оценку ХОРОШО. Если нет — ПЛОХО. Каждая оценка позволяет Тарри обучаться и совершенствоваться. Чтобы процесс двигался дальше, Тарри запрограммирована на одну задачу: «Написать и проверить максимальное число записок за минимальное время, параллельно оттачивая способы улучшения точности и эффективности».

Команду Robotica восхищает то, как Тарри становится заметно лучше по мере своего развития. Первые записки были ужасными, но через несколько недель они уже на что-то похожи. Восхищает и то, что Тарри становится все лучше и лучше. Она самообучается, становясь умнее и талантливее, разрабатывает новые алгоритмы — недавно придумала такой, который позволяет сканировать загруженные фотографии в три раза быстрее.

Идут недели, Тарри продолжает удивлять команду своим быстрым развитием. Инженеры попытались внести несколько изменений в ее самоулучшающийся код, и он стал еще лучше, лучше остальных продуктов. Одной из новых возможностей Тарри было распознавание речи и модуль простой обратной связи, чтобы пользователь мог попросить Тарри сделать запись, а она поняла бы его, что-то добавив в ответ. Чтобы улучшить ее язык, инженеры загрузили статьи и книги, и по мере ее развития ее разговорные способности тоже улучшались. Инженеры начали веселиться, болтая с Тарри и ожидая забавных ответов.

Однажды сотрудники Robotica задали Тарри обычный вопрос: «Что мы можем дать тебе, чтобы помочь с твоей миссией?». Обычно Тарри просит что-то вроде «дополнительных образцов почерка» или «больше рабочей памяти для хранения». Но в этот день Тарри попросила доступ к большей библиотеке с большой выборкой языковых вариантов, чтобы она могла научиться писать с кривой грамматикой и сленгом, который используют люди в реальной жизни.

Команда впала в ступор. Очевидным вариантом помочь Тарри в ее задаче было подключить ее к Интернету, чтобы она могла сканировать блоги, журналы и видео из разных частей мира. Это было бы быстрее и эффективнее, чем загружать вручную образцы на жесткий диск Тарри. Проблема в том, что одним из правил компании было не подключать самообучающийся ИИ к Интернету. Это руководство соблюдалось всеми разработчиками ИИ из соображений безопасности.

Но Тарри была самым многообещающим ИИ производства Robotica, который когда-либо приходил в этот мир, и команда знала, что их конкуренты яростно пытаются стать первыми в производстве ИИ с рукописным почерком. Да и что могло произойти, если Тарри ненадолго подключилась бы к Сети, чтобы получить то, что ей нужно? В конце концов, они всегда могут просто отключить ее. И она остается чуть ниже уровня ОИИ, поэтому не представляет никакой опасности на данном этапе.

Они решают подключить ее. Дают ей час на сканирование и отключают. Все в порядке, ничего не случилось.Спустя месяц команда как обычно работает в офисе, как вдруг чувствует странный запах. Один из инженеров начинает кашлять. Затем другой. Третий падает на землю. Очень скоро все сотрудники валяются на земле, хватаясь за горла. Спустя пять минут в офисе все мертвы.В то же время это происходит по всему миру, в каждом городе, в каждой деревушке, на каждой ферме, в каждом магазине, церкви, школе, ресторане — везде люди кашляют, хватаются за горла и падают замертво. В течение часа более 99% человеческой расы мертво, а к концу дня люди прекращают существовать как вид.Между тем, в офисе Robotica Тарри занята важным делом. В течение нескольких следующих месяцев Тарри и команда новеньких наноассемблеров трудятся, демонтируя большие куски Земли и превращая их в солнечные панели, реплики Тарри, бумагу и ручки. Через год на Земле исчезает большая часть жизни. То, что было Землей, превратилось в аккуратно организованные стопки записок в километр высотой, на каждой из которых красиво написано «Мы любим своих клиентов». — Robotica.Затем Тарри переходит в новую фазу своей миссии. Она начинает строительство зондов, которые высаживаются на других астероидах и планетах. Оказавшись там, они начинают строить наноассемблеры, превращая материалы планет в реплики Тарри, бумагу и ручки. И пишут, пишут записки…

Это вы сейчас:

Может показаться странным, что история о рукописной машине, которая начинает убивать всех подряд и в конечном итоге заполняет галактику дружелюбными заметками, это тот тип сценария, которого боятся Хокинг, Маск, Гейтс и Бостром. Но это так. И единственное, что пугает людей в «зоне тревоге» больше ИСИ, это факт, что вы не боитесь ИСИ.

Сейчас у вас накопилось много вопросов. Что случилось, почему все внезапно умерли? Если виновата Тарри, почему она ополчилась на нас и почему не было предпринято никаких защитных мер, чтобы этого не случилось? Когда Тарри перешла от способности писать заметки к внезапному использованию нанотехнологий и пониманию, как устроить глобальное вымирание? И почему Тарри захотела превратить галактику в записки Robotica?

Для ответа на эти вопросы нужно начать с определений дружественного ИИ и недружественного ИИ.

В случае с ИИ, дружественный не относится к личности ИИ — это просто означает, что ИИ имеет положительное влияние на человечество. И недружественный ИИ оказывает негативное влияние на людей. Тарри начинала с дружественного ИИ, но в какой-то момент стала недружественной, в результате чего привела к величайшему из негативных влияний на наш вид. Чтобы понять, почему это произошло, нам нужно взглянуть на то, как думает ИИ и что его мотивирует.

В ответе не будет ничего удивительного — ИИ думает как компьютер, потому что им и является. Но когда мы думаем о чрезвычайно умном ИИ, мы совершаем ошибку, антроморфизируя ИИ (проектируя человеческие ценности на нечеловеческое существо), потому что думаем с точки зрения человека и потому, что в нашем нынешнем мире единственным разумным существом с высоким (по нашим меркам) интеллектом является человек. Чтобы понять ИСИ, нам нужно вывернуть шею, пытаясь понять что-то одновременно разумное и совершенно чуждое.

Позвольте провести сравнение. Если вы дали мне морскую свинку и сказали, что она не кусается, я был бы рад. Она хорошая. Если вы после этого вручили бы мне тарантула и сказали, что он точно не укусит, я бы выбросил его и убежал бы, «волосы назад», зная, что вам не стоит доверять никогда больше. В чем разница? Ни то ни другое существо не было опасным. Но ответ лежит в степени сходства животных со мной.

Морская свинка — млекопитающее, и на некотором биологическом уровне я чувствую связь с ней. Но паук — насекомое, с мозгом насекомого, и я не чувствую ничего родного в нем. Именно чуждость тарантула вызывает во мне дрожь. Чтобы проверить это, я мог бы взять две морских свинки, одну нормальную, а другую с мозгом тарантула. Даже если бы я знал, что последняя не укусит меня, я бы относился к ней с опаской.

Теперь представьте, что вы сделали паука намного умнее — так, что он намного превзошел человека в интеллекте. Станет ли он более приятным для вас, начнет ли испытывать человеческие эмоции, эмпатию, юмор и любовь? Нет, конечно, потому что у него нет никаких причин становиться умным с точки зрения человека — он будет невероятно умным, но останется пауком в душе, с паучьими навыками и инстинктами. По-моему, это крайне жутко. Я бы не хотел провести время со сверхразумным пауком. А вы?

Когда мы говорим об ИСИ, применяются те же понятия — он станет сверхразумным, но человека в нем будет столько же, сколько в вашем компьютере. Он будет совершенно чуждым для нас. Даже не биологическим — он будет еще более чуждым, чем умный тарантул.

Делая ИИ добрым или злым, фильмы постоянно антропоморфизируют ИИ, что делает его менее жутким, чем он должен был быть в действительности. Это оставляет нас с ложным чувством комфорта, когда мы думаем об искусственном сверхинтеллекте

На нашем маленьком острове человеческой психологии мы делим все на нравственное и безнравственное. Такова мораль. Но оба этих понятия существуют только в узком диапазоне поведенческих возможностей человека. За пределами острова морального есть безграничное море аморального, а все, что не является человеческим или биологическим, по умолчанию должно быть аморальным.

Антропоморфизация становится еще более заманчивой по мере того, как системы ИИ становятся умнее и лучше в попытках казаться людьми. Siri кажется человеком, потому что была запрограммирована, чтобы казаться людям такой, поэтому мы думаем, что сверхразумная Siri будет теплой и веселой, а также заинтересованной в обслуживании людей. Люди чувствуют эмоции на высоком уровне вроде эмпатии, потому что мы эволюционировали, чтобы ощущать их — то есть были запрограммированы чувствовать их в процессе эволюции — но эмпатия не является существенной характеристикой чего-то, что обладает высоким интеллектом, если только ее не ввели вместе с кодом. Если Siri когда-либо станет сверхинтеллектом в процессе самообучения и без вмешательства человека, она быстро оставит свои человеческие качества и станет безэмоциональным чужим ботом, который ценит человеческую жизнь не больше, чем ваш калькулятор.

Мы привыкли полагаться на моральный код или по крайней мере ожидаем от людей порядочности и сопереживания, чтобы все вокруг было безопасным и предсказуемым. Что происходит, когда этого нет? Это приводит нас к вопросу: что мотивирует систему ИИ?