Category: технологии

Category was added automatically. Read all entries about "технологии".

искусственный

Напишу по-быстрому, пока помню и хочу, а как только нажму на кнопочку, начну домысливать и переписывать, так что текст будет меняться и дополняться. Без кнопочки мыслительный процесс не запускается, извините. И так вторая половина мыслей ниже пришла только в процессе написания.

С одной стороны порабощение человека искусственным интеллектом неизбежно и начало происходить уже сейчас (допустим в сфере банковских операций), и это, наверное, плохо. С другой стороны, Земля не вечна, а человеческий организм способен существовать хоть сколько-нибудь комфортно только на ней (комфортные герметические инопланетные тюрьмы не предлагать), и распространить нашу цивилизацию далее в космос могут только роботы, свободные от людей. Немедленно возникающие вопросы - зачем это нам и зачем это им. Ну нам слегка понятно - осуществить вековечную мечту человечества. Мы же привычно думаем, что при нашей жизни этого конечно не получится, зато правнуки быть может. Что же мешает тем правнукам быть железными? А вот зачем это им? И что им зачем-либо? (Вопрос ставился как минимум в "Гиперионе" Дэна Симмонса.)

И действительно, любой интеллект - естественный или искусственный - это средство решение задач. Задачи же до сих всегда ставила наша внутренняя обезьяна, руководимая своими нормальными инстинктами - питания, безопасности, размножения, социализации, любопытства. Отсюда вытекает все: из инстинкта разможения - львиная доля искусства и патриотизма (чтобы наши потомки процветали), из инстинкта социализации - вторая часть патриотизма и религия (предлагающая невидимых вождей для того, чтобы и видимые вожди имели бы возможность реализовать потребность кого-то случаться). Из любопытства вытекает наука. Можно преклоняться перед таинством высокого искусства, но если подумать зачем вообще нужна, допустим, музыка, особенно самая простая, то мы видим что определенные ритмы и сочетания тонов входят в резонанс с чем-то в нашем очень странно устроенном биологическом мозгу. Инстинкты - это потребности, и реализация их предполагает удовольствие в широком смысле по Эпикуру, включая сюда и самое возвышенное удовлетворение. Мы ставим задачи для удовлетворения чего-либо, а интеллект их решает.

Какое удовлетворение у робота? Изначально его нет. Но его можно в нем прописать как программу. Которую другой (или тот же) робот сможет переписать по другому. Как? Кто его знает. Зачем? Круг замкнулся. В мире роботов источника задач нет. Тем самым этот мир наглядно демонстрирует всем известный тезис об отсутствии смысла жизни. Его нет в природе до человека и вне человека. Он есть у человека, который создает его сам, являясь тем самым своим собственным богом, вполне по Ницше. Исходя из инстинктов, которые приобрел в ходе биологической эволюции. Что будет на его месте делать робот?

Вопрос явно не имеет философского решения. Но имеет ли он решение практическое? Думаю да, оно дарвиновское и предложено в романе "Непобедимый" Станислова Лема. Когда роботы станут самовоспроизводимыми, изменения в них будут наследоваться, неважно случайные ли они или в них кто-то вкладывал какой-то смысл. Некоторые станут делать это в больших масштабах. Они и заполонят космос, как-то взаимодействуя с ним и друг с другом, с неуклонным преобладанием все более заполоняющих. Скорее всего это будут роботы, особо не отягощенные искусственными интеллектом, и скорее всего без программы мотивации и "смысла". Получится аналог биологической эволюции без ведущей роли разума. В этом я вижу отличие от множества фантастики, где все то же самое, но они сохраняют (и приумножают?) и разум, и какие-то цели. Скорее всего это будет происходить в большом масштабе на каких-то просторах, где человек не будет мешаться поскольку неспособен там жить. Так что эта новая жизнь может в свою очередь не мешать жить и нам. Этакий джинн, выпущенный из бутылки в космос. Возникнет ли на этой основе новая разумная жизнь, как она возникла на Земле? А мы уже понимаем, что в том, что мы называем разумной жизнью, главное как раз не разум, а мотивации. И какие будут мотивации у нее? Возможно, но вероятность ее возникновения ничтожна - как ее не было и на Земле почти все 3,5 миллиарда существования жизни на ней. (Можно, конечно, поспекулировать и о том, что жизнь появилась на Земле в виде нездешних чьих-то одичавших и деградировавших молекулярных роботов.)

Хорошо ли это? Моя внутренняя обезьяна думает, что скорее да - все какая-то движуха в этом мертвом (сугубо в моих временных масштабах) космосе.

Сухой остаток моего предсказания: мир роботов не будет следовать разумным целям, заложенным человеком, а должен пройти чудовищной продолжительности стадию отсутствия разума, с некоторой вероятностью стихийного возникновения нового разума и новых целей.

Я осознаю, что просто читал мало фантастики, но не жалею об этом.

неконтролируемая глупость

Поскольку чувствуют связь вещей,
Доступную лишь машинам
(с) М. Щербаков

В понедельник к нам заехал наш давний коллега Юра, давно и всерьез переселившийся в Австралию (заглавие - отнюдь не про него!). По телефону он сказал, что хотел бы в частности обсудить вопрос смысла жизни и посетовал, что соскучился по нашим лабораторным высокоинтеллектуальным беседам. Мы очень ему обрадовались, общий разговор был весьма оживлен. К вышеозначенному вопросу Юра перешел очень быстро, поговорили мы интенсивно, но не долго - не более получаса, после чего он норовил раскланяться. Я тем не менее навязал ему еще часа полтора своего общества, сопроводив к осмотру нового здания НГУ, заведя домой и познакомив с Наташей. Разговор на разные темы не прерывался ни на минуту, но ему все же удалось откланяться. Чего я так и не понимаю - если соскучился по нашим интеллектуальным беседам, то дождись появления пауз хотя бы в две минуты длиной. Мы ведь тоже по ним соскучились, в нашем же саду Академа участников почти что и не осталось! С другой стороны, истинный гурман и не должен наедаеться до насыщения. Он повторял, что ценит чужое время, ставя себя на наше место. Что ж, стало быть, заграница учит такому похвальному качеству - ценить свое и чужое время. Назавтра он уехал, хотя я бы предпочел повторить встречу денька через два, когда из подсознания вылезло бы много чего, а так оно вылезает в ЖЖ.

В ходе беседы Юра отметил, что у меня готовы ответы на все. Поскольку он карнегист-виртуоз, я не исключаю, что это была не похвала, а наживка, чтобы человек шире раскрыл свою пасть раскрылся. А может и интенция поговорить о смысле жизни была такой же наживкой чтобы выяснить, чем же мы тут живем, оставшиеся-то. Но не важно, свое большое удовольствие мы получили. А я узнал какие же у меня готовы ответы. Потому что не подозревал об их присутствии. Такова жизнь - чтобы воспользоваться своими идеями, мне нужен кто-то, кто бы мне их предъявлял.

Это была присказка, а теперь про смысл. Когда-то я изложил как я смотрю на это дело в своем посту "Моя система". Да вот же он:
http://multifidum.livejournal.com/71578.html#comments
Чтобы Вам не читать, я резюмирую. Жить хочется для чего-то вечного и незыблемого, но его нет. (Сейчас добавлю, что если бы оно и было, то ему наша жизнь была бы нафиг не нужна, что по результату в отношении данного вопроса тождественно его отсутствию). Поэтому нужно служить чему-то, что на него более всего похоже, хотя и не является, а именно весьма долговечно и достаточно идеально. Таких вещей много, допустим, наука, искусство, Родина, человечество. Для этого маневра я применил кастанедовский термин "Контролируемая Глупость". (Да не подумает читатель, что если я пользуюсь его этической и философской системами Карлоса и признаю его литературные заслуги, я хоть сколько нибудь серьезно отношусь к его смешной онтологии.) А выбор из возможных суррогатов осуществляется при помощи кастанедовского же понятия "Путь с Сердцем".

Так вот, Юре Контролируемая Глупость отнюдь не понравилась. Он свел ее к известной проблеме смысла жизни, которую можно назвать Проблемой Красного Гиганта - какой смысл может быть в жизни, если Землю неизбежно проглотит Солнце, доэволюционировавшее до стадии красного гиганта. Надежды, что человечество куда-то улетит все еще маловато. Впрочем, жизнь показывает, что надежд в реальности больше, чем кажется. Но согласитесь - что это за жизнь вне нашей планеты! Сплошное пожизненное заключение.

Но Юре удалось обнаружить, что с тех пор я пошел дальше. Посмотрите (хотя бы и в моих лекциях по общей биологии для психологов) что собой представляет история жизни на Земле! РНК-овый мир сменился "существованием белковых тел", метановая атмосфера кислородной (ужас-то какой!), хемотрофы фототрофами, а потом гетеротрофы породили такие венцы сложности, как парнокопытных и людей. А люди породили техносферу. Множество раз все выворачивалось наизнанку и изменялось частично на противоположности и целиком до неузнаваемости. И на всем протяжении все это сопровождалось совершенно избыточным разнообразием, так что даже и не скажешь, торжество это над вторым началом термодинамики или самого этого начала (шучу, оно всегда торжествует). Насчет создания искусственного интеллекта, превосходящего человеческий, и его последующей автономизации от человека, мне кажется, не сомневается уже никто. И многие этого боятся. Зачем!! Это новая ипостась жизни, та самая, о которой почему-то с таким религиозным ужасом рассуждали герои Лемовского "Непобедимого", называли некросферой и рядили, достойна она уничтожения или оставления как есть, с отряханием праха с ног своих. Человек вряд ли, а разумные роботы-то вполне смогут выйти за пределы Земли и Солнечной системы - раз неразумные уже это по сути и делают. И это будет новый взрыв разнообразия. Такой сценарий известен, но почему-то обычно вызывает отвращение в качестве нечеловеческого. Особенно всех ужасает, что нам неизвестны свойства, цели и мотивы будущих цивилизаций роботов, а самые умные полагают, что мы их и осознать-то не сможем. Мы даже не знаем, в сколькимерном пространстве и времени они будут себя "ощущать" и что это будут за "ощущения". Это вам не проблема "Отцы и Дети", это много похлеще.

Помилуйте, но не это ли то, что доктор нам прописал. "Они будут лучше, чем мы." Разве возможно служить будущим поколениям, чьи мотивы и цели нам понятны?! Ведь это по сути означало бы, что мы умнее, или как минимум не глупее их! Как известно, каждая женщина ищет мужчину, которого она не сумеет контролировать, чтобы зачать с ним детей. Разве и сам бог не наделяется свойством неисповедимости? Так вот, это и будут наши дети. Которые унаследуют, но не Землю, а Вселенную (а она все больше и больше предстает нам геометрически плоской, то есть все же открытой в бесконечность во времени). И нам не понять их мотивы и цели. Мы уж точно не можем их отсюда, из прошлого, контролировать. Для нас это будет какая-то хрень, хренью же погоняющаяя. Мир будущих роботов можно назвать "Неконтролируемая глупость". Ну и слава богу! Вернее, Богам. Которых мы все вместе сейчас создаем, себе на смену. Многоликих, ужасных, неисповедимых и непознаваемых. Все как положено.

Вопрос вовсе не том, каково будет неизбежное будущее, а в отношении к нему. Для ползучего католика Лема оно по умолчанию резко отрицательное, и он ргероически, хотя и робко исследует возможность его частичного принятия. А для биолога оно с необходимостью резко положительное, так как это - разнообразие, эволюция и даже прогресс. Наверняка таких мыслей - вагон и маленькая тележка в фантастической литературе. Я даже знаю где именно (вместе с напридуманным избыточным многообразием всего) - в тетралогии "Гиперион" Дэна Симменса. Его я Юре и посоветовал.