Странные Петли в правительстве
Даглас Хофштадтер «Гедель, Эшер, Бах: эта бесконечная гирлянда»
ГЛАВА XX: Странные Петли или Запутанные Иерархии (фрагменты)
Могут ли машины быть оригинальными?
…я описал удачную шашечную программу Артура Самуэля, которая была способна обыграть своего создателя. Интересно послушать, что говорит по поводу компьютеров и оригинальности сам автор этой программы. Следующие отрывки взяты из опровержения на статью Норберта Винера, написанного Самуэлем в 1960 году.
«Я убежден в том, что машины не могут быть оригинальными в том смысле, какой вложил в это понятие Винер, когда он написал: «Машины могут превосходить некоторые ограничения их создателей и уже это делают. Благодаря этому, они могут быть одновременно эффективными и опасными» … Машина — это не вызванный из бутылки джинн; она не работает с помощью магии. У нее нет собственной воли, и, вопреки тому, что говорит Винер, из нее не выходит ничего, что не было бы в нее заложено (исключая, разумеется, редкие случаи поломок). «Намерения», которые выказывает машина, на самом деле являются намерениями человека-программиста, оговоренными заранее, или же вторичными намерениями, выведенными из первых согласно правилам, установленным тем же программистом. Мы можем даже, подобно Винеру, предвидеть некий высший уровень абстракции, на котором программа не только будет модифицировать вторичные намерения, но и правила, используемые для их деривации — или же будет варьировать способы самой этой модификации… и так далее. Можно даже вообразить, что машина сумеет построить другую машину с улучшенными возможностями. Однако — и это важно помнить — машина не может и не будет проделывать ничего подобного, пока в нее не введут соответствующие инструкции. Существует и логически должен всегда существовать пробел между (i) любым конечным продуктом разработки человеческих желаний и (ii) развитием в машине ее собственной воли. Думать иначе — значит либо верить в магию или считать, что человеческая свободная воля — это иллюзия и что человеческие действия так же механистичны, как и действия машины. Может быть, и статья Винера и мое опровержение были механистически предопределены — но я отказываюсь в это верить».
|
|
|
…Самуэль основывает свой аргумент против машинного сознания (или воли) на понятии, что любое механическое проявление воли с необходимостью потребует бесконечного регресса. …даже простейшее рассуждение не может быть проведено без обращения к неким правилам высшего уровня, разрешающим данное рассуждение. Но поскольку это, в свою очередь, тоже шаг рассуждения, то приходится обращаться к правилам еще более высокого уровня — и так далее. Заключение: рассуждения приводят к бесконечному регрессу.
|
|
|
Разумеется, в доводах Самуэля есть ошибка…Чтобы показать, в чем эта ошибка, я сыграю роль «адвоката дьявола», пытаясь доказать точку зрения, противоположную моей собственной. Вот мои «дьявольские» заключения.
Заключение о том, что рассуждения невозможны, неприложимо к людям, поскольку всем известно, что людям все-таки удается проводить множество рассуждений, несмотря на все высшие уровни. Это показывает, что люди функционируют, не нуждаясь в правилах: Люди — это пример «неформальной системы». С другой стороны, этот аргумент действителен, когда мы применяем его против механических рассуждающих систем, поскольку они всегда подчиняются правилам. Такие системы не смогут начать работать, пока у них не будет мета-правил, указывающих им, когда применять правила, мета-мета-правил, говорящих, когда применять мета-правила, и так далее. Таким образом, мы можем заключить, что умение рассуждать не может быть воплощено в машине, — это исключительно человеческая черта.
Где в этих доводах ошибка? В предположении, что машина не способна начать действовать без правила, говорящего ей, как это сделать. В действительности, машины обходят глупые эти возражения так же легко, как и люди, и по той же самой причине: как люди, так и машины сделаны из аппаратуры, которая действует сама по себе, согласно законам физики. Вовсе не надо опираться на «правила, говорящие, как использовать правила», поскольку правила низшего уровня — не имеющие никаких «мета» перед ними — встроены в саму аппаратуру и действуют самостоятельно.
|
|
|
Теперь перейдем к доводам Самуэля. В карикатурном изображении, его точка зрения сводится к следующему:
Нельзя сказать, что компьютер «хочет» что-либо сделать, поскольку он был запрограммирован кем-то другим. Только в том случае, если бы он мог запрограммировать сам себя, начиная с нуля, мы могли бы сказать, что компьютер обладает собственной волей.
В своих доводах Самуэль...хочет сказать, что за любым механизмом желания должен стоять либо бесконечный регресс, либо, что еще хуже, закрытая петля. Если у компьютеров нет собственной воли именно по этой причине, то что можно сказать о людях? Тот же самый критерий позволяет заключить, что:
человек обладает собственной волей только тогда, когда он сделал себя сам и выбрал собственные желания (а также выбрал выбор собственных желаний и так далее).
|
|
|
Это заставляет нас хорошенько подумать над тем. откуда появляются наши желания. Если вы не верите в наличие души, то. возможно, скажете, что они зарождаются в вашем мозгу — аппаратуре, которую вы не создавали и не выбирали. Тем не менее, от этого ваше чувство, что вы желаете чего-то определенного, не становится слабее. Вы — вовсе не «само-программирующий объект» (что бы это ни значило); тем не менее у вас все же есть собственная воля, зарождающаяся на физическом уровне вашего интеллекта. Таким же образом, у машин когда-нибудь будет собственная воля, несмотря на тот факт, что никакая магическая «само-программирующая» программа не появляется в их памяти из ничего, словно по мановению волшебной палочки. У них будет воля по той же причине, что и у людей — как следствие организации и структуры многих уровней аппаратуры и программного обеспечения. Вывод: доводы Самуэля ничего не говорят нам о разнице между людьми и машинами. (На самом деле, волю возможно механизировать.)
Точка зрения Самуэля затронула некую тему, которую я хочу обсудить подробнее. Вот она: думая, мы, безусловно, меняем наши мысленные правила, а также правила, меняющие правила, и так далее — но это, образно говоря, правила «программ». При этом фундаментальные правила, правила «аппаратуры», остаются неизменными. Нейроны всегда действуют одинаково. Мы не можем уговорить нейроны повести себя «ненейронным» образом; все, что нам удается сделать, это поменять тему или стиль наших мыслей…мы имеем доступ только к нашим мыслям, а не к нейронам. Правила программ могут варьироваться на разных уровнях — правила аппаратуры всегда остаются одними и теми же. Именно этим фактом и объясняется гибкость программ! Это вовсе не парадокс, а фундаментальный, простой факт, касающийся механизмов разума.
В этой главе я хочу поделиться с читателем теми образами, которые помогают мне понять, каким образом сознание вырастает из джунглей нейронов. Надеюсь, что эти интуитивные образы окажутся полезными и немного помогут читателям в определении их собственных представлений о том, что заставляет функционировать разум. Может быть, возникающие в моем мозгу туманные образы мозга и образов послужат катализатором для образования более четких образов мозга и образов в мозгу моих читателей.
Модифицирующаяся игра
Итак, первая вариация: игры, в которых очередной игрок может изменять правила. Представьте себе шахматы. Ясно, что правила здесь остаются неизменными, а меняется только позиция на доске после каждого хода. Но давайте теперь рассмотрим такой вариант шахмат, в котором очередной игрок имеет право либо сделать ход, либо поменять правила. Каким образом? Произвольно? Можно ли превратить шахматы, скажем, в шашки? Понятно, что подобная анархия была бы бессмысленна — должны существовать некоторые ограничения…
У нас будет два уровня правил, одни говорят нам, как ходят фигуры, и другие — как изменяются правила. Таким образом, у нас есть правила и мета-правила. Следующий шаг очевиден: введение мета-мета-правил, говорящих нам, как менять мета-правила. Однако вовсе не очевидно, как именно это сделать. Правила, меняющие ходы фигур, придумать легко, поскольку фигуры двигаются в формализованном пространстве шахматной доски. Если бы нам удалось придумать простую формальную запись для правил и мета-правил, тогда обращаться с ними стало бы так же легко, как с цепочками формул или даже с шахматными фигурами. Доводя эту идею до логической крайности, мы могли бы представить, что правила и мета-правила могут быть изображены в виде позиций на вспомогательной шахматной доске. Тогда каждая позиция сможет, в зависимости от вашей интерпретации, быть понята как момент игры, набор правил или набор мета-правил. Разумеется, оба игрока должны будут заранее договориться о том, как интерпретировать нотацию.
В этой игре у нас может быть любое количество дополнительных досок: доска для игры, для правил, для мета-правил, для мета-мета-правил и так далее, пока нам не надоест. Очередной игрок может ходить на любой из этих досок, кроме доски самого высшего уровня. Правила при этом определены доской «ступенькой выше». Несомненно, оба игрока вскоре запутаются из-за того, что почти все — но не всё! — может меняться. По определению, доска высшего уровня должна оставаться неприкасаемой, поскольку у вас нет правил, говорящих вам, как ее менять. Это — неизменный уровень.
Возможно пойти гораздо дальше, если убрать опорные ориентиры. Начнем действовать постепенно… Сначала сведем весь набор досок к одной-единственной доске. Что это означает? Что эту доску можно будет интерпретировать двояко как (1) фигуры, которые надо двигать и (2) правила ходов. Игроки, двигающие фигуры, тем самым меняют правила! Таким образом, правила постоянно меняют сами себя. Различие между игрой, правилами, мета-правилами и мета-мета-правилами оказывается стерто. То, что когда-то было четкой иерархической системой, превратилось в Странную Петлю или Запутанную Иерархию. Ходы меняют правила, правила определяют ходы — и так далее, по кругу. Здесь все еще есть различные уровни, но разница между «высшими» и «низшими» уровнями уже исчезла.
Странные Петли в правительстве
Интереснейшее поле, где перекрещиваются различные иерархии — это правительство и, в особенности, суд. Обычно судящиеся стороны представляют свои аргументы, и судья решает, кто прав. Судья находится на более высоком уровне, чем судящиеся. Но когда в тяжбе оказываются замешаны сами суды, могут происходить странные вещи. Как правило, существует некий высший суд, находящийся вне данного дела. Скажем, если два районных суда начнут борьбу друг с другом, требуя справедливости, всегда найдется какая-нибудь высшая инстанция (в этом случае, областной суд), аналогичный неприкасаемому уровню интерпретации соглашений, который мы обсуждали в нашей вариации шахмат.
Но что произойдет, если замешанным в неприятности с законом окажется сам Верховный суд? Это создало бы беспрецедентный тип судебной тяжбы, нарушающий всю систему, поскольку это было бы так неожиданно — так Запутанно — так Странно!
Ирония здесь в том, что, когда ваша голова упирается в потолок и вы уже не можете выпрыгнуть из системы, обратившись к высшей инстанции, ваша единственная надежда заключается в силах, которые, не будучи так четко определены правилами, сами являются единственным источником правил высшего уровня. Я имею в виду правила низшего уровня — в данном случае, общественное мнение. Необходимо помнить, что в американском обществе юридическая система в некотором смысле представляет из себя вежливый жест, одобренный миллионами людей, и что ее можно иногда обойти с такой же легкостью, с какой река выходит из берегов. Результат на первый взгляд кажется анархией — но у анархии не меньше правил, чем у любого цивилизованного общества. Разница только в том, что они действуют снизу верх, а не сверху вниз.
Дата добавления: 2021-05-18; просмотров: 62; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!