?

Log in

No account? Create an account
 
 
08 June 2013 @ 12:43 pm
Формализм, интерпретации, ИИ и когнитивный кошмар.  
Возьмем синтаксически правильное предложение, например: «По улице идет человек». Имеет ли оно истинностное значение? Априори это неизвестно и неустановимо исходя из самого предложения. Требуется интерпретация этого предложения для установления истинностных значений относительно всех составляющих его элементов (что такое улица, какая улица, что значит «идти», что такое человек и так далее). Но и после этого значение истинности не будет установлено строго, потому что исходно и далее используется метаязык, а не формальный язык. Можно сказать, что интерпретация считается приемлимой в том случае, когда используемый ею язык по соглашению считается (псевдо)формальным.
Если бы не последнее обстоятельство, то невозможной бы оказалась сама коммуникация среди людей. Несогласие в степени приемлимости текущего формализма интерпретаций являются причиной всех искренних споров среди людей.

Однако, как это водится в теме неполноты формальных систем, очевидная ясность логики оборачивается когнитивным кошмаром реальности.

Для начала задумаемся: нуждаются ли в интрерпретациях формальные системы? За исключением присущей им неполноты, формальные системы порождают утверждения, истинностное значение которых устанавливается однозначно (в случае вычислимости). Зачем их интерпретировать? Видимо, именно этими соображениями пользовался автор известной интерпретации КМ «Заткнись и считай!». Однако, иные интерпретации КМ существуют и явно конкурируют между собой.

Из этого можно сделать вывод: формальные системы нуждаются в интерпретациях как механизме поиска способов расширения мощности формальной системы, поскольку сделать это средствами самой формальной системы, «изнутри», невозможно.

(Не будем забывать, что не все формальные системы являются неполными, если они непротиворечивы: это несправедливо по отношению к математике, где много полных непротиворечивых систем аксиом. Проблема однако в том, что сама математика покоится на не всегда явной аксиоматике, которая неизбежна при том, что она существует в реальности. Например, аксиоматический статус натуральных чисел никак не уточняется. Именно в связи с этим обстоятельством я не акцентируюсь на классе полных непротиворечивых формальных систем).

Алгоритмические ограничения.

Уже на протяжении довольно большого времени не затихает спор о «вычислимости сознания». Одна из точек зрения заключается в том, что сознание (мышление) неформально, а потому всегда превосходит любую формальную систему. Это хорошо видно на примере устройства, решающего некий класс задач. Зная его механизм, можно дать неразрешимую для него задачу, хотя нам ее решение будет известно. При всей примитивности этой точки зрения, она в пределе сводится к той идее, что механизм мышления имеет основания, выходящие за пределы доступной ему формализации. Это порождат представление о неограниченных эвристических (алгоритмических) возможностях человека. Возражением этой точке зрения является идея об алгоритмическом самосовершенствовании машины, что вроде бы устанавливает паритет способностей.
Вот тут-то и начинается когнитивный кошмар.

Любая машина, созданная нами, является формализацией некоторой нашей интерпретации. Из этого следует, что самая совершенная из машин может самосовершенствоваться только в рамках исходного формализма своих функций. Для того, чтобы достичь эвристического паритета с человеком, она не должна быть создана человеком — как минимум. Это частично отвечает на вопрос о возможности создания искусственного интеллекта. Получается, что нельзя целевым образом создать ИИ, можно создать саморазвивающуюся заготовку с принципиально невычислимым функциональным исходом — только тогда может ставиться вопрос о паритете (если болванка окажется как минимум так же хороша, как человеческий эмбрион — привет от профессора Преображенского!).

Итак, настоящий ИИ должен быть в состоянии интерпретировать свой собственный формализм. Что это значит? Это практически ничего не значит, до тех пор, пока мы не укажем, до какой степени. Возможность к однократному или двухкратному расширению мощности своей формальной системы у автомата может быть просто заложена. Это возвращает нас к вопросу: а как обстоит дело в случае с человеческим мышлением? С одной стороны, мы — автоматы. С другой — это странное предположение о невычислимости сознания.

Я отвечаю на этот вопрос следующим образом.
Любой субъект в любой данный момент времени имеет очевидные ограничения в отношении любой частной формальной задачи, что фактически уравнивает его с гипотетическим искусственным автоматом. Однако, по мере развития мышления, возможности к формализации в отношении конкретных задач у нас могут улучшаться. Для меня это означает, что в основе работы мозга лежит глубоко скрытый формализм, формализм работы нейронных сетей, на основе которого эмерджентным образом возникает псевдоформализм отчетного (феноменального в расссматриваемом смысле) функционирования мышления.
Уточнение интерпретаций развивающегося мозга приближает его алгоритмы к собственному базовому языку, сохраняя иллюзию собственной невычислимости, или в математических терминах — полноты.

Для того, чтобы электронная машина могла бросить человеку вызов в эвристическом паритете, она должна начинать развиваться не с базовых программ, заложенных в нее человеком, а со спонтанных функциональных решений, возникающих на ее электронном субстрате при помещении ее в активную среду. Тогда, развившись до создания виртуальной модели среды и себя (т.е., проинтерпретировав все случившиеся с ней формальные функциональные решения), она проделает обратный путь, от мощного метаязыка модели до конкретного формального языка электронных элементов, после чего эволюция ее эвристических способностей закончится.

Мы сейчас находимся на марше точно такой же, но не воображаемой, а реальной, нисходящей формализации наших метаязыков. К этому нас понуждает положительная обратная связь от наших же усилий по формализации собственной модели мира. Наши компьютеры, наша наука — это и результат нашего движения к собственному базовому формальному языку, и инструмент. Это классическая положительная обратная связь; кто в теме, тот знает, чем это заканчивается: Flip-Flop.

Так что поторопимся интерпретировать формализм, пока он не убил саму возможность к интерпретации :)

 PS Изложенные здесь мысли имеют отношение к попыткам формализовать идею Психогенной сингулярности.
 
 
 
kaktus77: ночьkaktus77 on June 8th, 2013 05:27 pm (UTC)
== это несправедливо по отношению к математике, где много полных непротиворечивых систем аксиом. Проблема однако в том, что сама математика покоится на не всегда явной аксиоматике,

Нет такой проблемы. Просто детей пугают Геделем, а он-то и ни причем :)
hitthelimithitthelimit on June 8th, 2013 05:43 pm (UTC)
Есть проблема или нет зависит от интерпретации. Гедель здесь действительно ни при чем.
kaktus77: ночьkaktus77 on June 8th, 2013 05:52 pm (UTC)
Я не про интерпретацию. Ничто не мешает строгой формальной системе с явной (и сложной) аксиоматикой быть одновременно полной и непротиворечивой.
(no subject) - hitthelimit on June 8th, 2013 06:13 pm (UTC) (Expand)
(no subject) - kaktus77 on June 8th, 2013 06:19 pm (UTC) (Expand)
(no subject) - hitthelimit on June 8th, 2013 06:43 pm (UTC) (Expand)
(no subject) - kaktus77 on June 8th, 2013 06:51 pm (UTC) (Expand)
(no subject) - hitthelimit on June 8th, 2013 07:02 pm (UTC) (Expand)
(no subject) - kaktus77 on June 8th, 2013 07:11 pm (UTC) (Expand)
(no subject) - hitthelimit on June 8th, 2013 07:23 pm (UTC) (Expand)
(no subject) - kaktus77 on June 8th, 2013 07:45 pm (UTC) (Expand)
(no subject) - hitthelimit on June 8th, 2013 07:52 pm (UTC) (Expand)
(no subject) - kaktus77 on June 8th, 2013 08:03 pm (UTC) (Expand)
(no subject) - hitthelimit on June 8th, 2013 08:15 pm (UTC) (Expand)
(no subject) - kaktus77 on June 8th, 2013 08:18 pm (UTC) (Expand)
(no subject) - hitthelimit on June 8th, 2013 08:22 pm (UTC) (Expand)
(no subject) - kaktus77 on June 8th, 2013 08:34 pm (UTC) (Expand)
(no subject) - hitthelimit on June 8th, 2013 08:46 pm (UTC) (Expand)
hitthelimithitthelimit on June 8th, 2013 05:50 pm (UTC)
Кстати, коль скоро вы помянули Геделя.
Эта теорема делает утверждение относительно формальных доказательств, и их же языком это сделать было бы невозможно. Поэтому теорема Геделя использует метаязык, как и большинство теорем в математике. А вот использование метаязыка открывает дорогу интерпретациям.
kaktus77: ночьkaktus77 on June 8th, 2013 05:55 pm (UTC)
== Эта теорема делает утверждение относительно формальных доказательств, и их же языком это сделать было бы невозможно.

Почему ж, вполне возможно, собственно на этом и строится доказательство. Метаязык нужен только для коммуникации, в док-ве он не участвует.
a_gorba_gorb on June 8th, 2013 07:07 pm (UTC)
” Это хорошо видно на примере устройства, решающего некий класс задач. Зная его механизм, можно дать неразрешимую для него задачу, хотя нам ее решение будет известно.”
Но это же все относится и к человеку. Я знаю массу людей, которые не смогут решить очень много задач, решение которых мне известно. И еще момент, у вас тут забавное противопоставление: устройство – мы («нам известно»). Кто эти самые мы?

”Это порождат представление о неограниченных эвристических (алгоритмических) возможностях человека.”
Тут сразу и возникает вопрос «что такое человек?»:)

”самая совершенная из машин может самосовершенствоваться только в рамках исходного формализма своих функций. Для того, чтобы достичь эвристического паритета с человеком, она не должна быть создана человеком — как минимум”
И опять вопрос, что значит «быть созданым человеком»? Одним индивидуумом?

К чему я все это, а к тому, что человек это часть человечества. А машина (устройство) оно само по себе. Вот в этом то и есть большая разница между ними.


Edited at 2013-06-08 07:09 pm (UTC)
hitthelimithitthelimit on June 8th, 2013 07:19 pm (UTC)
«Но это же все относится и к человеку.»

Разумеется, я это подчеркнул в тексте.

«Кто эти самые мы?»

Одна система против другой.

«Тут сразу и возникает вопрос «что такое человек?»:)»

Если бы это был единственный вопрос, который сразу возникает. Статика этого текста не вполне отражает динамику мысли, которая за ним стоит. Разумеется, это приглашение к интерпретациям.
Пока что это тот человек, относительно которого мы договоримся.

«что значит «быть созданым человеком»? Одним индивидуумом?»

Другой системой, относительно которой есть соглашение. В данном случае, группа индивидуумов. Однако, в зависимости от уровня рассмотрения вопроса, эту промежуточную цепь можно выбросить, сославшись просто на эволюцию конечной системы. Но на этот уровень надо еще выйти (достичь соглашения по части некоторых интерпретаций). Этот уровень нивелирует «большую разницу между ними».
a_gorba_gorb on June 9th, 2013 05:01 am (UTC)
”Разумеется, я это подчеркнул в тексте.”
Пардон, я это у вас не заметил по невнимательности.

”Одна система против другой.
Пока что это тот человек, относительно которого мы договоримся.
Другой системой, относительно которой есть соглашение. В данном случае, группа индивидуумов.”

Вот, вот. Человек или даже группа людей есть представители человечества, т.е. являются частью очень большой и сложной системы, которая развивалась тысячелетия, развила свое устройство и в своих базах данных накопила массу информации.
Поэтому противопоставлять ему «электронную машину» может оказаться не верным.
А во-вторых, человек не решает задачи даже когда может и даже когда есть общепринятые алгоритмы. Причем он не решает и не использует алгоритмы, даже если это приводит его к гибели. (В справедливости этого легко убедиться, поездив по дорогам.)
Вполне возможно что, «для того, чтобы электронная машина могла бросить человеку вызов в эвристическом паритете» у нее должны быть «забавные» алгоритмы, в т.ч. включающие возможность не следовать алгоритмам.
(no subject) - hitthelimit on June 9th, 2013 01:08 pm (UTC) (Expand)
alisarinalisarin on June 9th, 2013 09:00 am (UTC)
У меня впечатление - ученым характерна какая-то "горячка ума", они непомерно торопятся с выводами. Золотой образец - размышлизмы И. Пригожина о зарождении жизни; или - нужно было заниматься физикой и не лезть куда не следует, или - все же начать с чтения литературы по теме "оптическая изомерия сахаров"... Прежде, чем констатировать какую-либо связь, нужно определить, насколько она непосредственна.

Вот такой вот крик души... Причина в том, что наука понимает далеко не все механизмы формального структурирования, а заявляет весьма серьезные, но необоснованные претензии :)
hitthelimithitthelimit on June 9th, 2013 01:10 pm (UTC)
Заткнись и считай?..
Человек есть человек, и кто-то первый должен начинать, даже рискуя своим именем. Их поиск стимулирует сотни умов... Честь им и хвала. А обругать - это я и сам могу, да еще как! :)

PS Поинтересуйтесь формально, какой Пенроуз математик...
alisarinalisarin on June 9th, 2013 03:18 pm (UTC)
В отношении Пенроуза верно, так и пишут :) Но меня, конечно, удивляет другое - как можно выдвигать идеи ИИ не зная структурной лингвистики, хотя бы вскользь, ну как? :)
hitthelimithitthelimit on June 9th, 2013 03:46 pm (UTC)
Меня тоже удивляет другое. Как можно критиковать кого-то, не зная наверняка, что он знает и в каком объеме, а также что именно надо бы знать в данной области исследований. Вам кажется, что ИИ — это структурная лингвистика. Другим кажется, что ИИ — это сам по себе один сплошной философский вопрос. Третьим — банальный техницизм... И только вы знаете все наверняка?
(no subject) - alisarin on June 9th, 2013 06:37 pm (UTC) (Expand)
(no subject) - hitthelimit on June 9th, 2013 07:10 pm (UTC) (Expand)
Pragmatic Insanitystaerum on June 9th, 2013 09:48 am (UTC)
> Для того, чтобы электронная машина могла бросить человеку вызов в эвристическом паритете, она должна начинать развиваться не с базовых программ, заложенных в нее человеком, а со спонтанных функциональных решений, возникающих на ее электронном субстрате при помещении ее в активную среду.

Коль скоро мы не можем сконструировать формальную систему, чья сложность выйдет за границы сложности системы, в рамках которая она создаётся - давайте воспользуемся теми же законами природы, которые создали человеческое сознание. Т.е. вариативностью с отбором, эволюционными "методами". Я корректно понял?

Выскажу гипотезу, что формальная система (а в данном случае уже не формальная, а просто искусственная, рукотворная) достигнет сложности сопоставимой со сложностью человеческого сознания только при эволюции в среде и условиях, сопоставимых по сложности с условиями, в которых формировался человек.

Впрочем, как всегда, вероятно существует shortcut, позволяющий комбинировать непосредственную инженерию и эволюционный подход в пространстве с ограниченной сложностью, но сложностью достаточной и таким образом получить удовлетворительный результат.

> Это классическая положительная обратная связь; кто в теме, тот знает, чем это заканчивается:

тем же, чем заканчивается всё, что начинается как экспонента - выходом маловажных отрицательных обратных связей на первый план и логистической кривой.

Edited at 2013-06-09 09:49 am (UTC)
hitthelimithitthelimit on June 9th, 2013 01:15 pm (UTC)
«Т.е. вариативностью с отбором, эволюционными "методами". Я корректно понял?»

Да.

«тем же, чем заканчивается всё, что начинается как экспонента - выходом маловажных отрицательных обратных связей на первый план и логистической кривой.»

Это зависит от параметров управления обратной связью. При достаточно сильной ПОС все параметры не имеют значения — система опрокидывается. Пример — триггер (любая динамически неустойчивая система).
Pragmatic Insanitystaerum on June 9th, 2013 01:25 pm (UTC)
"Пример — триггер (любая динамически неустойчивая система)."

Если речь про эволюционные, "природные" системы, то и пример надо бы привести из не-формальных, не-инженерных систем. Хотя я допускаю, что такое развитие событий встречается (катастрофическая ситуация) мне всё же кажется, что они скорее исключение. Обычно система достаточно сложна, чтобы набралось достаточно отрицательных обратных связей для компенсации. Пусть даже и ценой потери некоторых частей. Пусть даже и с учётом перехода к новому аттрактору.
(no subject) - hitthelimit on June 9th, 2013 01:39 pm (UTC) (Expand)
(no subject) - staerum on June 9th, 2013 01:50 pm (UTC) (Expand)
(no subject) - hitthelimit on June 9th, 2013 03:53 pm (UTC) (Expand)
(no subject) - staerum on June 9th, 2013 03:56 pm (UTC) (Expand)
(no subject) - hitthelimit on June 9th, 2013 04:02 pm (UTC) (Expand)
(no subject) - staerum on June 9th, 2013 04:26 pm (UTC) (Expand)
(no subject) - hitthelimit on June 9th, 2013 04:38 pm (UTC) (Expand)
(no subject) - staerum on June 9th, 2013 04:53 pm (UTC) (Expand)
(no subject) - hitthelimit on June 9th, 2013 05:12 pm (UTC) (Expand)
(no subject) - staerum on June 9th, 2013 05:31 pm (UTC) (Expand)
(no subject) - hitthelimit on June 9th, 2013 05:53 pm (UTC) (Expand)
(no subject) - staerum on June 9th, 2013 05:58 pm (UTC) (Expand)