Формальность системного мышления ​

Знание в отличие от «просто фактов» --- это то, что можно использовать в разных ситуациях, что можно взять с собой из проекта в проект. Чаще всего это какие-то объяснительные теории. Факты же могут характеризовать конкретные проекты и объекты в них. Знание о метрах как единицах измерения общее для всех проектов. Длина пути в каком-то проекте 14 метров --- это нельзя применить к другим проектам, так что это не «знание», это просто «факт».

Логика (правила рассуждений, ведущие к правдоподобным суждениям из правдоподобных посылок) науки и инженерии совсем необязательно булева/дискретна со значениями «истина» и «ложь». Современная логика вероятностна, при этом при использовании логического вывода в рациональном мышлении речь совсем недавно шла о байесовской вероятности, а не частотной. А теперь оказывается, что и байесовская вероятность тут не последнее слово, а речь идёт о «квантовой вероятности» из математики квантовой физики, хотя эта вероятность не имеет отношения к поведению частиц в микромире, а характеризует совсем другие масштабы в мышлении (иногда это называют квантовоподобностью)^[1].

Современная логика использует вероятностные (байесовские и квантовоподобные) рассуждения, а эксперименты в конечном итоге не доказывают что-то или опровергают, а лишь сдвигают вероятность правдоподобности^[2]. Жизнь не состоит из «истин» и «лжи», она оценивается высказываниями о вероятностях, и даже более: жизнь состоит не столько из высказываний, сколько из действий, выбранных рациональным способом --- высказывания тут носят вспомогательный характер! Мы уже обсуждали, что «здание состоит из кирпичей» --- это абсолютно верное в логике высказывание, но в жизни это может привести к тому, что вам придётся обсуждать конструкцию здания, указывая место каждого кирпича. Много проще будет объединить кирпичи в стены, а затем обсуждать место стен в здании --- и системное мышление работает как раз с этим, «удобным группированием». Не всё, что логически верно будет уместным в системном мышлении, требуется связь с жизнью --- с какими-то методами/практиками/культурами/стилями работы, для которых ведутся рассуждения.

Но сейчас мы рассмотрим другую ветку обсуждения связи системного мышления и логики. Формально/строго (выражено в символической форме, доступной для строгого логического вывода через значения «истина» и «ложь») ли системное мышление? Или оно неформально, т.е. интуитивно и тем самым в нём большая вероятность ошибки? Другая формулировка того же вопроса: можно ли считать, что системное мышление требует строгой/формальной типизации его объектов, как в математической логике?

Главное, что нужно тут обсудить --- это наличие и важность для трансдисциплинарного мышления (а системное мышление --- трансдисциплинарно) неформального, интуитивного и невыразимого словами и иными знаками знания в распределённых (например, нейросетевых --- в живом мозгу или в компьютерных системах AI) представлениях, в том числе распределённого знания о системах. Это знание быстрого мышления S1 по Канеману. Сегодня такое знание могут иметь не только люди с «мокрой нейросетью» (их и изучал Канеман), но и компьютеры, запрограммированные для работы в рамках коннекционистской/нейросетевой парадигмы. Современные достижения искусственного интеллекта связаны с развитием именно «компьютерной чуйки» (а не развития логических языков программирования) в рамках машинного обучения в целом и направления глубокого обучения (deep learning) в частности.

В коннекционистской (connectionism)парадигме^[3] знание представляется существующим не как набор связанных какими-то отношениями дискретных понятий из формальной логики, а как распределённое по множеству определённых простых однородных элементов (сегодня это обычно «нейроны» в нейронных сетях как искусственных, так и естественных). Это довольно мощная концепция распределённых представлений (distributed representations) в их отличии от локальных/символьных/symbolic представлений. Символическими представлениями занимается семиотика в составе семантики, распределёнными представлениями пока занимаются в рамках проектов по изучению AI, больше всего ими занимаются в предметной области глубокого обучения (deep learning), занимающаяся иерархическими распределёнными представлениями (например, в виде многоуровневой/глубокой нейросети).

Идею о том, что знания/информация может быть представлена в рамках распределённых представлений через теории информационной физики легко обобщить до признания безмасштабного знания, разлитого во всей вселенной (и включающего также знания людей), см. подробней в работах по представлению вселенной в виде своеобразной нейронной сети, в которой идёт вечный процесс познания^[4].

Человеческий мозг для мышления использует нейронную сеть и поэтому в существенной мере работает с распределёнными, а не локальными представлениями, хотя на нейронной сети он и может организовать «виртуальную логическую машину, оперирующую с типами и отношениями между ними», то есть мозг медленно и с ошибками может работать и как классический логический вычислитель.

Человеческий мозг плохо работает с формальными/математическими/строгими/символьными представлениями знаний и фактов, его вычисления вероятностны и требуют проверок. Мозг животных практически не может работать с символическими/знаковыми/локальными представлениями, мастерство работы со знаками как раз и отличает людей и животных.

Современные системы машинного обучения и искусственного интеллекта используют для своей работы принципы, похожие на принципы работы человеческого мозга. Знания сегодня понимаются отнюдь не только как формальные/строгие математические модели. Объединение методов формальной, «научной» работы со знаниями и методов «неформальной» интуитивной работы в нейронных сетях (искусственных или естественных, в мозгу человека --- это тут неважно) представляет собой научный и технический фронтир, мы не будем касаться этих вопросов в нашем курсе. В любом случае, мы можем резко уменьшить число ошибок неформальных вероятностных рассуждений, если просто дадим больше времени на вычисления. Это сейчас горячий вопрос в исследованиях по большим языковым моделям --- можно ли обратиться за ответом на чуть изменённый вопрос несколько раз, чтобы получить более надёжный и безошибочный ответ? Можно!^[5].

Даниэль Канеман утверждает^[6], что у человека есть два механизма мышления: быстрое малозатратное интуитивное S1 и медленное трудоёмкое осознанное S2, включающееся при появлении каких-то проблем при использовании «быстрого» интуитивного мышления. Вот S2 представляет собой возможность последовательного задействия актов мышления S1 и тем самым возможность логического последовательного/пошагового мышления.

По факту речь идёт о целом спектре мышления от интуитивного неформального через вероятностное (с какими-то оценками этих байесовских или квантовоподобных вероятностей по самым разным источникам априорных свидетельств и данных эксперимента) к классическому формальному на основе математической логики. Вот схема Прапион Медведевой, иллюстрирующая этот полный спектр (подробней это всё объяснялось в курсе «Моделирование и собранность»):

Обычно интуитивные догадки на уровне «ощущений» вытаскиваются в качестве явно сформулированных эвристик, а эвристики проверяются критикой: логическими (включая вероятностную байесовскую логику или квантовоподобную логику). В случае подтверждения догадок формальное медленное мышление S2 о каком-то типе задач потом можно натренировать (в ходе решения множества задач) так, что оно становится автоматическим и «интуитивным» S1, не требующим особых мысленных усилий, решение этого класса задач перемещается из части спектра с «обдумыванием» и «направленным вниманием» в зону быстрого интуитивного без особого задействования дорогого ресурса сосредоточенности. У физиков появляется «физическая интуиция», у математиков «математическая интуиция», у системщиков --- «системная интуиция». Мозг пластичен, нейронная сеть мозга хорошо тренируется (а в последнее время эти «интуитивные» рассуждения начали потихоньку передавать и нейронным сетям в компьютерах).