Мозг и искусственные нейросети
Людей давно интересовало -- а как же это всё устроено у нас в голове? Там что, в мозгу -- слова записаны? Или картинки нарисованы?
Изучением этих вопросов занималась нейробиология, но её методы были ограничены, исследования мозга с точностью до отдельных клеток-нейронов крайне сложны, практически невозможны. Прорыв в этой области произошёл только в последнее десятилетие, с развитием искусственных нейросетей, заслуживших уже название «искусственный интеллект». Хотя компьютерные нейросети построены на совсем другой вычислительной аппаратуре, не похожей на человеческий мозг, на фундаментальном уровне они делают вычисления на тех же принципах, так что исследования компьютерных моделей подтвердили выводы нейронауки и продвинули её сильно дальше.
В нейросети (искусственной или естественной) нет никаких аналогов файлов с текстами или архивов фотографий (это как раз нейробиологи выяснили довольно давно).
Данные о мире в виде текстов (слова написанные или услышанные), образы (видео), ощущения и т.д. попадают в нейросеть от органов чувств (или с диска, или от датчиков, устройств ввода) и проходят там ещё одно преобразование (кодируются).
Информация в нейросети сохраняется в виде огромного количества изменяющихся соединений между нейронами и их весов (силы соединений) Информация об одном знаке оказывается распределена по большой области мозга, информация о следующем -- по другой, перекрывающейся с первой, информация о картине или целой ситуации охватывает ещё большие области. В результате каждая новая секунда обучения (нашей жизни) приводит к изменениям во всем объеме нейросети, что-то в ней сохраняется в таком вот преобразованном виде, что-то пропадает, что-то искажается.
Представление идей при таком понимании принципов работы нейросети оказалось тоже достаточно формальным. Мы уже обсудили его при обсуждении подхода компьютерной лингвистики к концептуальному пространству и его плотности. Упомянутые там точки в многомерном пространстве - это и есть результат работы нейросети. По итогам обработки какой-то информации нейроны мозга (или только одного его участка) приходит в определённое состояние, и группа таких похожих состояний (облако точек) воспринимается как «справедливость», а другая группа состояний, в которые мозг может прийти после получения другой информации -- как «печаль».
Хотя нейробиология давно пришла к пониманию в целом этих процессов, представить их было очень трудно, и сила нашего мозга как вычислителя -- оставалась загадкой. Неужели такой, казалось бы, хаотический процесс способен в итоге порождать наше мышление, нашу способность помнить, действовать, работать со знаками и идеями, творить? Эксперименты с искусственными нейросетями подтвердили -- да, всё так и есть. Даже в десятки тысяч раз меньшая чем мозг по вычислительным возможностям (по числу нейронов) компьютерная нейросеть -- способна демонстрировать чрезвычайно сложное мышление. Оно будет не творческое, может и вообще не интеллектуальное, но это будет полноценное оперирование со знаками и образами без возможности их хранить и обрабатывать так, как это делает обычный компьютер или как это делают люди в экзокортексе (на бумаге или на экране компьютера).
Распределённые представления выходят за пределы нашего курса, мы не будем обсуждать то, что происходит внутри агентов (людей, животных, компьютеров). Мы будем просто говорить «мы видим», «мы представляем», «мы интерпретируем», «мы мыслим», понимая, что за этим скрываются в нейросети огромные вычисления, построенный по специальным правилам, очень непохожим на происходящее снаружи наших мозгов.
Снаружи внешние представления и коммуникация между агентами остаются знаковыми, поэтому мы продолжим обсуждение знаковых систем.
Однако передний край научных исследований и современных технологий сегодня проходит именно там, в области нейросетей, понимание их соотношения со знаковыми системами ещё далеко не полное. Возможно, когда-нибудь прямые связи нейросетей сделают все наши теории о знаках и смыслах при текстовой (речевой) коммуникации просто ненужными.