Исследуя сложность: от искусственной жизни и искусственного интеллекта к киберфизическим системам[356]

К. Майнцер

Классическая кибернетика в традиции Норберта Винера является сегодня составной частью математической теории сложных систем и нелинейной динамики. Только в этих рамках может быть объяснено возникновение структур и образцов в природе и технике и построены компьютерные модели. Понятия «самоорганизация» и «эмерджентность» относятся к хорошо определенным понятиям и могут быть перенесены на понимание технических систем. В первой части главы рассматриваются основания теории сложных систем и нелинейной динамики. В качестве применения изучается образование структур и паттернов сложных клеточных систем, являющихся предметом системной биологии. Во второй части этой главы речь идет о применении динамики сложных систем к эволюции мозга и познания. Эти исследования составляют предпосылку для развития социальных роботов, что является предметом рассмотрения в третьей части. Нейронные сетевые структуры ни в коей мере не ограничиваются отдельными организмами или роботами. В четвертой части речь идет о киберфизических системах, посредством которых моделируются сложные социотехнические системы, которые в значительной мере управляют сами себя. Также и здесь математическая теория сложных систем и нелинейная динамика предоставляют нам основания для понимания самоорганизации и эмерджентности. В конце главы обсуждается вопрос об этических и общественных общих условиях для технического конструирования сложных самоорганизирующихся систем.

Ключевые слова: сложные системы, нелинейная динамика, когнитивная роботика, киберфизические системы.

1. Эволюция сложных систем и нелинейная динамика

1.1 Исчислимость жизни

Вплоть до начала XX века жизненные процессы были доступны только качественному описанию и классификации в биологии. Первые подходы к их математическому моделированию появились в классической кибернетике в традиции Норберта Винера. Вначале они исходили из управления жизни (положительными и отрицательными) обратными связями, которые были известны, к примеру, в электротехнике в 1940-х годах. С возникновением новых методов биоматематики, биофизики и биоинформатики это изменилось. Они стали прибегать к математической теории сложных систем и нелинейной динамике, в которых кибернетические обратные связи являются всего лишь примерами сложных (нелинейных) взаимодействий системных элементов[357].

В системной биологии развивается исследование во взаимодействии экспериментов in vitro, in vivo и in silico[358]. Обычным стало компьютерное моделирование (с программами, созданными с кремний органическими полимерами) высоко сложных взаимодействий молекул, клеток, органов и организмов, которые было бы невозможным представить без математических моделей сложной системной динамики и вычислительной техники.

Робототехника и исследования искусственного интеллекта отсылают нас еще дальше, чтобы наделить технические системы когнитивными функциями, ставшими нам известными благодаря исследованиям мозга и нейропсихологии. В одной стороны, эти исследования служат моделированию биологических и психологических процессов, а с другой стороны, они позволяют нам с техническими и коммерческими целями вступить на иные пути, отличные от биологической эволюции.

Этот прогресс стал возможным благодаря стремительному росту производительности вычислительных машин, головокружительной миниатюризации конструктивных элементов компьютеров (от трубок и транзисторов до наноэлектроники и сенсорной технологии), стремительной глобализации информационных систем и шагающей быстрыми темпами автоматизации общества при одновременном удешевлении всё более небольших и высокопроизводительных информационно-технических систем. Согласно закону Мура, каждые 18 месяцев производительность вычислительных машин удваивается при одновременной миниатюризации и удешевлении устройств[359].

1.2. Системная биология сложных систем

Со времени расшифровки генома человека в 2001 году намечается ускорение машин, производящих последовательные вычисления, которые исчисляют и идентифицируют за все более короткие промежутки времени все большее количество генов за все меньшие деньги. Программа генома, которая с распознаванием состава человеческих генов в 2001 году достигла предварительного высшего результата, представляла собой редукционистский исследовательский подход, в рамках которого со все большей вычислительной производительностью расшифровывались все более мелкие структурные элементы жизни.

Теперь в системной биологии перед нами встает несравненно более сложная задача: как можно из огромного потока данных об отдельных компонентах понять функционирование всей биологической системы клеток, органов и организмов? Гигантские генетические карты о всех генетических взаимодействиях и сложных сетях обмена веществ предстоит расшифровать в компьютерных моделях, чтобы понять такие сложные системные функции, как регуляцию, контроль, управление и адаптацию в процессах роста и эволюции[360]. «Стеклянные» клетки со схемами переключения откроют новые возможности для понимания генетической обусловленности болезней (таких, как рак и болезней сердечно-сосудистой системы), а также позволят сделать выводы о процессе старения организма. Без компьютерных моделей сложных систем клеток, органов и организмов этот барьер не будет взят[361].

Мы уже понимаем, однако, ошеломляющее различие живых организмов от технических схем соединений: в то время как соединения в силиконе несмотря на сложность и миниатюризацию до сих под в своих функциях поддавались любому доступному воспроизведению, каждый врач из своей ежедневной практики знает, насколько по-разному могут реагировать сложные человеческие организмы на одни и те же методы лечения. Это делает неимоверно сложным не только исследование опухолей, но и в принципе даже любого насморка. Эти сложности проявляются уже на уровне белков в лаборатории по системной биологии. Хотя с помощью математической теории сложных динамических систем мы в принципе уже понимаем самоорганизацию и эмерджентность новых структур, дьявол кроется в деталях отдельных случаев[362].

Следующим шагом системная биология предоставляет материал для копирования синтетической биологии: тогда системная биология становится инженерной наукой[363]. Когда пытаются проникнуть именно в функционирование биологических систем, таких как клетки и бактерии, тогда, как предполагают, возможно из различных биомолекул конструировать новые модули и сети со специальными свойствами.

Искусственная жизнь была известна доныне только как программное обеспечение (Software) в информатике. Уже в конце 1950-х годов американский ученый Джон фон Нейман, пионер в компьютерной науке, математически доказал, что клеточные автоматы могут репродуцировать себя в шахматном порядке. Джон Конвей разработал этот подход в форме игры жизни (Game of Life), после чего дарвиновские правила эволюции удалось смоделировать в виде некой компьютерной программы[364]. В синтетической биологии программное обеспечение (Software) превращается во «влажное обеспечение» („Wetware"), т. е. в новую органическую жизнь. Крейг Вентер, пионер в разработке программы Геном человека-2001, верит в конструирование бактерий, которые продуцируют водород и тем самым способны помочь решить энергетическую проблему человечества. Тем не менее Национальная академия наук (Leopoldina) высказала общую точку зрения, разделяемую Немецким исследовательским обществом (DFG) и Академией технических наук (acatech), что синтетическая биология «открывает большой потенциал для разработки новых вакцин и лекарств, а также новых видов топлива и материалов».

1.3. Основания сложных динамических систем

Биомолекулы, клетки, организмы и популяции являются высоко сложными динамическими системами, в которых взаимодействует множество элементов. Исследование сложности занимается вопросом, который перешагивает границы отдельных дисциплин (физики, химии, биологии и экологии): как из взаимодействий многих элементов сложной динамической системы (например, атомов в материалах, биомолекул в клетках, клеток в организмах, организмов в популяциях) могут возникнуть порядок и структуры, а также хаос и распад?

Вообще говоря, изменение состояний во времени в динамических системах описывается уравнениями. Состояние движение отдельного небесного тела может быть точно вычислено и предсказано еще по законам классической физики. Для миллионов и миллиардов молекул, от которых зависит состояние одной клетки, нужно прибегнуть к помощи высокопроизводительного компьютера, который дает приближения в имитационных моделях. Сложные динамические системы, перешагивая пределы отдельных дисциплин – физики, химии, биологии или экологии, подчиняются тем же самым или подобным математическим законам.

Универсальные законы сложных динамических систем расширяют рамки для дальнейших исследований[365]. Главная идея всегда одна и та же: только сложные взаимодействия многих элементов порождают новые свойства всей системы, которые не сводимы к свойствам отдельных элементов. Так, отдельная молекула воды не является «влажной», таковой является жидкость, образованная взаимодействием многих элементов этого рода. Отдельные молекулы не «живут», но живет клетка, построенная на их взаимодействиях. Системная биология открывает возможность описания сложных химических реакций множества отдельных молекул, составляющих базис для обмена веществ и регуляции всей белковой системы и функционирования клеток в человеческом теле. В сложных динамических системах мы различаем поэтому микроуровень отдельных элементов и макроуровень их системных свойств. Эта эмерджентность или самоорганизация новых системных свойств исчислима в системной биологии и доступна для моделирования посредством компьютерных моделей[366]. В этом смысле системная биология является ключом к пониманию сложности жизни.

1.4. Локальная активность как источник возникновения сложных структур

В общем случае мы представляем себе пространственную систему из идентичных элементов («клеток»), которые могут взаимодействовать друг с другом различным образом (например, физически, химически или биологически) (Рис. 1). Такая система называется сложной, если она из гомогенных начальных компонентов может производить негомогенные («сложные») образцы и структуры. Возникновение этих образцов и структур вызывается

локальной активностью элементов. Это имеет силу не только для стволовых клеток при развитии эмбриона, но и для транзисторов в электронной сети. Мы называем транзистор локально активным, если он может усиливать небольшой входящий сигнал из батареи как источника энергии в больший выходящий сигнал и тем самым произвести негомогенный («сложный») образец напряжения в подключенной сети.

Ни одно радио, телевизор или компьютер не были бы работоспособными без локальной активности таких единиц. Крупные ученые, такие, как Нобелевский лауреат Илья Пригожин (химия) и Эрвин Шрёдингер (физика) утверждали, что для образования структур и образцов (паттернов) достаточны нелинейность системы и наличие источника энергии. Однако уже пример транзисторов показывает, что батареи и нелинейные элементы схемы сами по себе не могут создать сложные паттерны, если элемент не является локально активным в смысле описанной функции усиления.

Принцип локальной активности имеет основополагающее значение для формирования образцов поведения сложной системы и до сих пор практически не был признан. Его нам удалось определить в общем математическом виде, не приводя специальные примеры из физики, химии, биологии или техники[367]. При этом мы ссылаемся на нелинейные дифференциальные уравнения, которые известны как уравнения для описания процессов реакции-диффузии (но ни в коем случае не на жидкие среды, процессы в которых ограничены химической диффузией). Для наглядности представим себе пространственную решетку, узловыми точками которой являются клетки, которые локально взаимодействуют между собой (Рис. 1). Каждая клетка (например, белок в клетке, нейрон в мозге, транзистор в компьютере) рассматривается с математической точки зрения как динамическая система с входом и выходом. Состояние клетки изменяется локально согласно динамическим законам в зависимости от распределения состояний соседних клеток. В целом динамические законы определяются через уравнения изменения состояний изолированных клеток и правила их связи. Кроме того, при описании динамики принимаются во внимание начальные условия и дополнительные условия.

Рис. 1. Сложные клеточные системы с локальными активными клетками и локальными сферами влияния (Mainzer & Chua 2013)

В общем случае клетка называется локально активной, если в момент равновесия клетки существует малый локальный входящий сигнал, который с помощью внешнего источника энергии усиливается в большой выходящий сигнал. Существование входящего сигнала, который запускает локальную активность, может систематически контролироваться посредством определенных математически тестовых критериев. Клетка называется локально пассивной, если не существует момента равновесия с локальной активностью. Фундаментально новым в этом подходе является аргумент, что системы без локально активных элементов принципиально не могут произвести никаких сложных структур.

1.5. Формирование структур в природе и технике

Формирование структур в природе и технике можно систематически классифицировать, поскольку области применения благодаря уравнениям реакции-диффузии моделируются по только что описанным образцам. Так, например, исследованы соответствующие дифференциальные уравнения для возникновения паттернов в химии (например, возникновение паттернов в гомогенных химических средах), в процессах морфогенеза (например, возникновение паттернов в створках раковины, мехе, оперении в живых организмах), в исследованиях мозга (образцы соединений в мозге) и в электронной сетевой технике (например, образцы соединений в компьютерах).

Возникновение структур математически соответствует неоднородным решениям рассматриваемых дифференциальных уравнений, которые зависят от различных контрольных параметров (например, концентраций химических веществ, АТП-энергии в клетках, нейрохимических рассылающих сигналы тканей нейронов). Для рассматриваемых примеров дифференциальных уравнений мы можем систематически определить пространство параметров, точки которого репрезентируют все возможные величины контрольных параметров соответствующей системы. В этом пространстве параметров можно точно определить с помощью упомянутых тестовых критериев области локальной активности и локальной пассивности, которые или дают возможность формирования структур или являются с математической точки зрения «смертельными». С помощью моделирования на компьютере в принципе можно для каждой точки в пространстве параметров вызвать формирование возможных структур и возможных паттернов (Рис. 2). В рамках такого математического моделирования можно полностью определить и предсказать формирование структур и их образцов (паттернов).

Некоторые системные свойства согласованы с соответствующим окружением системы и пропитаны им, другие разрушаются и снова отбираются. Эта взаимная игра случая и отбора при возникновении новых структур впервые была описана Чарльзом Дарвином на примере биологической эволюции видов. Речь идет здесь, однако, об универсальных свойствах сложных динамических систем, которые могут найти применение и в технических системах. Мы говорим там, к примеру, о генетических и эволюционных алгоритмах.

2. Эволюция тела и мозга

2.1 Мозг как сложная система

Анатомия мозга показывает коренное отличие от строения обычного компьютера. Человеческий мозг является опять-таки примером сложной динамической системы, в которой взаимодействуют миллиарды нейронов. Через многократно передаваемые электрические импульсы возникают образцы соединений, которые определяют возникновение таких когнитивных состояний, как мышление, чувства, восприятие или действия. Возникновение (эмерджентность) этих ментальных состояний является еще одним типичным примером самоорганизации сложной системы: отдельный нейрон является в некотором роде «глупым» и не может ни думать, ни чувствовать, ни воспринимать. Только их коллективные взаимодействия и случайные соединения при надлежащих условиях порождают когнитивные состояния.

Рис. 2: Формирование структур и образцов в процессах, описываемых уравнением реакция-диффузия (Mainzer & Chua 2013)

В нейронных сетях мозга имеет место нейрохимическая динамика между нейронами. Вещественная основа для передачи химических сигналов воздействует на изменения нейронных состояний посредством прямых и опосредованных механизмов передачи с высокой пластичностью. Различные состояния сети сохраняются в синаптических связях клеточных образцов соединений («клеточных ансамблях»). Как и во всякой сложной динамической системе, и в мозге мы проводим различие между микросостояниями элементов (то есть цифровыми состояниями «вспыхивания» и «не-вспыхивания» при разрядке и спокойном состоянии нейронов) и макросостояниями формирования образцов (т. е. образцами соединения совместно активированных нейронов в нейронной сети). Способы компьютерной визуализации (например, снимки при позитронно-эмиссионной томографии) показывают, что различные макроскопические образцы соединений коррелируют с различными ментальными и когнитивными состояниями, такими, как восприятие, мышление, чувства и сознание. В этом смысле когнитивные и ментальные состояния могут быть представлены как эмерджентные свойства нейронной активности мозга: отдельные нейроны не могут ни видеть, ни чувствовать, ни думать, а мозг связан с органами чувств организма[368].

Нынешние средства моделирования на компьютерах позволяют наблюдать возникновение образцов («формирование паттернов» – «pattem formation») в мозге, при этом локальную активность нейронов и вызванные ею потенциалы действия мы сводим к нелинейной системной динамике. Их корреляции с ментальными и когнитивными состояниями раскрываются на основе психологических наблюдений и измерений: всякий раз, когда человек, к примеру, видит или говорит, можно наблюдать формирование того или иного образца в мозге. Между тем при «чтении мозга» («brain reading») формирование отдельных образцов может быть настолько определено, что в этих образцах соединений могут быть расшифрованы соответствующие зрительные и слуховые восприятия с соответствующими алгоритмами. Эта техника, разумеется, делает лишь первые шаги в своем развитии.

2.2 Сверху-вниз и снизу-вверх стратегии исследования мозга и его когнитивных функций

Применяя стратегию сверху-вниз (top-down), нейрофизиология и когнитивные исследования изучают такие ментальные и когнитивные способности, как восприятие, мышление, чувства и сознание, и пытаются связать их с соответствующими областями мозга и характерными для них образцами соединений. Применяя стратегию снизу-вверх (bottom-up), нейрохимия и исследования мозга изучают молекулярные и клеточные процессы динамики мозга и отсюда объясняют нейронные образцы соединений в мозге, которые опять-таки коррелируют с ментальными и когнитивными состояниями[369].

Оба метода настоятельно предлагают сравнение с компьютером, в котором при использовании стратегии снизу-вверх из «машинного языка» состояний в битах, например, в транзисторах, делаются заключения о смыслах для более высокого пользователя языка – для человека, тогда как при использовании стратегии сверху-вниз, напротив, более высокие языки пользователей через различные промежуточные ступени (например, компьютер и интерпретатор) переводятся на машинный язык. В то время как, однако, в информатике отдельные технические и языковые слои точно идентифицируются от уровня соединений через машинный язык, компилятор, интерпретатор и т. д. до уровня пользователя и могут быть описаны в их взаимном влиянии, речь идет до сих пор только об исследовательской программе в изучении мозга в когнитивных науках.

В исследованиях мозга хорошо понимаемы до сих пор только нейрохимия нейронов и синапсов и образцы построения их соединений, стало быть, «машинный язык» мозга. Мост („Middleware") между познанием и «машинным языком» только еще должен быть перекинут. Для этого требуются еще более детальные исследования. При этом отнюдь не ясно, можно ли провести различия между отдельными иерархическими уровнями, как в построении компьютера. Очевидно, архитектура динамики мозга оказывается существенно более сложной. Кроме того, в основе развития мозга не лежит никакого запланированного дизайна, а только множество эволюционных алгоритмов, которые в большей или меньшей степени случайно возникли на протяжении миллионов лет при различных условиях и запутанным образом связаны друг с другом.

2.3 Математические законы динамики мозга

В исследованиях мозга синаптическое взаимодействие нейронов в мозге может быть описано посредством системы дифференциальных уравнений. Уравнения Ходжкина-Хаксли являются примером нелинейных уравнений реакции-диффузии, посредством которых может быть смоделирована передача нервных импульсов. Они были найдены посредством эмпирических измерений Нобелевскими лауреатами по медицине Аланом Л. Ходжкином и Эндрю Ф. Хаксли. Эти уравнения дают хорошо подтвержденную математическую модель динамики нейронов в мозге. Это не исключает, что эти уравнения в ходе дальнейших исследований могут быть улучшены или изменены.

Как уже разъяснялось выше, с помощью таких дифференциальных уравнений могут быть точно определены пространства параметров динамической системы с локально активными и локально пассивными областями. В случае уравнений Ходжкина-Хаксли мы получаем пространство параметров мозга с точно измененными областями локальной активности и локальной пассивности. Только в области локальной активности могут возникать потенциалы действия нейронов, которые вызывают в мозге соединения по определенным образцам. Моделирование на компьютере позволяет систематически исследовать и предсказывать образцы соединений для различных значений параметров, как показано в нашей книге[370]. В отдельных случаях этот образец уже может быть расшифрован посредством «чтения мозга» („brain reading"). Тем самым строятся первые мосты к смысловому уровню познания.

Рис. 3: Нейронная модель уравнений Ходжкина-Хаксли (Mainzer & Chua 2013)

Эта программа зависит от математической модели мозга Ходжкина-Хаксли. Проект «Человеческий мозг» („Human Brain Project"), осуществляемый Европейским Союзом, нацелен на точное эмпирическое моделирование человеческого мозга во всех нейрологических деталях. Тем самым в нашем распоряжении оказывается основание для эмпирического тестирования этой математической модели, посредством которого могут быть проверены предсказания о формировании образцов в мозге и их когнитивных значениях.

2.4 Математические законы когнитивных состояний

Из психологии мы знаем, что ментальные и когнитивные состояния влияют друг на друга крайне сложным образом. Так, восприятия способны запускать мысли и представления, которые ведут к действиям и движениям. Восприятие, однако, как правило, связано с самовосприятием: я есть тот, кто воспринимает. Самовосприятие, будучи связанным с сохранением собственной биографии в памяти, ведет к осознанию Я. Если удастся описать все эти различные ментальные состояния в мозге согласно некоторым образцам соединений, то можно понять не только взаимодействие отдельных нейронов, но и соединения клеток („cell assemblies") с соединениями клеток, построенных в свою очередь из соединений клеток и т. д.

Для этого также могут быть введены дифференциальные уравнения, которые зависят не от локальной активности отдельных нейронов, а от целостных ансамблей клеток, которые в свою очередь могут зависеть от ансамблей клеток ансамблей клеток и т. д. Так получают систему нелинейных дифференциальных уравнений, которые на различных уровнях вложены друг в друга и таким образом моделируют крайне сложную динамику. Снабженный сенсорами и акторами (исполнительными элементами) наш организм распознает эти процессы, которые порождают наши сложные моторные, когнитивные и ментальные состояния. Как уже подчеркивалось выше, нам еще не известны все эти процессы в деталях. Однако ясно, как математически они должны быть смоделированы в принципе и как они могут быть эмпирически проверены в ходе реализации проекта «Человеческий мозг».

2.5 Отелесненный разум

Мозг является сложной системой органических соединений. Ведь и психология развития показывает, что наши ментальные и когнитивные способности в значительной степени сформированы через наше тело, которое возникло в процессе эволюции. Так, грудные дети и дети младшего возраста уже могут различать объекты (например, игрушки, еду и питье), схватывая их руками, слушая ушами, видя глазами, слизывая и чувствуя их вкус языком, ртом и губами, еще до того, как они научаются называть их словами. Мы имеем наглядные представления и эмоциональные предпочтения (преференции), симпатии и антипатии, которые неосознанно направляют наши действия и редко выражаются в языковой форме, не говоря уже о том, что они могут быть репрезентированы в компьютерной программе. Необходимо тело, чтобы могли развиться познание и интеллект. Мы говорим о «телесном» познании и интеллекте (embodied cognition, embodied intelligence). Только через касания и восприятия окружения и через действия в этом изменяющемся окружении возник интеллект[371].

Только посредством взаимодействия через тело, возникла возможность понимать других и осознавать свои собственные намерения и на основе этого соответствующим образом направлять свое собственное поведение. Эта способность традиционно рассматривается в философии как интенциональность. С медицинской точки зрения теория ума (Theory of Mind) исследует, что происходит, если при этом определенные нейронные области перестают функционировать. В качестве причин могут выступать повреждения мозга в результате несчастных случаев или же деменция, которая угрожает почти всем людям во все более стареющих обществах[372]. Последствия этого – потеря человечности и эмпатии, а, в конце концов всякой способности к социально отзывчивому поведению, а также ответственности.

Нейропсихология показывает нам сегодня, что сознание является собирательным понятием для в высшей степени сложных ментальных состояний, которыми обладают в некоторой степени также и другие живые существа. Восприятие, как правило, не только у нас, людей, связано с самовосприятием: я есть тот, кто воспринимает. Самовосприятие выполняло в процессе эволюции очень важную функцию защиты и контроля, чтобы уберечь организм от повреждений. Оно было связано со сложными сенсорными процессами визуального, тактильного и слухового самовосприятия, а также с самоконтролем моторных процессов и самонаблюдением телесной чувствительности. Наконец возникла память с сохранением собственной биографии, чтобы достигнуть того состояния, которое мы обозначаем как Я-сознание. В теории ума („Theory of Mind“) проводятся различия между «я», «ты», «мы» и «другие», и только тогда становятся возможными очень сложные формы социальной организации, такие, как человеческое общество.

Однако техника показывает нам, что многие наши когнитивные возможности реализуемы даже без «сознания», иногда (в смысле теста Тьюринга) даже лучше. Во всяком случае то, насколько сильно эти ментальные состояния связаны со сложными соединениями в мозге, замечаем мы позже, когда случаются впадения в коматозные состояния из-за несчастных случаев или болезней, соответствующие нарушения участвующих в формировании ментальных состояний областей мозга или помутнения в результате приема лекарственных средств или алкоголя; в таких случаях выпадают, оказываются бездейственными соответствующие грани состояний сознания. Для перепроверки различных аспектов и степеней состояний, которые мы подводим под собирательный термин «сознания», в настоящее время имеются в наличии хорошие экспериментальные и технически измеряемые условия. При этом не исключено, что такие состояния при точном знании затронутых областей мозга и их связи с телесными действиями и органами чувств могут быть вызваны также и «искусственно», т. е. в технических системах. [373]

За этим стоит сильный тезис логиков и математиков Алана Тьюринга и Алонзо Чёрча, согласно которому всякий алгоритм, логико-математическое представление которого может быть просчитано всякой управляемой программой вычислительной машиной, может быть смоделирован универсальной машиной Тьюринга. С теоретико-познавательной точки зрения понятие универсальной машины Тьюринга дает в наше распоряжение инструмент, посредством которого независимо от соответствующего технического стандарта развития компьютеров можно принципиально определить сложность динамических процессов (т. е. их «логическую глубину»)[374].

Еще Курт Гёдель (как логик) и Ричард Фейнман (как физик) думали, что процессы в природе можно понимать как своего рода метод вычислений. Вместо элементарных шагов вычислений с символами, из которых состоят эффективные методы математики, появляются, например, квантовые скачки элементарных частиц, элементарные химические реакции с молекулами, включение и отключение генов, изменения состояний клеток или изменения напряжения в технических устройствах переключения. Также и случайные изменения (например, мутации) могут учитываться в не детерминистических машинах Тьюринга. Таким образом понимаются и сами стохастические процессы посредством вероятностных (про-бабилистических) машин (например, машины Больцмана как про-бабилистической сети). Вообще говоря, степени вычислимости на компьютере соответствуют различным степеням сложности природы[375].

Что касается технических стандартов развития компьютеров, мы переживаем согласно закону Мура стремительное увеличение вычислительных мощностей, которые делают доступным моделирование сложных динамических систем природы. В соответствии с теоремой о неполноте Гёделя принципиально не может существовать никакого суперкомпьютера, который мог бы прояснить и разрешить все задачи. Мощности вычислений для имитации человеческого мозга или других клеточных и органических систем, однако, поддаются оценке и могут быть смоделированы на компьютере. Правда отсюда с необходимостью не вытекает, что мы уже в ближайшие десятилетия сможем смоделировать, скажем, чувства и мышление. Но принципиально это не исключено, и отдельные аспекты уже удалось понять. Вычислительная мощность сама по себе здесь, правда, недостаточна. Чтобы смочь построить компьютерные модели, мы должны понять также и ход самих процессов. Для этого мы обращаемся теперь к робототехнике.

3.2 Адаптивные и способные к обучению роботы

В традиции механистических автоматов сначала сооружались роботы, процессы движения которых были точным образом установлены. В случае сложной и постоянно изменяющейся окружающей среды в программе не могут быть учтены все возможные события. Так протекает процесс сложной телесной самоорганизации, в значительной степени без сознательного центрального управления. Подобным образом двигаются вниз по пологому склону, только будучи подгоняемыми силой тяжести, инерцией и толчками, таким образом телесные взаимодействия осуществляются без программного управления[376].

Сложные образцы движений управляются и вычисляются в природе вне централизованного контроля, они организуются децентрализованно посредством нейронных сетей с обратными связями. Знанию движения по неизвестной территории обучаются и это знание – learning by doing – сохраняется в нейронных сетях[377]. Нейронные сети являются примерами сложных динамических систем, состоящих из отдельных нервных клеток, которые взаимодействуют нейрохимически посредством передающих сигналы тканей (нейротрансмиттеров) и порождают образцы поведения как системные свойства.

Роботы должны, стало быть, обучаться, самостоятельно в большей или меньшей степени приспосабливаться, чтобы быть способными оценивать новые ситуации. Возрастающая сложность нашего мира требует все большей автономии и самоорганизации[378].

При участии роботов в космическом полете сразу становится очевидным, что мы напрямую с Земли не можем управлять их реакциями, например, на Марсе из-за задержки передачи сигналов. Но и роботы в промышленности и в обыденной жизни (например, на кухне) должны реагировать самостоятельно и быстро на новые ситуации[379]. Функционирование и очистка посудомоечной машины является, к примеру, процессом огромной сложности, который не может быть запрограммирован заранее детерминистической последовательностью отдельных приказов. Роботы, обеспечивающие уход, во всё более стареющем обществе должны к тому же обучаться заботливо обращаться с людьми.

Для этого роботы должны быть снабжены сенсорными, моторными и нейронными способностями, формировать образцы поведения и развивать когнитивные способности. Японская промышленность ставит задачу до 2016 года разработать роботы-гуманоиды, которые способны бегать и хватать как люди. К 2020 году они должны уметь работать самостоятельно с людьми в одной команде и уметь обращаться с людьми[380]. Это предполагает создание чувствительной и автономной системы, которая может развивать представление, как обходиться с людьми[381]. Роботы должны будут справляться со все более сложными заданиями, которые мы, люди, при каждом отдельном шаге больше не можем контролировать, а в итоге (мы надеемся) развить хотя бы минимальную ответственность.

Роботы, которые взаимодействуют с людьми, должны, по идее, обладать когнитивными способностями, которые были развиты в природе в ходе эволюции. Восприятие через органы чувств, способности видеть, слышать и ощущать тактильно ведут у людей через центральную нервную систему к чувствам, мышлению и сознанию, за которые ответственен мозг. К этому добавляется наша мобильность, которая проявляется у нас, прямоходящих существ, в высоко дифференцированных хватательных движениях рук. Все это является образцом для построения роботов-гуманоидов в человеческом облике, которые могут взаимодействовать с людьми.

Однако инженеры хотят решить эти задачи сначала технически, а не имитировать природу (стало быть, людей во всех их деталях). В истории инженеры были всегда успешны тогда, когда в рамках природных законов вступала в действие новая технология, которая еще не была найдена в природе. К примеру, люди размышляли о полете, что в самолетах удалось осуществить, не хлопая крыльями, а с помощью пропеллеров и реактивных двигателей, и в конечном счете технически была реализована даже более мощная и эффективная летательная система, чем в эволюции.

Также и при конструировании роботов-гуманоидов не стремятся ни к какой имитации. Что касается нашей мобильности, наши конечности представляют собой удивительное создание природы. Они сформированы из сложных клеточных тканей, сухожилий, легких и эластичных костей и с минимальными затратами энергии и информации в полной мере управляют собой – и, что немыслимо, вплоть до сегодняшнего дня, причем так, что стремятся достраивать себя. Но с легким металлом, маленькими высокопроизводительными моторами, программированием с помощью высокомощных вычислительных устройств и огромными затратами энергии можно добиться подобных процессов движения у двигающихся роботов (например, Asimo[382] фирмы Хонда).

Мы полагаемся, таким образом, в развитии техники на наши вычислительные возможности и можем с большими затратами на вычислительную технику так управлять роботом-гуманоидом, что он оказывается способным двигаться подобным человеку образом. Тем не менее движение человека происходит совершенно по-другому. Не существует никакого высокопроизводительного вычислительного устройства, которое рассчитывало бы в реальном масштабе времени положение равновесия, чтобы система могла к нему адаптироваться. Математически это может быть описано уравнениями Эйлера-Ньютона, которые лежат в основе теории устойчивости, разработанной еще в XVIII веке математиком Леонардом Эйлером.

Если мы посмотрим на сложное движение такого живого существа, как палочник, то не обнаружим никакого центрального вычислительного устройства, которое бы координировало движение его ног и поддержание им равновесия. Его движение происходит децентрализованно через нейронную сеть. Импульсы отдельных ног настолько локально согласованы друг с другом, что, если одна нога оказывается запертой, другая нога на это реагирует. С небольшими затратами на вычисления в природе, следовательно, достигается такой же эффект. Но эволюционный опыт, который здесь хорошо упакован, является высоко сложным. От обмена веществ на субклеточном уровне до физиологических процессов, до функционирования сосудов, мускул и сухожилий – все эти процессы в человеческой ноге технически до сих пор даже примерно не реализуемы.

Как могут быть реализованы когнитивные способности в роботах? В качестве конкретных примеров выступают сервисные роботы, которые были разработаны в рамках исследовательской программы CoTeSys. В исследовательском кластере Мюнхена „Cognition for Technical Systems" (CoTeSys) совместно на междисциплинарной основе работали более ста ученых из инженерных наук, естествознания, нейронаук, клинической неврологии и информатики, биологии и психологии[383]. Неврологи и биологи исследовали когнитивные способности людей и животных и возможность их перенесения на технические системы. Психологи изучали требования к вербальной и невербальной коммуникации между роботами и людьми. На технических факультетах рассматривались механические, физические вопросы и технические вопросы управления, при этом математика и биология внесли свой вклад в поиск методов оптимизации.

Рис. 4: Социальные роботы в домашнем хозяйстве (Cluster of Excellence 2011)

Ученые, работавшие в CoTeSys, взяли на себя обязательство протестировать разработанные когнитивные методы в сценариях технических демонстраций и показать их преимущество по сравнению с классическими подходами не только на бумаге. Важный и вызывающий сценарий – область ведения домашнего хозяйства (Нотесаге) (Рис. 4). При этом кажущаяся для самих людей простая деятельность, такая, как сервировка напитка, для робота составляет сложную проблему. Так как для этого робот должен, к примеру, различать людей, знать, достаточно ли чашки кофе или нужен стакан, а перед этим идентифицировать объект как желательный. Когда робот взаимодействует с человеком, он должен уметь делать это человеческим способом и с человеческими манерами.

Обработка образов для интерпретации объектов и их окружения хорошо разработаны. Также и лица людей могут быть упорядочены, их мимика и эмоции могут хорошо распознаваться или интерпретироваться. Гораздо более проблематичным является распознавание тактильных (осязательных) образов, например, через датчики давления при механическом схватывании и при движении пальцев. Здесь часто не хватает подходящих сенсорных датчиков, а также интеграция с визуальными сенсорами еще является предметом исследований.

3.3 Социальные и когнитивные роботы

Координировать свои собственные движения и действия с движениями и действиями других людей – высоко значимая способность в социальной повседневной жизни и в трудовой деятельности, которой мы, люди, очевидно без труда овладеваем. Целью исследования является выявление, какие правила координации могут быть перенесены на взаимодействие человека и робота[384]. Первые результаты показывают, что человек всегда планирует движение в аспекте его оптимизации с последующими движениями. Участники серии экспериментов, которые должны были поставить бутылку на стеллаж с полками на различной высоте, схватывали бутылку по-разному в зависимости от того, на каком уровне высоты она в итоге должна быть поставлена.

Для чего могут оказаться полезными эти результаты в робототехнике и как найти им применение? Чтобы взаимодействие человек-машина организовать комфортабельным для человека образом, манера и способ движения человека может служить мерилом. Человек предвосхищает – как правило бессознательно и до фактического начала движения, – что определенная траектория движения является лучшей и наиболее эффективной, чтобы добраться до объекта. Эта модель, которая была разработана психологами, может быть полезной для инженеров или информатиков при ее переносе в исследовательскую область управления роботами[385]. Так планирование движения робота становится менее сложным, при этом более эффективным и исчислимым для человека как партнера во взаимодействии. Также и здесь стратегии оптимального управления процессами движения служат в качестве образца, который был сформирован у людей в ходе эволюции.

Эти исследования помогают сделать более интуитивным взаимодействие робота и человека. Как НотеСаге робот, когда он новенький входит в дом с фабрики и доставлен на дом, обучается освоению в новом окружении? Согласно сценарию CoTeSys, он остается сначала пару дней на кухне, чтобы изучить, что там происходит, где хранятся объекты, что необходимо поставить на стол для завтрака, и кто что ест на завтрак. Так робот учится накрывать стол для завтрака и затем убирать со стола. Для этого он должен идентифицировать домочадцев и их пристрастия. Если робот не знает, что такое «чашка», он входит в интернет и ищет среди картинок Google чашки, чтобы сравнить предметы. Или он входит в интернет, чтобы узнать, как сварить макароны (в интернете есть тысячи рецептов и инструкций их приготовления). В этом сценарии основной целью CoTeSys может быть придать техническим системам когнитивные функции и наглядно их пояснить: технические системы, которые планируют, решают, обучаются, защищены от неожиданностей – и могут сами себя информировать.

Окружающий мир кухни уже указывает на такую сложность и изменение во времени, что робот может быть запрограммирован не на всякое применение и не на всякую возможную ситуацию. Программа должна уметь обучаться из опыта, где нужно стоять, чтобы взять стакан из шкафа, как лучше овладеть кухонными приборами, где следует искать столовые приборы и т. д. Для этого система управления должна знать параметры навыков управления и иметь в своем распоряжении шаблоны, как изменять параметры поведения.

Как такие роботы могут самостоятельно оценивать меняющиеся ситуации? Телесный опыт робота начинается с восприятия окружения через данные сенсорных датчиков. Эти данные сохраняются в реляционной базе данных робота как его память. Отношения с объектами внешнего мира строят одну под другой причинные сети, по которым робот ориентируется в своих действиях. При этом проводятся различия, например, между событиями, людьми, местами, ситуациями, предметами обихода. Возможные сценарии репрезентируются положениями формальной логики первого уровня. Возможные события зависят от условий, которые связаны в конкретных ситуациях с условными вероятностями.

Распределение вероятностей таких ситуаций описывается логикой Маркова. Отсюда могут быть выведены оценки вероятностей ситуаций, на которые может ориентироваться робот[386], когда он, например, готовит для кого-то завтрак и кроме того должен собирать посуду на кухне. Сложную причинную сеть возможных действий робота можно сделать понятной из байесовской сети условных вероятностей[387]. Этим ни в коей мере не утверждается, что помощники по ведению хозяйства человеком в своих действиях придерживаются байесовской сети. Но с комбинацией логики, вероятности и сенсорного и телесного взаимодействия реализуются сходные цели, что и у человека.

3.4 Интеллект и сложность

Являются ли такие роботы умными (или, иначе, обладают ли они интеллектом)? Первое определение «искусственного интеллекта» (ИИ) исходит от Алана Тьюринга. Выражаясь короче, некую систему можно назвать умной (обладающей интеллектом), если ее по ее ответам и реакциям невозможно отличить от ответов и реакций человека. Это определение, однако, является очень антро-поцентричным: оно ставит интеллект в зависимость от человека. Кроме того, оно является круговым, так как не определен «человеческий интеллект».

Мое рабочее определение делает интеллект зависимым от способности системы решать проблемы. Система, в соответствии с этим рабочим определением, называется «умной», если она в состоянии эффективно и самостоятельно решать более или менее сложные задачи. Степень интеллекта зависит от измеряемых величин, независимых от человека: а) степени самостоятельности (автономии) системы, б) степени эффективности метода решения проблемы и в) степени сложности проблемы[388].

Согласно этому определению, автомобиль, например, имеет степень интеллекта, поскольку он может до определенной степени самостоятельно и эффективно управлять собой в сложных транспортных ситуациях. Также и палочник на этом основании имеет некую степень интеллекта, так как он может самостоятельно управлять процессами своего движения в сложном окружении. Исходный код в первом случае был написан человеком, во втором случае через эволюционные алгоритмы обучения, которые смогли оптимизироваться на протяжении миллионов лет также и без «сознания».

Согласно этому рабочему определению, мы уже сегодня повсюду в природе и технике окружены интеллигентными функциями. В технике они часто, однако, спроектированы иначе, чем они возникли в ходе эволюции. Для меня, стало быть, степень сложности функциональных процессов и соответствующих методов решения является мерилом интеллекта.

Человек является примером системы с интеллектом, которая возникла (также как и палочник) в ходе эволюции. Существует, следовательно, не «интеллект», а степень интеллекта, которую мы в нашем рабочем определении сделали зависимой от измеряемых свойств систем. «Рабочее определение» должно при этом указывать, что ни в коем случае не стремится к полноте, которой и не существует. Рабочее определение показывает свою пригодность в исследовании и в развитии и, к тому же, открыто для дополнений и коррекции.

Но также и по классическому критерию ИИ Тьюринга некоторые технические системы уже могут быть охарактеризованы как обладающие интеллектом (при их сравнении с человеком). Возьмем, к примеру, суперкомпьютер Deep Blue, который одержал победу над человеком, чемпионом мира по шахматам. Фактически он не отличим в своем конечном поведении от человека: он играет в шахматы по известным правилам. При этом система действует и реагирует с игровыми особенностями, которые в конечном счете лучше и быстрее, чем у людей. Отличие от человека состоит прежде всего в том, что Deep Blue не умеет ничего иного, кроме как играть в шахматы. Но это в настоящее время осуществляется только из чистого интереса. Система, правда, в отличие от человека настолько производительна, что она использует большой вычислительный потенциал и параллельные вычисления. Мы, люди, играя в шахматы, просчитываем значительно медленнее. Наша сила, однако, заключается в том, что мы думаем наглядно, используя образцы, и можем ассоциировать, в известной мере развивать в себе интуитивное чувство экспертов, тогда как компьютер «брутально» просчитывает возможные конфигурации с большой скоростью.

Следующим шагом был (в смысле теста Тьюринга) суперкомпьютер Ватсон (Watson), который в игре вопрос-ответ «Рискуй! (Jeopardy) выигрывал против многих игроков-людей. Ватсон понимает даже естественный язык и в состоянии в итоге давать ответы быстрее и лучше, чем человек. В этом отношении при выполнении этого задания в смысле теста Тьюринга техническая система опять-таки лучше и умнее, чем человек. Но если посмотреть на события более внимательно, дело отнюдь не в том, что Ватсоном был найден новый, сверхинтеллигентный языковый алгоритм. Скорее эта программа параллельно условным образом использовала тысячи широко известных алгоритмов анализа языка, молниеносно разлагала предложения на отдельные части и просчитывала вероятности, что определенный языковый образец подходит к соответствующему вопросу. Для этого затем стали использоваться огромные хранилища данных из миллионов страниц. Эта комбинация составила превосходство над людьми.

На примере Ватсона также демонстрируется, что семантическое понимание значений никоим образом не должно быть сопряжено с сознанием, что как раз характерно для человека. Первые практические применения – это смартфоны, с которыми мы можем вести простые диалоги. Эти способности также могут быть переданы роботам. Через интернет они могут быть снабжены огромными хранилищами данных как памятью, которая превосходит человеческую память[389].

Следующим шагом могут быть разработаны гибридные системы, которые, подобно человеческому мозгу, интегрируют различные способности. Так, понимание значений (семантика) у нас, людей, связана еще с созерцаниями, восприятиями и воспоминаниями. В этом нет абсолютной необходимости, как показывает Ватсон. Центральный пункт этого аргумента таков: частичные функции человеческого интеллекта для определенных целей уже технически реализованы в смысле теста Тьюринга. Соответствующие технические приборы превосходят даже от случая к случаю человеческие способности в этих областях.

И в этом нет нового: мы уже давно имеем машины, которые, например, превосходят нашу мускульную силу, нашу способность видеть и слышать. Почему бы нам не соединить эти способности в гибридных системах, как в ходе эволюции и возник человек посредством добавления, связывания и коррекции различных способностей. Вообще говоря, техника сегодня уже усиливает наши телесные и интеллектуальные способности – часто по-другому, чем это происходило в процессе эволюции: при этом для инженера, как правило, несущественно, работает ли его/ее система точно по образцу эволюции, причем он/она вполне могут быть вдохновлены природой. Для инженерных наук решающим является то, что в итоге проблема эффективно решена.

3.5 Эмоции и сложность

Эмоции важны для нас, людей, и для всех животных. Они служат спонтанной оценке ситуаций (страх, радость, отвращение и т. д.), которая гормонально через лимбическую систему мозга подготавливает тело к адекватному поведению, к примеру, в опасных или радостных ситуациях. На практике это приобретает тот смысл, что роботы для общения с людьми могут распознавать эмоции и чувствительно реагировать на людей. Это в корне отличается от промышленных роботов, которые могут только отрабатывать свою рабочую программу.

На этом примере видно, что отдельные когнитивные способности людей могут быть реализованы технически иначе через роботов, но иногда даже более эффективно, чем у людей. Распознавание эмоций – это задача, которая уже много лет назад решена в робототехнике. Исследовательская группа в Лозанне разработала голову робота, которая улыбалась в ответ, когда ему улыбались. Как робот это делал? Сегодня исходят из того, что для людей – в отличие от обезьян – характерны определенное число основных эмоциональных состояний, независимо от всех возможных рас и культур. Повсюду люди демонстрируют одни и те же эмоциональные выражения лица – способность, которая заложена до рождения. Речь идет, прежде всего, о технической задаче, распознавать и различать различные выражения лица.

Теперь можно было бы представить себе технику, которая на первый взгляд не занимается распознаванием эмоций: сначала тепловизионная камера регистрирует различные образцы кровоснабжения, свойственные выражениям лица, которые затем различаются и классифицируются нейронной сетью. Робот, как предполагается, может при этом различить радость, печать, отвращение и т. д. Это была бы система, работу которой в смысле теста Тьюринга нельзя было бы отличить от поведения человека, но она как раз-таки функционировала бы иначе.

Традиционно проводят различие между слабым и сильным искусственным интеллектом: системы со слабым искусственным интеллектом только имитируют когнитивные или интеллектуальные способности, тогда как системы с сильным искусственным интеллектом обладают ими. При слабом искусственном интеллекте робот имитирует с помощью эмоционального выражения лица только одно эмоциональное состояние. Мог бы робот в смысле сильного искусственного интеллекта также и воспринимать эмоции?

Также и в этом отношении существуют предварительные проекты. В сложной системе нейронной сети уже на протяжении ряда лет пытаются смоделировать поведение маленьких детей[390]. Для этого эмоциональные прототипы можно представить как узлы в некой сети. На самом деле мы ведь не всегда либо радостно возбуждены, либо совершенно грустны, а находимся в некотором смешанном состоянии, в котором все эти прототипы соединены в различных степенях. При этом эмоциональные прототипы находятся во взаимодействии друг с другом, как узлы в сети, и в большей или меньшей степени возбуждены или подавлены. Когда я, например, получаю печальное сообщение, степень интенсивности моей радости спадает, а степень интенсивности грусти увеличивается.

Теперь можно составить уравнения, которые определяют интенсивность эмоциональных прототипов, например, радости, в определенный момент времени – в зависимости от взаимодействия с другими эмоциональными прототипами в этот момент времени, тормозящего или усиливающего. В дополнение к этому можно принять во внимание еще и другие влияния тела, такие, например, как гормональные воздействия, голод, жажда и т. п., и, поскольку это уравнение движения является зависимым от времени, также и состояние в предыдущий момент времени как определяющее для настоящего эмоционального состояния. Поскольку существуют различные эмоции, мы бы имели в итоге систему из многих уравнений, которые так сказать генерируют для каждого момента времени смешанное эмоциональное состояние системы.

Конечно, речь идет при этом прежде всего только о математической модели сложной динамической системы, а именно о системе уравнений для изменяющейся во времени степени интенсивности эмоциональных прототипов. Но ничто не препятствует тому, чтобы построить нейрохимическую систему с сенсорами, которая способна ощущать в соответствии с моделью этих уравнений. Это были бы тогда, возможно, не наши человеческие ощущения, так как телесность иначе реализована, но это были бы виды ощущений, подобные различным ощущениям человеческих организмов. Этот подход может быть в дальнейшем уточнен и развит в рамках математической модели Ходжкина-Хаксли. При этом математическая модель нейронной динамики, например, лимбической системы, будет играть важную роль. В рамках флагмановского проекта ЕС «Человеческий мозг» закладывается эмпирическое пробное основание для проверки предсказаний и объяснений этой модели.

Сильный искусственный интеллект (ИИ), следовательно, технически вполне мыслим и отнюдь не исключен. Правда встает вопрос, до какой степени нам следует развивать способности ощущений системы, чтобы из этических соображений избежать ненужных страданий[391].

В рамках исследований классического ИИ в течение долгого времени полагали, что можно представить человеческий разум квазимеханически в программных правилах. Были успешно реализованы многие обширные и сложные выполнения программы, например, в промышленности при управлении производственной линией. Из-за применяемых при этом программных строк, состоящих из формальных символов, мы говорим также о символическом ИИ. Однако было бы иллюзией намереваться имитировать таким образом все умственные способности человека. За этим стоит старая вера, в соответствии с которой ум и машина, подобно телу и уму, разведены как софтвер и хардвер, и дело упирается только в то, чтобы записать все умственные способности в программе. Этого может быть достаточно для моделирования отдельной моторной или когнитивной функции. Чтобы имитировать динамику мозга и связанных с ней ментальных состояний человеческого организма, требуется техническая рамочная модель для отелесненного разума (embodied mind).

Даже роботы, каждый из них, имеют собственные тела, с помощью которых они развивают свой опыт и тем самым свой вид интеллекта, который не должен быть таким же, как наш. Мы говорим о «телесном» ИИ (embodied AI). И другие живые существа развили в ходе эволюции свои собственные формы интеллекта. Интеллект возникает, таким образом, через преодоление сложности в соответствующем окружающем мире как системе. Согласно представленной здесь рабочей гипотезе, интеллект не обязательно связан, к примеру, с сознанием, как у нас, у людей; он связан со способностью решать специфические проблемы. Степень интеллекта зависит от степени сложности проблемы, которую всякий раз необходимо решить. Мы, люди, очевидно представляем собой гибридные системы со многими способностями, которые в ходе эволюции ни в коей мере не должны были развиться именно так. Гибридная система нашего органического оснащения и наши способности могли бы выглядеть иначе при другом историческом ходе развития[392].

4. Коэволюция автономных социотехничеших систем

4.1 Киберфизические системы

В центре дебатов о телесности (embodiment) ментальных способностей и робототехники стоит понимание, что процессы, протекающие в когнитивной системе, в отличие от классического ИИ, не могут быть поняты в отрыве от телесных данных системы, ее ситуативной встроенности и ее динамического взаимодействия с окружающей средой.

Этот тезис можно перенести с отдельной системы роботов на глобализированный интернет-мир. Также и здесь традиционно проводят строгое различие между физическим («реальным») и виртуальным миром. Вместо этого действуют, к примеру, врачи и инженеры с поддержкой посредством виртуальных приборов в физически реальном мире. При проведении операции виртуальное изображение органа с точными информационными данными и данными измерений способствует точному оперативному вмешательству. Вместо виртуальной реальности (virtual reality) говорят о расширенной реальности (augmented reality), стало быть, о расширении физического мира через применение приборов виртуальной реальности[393].

В техническом плане ключевую роль играют при этом меха-тронные системы, в которых интегрированы механические и электронные системы с относящейся к ним технологией сенсоров. При этом может идти речь, например, о домашних приборах, технически оснащенных сенсорами, в интеллигентном доме, а также и об автомобиле, который через сателлит и сенсоры индивидуально определяет свои маршруты, скорости и безопасные дистанции. Тем самым интернет может быть «воплощен» в сети взаимодействующих приборов, вещей и людей: вещи сами воспринимают себя через сенсорные технологии и нами, людьми, воспринимаются и подвергаются манипуляциям. В этом смысле говорят об интернете вещей.

Системы управления, которые встроены, например, в современные автомобили и самолеты и состоят из множества сенсоров и исполняющих устройств, больше не соответствуют строгому делению вещей физического мира и компьютерного мира. В информатике теперь говорят о киберфизических системах, которые распознают свое физическое окружение, обрабатывают эту информацию и согласованно влияют на физическое окружение. Для этого необходимо сильное сопряжение физической модели применения и компьютерной модели управления. Речь при этом идет об интегрированных целостных состояниях взаимодействующих человеческих мозгов, в значительной степени автономных информационных и коммуникационных систем и физических вещей, и приборов[394].

Конкретными примерами служат умные решетки (smart grids), а именно адаптивные и в значительной степени автономные энергетические сети, которые в Германии после энергетического поворота стали очень актуальными. Мы можем уже сегодня через интернет получать информацию, когда в нашем домашнем хозяйстве какой именно прибор наиболее выгодно можно было бы подключить к электрической сети. Это для многихлюдей чересчур хлопотно и даже не осуществимо, поскольку тем самым к ним применяются завышенные требования. Следующим шагом будут интеллектуальные программы (виртуальные агенты), которые молниеносно договариваются о выгодных ценах на электричество, получая скидки. Пользователи сети становятся, наоборот, поставщиками энергии, когда их дома по причине лучшей тепловой изоляции и новых энергетических технологий (например, фотовольтаики, биогаза и т. п.) неизрасходованную электроэнергию отдают в сеть. Там общая энергия автономно контролируется, распределяется и уравновешивается виртуальными агентами: облако (Cloud) IT-мира, в котором сохраняются все данные и программы, сплавляется с физической инфраструктурой человеческой цивилизации.

Рис. 5: Киберфизическая система транспортной сети (Вгоу 2010)

Увеличивающаяся автономия сети означает также новые требования к контролю. Агентские программы, к примеру, в финансовой системе, ясно показывают, как могут обостряться финансовые кризисы, когда автономные программы в доли секунды производят сумасшедшие покупки и продажи, которые для людей уже не обозримы.

С математической точки зрения речь идет при рассмотрении этих сетей о сложных системах с нелинейной динамикой, с которой мы уже познакомились на примере клеток, организмов и мозгов. Нелинейные побочные действия этих сложных систем часто могут становиться более неконтролируемыми. Локальные причины вследствие нелинейных взаимодействий могут разрастаться в непредсказуемые глобальные действия. Поэтому говорят о системных рисках, которые не имеют никакого отдельно идентифицируемого виновника, но возникают по причине системной динамики в целом[395].

Наша технология становится более автономной, чтобы решать задачи становящейся все более сложной цивилизации. Отдельные люди больше не могут проникать в понимание всей сложности необходимых для этого систем организации. Обратная сторона возрастающей автономии техники – становящийся все более сложным контроль: машины и приборы разрабатывались в инженерных науках всегда с намерением возможности их контролирования. Но как можно избегать системных рисков, связанных с функционированием сложных систем?

Наше видение эволюции показывает, что ее ход дополняется автономной самоорганизацией и контролем (по меньшей мере в здоровых организмах). В случае болезней, таких, как рак, это равновесие нарушается: раковая опухоль является самоорганизующимся организмом, который имеет свои собственные интересы и так сказать борется за свое выживание, не заботясь, однако, о том что организм-хозяин, в котором она прижилась, от этого разрушается. Сложные системы нуждаются, таким образом, в механизмах контроля, чтобы находить баланс – в организмах, финансовых рынках, в политике и т. д. В сложных цивилизациях развитие людей сопровождается развитием технологий. Эти мегасистемы или суперорганизмы эволюционируют, демонстрируя свою собственную нелинейную динамику. Это уже давно стало реальностью, а не просто биологической метафорой. Такие системы можно описать с помощью математических моделей, но при этом они становятся все более неуправляемыми.

Оставаясь в рамках языка биологии, подчеркнем, что суперорганизм социотехнической системы состоит из органически присущих ей, небольших, автономных, становящихся все более интеллектуальными систем, организмов-частей, о которых мы на первый взгляд не знаем, являются ли они «хорошими» или «плохими» – нуждаемся ли мы тогда, хотя и не срочно, в технологическом эквиваленте иммунной системы суперорганизма? В принципе мы уже близки к тому, чтобы развивать такого рода иммунную систему. Если рассмотреть финансовые кризисы последних лет, именно такие системы контроля и «пожарные стены» были встроены в суперорганизм, чтобы избегать каскадного распространения нелинейных «эпидемий». Это очень напоминает нам способ, каким разворачивается эволюция. Решающее отличие состоит в том, что эволюция работает без центрального управляющего сознания: методом «проб и ошибок», с использованием адаптации, с – в человеческих масштабах – чудовищными потерями. В природе не существует нашего мерила потерям, просто дело обстоит так. В эволюции нет места никакой оптимизации, что-то еще остается, согласно Дарвину, просто потому, что такие условия сложились.

4.2 Техническая коэволюция

На данном этапе эволюции мы с нашим организмом, с нашим мозгом располагаем соответствующими ментальными состояниями и когнитивными способностями. В течение миллионов лет мы так изменили окружающий нас мир, как не смогло сделать ни одно другое живое существо. Иногда сегодня уже говорят о технической коэволюции. Принимают ли это название или хотят отмахнуться от него как от метафоры: во всяком случае мы, люди, уже давно занимаемся тем, что перестраиваем нас самих и окружающий нас мир. Это началось много тысячелетий назад с приручения животных и выращивания культурных растений и продолжается сегодня через био– и генные технологии вплоть до исследования стволовых клеток, синтетической биологии, техники медицинских имплантатов и протезов, робототехники и социотехнических систем. Многое из этого нас беспокоит и призывает к этическому регулированию.

Но мы не должны смиряться с собственной динамикой и случайной игрой эволюции[396]. Эволюция, по Дарвину, – это не празднество гармонии, в ходе которой в итоге всё само хорошо сложится. Динамика вирусов, рака и других болезней, протекание процесса старения и связанные с ним вызовы обществу говорят сами за себя.

Люди в состоянии установить стандарты, чтобы долгосрочно и устойчиво обеспечивать и улучшать свои жизненные условия. Мы говорим в таком случае об оформлении техники (TechnikgestaltungJ¹. К достоинству человека относится возможность научиться вмешиваться в свое будущее и самому его определять. В наших руках лежит решение о том, кто мы, что мы сохраняем и что мы хотим получить от искусственного интеллекта и искусственной жизни рядом с нами и насколько мы согласны их терпеть. В конце концов мы во всяком случае не должны быть захвачены собственной динамикой цивилизаторских суперорганизмов, которые мы сами однажды вызвали к жизни.

Литература

Banerjee R., Chakrabarti В. К. Models of Brain and Mind. Physical, Computational, and Psychological Approaches. Progress in Brain Research. Amsterdam: Elsevier, 2008.

Bekey G. A. Autonomous Robots. From Biological Inspiration to Implementation and Control. Cambridge Mass.: MIT Press, 2005.

Boogerd F. C, et al. (Ed.) Systems Biology. Philosophical Foundations. Amsterdam: Elsevier, 2007.

Broy M. (Ed.) Cyberphysical Systems. Innovation durch softwareintensive eingebettete Systeme (acatech diskutiert). Heidelberg: Springer, 2010.

Cluster of Excellence Cognition in Technical Systems CoTeSys, 2011. http://www.cotesys.de/

Dominey P. F., Warneken F. The Basis of shared intentions in human and robot cognition // New Ideas in Psychology. 2011. Vol. 29. P. 260–274

European Robotics Technology Platform. Robotic Visions – to 2020 and beyond: The strategic research Agenda for Robotics in Europe. 2009. http:// www.robotics-platform.eu/sra/scenarios

F?rstl H. (Ed.) Theory of Mind. Neurobiologie und Psychologie sozialen Verhaltens. 2nd ed. Berlin: Springer, 2012.

Glymour C. et al. Discovering Causal Structures. Artificial Intelligence, Philosophy of Science, and Statistical Modeling. Orlando: Academic Press, 1987.

Flaken H. Synergetik. Eine Einf?hrung. 3. Aufl. Springer: Berlin, 1983.

Kajita 5. (Ed.) Humanoide Roboter. Theorie und Technik des K?nstlichen Menschen. Berlin: Akademische Verlagsgesellschaft, 2007.

Kaneko K. Life: An Introduction to Complex Systems Biology. Berlin: Springer, 2006.

Knoll A., Christaller T. Robotik. Frankfurt: Fischer, 2003.

Kriete A., Ei Is R. (Ed.) Computational Systems Biology. Amsterdam: Academic Press, 2007.

Mainzer K. Die Berechnung der Welt. Von der Weltformel zu Big Data. M?nchen: C.H. Beck, 2014.

Mainzer K., Chua L O. Local Activity Principle. The Cause of Complexity. London: Imperial College Press, 2013.

Mainzer КChua L O. The Universe as Automaton. From Simplicity and Symmetry to Complexity. Berlin: Springer, 2011.

Mainzer К. Leben als Maschine? Von der Systembiologie zur Robotik und K?nstlichen Intelligenz. Paderborn: Mentis, 2010.

Mainzer K. From Embodied Mind to Embodied Robotics: Flumanities and System Theoretical Aspects // Journal of Physiology (Paris). 2009. Vol. 103. P. 296–304.

Mainzer K. Organic computing and complex dynamical systems. Conceptual foundations and interdisciplinary perspectives // Organic Computing. Ed. by R.P. W?rtz, Berlin: Springer, 2008. P. 105–122.

Mainzer К. Thinking in Complexity. The Computational Dynamics of Matter, Mind, and Mankind. 5th ed. Berlin: Springer, 2007.

Mainzer К. Der kreative Zufall. Wie das Neue in die Welt kommt. M?nchen: С. H. Beck, 2007.

Mainzer K. Symmetry and Complexity. The Spirit and Beauty of Nonlinear Science. Singapore: World Scientific, 2005.

Mainzer K. Kl – K?nstliche Intelligenz. Grundlagen intelligenter Systeme. Darmstadt: Wissenschaftliche Buchgesellschaft, 2003.

Mainzer K. Computernetze und virtuelle Realit?t. Berlin: Springer, 1999. Mainzer K. Gehirn, Computer, Komplexit?t. Berlin: Springer, 1997. Mainzer K. Computer – Neue Fl?gel des Geistes? 2. Auflage. Berlin/New York: De Gruyter, 1995.

M?ller O. et al. (Hg.) Das technisierte Gehirn. Neurotechnologien als Herausforderung f?r Ethik und Anthropologie. Paderborn: Mentis, 2009.

Nolfi, 5., Floreano D. Evolutionary Robotics. The Biology, Intelligence, and Technology of Self-Organizing Machines. 2nd ed. Cambridge (MA): MIT Press, 2001.

Pfeifer R., Scheier C. Understanding Intelligence. Cambridge (MA): MIT

Press, 2001.

P?hler A. et al. (Hg.) Synthetische Biologie. Die Geburt einer neuen Technikwissenschaft. Reihe: acatech Diskussion, Berlin: Springer, 2011.

Picard R. W. Affective Computing. Cambridge (MA): MIT Press, 1997. Rammert W., Schulz-Schaeffer I. (Hg.) K?nnen Maschinen handeln? Soziologische Beitr?ge zum Verh?ltnis von Mensch und Technik. Frankfurt: Campus Verlag, 2002.

Thrun 5. et al. Probabilistic Robotics. Cambridge Mass.: MIT Press, 2005. Tuci E. et al. Self-Assembly in Physical Autonomous Robots: the Evolutionary Robotics Approach // Proc. of the 11th International Conference on Simulation and Synthesis of Living Systems (ALifeXI). Hg. von S. Bullock et al. MIT Press: Cambridge (MA), 2008. P. 616–623.

Varela F. et al. The Embodied Mind. Cognitive Science and Human Experience. Cambridge (MA): MIT Press, 1991.

Перевод с немецкого E. H. Князевой