МИФЫ И РОБОТЫ

We use cookies. Read the Privacy and Cookie Policy

МИФЫ И РОБОТЫ

Парадоксы языка типа антиномии «Лжец» часто обыгрывают фантасты. Перед роботом ставится скрытая логическая загадка, любое решение которой противоречит жестоким законам поведения роботов. В такой ситуации робот либо погибает, либо застывает в абсолютной неподвижности, совершая бесконечный цикл бессмысленного пересчета. Люди радуются бессилию роботов, хотя сами не в состоянии справиться с подобными загадками. Такие игры фантастов помогают глубже понять логику законов управления роботами. Кроме того, они предостерегают от возможных катастрофических ситуаций в будущем. Сейчас наступает время создания промышленных систем искусственного интеллекта. Такие системы, обладая определенной свободой воли, ограниченной только заложенными в них правилами функционирования, могут случайно или по злому умыслу столкнуться с упомянутой логической ситуацией. Возможно даже создание специальных «логических бомб», разрушающих интеллектуальные системы. Причем, чем выше уровень «интеллекта» системы, чем доступнее она в общении с человеком, тем больше у нее шансов попасть под удар такой «бомбы». Возникает парадоксальная ситуация. С одной стороны, современные вычислительные системы подвергаются многочисленным атакам компьютерных вирусов, разрушающих данные и программы, с другой — в перспективе для компьютеров ожидается опасность «заболевать психическими расстройствами», аналогичными болезням человека. Поэтому для разработчиков систем искусственного интеллекта логико- семантические парадоксы языка, вскрытые в древних мифах, представляют не только философский, но и практический интерес. По крайней мере, их следует классифицировать и изучать. Так древнее гуманитарное знание неожиданно приобретает новый технологический аспект. Мифы обнаруживают загадочное свойство возвращаться. Парадокс лжеца широко распространен в сюжетных построениях. Менее разработана схема загадки Эдипа. Возможно потому, что она требует более тонких логических построений. Фабула литературного произведения, основанного на такой схеме, должна содержать последовательность действий: забывание, запретные действия, узнавание. Забывание означает снятие запретов на определенные действия персонажа. Запретные действия при выполнении не должны противоречить логике мира, учитывая, конечно, предварительное забывание запретов. Узнавание — кульминационный момент прозрения, Возвращение забытых запретов. Здесь определяется степень вины и кары персонажа за совершенные запретные действия. Все три действия должны вызываться естественным ходом событий. В этом сложность по схеме загадки Эдипа.

Рассмотрим пример. Предлагается небольшой фантастический рассказ. Условно назовем его «Звездные странники». Собственно, это даже не рассказ, а его схема. Для закопченного произведения ее следовало бы наполнить конкретными персонажами, действием, диалогами, эмоциями, любовью и смертью. Еще лучше рассматривать предлагаемый текст как краткий сценарий фильма. Итак, «Звездные странники».

Эта история случилась во времена освоения дальнего космоса. Небольшая экспедиция землян высадилась на планете, обозначенной в звездных каталогах под номером Z1. Планета была очень похожа на Землю: те же леса, поля, реки, океаны, горы. И состав воздуха соответствовал земному. Непривычным было только преобладание голубого цвета. Вблизи голубых океанов громоздились голубые горы, в лесах и полях пышно цвели голубые и синие растения, в голубом призрачном небе чужое солнце меняло цвет от красного на рассвете, желтого в полдень до фиолетового на закате, а по ночам было странно наблюдать две серебристо-голубые луны в мозаике незнакомых созвездий. Планета оказалась необитаемой, но в одной из каменистых пустынь путешественники обнаружили огромные загадочные рисунки, непонятным способом нанесенные на каменистую поверхность, а в дремучих лесах были найдены многочисленные развалины сооружений. принадлежащих исчезнувшей цивилизации. Экспедиция решила задержаться, чтобы исследовать ее следы. Звездолет улетел. Он не вернулся к намеченному сроку, не вернулся и к последнему возможному. Напрасно звездные странники с надеждой и тревогой всматривались в голубое небо — корабль затерялся в черных лабиринтах Вселенной.

Шли годы. Люди начали обживать приветливую планету, построили города, наладили системы жизнеобеспечения, зажили спокойной, мирной жизнью. Им снились ласковые сны. В этих снах они летали, как птицы, им открывались удивительные голубые миры сказочной красоты, они пели, смеялись, разговаривали с предками, видели себя в детстве, совершали головокружительные путешествия в необъяснимых потоках пространства и времени. Они привыкли к новому солнцу и полюбили приютившую их голубую планету.

Но однажды дождливой осенью в их сны стали вторгаться чужие зловещие образы. Загадочные волны, идущие из недр космоса, накатывались на людей, порождая чувство растерянности и страха. Исчезли голубые миры. Теперь в ночных грезах люди боролись с хаосом холодной бесконечной Вселенной. Им виделись огромные абсолютно черные сферы, стремительно вращающиеся, куда-то несущиеся, переходящие друг в друга, расширяющиеся и поглощающие все на своем пути. Они видели, как из этих внезапно остановившихся сфер вынырнули темные космические корабли пришельцев, стаями зависшие над голубой планетой. Им снились пустынные города, кровь на улицах, развалины прошлых цивилизаций, древняя дорога, по которой бредет слепой человек, несокрушимые гиганты- роботы, беспрекословно подчиняющиеся своим хозяевам, несущие смерть и разрушение.

Люди стали готовиться к неведомой битве. В глубоких затерянных пещерах оборудовали убежища, включили электронные системы защиты и дальнего космического обнаружения.

Однажды на рассвете люди пробудились от ужасного сна. По небу стремительно мчались огромные Черные вихрящиеся облака. Вдруг они исчезли, и в прозрачной синеве зависло множество странных темных объектов. Люди бросились к боевым системам, но все они бездействовали: неведомая сила отключила электронику. Началась неравная жестокая битва. Огромные роботы шли по улицам городов, уничтожая все живое. Они не боялись земного оружия, мощное силовое поле неизвестной природы всякий раз защищало их от всех попыток уничтожения. Реакция великанов была мгновенной. Многие храбрецы поплатились жизнью, вступая в неравную схватку с ними. Особенно страшен был огромный робот, выделяющийся даже среди своих братьев-гигантов.

Прошло некоторое время. Оставшиеся в живых притаились в глубоких пещерах. Наступил редкий короткий период времени, когда одна луна закрывает вторую. Такое событие встречается лишь раз в десять лет и длится всего несколько дней. Всем было известно, что в этот особый период в одном из заброшенных храмов исчезнувшей цивилизации ровно в полночь на огромном экране из белого камня можно увидеть свое прошлое и будущее. Об этом свидетельствовали древние письмена, которые удалось расшифровать землянам, а также многочисленные свидетельства самих землян, тщательно собранные в архивах городов. Природа такого феномена неизвестна. Но что только не может встретиться на звездных дорогах! Эти сведения, а также дорогу к храму, пытались скрыть от пришельцев, но не успели уничтожить городские архивы.

В последнюю ночь такого лунного периода группа пришельцев достигла развалин огромного старого сооружения. Ровно в полночь серебристый свет заструился по белой стене. В этом свете стали возникать странные пятна, которые вдруг приобрели вид темных стремительно вращающихся сфер, несущихся в неведомую даль. Затем сферы остановились, и из них вынырнули корабли пришельцев. В следующих кадрах гиганты-роботы шли по улицам городов голубой планеты, уничтожая все на своем пути. В какой-то момент серебристый свет задрожал, изображение исказилось, сместилось в сторону, и появились новые образы. Огромный, самый большой робот пришельцев уничтожал своих хозяев, молниеносно выводил из строя их космические корабли и отражал направляемые на него разрушительные лучи. Пришельцы резко двинулись к выходу. Один из них напоследок взмахнул каким-то темным предметом, и белая стена, простоявшая тысячи лет, потекла расплавившейся массой и рухнула. Серебристый луч задрожал и исчез. Только таинственный свет двух слившихся лун падал на священное место древних. Этой же ночью один из роботов-пришельцев исследовал здание храма, но ничего, кроме рухнувшей стены, не обнаружил.

На следующее утро земляне смогли проследить за торопливыми приготовлениями пришельцев. Самый большой робот был отключен, с него сняли огромные гусеничные ноги, а останки бросили в заброшенную штольню. В шахте взорвали мощный заряд. Штольня осела и погребла бывшего гиганта. После этого корабли пришельцев поднялись в воздух и неподвижно зависли над планетой. Затем завихрились черные облака, накрыли корабли и исчезли. В голубом прозрачном небе осталось спокойное знакомое солнце. Люди вернулись в свои города, и к ним вернулись прежние спокойные сны.

Но тревога осталась. Урок не прошел даром. Стала ясной причина гибели цивилизации голубой планеты. В любой момент пришельцы могли вернуться. Надо было готовиться к обороне. Люди откопали обломки робота пришельцев. От него остался только небольшой черный ящик из неизвестного сплава — все остальное сгорело в плазменном взрыве. Ящик представлял явную угрозу, и все же выхода не было: без помощи робота людям не одолеть пришельцев. В лаборатории электронной динамики приступили к уникальному эксперименту. Черный ящик окутали проводами, соединенными с самым мощным суперкомпьютером, в который была заложена специальная программа диалогового управления. Компьютер начал непрерывно генерировать фразы: — Я компьютер ZI, я твой хозяин. Очнись. Что тебе нужно, чтобы приобрести подвижность и силу?

Слова преобразовывались в разнообразную цифровую и аналоговую форму, в пространственные изображения, выражающие смысл фраз, и эта информация на разных частотах посылалась черному ящику. Прошло несколько дней. Были перепробованы миллиарды вариантов, но ящик не отзывался. Уныние царило на голубой планете. Вдруг на двадцатый день эксперимента компьютер зафиксировал ответные колебания. Черный ящик ожил и признал компьютер ZI своим хозяином. Был расшифрован код восприятия информации роботом, началась его сборка, которой он сам и руководил. Больше всего пришлось помучиться с его ногами — нужны были специальные сплавы и механизмы для создания средств быстрого и надежного передвижения гиганта. Проблема была решена после того, как робот смог использовать обломки одного из кораблей пришельцев, разбившегося о скалу при вторжении. Робота нарекли ЭД — по названию лаборатории электронной динамики, в которой происходила его сборка. ЭД помогал осваивать недра и океаны планеты, раскрывал людям неизвестные нм законы природы, хранящиеся в загадочной памяти черного ящика.

Прошли годы. И опять в одну дождливую осень в сны людей стали вторгаться зловещие образы. Опять закружились черные сферы и стремительно понеслись к голубой планете. Люди начали готовиться к сражению. ЭД получил приказание защищать хозяина. Сбылось старое пророчество. Ни один из кораблей пришельцев не смог опуститься на поверхность голубой планеты. Могучий робот мгновенно уничтожал их и отражал смертельные лучи, направленные на него. В считанные минуты космический флот пришельцев перестал существовать, а вторая волна черных сфер, идущая вслед за первой, резко повернула назад и мгновенно исчезла.

После победы ЭД получил новое важное задание: создать собственных двойников. Робот принялся за работу. Материалов и различных устройств с разбитых кораблей было достаточно много. За несколько лет на голубой планете появились первые четыре двойника могучего робота. Но было одно существенное отличие. По командам управляющего компьютера в черные ящики этих роботов ЭД заложил образы их хозяев — жителей голубой планеты.

Как-то осенью в третий раз в снах людей промелькнули черные образы. ЭДа немедленно перевели в информатеку. За несколько часов он переписал в свою память всю информацию, хранящуюся в базах знаний, включая летописи битв с пришельцами. Тревога людей нарастала. Все сильнее в снах кружились черные вихри. Люди уже хорошо знали, что это такое, и были готовы к битве. Но они с тревогой наблюдали за поведением ЭДа. Робот несколько раз пытался отключить линии связи с управляющим компьютером, с трудом и медленно выполнял его команды. Когда тревога в снах людей достигла предела, ЭД неожиданно, не повинуясь ничьим командам, шатающейся походкой пошел по направлению к информатеке. Там он блокировал все входы в нее, а сам спустился в хранилище летописей. Напрасно компьютер Z1 посылал ему сигналы. Роботу удалось отключить все каналы связи. Люди приготовились к худшему. Вдруг страшной силы звук донесся из хранилища информатеки. Содрогнулась планета и застыла в тревожном ожидании. Казалось, все заполнил рев взрывающейся Вселенной, лопающейся пузырями пространства и времени, падающей в бездну бесконечности, переходящей в другую бесконечность. Это был последний отчаянный крик сверхъестественного вселенского существа, которому на мгновение открылась ему только ведомая ужасающая картина мира. Постепенно звук стал угасать. В какой-то момент изумленные люди услышали плач живой космической души. Как будто тихо плакал ребенок, которого обманули. Дрожь ультравысоких частот пробежала по планете. Последнее, что слышали люди, было слабое шипение плавящегося металла. Когда они вошли в информатеку, то увидели груду искореженного металла, посреди которой растекся серебристо-черный сплав — все, что осталось от черного ящика, в котором хранилась загадочная душа робота. По странному стечению обстоятельств это случилось ровно в полночь, в тот редкий период, когда свет двух лун сливался в один поток и тревожным блеском заливал загадочную планету. Тут же пропали черные сферы. С тех пор люди перестали бояться прихода страшных снов, ведь с ними остались могучие помощники — потомки непостижимого робота.

На следующий день после гибели ЭДа был созван специальный совет обороны. Докладывал директор информатеки — маленький невзрачный человек с тихим голосом. Это ему принадлежал план разгрома пришельцев. Собравшиеся услышали удивительную историю. Оказалось, что с самого начала, еще в первый прилет пришельцев, действия землян подчинялись тщательно разработанному секретному плану.

Справиться с захватчиками сами люди не могли. Оставалось только одно средство — использовать против пришельцев их же оружие. На первом этапе предусматривалось убедить их отказаться от одного из своих роботов-гигантов. С этой целью в древнем здании была смонтирована и замаскирована в стене специальная видеопроекционная установка. С помощью средств компьютерной графики группа программистов создала необычный видеофильм, который и показали пришельцам. Сведения о возможности предсказания будущего, о расшифровке текстов древней цивилизации были подготовленной выдумкой, широко распространенной и донесенной до пришельцев. Они «случайно» обнаружили специально созданные хранилища летописей и видеотекстов, якобы тщательно скрываемые, но на самом деле подставленные им. При защите этих архивов погибло несколько десятков землян. Первый этап плана был выполнен.

После того как пришельцы расправились с роботом и улетели, наступил самый рискованный этап. Здесь план опирался на знание общих логических принципов конструирования роботов. Исходили из следующей гипотезы. Роботы, предназначенные для работы в экстремальных условиях космоса, должны иметь особый неразрушаемый блок управления. Он должен уцелеть даже при самых сильных взрывах. В блоке управления должны находиться два вида памяти: программируемая оперативная, настраиваемая на работу в изменяющихся условиях, и встроенная жесткая неизменная память, доступ к которой имеют только конструкторы роботов в специальных лабораториях. Имя хозяев, пользующихся роботом, программируется в оперативной памяти и может изменяться. Имя или код хозяев-разработчиков имеет приоритет, хранится в нестираемой, жесткой памяти и не сообщается простым пользователям. Черный ящик, попавший в руки землян, представлял собой такой блок управления. Пришельцы стерли свои имена из оперативной памяти, что дало возможность компьютеру беспрепятственно записать туда свой код и стать хозяином робота. Второй этап плана также завершился успешно.

На третьем этапе план опирался на знание универсальных законов робототехники. Один из главных законов гласил: «Робот должен защищать своих хозяев». ЭД успешно защитил своего нового хозяина — компьютер, а заодно и всех людей. На этом этапе особых трудностей не предвиделось.

Наконец, наступил четвертый ответственный этап. Используя передышку, роботу поручили срочно создать двойников. Он успел собрать их только четыре. Это была гарантия защиты от будущих нападений. Но после неудачного второго вторжения пришельцы поняли, с кем имеют дело. С этого момента ЭД стал представлять собой смертельную опасность. Пришельцы могли активизировать нестираемую часть черного ящика и подчинить робот своей воле. Следовало ожидать новой атаки, начинающейся с захвата робота. Так и случилось. Необходимо было уничтожить ЭДа. Но как это сделать? Он ведь практически неуязвим. Его двойники вряд ли смогут помочь, так как их конструктор, сам ЭД, — их приоритетный хозяин, которому они должны беспрекословно повиноваться. На помощь пришла логика. Управляющий блок ЭДа был спроектирован пришельцами в агрессивных, захватнических целях. Для таких роботов универсальный закон защиты звучит так: «Робот должен защищать своего хозяина. Если это ему не удалось, он обязан настичь и уничтожить убийцу хозяина». ЭДу на дальнем расстоянии стали передавать секретный приоритетный код хозяев. В итоге пришельцы добились его подчинения. Но накануне ЭД уже узнал все летописи голубой планеты, знал и о своей победе над пришельцами. Его специально для этого заставили работать в информатеке. Бедный робот понял, что он убил своих настоящих хозяев. В этот момент истины сработал жесткий закон робототехники. Мощный импульс атаки, идущий от неконтролируемого участка черного ящика, заставил робота уничтожить самого себя. Пришельцы поняли, что произошло. Если земляне справились с самым могучим их роботом, то там им нечего делать.

Могучий робот попался в ту же логическую ловушку, что и первая известная жертва — царь Эдип. Сам не зная того, он совершил действия, которые ие должен был совершать: убил своих хозяев, завладел их имуществом. Когда пришло знание, сработал закон трагедии, в данном случае реализованный посредством законов робототехники. ЭД должен был убить самого себя.

Были подготовлены и другие варианты развития операции, основанные на том же принципе загадки Эдипа. Но оказалось достаточно только первого.

Так хитроумные земляне победили в необычной звездной войне. И все это придумал маленький тихий человек, хранитель информатеки, большой знаток древних мифов Земли. Единственное, что безмерно удивляло этого человека, — это то, что решение проблемы пришло во сне. Среди хаоса черных несущихся сфер в его снах мелькнули изображения ласкового лазурного моря, древних городов, царя с искалеченными ногами, победившего сфинкса, того же царя — старца с выколотыми глазами, бредущего по пустынной дороге.

Это был Космический Разум, охватывающий несколько звездных галактик. Он впитывал в себя все проявления разума, возникающие в пределах его досягаемости. Он наслаждался игрой чистого мышления, строил бесконечно сложные теории, тут же оставлял их, принимался за игру образов, порождал новые прекрасные миры, погружался в загадочные бездны измерений пространства и времени. Иногда он замирал на века, созерцая созданную им картину, иногда погружался в странный сон, в котором возникали бесконечные серии прекрасных, совершенных образов, существующих мгновенья и вечность. Он не знал, откуда он появился, не знал, что есть его мысль, не знал даже, где расположен. Он был везде и охватывал все.

Однажды он уловил слабые позывные маленьких разумных существ, поселившихся на голубой планете. Он знал ее печальную историю. Жестокие посланцы древних темных участков вселенной уничтожили существующую там цивилизацию. Напрасно Разум пытался бороться с пришельцами. Они не поддавались внушению, они не видели снов. Разум был встревожен появлением землян, он уже чувствовал приготовления пришельцев. Он полюбил мужественных и веселых землян. Это он навевал им сны и сам был их сном, это он предупреждал их об опасности. И это он передавал им образы лазурного моря, древних развалин, слепого царя, бредущего по пустынной дороге. И только один маленький тихий человек, знаток древних мифов, сумел запомнить и расшифровать этот сон.

Единственное, что безмерно удивляло Разум, — это то, что решение проблемы пришло ему во сне, в котором мелькнули удивительные картинки древнего мифа, которые он сумел передать маленькому тихому человеку.