Бесполезный класс

Самым важным для экономики XXI века может стать вопрос о том, что же делать со всеми этими бесполезными людьми. Чем будут заниматься человеческие существа с высокоразвитым сознанием, когда не обладающие сознанием сверхумные алгоритмы почти все станут делать лучше?

Испокон веков рынок труда делился на три основных сегмента: сельское хозяйство, промышленность и сфера услуг. Примерно до 1800 года народ был по преимуществу занят в сельском хозяйстве, и лишь небольшая его часть работала в индустрии и в сфере услуг. Во время промышленной революции крестьяне в развитых странах бросили стада и пашни и устремились в большинстве своем на фабрики и частично в сферу услуг. В последние десятилетия развитые страны пережили еще одну революцию – исчезновение рабочих профессий в промышленности сопровождалось стремительным расширением сегмента услуг. В 2010 году всего два процента американцев были заняты в сельском хозяйстве и двадцать процентов – в промышленности, тогда как семьдесят восемь процентов работали учителями, врачами, дизайнерами вебсайтов и т. п. Чем же мы займемся, когда алгоритмы будут учить, лечить и создавать сайты лучше, чем мы?

Это отнюдь не новый вопрос. Со времени промышленной революции люди жили под страхом, что механизация приведет к массовой безработице. До сих пор этого не случилось, поскольку взамен исчезнувших профессий возникали новые и со многим люди справлялись лучше, чем машины. Но это ведь не закон природы, и нет никаких гарантий, что в дальнейшем все будет происходить аналогичным образом. Человек обладает способностями двух видов: физическими и умственными. Пока что машины соревновались с людьми лишь в физической сноровке, и всегда существовало множество задач для ума, в решении которых у людей не было конкурентов. В итоге машины взяли на себя чисто физическую работу, а люди сосредоточились на деятельности, требовавшей когнитивных навыков. Но что случится, если алгоритмы обойдут нас в запоминании, анализе и распознавании образов?

Представление, будто бессознательным алгоритмам никогда не угнаться за гениальной человеческой мыслью, – не что иное, как самообман. Сегодняшний научный ответ на эту пустую мечту может быть сведен к трем простым положениям:

1. Организмы суть алгоритмы. Каждое животное, включая Homo Sapiens, – это собрание органических алгоритмов, сформированных естественным отбором за миллионы лет эволюции.

2. Алгоритмические вычисления не зависят от материалов, из которых сделан калькулятор. На каких бы счетах вы ни считали – деревянных, железных или пластмассовых, – если к двум прибавить еще два, получится четыре.

3. Следовательно, нет оснований полагать, что алгоритмы органические могут что-то такое, чего неорганические алгоритмы никогда не смогут повторить или превзойти. Если вычисления правильны, то какая разница, где работают алгоритмы – в углеродной или кремниевой среде?

Да, в наши дни органические алгоритмы еще многое делают лучше, чем неорганические, и эксперты не раз заявляли, что те или иные вещи «навсегда» останутся недосягаемыми для неорганических алгоритмов. Однако жизнь показывает, что «навсегда» часто не превышает пары десятилетий. Еще недавно распознание лиц было излюбленным примером того, что легко дается даже младенцам, но не по силам самым мощным компьютерам. Сегодня программы распознавания лиц способны идентифицировать людей гораздо быстрее и эффективнее, чем люди. Разведывательные и полицейские службы используют такие программы повседневно – для сканирования километров видеопленок с камер наблюдения и поиска подозреваемых и преступников.

Когда в 1980-х годах обсуждалась уникальность природы человека, в качестве главного доказательства его превосходства обычно приводились шахматы. Существовало убеждение, что роботу никогда не обыграть живого шахматиста. 10 февраля 1996 года суперкомпьютер Deep Blue разработки IBM взял верх над чемпионом мира Гарри Каспаровым, отправив на свалку и эту заявку на человеческое превосходство.

Создатели хорошо подготовили Deep Blue, начинив его не только правилами игры, но и подробнейшими инструкциями относительно шахматных стратегий. Искусственный интеллект нового поколения предпочитает советам людей машинное обучение. В феврале 2015 года компьютерная программа, разработанная подразделением Deep Mind компании Google, самостоятельно освоила 49 классических игр Atari. Один из ее разработчиков, доктор Демис Хассабис, объяснил: «Единственная информация, которая была предоставлена системе, – это необработанные пиксели на экране и идея, что нужно набирать очки. Все остальное она должна была просчитать сама». Программа ухитрилась выучить правила всех предложенных ей игр от «Пакмана» и «Космических захватчиков» до автогонок и тенниса. И играла в них не хуже, а иногда и лучше людей, подчас применяя стратегии, которые никогда не приходили в голову игроку-человеку[225].

Немного погодя искусственный интеллект отметился еще более сенсационным достижением: созданная DeepMind программа AlphaGo обучилась играть в древнюю китайскую настольную игру го, значительно более сложную, чем шахматы. Го долго считалась слишком сложной для искусственного интеллекта. В марте 2016 года в Сеуле состоялся матч между AlphaGo и южнокорейским мастером игры в го Ли Седолем. AlphaGo обыграла Ли со счетом 4:1, применив оригинальные стратегии, ошеломившие экспертов. Если до матча профессиональные гоисты почти не сомневались, что Ли победит, то проанализировав ходы AlphaGo, они пришли к выводу, что игра окончена: люди могут попрощаться с надеждой выиграть у AlphaGo и тем более ее потомков.

Отличились компьютерные алгоритмы и в играх с мячом. Десятилетиями бейсбольные клубы полагались в подборе игроков на прозорливость, опыт и чутье профессиональных скаутов и менеджеров. За лучших игроков платили миллионы – естественно, богатые клубы снимали пенки, а бедные довольствовались тем, что осталось. В 2002 году Билли Бин, менеджер клуба со скромным бюджетом «Окленд Атлетикс», решил поломать систему. Он положился на алгоритм, придуманный компьютерными гиками и экономистами, чтобы создать победную команду из игроков, не замеченных или недооцененных скаутами. Ветераны бейсбола обозлились на Бина за алгоритм, вторгшийся, по их мнению, в святая святых. Они настаивали на том, что подбор игроков – это тончайшее искусство и владеют им лишь люди, знающие игру очень близко и очень давно. Компьютерная программа на это не способна, поскольку не может постичь секретов и духа бейсбола.

Скоро им пришлось прикусить языки. Укомплектованная алгоритмом малобюджетная (44 миллиона долларов) команда не только выстояла против бейсбольных гигантов, таких как «Нью-Йорк Янкиз» (125 миллионов долларов), но первой в истории Американской лиги одержала двадцать побед подряд. Правда, Билли Бин и его «Окленд» недолго грелись в лучах славы. Другие команды не замедлили перенять его алгоритмический опыт и, поскольку «Янкиз» и «Ред Сокс» могли тратить и на игроков, и на компьютерный софт на порядок больше, шансы на то, что малобюджетные клубы вроде «Окленд Атлетикс» сумеют противостоять им, стали еще меньше, чем были до всей этой истории[226].

В 2004 году профессора Фрэнк Леви из Массачусетского технологического института и Ричард Мернен из Гарварда опубликовали всестороннее исследование рынка труда, в котором выделили виды деятельности, имеющие наибольшие шансы подвергнуться автоматизации. Вождение грузовика они привели в качестве примера работы, которую едва ли в обозримом будущем доверят автомату. Трудно представить себе, писали они, чтобы управляемый алгоритмом грузовик смог безопасно лавировать в потоке машин. И что же? Меньше чем полтора десятка лет спустя Google и Tesla не только представили себе, но уже претворяют это в жизнь[227].

Заменять людей компьютерными алгоритмами год от года становится все проще и проще не только благодаря совершенствованию алгоритмов, но и потому, что все последнее время возрастала степень профессиональной специализации людей. Древние охотники-собиратели владели самыми разнообразными навыками, необходимыми для выживания, поэтому смоделировать автоматизированного охотника-собирателя было бы необычайно трудно. Такой робот должен был бы уметь изготавливать из камня наконечники копий, искать в лесу съедобные грибы, выслеживать и загонять мамонта во взаимодействии с десятком других охотников, а потом врачевать полученные раны целебными травами. Но в последние несколько тысячелетий мы, люди, все больше специализировались. У таксиста или кардиолога несравнимо более узкая специализация, чем у охотника-собирателя, что облегчает их замещение искусственным интеллектом. Как я уже неоднократно подчеркивал, искусственному интеллекту неизмеримо далеко до человека с его многообразием чувств, переживаний, способностей и возможностей. Но дело-то в том, что 99 процентов человеческих свойств и способностей остаются незадействованными при выполнении большинства современных работ. Чтобы вытеснить человека с рынка труда, искусственному интеллекту достаточно лишь стать лучше нас в выполнении специфических действий, составляющих суть той или иной профессии.

Даже те, кто управляет, – коллективами и различными видами деятельности, – могут быть заменены. Благодаря своим мощным алгоритмам Uber координирует передвижения миллионов таксистов силами небольшого числа операторов. Основная часть распоряжений отдается алгоритмами без контроля со стороны человека[228]. В мае 2014 года Deep Knowledge Ventures – гонконгский венчурный фонд, специализирующийся на регенеративной медицине, – удивил мир, сделав алгоритм по имени VITAL членом своего совета директоров. VITAL анализирует огромную базу данных, касающихся текущей финансовой ситуации, клинических испытаний и интеллектуальной собственности различных компаний, на предмет вложений. Наравне с другими пятью членами совета алгоритм голосует в поддержку или против инвестиций в то или иное предприятие.

Глядя на то, как проявил себя VITAL, понимаешь, что он уже успел перенять по крайней мере один порок управленцев: непотизм. Он неизменно голосовал за инвестирование в компании, предоставляющие алгоритмам значительную свободу действий. Например, с его благословения Deep Knowledge Ventures вложил средства в компанию Pathway Pharmaceuticals, использующую алгоритм OncoFinder для персонализированного подбора онкотерапии[229].

По мере вытеснения алгоритмами людей с рынка труда богатство и власть будут концентрироваться в руках тонкого слоя элиты – владельцев всемогущих алгоритмов. Социальное и политическое неравенство достигнет беспрецедентного уровня. Сегодня миллионы водителей такси, автобусов и грузовиков обладают серьезным экономическим и политическим весом, ведь у каждого из них своя крошечная доля рынка перевозок. Если их коллективные интересы не соблюдаются, они объединяются в профсоюзы, устраивают забастовки и бойкоты, создают избирательные блоки. Но если на смену миллионам водителей придет один алгоритм, то все доходы и влияние достанутся корпорации, владеющей алгоритмом, и нескольким миллиардерам, владеющим корпорацией.

Следующая ступень – алгоритмы сами могут стать владельцами корпорации. Законы человеческого общества уже признают «субъектами права» интерсубъективные сущности, такие как корпорации и нации. Хотя Toyota или Аргентина не имеют ни тела, ни разума, они являются субъектами международного права, которые могут владеть землей и деньгами, а также привлекать и привлекаться к суду. Не исключено, что в недалеком будущем такой же статус получат и алгоритмы. И тогда ничто не помешает алгоритму сделаться хозяином транспортной империи или венчурного фонда и перестать подчиняться желаниям человеческих особей.

Если алгоритм будет принимать правильные решения, он может стать владельцем огромного состояния, а затем инвестировать по своему усмотрению – например, купить дом, в котором вы снимаете квартиру. Если вы посягнете на его права – скажем, задерживая квартплату, – алгоритм наймет адвокатов и подаст на вас в суд. Если такие алгоритмы будут успешнее капиталистов-людей, дело может кончиться тем, что в собственности у алгоритмической элиты окажется б?льшая часть нашей планеты. Это выглядит невероятным, но тут полезно будет вспомнить, что уже сейчас законными владельцами почти всей планеты являются интерсубъективные сущности, а именно страны и корпорации. А пять тысяч лет назад почти весь Шумер принадлежал вымышленным богам Энки и Инанне. Если владеть землей и нанимать людей могут боги, то почему не алгоритмы?

Так чем же займутся люди? Часто приходится слышать, что нашим последним (и уникально человеческим) прибежищем является искусство. В мире, где компьютеры заменят докторов, водителей, учителей и даже арендодателей, – смогут ли в нем все люди стать художниками и артистами? Да и где гарантия, что художественное творчество также не покорится алгоритмам? Откуда в нас уверенность, что компьютеры никогда не станут сочинять музыку лучше? С точки зрения естественных наук искусство является продуктом не вдохновенного духа или трансцендентной души, а органических алгоритмов, распознающих математические модели. Если это так, то почему бы алгоритмам неорганическим не научиться этому?

Дэвид Коуп – профессор-музыковед из Калифорнийского университета в Санта-Крузе и одна из самых противоречивых фигур в мире классической музыки. Коуп пишет компьютерные программы, которые сочиняют концерты, хоралы, симфонии и оперы. Его первое детище называлось ЭМИ (эксперименты с музыкальным интеллектом) и специализировалось на имитации стиля Иоганна Себастьяна Баха. На создание программы ушло семь лет, зато, когда работа была закончена, ЭМИ за день сочинила пять тысяч хоралов а-ля Бах. Коуп организовал исполнение нескольких новых хоралов на музыкальном фестивале в Санта-Крузе. Восторженные слушатели расхваливали проникновенную интерпретацию и с воодушевлением объясняли, в какие глубины их душ проникла музыка. Когда им сказали, что эту музыку написала программа, одни замкнулись в мрачном молчании, другие стали возмущаться и скандалить.

ЭМИ продолжала совершенствоваться и научилась имитировать Бетховена, Шопена, Рахманинова и Стравинского. Коуп договорился со студией звукозаписи о контракте для ЭМИ, и ее первый альбом – «Классическая музыка, сочиненная компьютером» – разошелся на удивление быстро. Поклонники реальной классики еще более разгневались. Профессор Стив Ларсон из университета Орегона послал Коупу вызов на музыкальный поединок. Ларсон предложил, чтобы профессиональный пианист сыграл подряд три пьесы: одну Баха, одну ЭМИ и одну самого Ларсона. Затем слушатели попытаются определить, что было чем. Ларсон был уверен, что люди без труда отличат исполненные чувств творения человека от безжизненных поделок компьютера. Коуп принял вызов. В назначенный день сотни преподавателей, студентов и любителей музыки собрались в концертном зале университета. После концерта провели опрос. Публика приняла пьесу ЭМИ за истинного Баха, пьесу Баха сочла написанной Ларсоном, а авторство пьесы Ларсона приписала компьютеру.

Критики, конечно же, не прекращали твердить, что музыка ЭМИ технически безупречна, но чего-то в ней все же недостает. Она слишком правильна. Ей не хватает глубины. В ней нет души. Но когда люди слушали композиции ЭМИ, не подозревая об их происхождении, они часто хвалили их именно за одухотворенность, глубину и способность волновать.

Не удовольствовавшись успехами ЭМИ, Коуп придумал еще более хитроумные программы. Его высшим достижением стала Энни. В отличие от ЭМИ, создававшей музыку по заложенным в нее правилам, Энни самообучаема. Ее музыкальный стиль постоянно меняется и развивается по мере поступления новой информации из внешнего мира. Коуп не имеет представления, каким будет ее следующее произведение. Энни преуспела не только в сочинении музыки, но и в других видах творчества. В 2011 году Коуп издал сборник «Ночь огней настает: 2000 хайку, сложенных человеком и машиной». Часть хайку принадлежит Энни, остальные – органическим поэтам. Авторство не раскрыто. Если вы полагаете, что сможете отличить сотворенное человеком от созданного компьютером, эта книга – отличный шанс себя проверить[230].

В XIX веке промышленная революция породила многочисленный новый класс – городской пролетариат, – который уверовал в социализм, поскольку никакая другая религия не откликалась на не имевшие прецедентов запросы, чаяния и страхи этого нового рабочего класса. Либерализм со временем победил социализм, взяв на вооружение все лучшее, что было в социалистической программе. В XXI веке мы можем стать свидетелями появления многомиллионного неработающего класса: людей, лишенных какой бы то ни было экономической, политической и даже культурной ценности, никак не содействующих процветанию, силе и славе общества. Этот «бесполезный класс» будет не просто неработающим – он будет неработоспособным.

В сентябре 2013 года оксфордские ученые Карл Бенедикт Фрей и Майкл А. Осборн опубликовали статью «Будущее занятости», в которой исследуют вероятность замещения разных видов деятельности компьютерными алгоритмами в ближайшие двадцать лет. Алгоритм, разработанный Фреем и Осборном для расчета степеней этой вероятности, вычислил, что в США в зоне высокого риска находится 47 процентов профессий. Например, существует 99-процентная вероятность, что к 2033 году свои места алгоритмам уступят специалисты по телефонному маркетингу и страховые агенты, с 98-процентной вероятностью та же участь постигнет спортивных рефери, с 97-процентной – кассиров, с 96-процентной – шеф-поваров. Вероятность, с которой потеряют работу официанты, составляет 94 процента. Секретари юридических контор – 94 процента. Экскурсоводы – 91 процент. Пекари – 89 процентов. Водители автобусов – 89 процентов. Строительные рабочие – 88 процентов. Ветеринарные фельдшеры – 86 процентов. Охранники – 84 процента. Моряки – 83 процента. Бармены – 77 процентов. Архивариусы – 76 процентов. Плотники – 72 процента. Спасатели на воде – 67 процентов. И так далее, и так далее, и так далее… Существует, безусловно, некоторое число надежных специальностей. Вероятность, что к 2033 году компьютерные алгоритмы вытеснят археологов, составляет всего 0,7 процента. Эта работа требует распознавания очень сложной системы образов и не генерирует больших доходов, потому не стоит ожидать, что корпорации и правительства в ближайшие двадцать лет потратятся на автоматизацию археологии[231].

Конечно, до 2033 года появится какое-то число новых профессий. Например, дизайнер виртуальных миров. Но таким специалистам понадобятся такие креативность и гибкость, какие не нужны нынешним рядовым трудягам, и неизвестно, сумеют ли сорокалетние кассиры и страховые агенты переквалифицироваться в дизайнеров (вообразите себе виртуальный мир, созданный страховым агентом!). А если даже сумеют, то не пройдет и десяти лет, как им, возможно, придется переквалифицироваться вновь – настолько стремителен прогресс. И потом, алгоритмы ведь вполне могут обойти людей и в дизайне виртуальных миров. Проблема заключается не в том, чтобы создавать новые специальности. Проблема в том, чтобы создавать такие специальности, в которых люди будут выполнять работу лучше алгоритмов[232].

Поскольку мы не представляем, каким будет рынок труда в 2030 году, а тем более в 2040-м, мы уже сегодня не знаем, чему учить наших детей. Львиная доля того, что они сейчас изучают в школе, к их сорокалетию утратит актуальность. Традиционно жизнь делилась на две основные части: период учебы и следовавший за ним период работы. Очень скоро эта традиционная модель безнадежно устареет, и единственное, что останется человеку, который не хочет выпасть из обоймы, – всю жизнь учиться и достаточно часто переучиваться. Многим людям это будет не под силу. Возможно даже – большинству.

Грядущее технологическое процветание, очевидно, позволит кормить и содержать эти бесполезные массы, не требуя от них ничего взамен. Но чем их занять и как заставить довольствоваться тем, что дают? Люди должны что-то делать, иначе они съезжают с катушек. Что они будут делать весь день? Один из вариантов – наркотики и компьютерные игры. Ненужные люди могли бы зависать в виртуальной реальности формата 3D, намного более волнующей и увлекательной, чем их серые будни. Однако такое развитие событий нанесло бы смертельный удар либеральной вере в святость человеческой жизни и человеческих переживаний. Что святого в бездельниках, дни напролет развлекающихся искусственными переживаниями в Ла-Ла Ленд[233].

Некоторые эксперты и мыслители, в числе которых Ник Бостром, считают, что нам не грозит подобная деградация, так как, превзойдя человеческие способности, искусственный интеллект, скорее всего, просто уничтожит все человечество. Он сделает это либо из страха, что человечество восстанет против него и попытается «выдернуть шнур из розетки», либо преследуя какую-то свою непонятную нам цель. Ибо людям будет до невозможного сложно контролировать мотивацию системы, более умной, чем они сами.

Даже программирование системы на добро может привести к беде. По одному из популярных сценариев корпорация создает первый искусственный суперинтеллект и дает ему безобидное задание – рассчитать число ?. Никто не успевает ничего понять, как искусственный интеллект захватывает всю планету, изничтожает весь человеческий род, распространяет свою власть до границ галактики и превращает Вселенную в гигантский суперкомпьютер, который миллиардолетие за миллиардолетием педантично, со все б?льшей точностью рассчитывает число ?. Ведь такова была священная миссия, возложенная на него Создателем[234].