В рамках Всемирного экономического форума в Давосе выступил израильский историк Юваль Ной Харари, который является автором книг "Sapiens: Краткая история человечества" и "Homo Deus: Краткая история завтрашнего дня". Его речь была посвящена развитию технологий и том, как это может повлиять на человека. Вот выдержки из неё.

Мы достигли точки, когда мы можем взломать как компьютеры, так и людей и другие организмы. Достижения в области информатики, машинного обучения и искусственного интеллекта дают нам вычислительную мощность (для автоматического управления массами). Так, с помощью специального алгоритма можно вычислить активность мозга, артериальное давление и др. Уже сейчас алгоритмы могут прогнозировать желания, манипулировать эмоциями, принимать решения от вашего имени.

Большая часть работы, которую выполняют люди последние несколько веков, просто не в их природе. На протяжении истории понимание работы неоднократно менялось. В течение довольно большого периода люди вообще не работали – они выживали. То есть сама идея работы: я встаю и к в 8:00 еду на работу, где нахожусь до 17:00, – это современное понятие. Наши предки обходились без работы. Тревожность из-за потери работы – также сравнительно новый феномен. В ходе промышленных революций последних веков человек постоянно испытывал страх, что машины возьмут верх, а сам он станет ненужным. Впрочем, на этот раз, думаю, это может оказаться правдой.

Сейчас люди сталкиваются с более страшным понятием, чем эксплуатация, – со своей ненужностью. Когда тебя эксплуатируют, ты, по меньшей мере, знаешь, что ты важен, что больше некому работать. Отсюда и первая проблема с ростом тревожности. Полагаю, новые профессии все же появятся. Вопрос в том, смогут ли люди себя "переизобрести", чтобы занять эти вакансии. И переизобретать себя придется каждые 10 лет, так как мы переживаем не одну технологическую революцию, а их целый каскад. Переизобретать себя в 20 лет – одно дело, но меняться дальше – в 30, 40, 50 лет – очень тяжело, это также сильно повышает нашу тревожность.

Мы много внимания уделяем роботизации, когда говорим о будущем рынка занятости. Столько же внимания мы уделяем биотехнологиям. Множество новых профессий будет связано с пониманием человеческих эмоций. Даже беспилотные машины должны будут понимать, как себя ведут пешеходы. И уж тем более это актуально, если машины заменят банкиров или соцработников.

Если взглянуть на вещи чуть иначе, становится ясно: нужно защищать не профессии, а людей. Можно отбросить некоторую часть профессий за ненадобностью – они не стоят того, чтобы их сохранять. Кто хочет всю жизнь быть кассиром? Мы должны думать о людях, а не о профессиях. В данном случае у нас кризис не занятости, а кризис смысла работы.

Как историк замечу, что по сравнению со средневековьем люди сейчас живут просто в раю, но почему-то так себя не чувствуют.

Все ваши инвестиции – обучение тому или иному навыку, например программированию – это лотерея. Вы не знаете точно, пригодится ли вам то или иное умение, но во времена хаоса вам точно понадобится эмоциональная устойчивость, способность пережить все эти перемены. Впрочем, это очень сложно. Не знаю ни одного университета, где бы этому учили.

Точно не помню, кто высказал интересную мысль: если вам будут рассказывать о 2050 годе и это будет выглядеть как научная фантастика, вероятно, это неправда. Но если описание 2050 года не будет звучать как научная фантастика, то это точно неправда.

Возможно, мы одно из последних поколений Homo sapiens. Через век или два Землю будут населять организмы, которые будут так же сильно отличаться от нас, как мы – от неандертальцев или шимпанзе. Ведь в следующих поколениях мы научимся модифицировать наше тело и разум, и это станет главным продуктом экономики XXI века.

Как именно будут выглядеть будущие хозяева планеты? Это будут решать те, кто владеет информацией. В руках тех, кто будет ее контролировать, будет контроль за жизнью на планете. Информация – самый важный актив в мире. Не земля, как в древности, не промышленное оборудование, как в последние пару веков. Что же произойдет, если слишком большое количество информации будет сконцентрировано в руках маленькой кучки избранных? Человечество разделится. Но не на классы, а на различные виды.

Информация так важна, потому что мы достигли точки, когда можем взламывать не только компьютеры, но и человеческий организм. Для этого нужны две вещи: большая вычислительная мощность и огромный объем данных, в частности, биометрических. До сегодняшнего дня ни у кого не было этих ингредиентов для массового взлома человечества. Даже КГБ или испанская инквизиция, имеющие возможность наблюдать за людьми круглосуточно, не могли этого.

Сейчас ситуация меняется благодаря двум идущим одновременно революциям: развитие компьютерной науки (расцвет машинного обучения, искусственный интеллект) и развитие биологии, в частности нейробиологии. Это дает нам необходимое понимание, как работает человеческий мозг. Можно суммировать полтора века биологических исследований тремя словами: организмы есть алгоритмы. И мы сейчас расшифровываем эти алгоритмы.

Возможно, самое важное изобретение для обеих революций – биометрический сенсор, который переводит биохимические процессы в нашем теле и мозге в электронные сигналы, которые может анализировать компьютер. Расшифровав эти алгоритмы, можно создать существ, которые будут лучше людей.

Сейчас этот процесс ведется на трех фронтах. Первый – биоинженерия, ученые выращивают новые органы, обновляют старые, вмешиваются в организм на генетическом уровне и так далее. Но это и самый консервативный фронт, так как он использует традиционные "кирпичи", из которых сложен организм.

Второй подход более радикальный – комбинация органического и неорганического (бионическая рука, компьютерный интерфейс в мозге, вторая иммунная система, созданная из миллионов нанороботов, и так далее). Но даже в этом случае ваш мозг остается органическим, несмотря на то, что подключен к различного рода устройствам, Интернету.

Третий – и наиболее радикальный – создание полностью неорганических форм жизни. Можно ли это сделать, пока открытый вопрос. Остается нераскрытой тайна сознания – мы до сих пор понятия не имеем, что это такое и как оно появляется у человека. Общий консенсус – сознание находится в мозге, и если "взломать" его и понять, как работают эти миллиарды нейронов, создающие опыт и эмоции, то не будет барьеров, чтобы воссоздать их на другом "материале". Возможно, с неорганическими формами жизни у нас так ничего и не получится, но все больше серьезных ученых убеждаются в том, что рано или поздно это произойдет.

Люди вообще не знают себя по-настоящему. Представьте себе ситуацию, когда через 10–20 лет алгоритм сможет говорить тинейджеру о его ориентации. Алгоритм отслеживает движения ваших глаз, давление, активность мозга и сообщает вам, кто вы. Эти данные могут получить Amazon, Google, Facebook. Алгоритмы, следящие за вами, сообщат, к примеру, Coca-Cola, что если компания захочет продать вам свой напиток, не стоит показывать рекламу с обнаженными девушками. Вы этого даже не заметите, но корпорации прекрасно знают, что эта информация стоит миллиарды.

Как регулировать владение информацией? В отличие от земли и промышленного оборудования информация везде и вместе с тем нигде, ее можно копировать, она распространяется с невероятной скоростью и так далее. Кому же принадлежит информация обо мне? В настоящее время большей частью данных владеют корпорации, и людей это беспокоит. Но если уполномочить правительства национализировать информацию, все равно это приведет к цифровой диктатуре.

Когда у нас будут алгоритмы, способные понимать меня лучше, чем я сам, они смогут предсказывать мои желания, манипулировать моими эмоциями и даже принимать за меня решения. Если мы не проявим осторожность, придет эпоха цифровой диктатуры. В XX веке демократия пришла на смену диктатуре, так как она была лучше в обработке данных и принятии решений. Демократия распределяет информацию и наделяет институции и людей правом принимать решения. Диктатура же сосредотачивает всю информацию и принятие решений в одних руках.

Однако в XXI веке биотехнологическая революция может качнуть маятник в обратную сторону: централизованное распределение информации может стать более эффективным. Если демократия не приспособится к новым условиям, новые люди будут жить при цифровой диктатуре. Возьмем, к примеру, Северную Корею: люди там будут носить, скажем, специальные биометрические браслеты, радио-чипы и штрих-коды в области лба. Когда человек войдет в комнату и увидит портрет великого вождя, браслет считает его эмоции, давление и передаст данные в соответствующие органы. Программный алгоритм примет решение о наказании или поощрении мгновенно через чип. Так будет выглядеть цифровая диктатура.

Контроль информации позволит мировым элитам сделать нечто еще более радикальное, чем цифровая диктатура. Взламывая организмы, элиты получат возможность перестроить будущее жизни. И это будет величайшая революция в истории не просто человечества, а всего живого на Земле. Сейчас наука заменяет божественное творение или эволюцию разумным замыслом. Замыслом не божьим, а человеческим. Если не урегулировать этот вопрос, крошечная группа людей, элита, будет контролировать каждого подключенного к системе человека и определять будущее жизни на Земле.

Многие политики как музыканты: они играют на человеческих эмоциях и биохимической системе. Политик произносит речь, и вся страна охвачена страхом. Политик публикует твит, и – взрыв гнева. Не думаю, что стоит давать этим "музыкантам" самые совершенные инструменты и уж тем более доверять жизнь во Вселенной. Помимо всего прочего, у них даже нет своего видения будущего. Вместо этого они кормят публику ностальгическими фантазиями о прошлом.

Большинство людей вообще не осознают, что происходит и что на кону. Как историк я стараюсь донести до максимально большого количества людей, что происходит в мире, чтобы как можно больше человек приняли участие в выборе вариантов нашего будущего.

Больше новостей Харе Кришна...

Поделиться с друзьями