Магистратура / Текст A Conversation with Simon Johnson about Technology and Prosperity и перевод

23

A Conversation with Simon Johnson about Technology and Prosperity

Беседа с Саймоном Джонсоном о технологиях и процветании

thousand years of history and contemporary evidence make one thing abundantly clear,” write newly minted Nobel laureates. Daron Acemoglu and Simon Johnson in their book Power and Progress. “There is nothing automatic about new technologies bringing widespread prosperity. Whether they do or not is an economic, social, and political choice.” 

тысячелетняя история и современные свидетельства совершенно ясно свидетельствуют об одном», — пишут новоиспечённые лауреаты Нобелевской премии Дарон Асемоглу и Саймон Джонсон в своей книге «Власть и прогресс». «Новые технологии не приносят всеобщего процветания автоматически. Приведут они к этому или нет — это вопрос экономического, социального и политического выбора».

This summer, I interviewed Johnson about the relationship between technological progress and prosperity, including how societies have made these choices in the past and what our decisions about the current wave of AI could mean for our future.

Этим летом я брал интервью у Джонсона о взаимосвязи между технологическим прогрессом и процветанием, в том числе о том, как общества делали этот выбор в прошлом, и что наши решения относительно нынешней волны ИИ могут означать для нашего будущего.

The occasion for our conversation was Behavioral Scientist’s Summer Book Club, Techno-Visions.  We read Kurt Vonnegut’s Player Piano about a future society run by a special class of engineers, their supercomputer, and the people at the mercy of both. Player Piano is Vonnegut’s warning of what could come to pass if we prioritize the needs of machines over people. It’s a vision of a possible future that hasn’t proven as false as we might have hoped.

Поводом для нашей беседы стал Летний книжный клуб бихевиористов «Техно-Видения». Мы прочитали «Механическое пианино» Курта Воннегута о будущем обществе, управляемом особым классом инженеров, их суперкомпьютером и людьми, находящимися во власти этих двух сил. «Механическое пианино» — это предупреждение Воннегута о том, что может произойти, если мы поставим потребности машин выше потребностей людей. Это видение возможного будущего, которое оказалось не таким уж ложным, как мы могли бы надеяться.

At the heart of Vonnegut’s Player Piano and our own uncertainty about the future lies the same question,” I wrote in the introduction to the book club. “Where exactly is the technology, we’re developing taking us?” 

«В основе «Механического пианино» Воннегута и нашей собственной неуверенности в будущем лежит один и тот же вопрос, — написал я во вступлении к книжному клубу. — Куда именно приведут нас разрабатываемые нами технологии?»

In our conversation, Johnson helped make sense of this question through the lens of economic history. He also shared his perspective on the kinds of work AI will likely transform, how to better evaluate the utopian and dystopian visions of AI, and the tension between building what we can versus what we need. 

В нашей беседе Джонсон помог разобраться в этом вопросе через призму экономической истории. Он также поделился своим видением того, какие виды деятельности, вероятно, изменит ИИ, как лучше оценить утопические и антиутопические видения ИИ, а также противоречием между созданием того, что мы можем, и тем, что нам нужно. 

Our conversation was originally intended exclusively for the Summer Book Club. But after Johnson was awarded the Nobel, we decided to bring the conversation to our entire audience. It has been edited for length and clarity.

Изначально наша беседа предназначалась исключительно для Летнего книжного клуба. Но после того, как Джонсону присудили Нобелевскую премию, мы решили донести её до всей аудитории. Мы сократили её объём и чёткость изложения.

Evan Nesterak: The level of investment and interest in AI makes it seem as if our society is on the verge of a tremendous change. Depending on who you talk to, that change might be catastrophic or it might be wonderful. Do you think we’re on the precipice of some unprecedented societal transformation? Or do you think change will be less pronounced than it’s being made out to be?

Эван Нестерак: Уровень инвестиций и интереса к ИИ создаёт впечатление, что наше общество стоит на пороге колоссальных перемен. В зависимости от того, с кем вы общаетесь, эти перемены могут быть катастрофическими или чудесными. Как вы думаете, мы находимся на пороге беспрецедентной общественной трансформации? Или, по-вашему, перемены будут менее выраженными, чем их пытаются представить?

Simon Johnson: My current assessment—and of course in this age of technological development we have to reserve the right to change our opinions tomorrow if we see more new things coming—is we are not on the precipice or about to experience a sudden acceleration. But if you take the long historical view, the United States has for most of the past 150 years generated technology and changed itself in the light of that technology faster than any human society has ever done. The United States has reinvented itself sometimes for better and sometimes for worse, repeatedly. My business as usual involves a lot of societal transformation, but not the sudden acceleration and not the sudden bliss point, or singularity, or other things that people imagine.

Саймон Джонсон: Моя текущая оценка – и, конечно же, в этот век технологического развития мы должны оставлять за собой право изменить своё мнение завтра, если увидим что-то новое, – заключается в том, что мы не стоим на краю пропасти и не собираемся испытать внезапное ускорение. Но если взглянуть на историю в долгосрочной перспективе, то Соединённые Штаты на протяжении большей части последних 150 лет генерировали технологии и менялись под их влиянием быстрее, чем любое человеческое общество когда-либо. Соединённые Штаты неоднократно перестраивались – иногда в лучшую, иногда в худшую сторону. Мой обычный подход предполагает значительную общественную трансформацию, но не внезапное ускорение, не внезапную точку блаженства, не сингулярность и т.п., которые люди себе представляют.

What sectors do you think are most likely to transform, and who might find themselves displaced?

Какие секторы, по вашему мнению, с наибольшей вероятностью подвергнутся трансформации и кто может оказаться в ситуации вытеснения?

AI is a form of automation. Instead of replacing people doing manual tasks with their hands, we’re replacing people doing tasks with their minds. The key element is, How routine is that task? This is something that my colleague at MIT, David Autor, has built his career around measuring. He, Daron Acemoglu, and I run a center at MIT that attempts to follow these issues.

ИИ — это форма автоматизации. Вместо того, чтобы заменять людей, выполняющих ручную работу, руками, мы заменяем людей, выполняющих задачи разумом. Ключевой момент — насколько рутинна эта задача? Именно на измерении этого показателя мой коллега из Массачусетского технологического института Дэвид Аутор и построил свою карьеру. Мы с ним, Дэроном Асемоглу и другими руководителями центра в Массачусетском технологическом институте, который занимается этими вопросами.

 It seems to us and to others who look at this is people who have jobs with a relatively routine component [are at risk of being displaced]. Customer call centers handling routine matters, for example, or people doing paperwork that is essentially filing the same thing over and over again, or people who translate or modify existing materials where the modifications are all quite small. One CEO called these positions—and this is not my term and it’s not a nice term, but he’s a CEO and he employs people, so I think it tells you something—he called them “cut-and-paste jobs.”

Нам и другим, кто следит за этим, кажется, что люди, работающие с относительно рутинной составляющей, [подвержены риску увольнения]. Например, сотрудники колл-центров, занимающиеся рутинными вопросами, или сотрудники, занимающиеся бумажной работой, которая, по сути, представляет собой многократное заполнение одних и тех же документов, или сотрудники, которые переводят или редактируют существующие материалы, где все изменения довольно незначительны. Один генеральный директор назвал эти должности — и это не мой термин, и он не очень удачный, но он генеральный директор и нанимает людей, так что, думаю, это вам о чём-то говорит — он назвал их «работами по копированию и вставке».

When you talk to people at LinkedIn who have a lot of data on postings, positions, and transitions, they talk about it being not the bottom 20 percent in job compensation and not people who are doing a lot of interaction person to person. But between the 20th and 30th percentile, there are a lot of people who have relatively routine white-collar jobs and those people I think are most immediately in the line of fire.

Когда вы общаетесь с сотрудниками LinkedIn, у которых есть большой объём данных о вакансиях, должностях и переходах, они говорят, что это не 20% самых низкооплачиваемых сотрудников и не те, кто много общается лично. Но между 20-м и 30-м процентилями находится много людей с относительно рутинной работой в качестве «белых воротничков», и, на мой взгляд, именно они оказываются под прицелом.

A fundamental point you make in Power and Progress is that prosperity as a result of technological progress, far from being guaranteed, is a choice. Could you tell us more about the several of those choices societies have made, and when it’s gone right, and when it’s gone south?

Фундаментальная мысль, которую вы выдвигаете в книге «Власть и прогресс», заключается в том, что процветание как результат технологического прогресса не гарантировано, а является результатом выбора. Не могли бы вы подробнее рассказать о различных вариантах такого выбора, которые делали общества, и о том, когда он был верным, а когда — нет?

The modern story begins about 250 years ago with the advent of what we now call industrial technology—machines being applied to various tasks, either previously done by humans or not done by humans at all. What’s really interesting about the modern age is we have continued to innovate and create new machines to do things. Productivity has increased, and productivity changes have been pretty steady. 

Современная история начинается около 250 лет назад с появлением того, что мы сейчас называем промышленными технологиями, — машин, применяемых для решения различных задач, которые ранее выполнялись людьми, или не выполнялись вовсе. Что действительно интересно в современной эпохе, так это то, что мы продолжаем внедрять инновации и создавать новые машины для выполнения различных задач. Производительность труда выросла, и её изменения были довольно стабильными.

But shared prosperity, the key word is shared, that has been very different. For the first 80 to 100 years in the Industrial Revolution, people built enormous factories never previously imagined. They put together the silk factories, then the wool factories, and then of course the cotton factories. Most of the people who worked in those factories did not live better than they or their forebears had. In fact, a lot of people who were in the cotton industry as skilled weavers, for example, they did well when spinning was mechanized at the end of the 18th century. They did badly when weaving was mechanized. And that generation and their kids struggled to gain any kind of prosperity or decent life in that modern economy.

Но общее процветание, ключевое слово – общее, было совсем другим. В течение первых 80–100 лет промышленной революции люди строили огромные фабрики, о которых раньше и не мечтали. Сначала шёлковые фабрики, затем шерстяные, а затем, конечно же, хлопчатобумажные. Большинство рабочих на этих фабриках жили не лучше, чем они сами или их предки. Более того, многие искусные ткачи, например, из хлопчатобумажной промышленности, преуспевали, когда прядение было механизировано в конце XVIII века. С механизацией ткачества дела у них пошли плохо. И этому поколению, и их детям пришлось бороться за хоть какое-то процветание или достойную жизнь в условиях современной экономики.

Change also came as machinery spread and as industrialization became a broader process—a lot more opportunities and new tasks were created. I would highlight the creation of the railways. Railways were providing long-distance transportation, obviously, which had previously been offered by horse and coach, which is pretty uncomfortable and you weren’t able to move a lot of stuff, or by canals, which was extremely slow.

Изменения также происходили с распространением машин и расширением индустриализации, что открывало гораздо больше возможностей и новых задач. Я бы особо выделил создание железных дорог. Они, конечно же, обеспечивали дальние перевозки, которые раньше осуществлялись лошадьми и дилижансами, что было довольно неудобно и не позволяло перевозить много грузов, или по каналам, что было крайне медленно.

All of a sudden, you could pick up milk at the farmer’s gate at four o’clock in the morning and get it into London in time for people to buy fresh milk in the market. You could go to the seaside for a day to Blackpool, or Brighton, or one of these other places that belong in British folklore, and see things differently, and meet different people. That had never been possible.

Внезапно стало возможным забрать молоко у фермера в четыре часа утра и доставить его в Лондон как раз к тому времени, когда люди успеют купить свежее молоко на рынке. Можно было отправиться на день к морю в Блэкпул, Брайтон или в одно из других мест, которые так любят в британском фольклоре, и увидеть всё по-другому, встретить других людей. Раньше это было невозможно.

This is obviously a bit metaphorical but also instructive. The number of horses involved in transportation in Britain went up as the railway spread, not down, because horses were used for local connections. If you read a Sherlock Holmes novel, he takes the train out to Sussex, he comes back by train, and he takes a horse-drawn cab back to Baker Street.

Это, очевидно, несколько метафорично, но также поучительно. Количество лошадей, занятых в транспорте Великобритании, увеличивалось по мере распространения железных дорог, а не уменьшалось, потому что лошади использовались для местных перевозок. Если вы читали рассказы о Шерлоке Холмсе, он едет на поезде в Сассекс, возвращается на поезде и на конном экипаже добирается до Бейкер-стрит.

Now that obviously didn’t last forever. The horse was replaced by the motorcar. But there was an overall expansion of opportunities, there was an increased demand for labor. A lot of these jobs in the 19th century, good jobs, important jobs, did not require a formal education.

Конечно, это не продлилось вечно. Лошадь сменил автомобиль. Но в целом возможности расширились, увеличился спрос на рабочую силу. Многие из этих профессий в XIX веке, хорошие и важные, не требовали формального образования.

Changing the nature of technology did play out in a way that helped a lot of people, primarily because it increased the demand for people who didn’t already have a lot of formal education. It created new opportunities, people got more education, and the trade union movement developed, a very important part of sharing prosperity.

Изменение природы технологий действительно принесло пользу многим людям, прежде всего потому, что увеличило спрос на людей без формального образования. Это создало новые возможности, люди стали получать больше образования, а профсоюзное движение развилось, что является важнейшей составляющей всеобщего процветания.

So, there’s your negative and your positive, all in the first 150 years.

Итак, вот вам и негатив, и позитив за первые 150 лет.

An assumption about work is that the value of work amounts to its material rewards. Vonnegut critiques that view in Player Piano. One of his main points is that there’s a huge psychological dimension to work that we often neglect. As technology has progressed, how at different points has the psychological aspect of work been considered through different technological changes?

Существует предположение о том, что ценность труда определяется его материальным вознаграждением. Воннегут критикует эту точку зрения в «Механическом пианино». Один из его главных тезисов заключается в том, что в работе есть огромный психологический аспект, который мы часто игнорируем. Как психологический аспект труда учитывался в разные периоды развития технологий?

I think Vonnegut was ahead of his time. It’s a point that we’re grappling with today. But he was writing in the 1940s and 1950s, and I think he was romanticizing the nature of work, particularly in large factories.

Я думаю, Воннегут опередил своё время. Мы сталкиваемся с этим вопросом и сегодня. Но он писал в 1940-х и 1950-х годах, и, на мой взгляд, он романтизировал саму суть труда, особенно на крупных фабриках.

If you look at those jobs, a lot of it was extremely repetitive, very boring. There’s a high degree of burnout. Charlie Chaplin, of course, famously captured this with his portrayal of the production line.

Если взглянуть на эти работы, то многие из них были крайне однообразными и скучными. Налицо высокая степень выгорания. Чарли Чаплин, конечно же, мастерски передал это в своей картине, изображающей производственную линию.

Not too many people miss the idea of pounding the same piece of metal in the same way for 8, or 10, or 12 hours a day, six days a week. So, the transformation of work and making work more interesting, and more demanding, and better compensated, that’s an important part of what happened for much of the 20th century.

Мало кто скучает по идее ковать один и тот же кусок металла одним и тем же способом по 8, 10 или 12 часов в день, шесть дней в неделю. Таким образом, трансформация труда, повышение его интересности, требовательности и лучшей оплаты — важная часть событий XX века.

What’s interesting about Player Piano—of course, it isn’t universal basic income that these people have—they have a job, they have things to do; it’s that those things aren’t valued. There’s no social status. They feel abandoned and rejected. And I have reservations about universal basic income. I think telling people, “Right, you’re in category B,” that sounds very Aldous Huxley to me, if you want to talk science fiction.

Что интересно в «Механическом пианино» — конечно, дело не в безусловном базовом доходе, который есть у этих людей — у них есть работа, у них есть дела; дело в том, что всё это не ценится. Нет никакого социального статуса. Они чувствуют себя брошенными и отверженными. И у меня есть сомнения по поводу безусловного базового дохода. Думаю, если говорить людям: «Так, вы в категории B», это звучит очень в духе Олдоса Хаксли, если говорить о научной фантастике.

But making that work rewarding, making people appreciate and understand it, having it well compensated, reducing the working hours, allowing people to live better lives around that income earning opportunity, which is more interesting and more fulfilling, I think that’s the sweet spot. And Vonnegut was quite brilliantly alerting us to this problem.

Но сделать эту работу достойной, заставить людей ценить и понимать её, хорошо оплачивать, сократить рабочий день, дать людям возможность жить лучше, получая при этом возможность зарабатывать, что более интересно и приносит больше удовлетворения, — вот в чём, на мой взгляд, и заключается суть. И Воннегут блестяще предупредил нас об этой проблеме.

Over the past year or two, we’ve been inundated with different visions for the future based on AI. What I appreciated about Power and Progress was that you were looking at what happened in history when similar visions were being proposed to the public. As we read about AI or we hear tech executives say things like, “This is going to completely change your life for the better,” what questions should we be asking to be thoughtful consumers of these visions? 

За последние год или два, мы были буквально завалены различными представлениями о будущем, основанными на ИИ. Что мне понравилось в книге «Власть и прогресс», так это то, что вы анализировали исторические события, когда подобные представления предлагались публике. Когда мы читаем об ИИ или слышим, как руководители технологических компаний говорят что-то вроде: «Это полностью изменит вашу жизнь к лучшему», какие вопросы нам следует задавать, чтобы быть вдумчивыми потребителями этих представлений?

I think the problem with tech visions, and these exaggerated views on either side, are that they focus on the technology itself. What we should really focus on is, What’s the problem you’re trying to solve? What is it that you’re trying to address? Is it homelessness? Is it inequality? Is it something else about opportunity? There’s a long list.

Я думаю, проблема с технологическими концепциями и этими преувеличенными взглядами с обеих сторон заключается в том, что они сосредоточены на самих технологиях. Нам действительно следует сосредоточиться на том, какую проблему вы пытаетесь решить? С чем вы пытаетесь бороться? Это бездомность? Это неравенство? Это что-то ещё, связанное с возможностями? Список длинный.

Just saying, “We have invented this thing. It will have fantastic effects.” Well, many people have said that. Historically, it turns out to be much more complicated.

Просто сказать: «Мы изобрели эту штуку. Она будет иметь фантастический эффект». Что ж, многие так говорили. Исторически всё оказалось гораздо сложнее.

We should focus on, What is it we want to change about our society or the way we live individually or collectively? And how do we mobilize technology to improve childcare, to improve healthcare, to prevent or anticipate the development of certain kinds of cancers?

Нам следует сосредоточиться на вопросе: что мы хотим изменить в нашем обществе, в том, как мы живём – индивидуально или коллективно? И как мобилизовать технологии для улучшения ухода за детьми, улучшения здравоохранения, предотвращения или прогнозирования развития определённых видов рака?

Because if you don’t articulate those goals, and share them, and get people to buy into them and mobilize resources, chances are you won’t achieve it.

Потому что, если вы не сформулируете эти цели, не поделитесь ими, не вовлечете людей в них и не мобилизуете ресурсы, скорее всего, вы их не достигнете.

If the U.S. positioned itself more as the problem-solving hub of the world looking for win-win solutions, that would be quite transformational. I think the potential is there, and that would generate a lot of good jobs in the U.S., and it would help a lot of people around the world. But it’s not the zeitgeist.

Если бы США позиционировали себя как центр решения мировых проблем, ищущий взаимовыгодные решения, это было бы весьма преобразующим. Я думаю, что потенциал есть, и это создало бы множество хороших рабочих мест в США и помогло бы многим людям по всему миру. Но это не в духе времени.

You write in Power and Progress that a lot of the early pioneers developing computer technology were rebels or hackers pushing back against large corporate structures. Could you talk about the origins of modern computing technology and what the hopes of those early technologists were versus where we ended up today, with the concentration of power and influence in a handful of executives at a handful of companies?

В книге «Власть и прогресс» вы пишете, что многие из первых пионеров, разрабатывавших компьютерные технологии, были бунтарями или хакерами, выступавшими против крупных корпоративных структур. Не могли бы вы рассказать об истоках современных компьютерных технологий и о том, на что надеялись эти первые технологи, в сравнении с тем, к чему мы пришли сегодня, когда власть и влияние сосредоточены в руках горстки руководителей нескольких компаний?

This is sort of the paradox of the modern computer industry. Remember, initially, the computer business was highly concentrated, in part because of the research and development money needed, and in part because of the winner-take-all characteristics of a government contract. IBM in the early 1970s was the most valuable company on the American stock market. 

Это своего рода парадокс современной компьютерной индустрии. Вспомните, изначально компьютерный бизнес был крайне концентрированным, отчасти из-за необходимости финансирования исследований и разработок, а отчасти из-за принципа «победитель получает всё», характерного для государственного контракта. В начале 1970-х годов IBM была самой дорогой компанией на американском фондовом рынке.

The hackers who rose up around semiconductors started to think about ways you could hack your way around or build alternatives to this very Vonnegut type of corporate structure—top down, rigid, hierarchical. Would it be possible to build something that was more anarchic, more decentralized, more empowering? 

Хакеры, выросшие вокруг полупроводников, начали думать о том, как можно обойти или создать альтернативы этой корпоративной структуре, очень похожей на ту, что строил Воннегут — сверху вниз, жёстко, иерархично. Можно ли создать что-то более анархичное, более децентрализованное, более ёмкое?

And of course that is what they built. We are using technology descended from that, you and I today. People with a lot of education have done well over the past three to four decades. It’s not just a few tech people who’ve done well. But there is a big winner-take-all dimension to this. 

И, конечно же, именно это они и создали. Мы с вами сегодня используем технологии, созданные на их основе. Люди с высоким уровнем образования добились успеха за последние три-четыре десятилетия. Успеха добились не только несколько технарей. Но здесь есть важный аспект: победитель получает всё.

Neal Stephenson’s Snow Crash is one of the most prescient science fiction novels, because he anticipated the way technology would erode a lot of existing social norms and compacts, and also put a tremendous amount of power in the hands of a few, in his case, telecoms executives.

«Лавина» Нила Стивенсона — один из самых пророческих научно-фантастических романов, поскольку автор предвидел, как технологии разрушат многие существующие социальные нормы и соглашения, а также сосредоточат огромную власть в руках нескольких, в его случае, руководителей телекоммуникационных компаний.

It’s a paradox that they believed they were creating something that would spread power much more broadly. They put a lot of opportunity in the hands of highly educated people, and people with some specialized skills, who could build global brands, and they contribute to the disempowering of many Americans. As we’ve discussed already, it’s a winner-take-all digital world.

Парадоксально, что они верили, будто создают нечто, что позволит распространить власть гораздо шире. Они предоставили массу возможностей высокообразованным людям и людям с определёнными навыками, способным создавать глобальные бренды, и тем самым лишили многих американцев возможности самостоятельности. Как мы уже говорили, это цифровой мир, где победитель получает всё.

One of the things that I’ve heard predicted is that it will be possible for a single person to build a billion-dollar company alone by leveraging the capabilities of AI. Is this possible? And even if it is possible, wouldn’t it rebalance over time if multiple people have access to the same powerful technology?

Один из прогнозов, который я слышал, заключается в том, что один человек сможет в одиночку построить компанию с миллиардной капитализацией, используя возможности ИИ. Возможно ли это? И даже если это возможно, не уравновесится ли ситуация со временем, если множество людей получат доступ к одной и той же мощной технологии?

I think it is entirely plausible that the so-called winner-take-all characteristics of the digital transformation we’ve seen over the past three decades plays out in a way that continues and exacerbates inequality across multiple dimensions. Sectors will change, technologies will change. It’s not that there’s a lock-in forever. There’s competitive pressure in an economy like the United States, but there is this irresistible tendency for concentration. That does mean at the individual level, like you said, one person can leverage their skills and their insights through algorithms and have an enormous impact, an enormous reach, and a big market cap.

Я считаю вполне вероятным, что так называемая концепция цифровой трансформации «победитель получает всё», которую мы наблюдаем последние три десятилетия, будет развиваться таким образом, что продолжится и усугубит неравенство во многих измерениях. Будут меняться отрасли, будут меняться технологии. Речь не идёт о вечной изоляции. В экономике, подобной американской, существует конкурентное давление, но существует непреодолимая тенденция к концентрации. Это действительно означает на индивидуальном уровне, как вы сказали, что один человек может использовать свои навыки и идеи через алгоритмы и оказать огромное влияние, получить огромный охват и высокую рыночную капитализацию.

I could imagine the next science fiction novel, perhaps building on Player Piano, where there is a single person running a company that has immense control and leads to a two-tiered society. Somebody from this era will have to write that one. 

Я могу представить себе следующий научно-фантастический роман, возможно, основанный на «Механическом пианино», где один человек управляет компанией, обладающей огромным контролем и приводящей к двухуровневому обществу. Кто-то из нашей эпохи должен написать такой роман.

Or the AI will run itself. Autonomous AI where it receives some initial human instruction. This is of course a fascination in the science fiction literature among the techno-optimists, but the techno-pessimists too, that AI will create further AI, and be better at creating further AI than we will. And that further AI will receive instructions, some of which could be intentionally malicious, some of which could be not intentionally malicious but will just turn out to be bad for humans. I think it’s a serious possibility that we should worry about.

Или ИИ будет работать сам по себе. Автономный ИИ, получающий начальные инструкции от человека. Это, конечно, завораживает технооптимистов, но и технопессимистов в научно-фантастической литературе: ИИ создаст новые ИИ и будет в этом преуспевать лучше нас. И что новые ИИ будут получать инструкции, некоторые из которых могут быть намеренно вредоносными, некоторые — нет, но просто окажутся вредными для людей. Я думаю, что это серьёзная возможность, которая должна нас беспокоить.

I want to ask for your take on a conversation I had with a friend who runs a technology company. He was arguing that AI is going to make productivity higher across the board. My sense is that we only have so many hours in the day to consume something, whether it’s a book, or Netflix, or time with our family, whatever it might be. So if we’re able to create all these new things much, much faster, there’s still a limit on what one individual can consume. The question is, Where is all that productivity going to go? There’s a fundamental limit on how much more I could add to my life. Even if we could produce at 10x, I don’t feel I could add 10x to my life. 

Хочу попросить вас прокомментировать разговор с другом, руководителем технологической компании. Он утверждал, что ИИ повысит производительность во всех сферах. Мне кажется, что у нас в сутках ограниченное количество часов, чтобы что-то потреблять, будь то книга, Netflix, время с семьёй или что угодно. Поэтому, даже если мы можем создавать всё это новое гораздо быстрее, всё равно существует предел тому, что может потребить один человек. Вопрос в том, куда денется вся эта производительность? Существует фундаментальный предел того, сколько я могу добавить к своей жизни. Даже если бы мы могли производить в 10 раз больше, я не чувствую, что смогу увеличить её в 10 раз.

One important dimension of productivity and one difficulty of measuring productivity in the modern world is that people change what they consume over time. We try to measure that by the value, by how much they pay for it, but that’s pretty imperfect. So yes, watching 10 times Netflix probably is not appealing, and probably not good for your health either. But other things may change, your capabilities or something about how you spend either your working time or your leisure time will change almost certainly.