Artificial stupidity

Creating machines that think like people is a great challenge, but a bad idea. In 1950 Alan Turing, a British mathematician of genius, challenged scientists to create a machine that could trick people into thinking it was one of them. By 2000, Turing predicted, computers would be able to trick most of the people most of the time - at least in conversations where neither party could see or hear the other, but instead "talk" by typing at computer terminals. Thanks to 40 years of research into artificial intelligence - a field which has adopted Turing's test as its semi-official goal - Turing's prediction may well come true. But it will be a dreadful anticlimax.

The most obvious problem with Turing's challenge is that there is no practical reason to create machine intelligences indistinguishable from human ones. People are in plentiful supply. Should a shortage arise, there are proven and popular methods for making more of them; these require no public subsidy and little or no technology. The point of using machines ought to be that they perform differently from people, and preferably better. If that potential is to be exploited, machines will need to be given new forms of intelligence all their own.

Gradually, this is happening. Many human capabilities remain well beyond the reach of machines. No computer can understand a fairy tale, recognise faces or navigate across a crowded room. But machines have learnt a lot. Computer chess-players can beat all but the very best humans. Machines can solve logical puzzles, apply bureaucratic rules and perform passable translations from one language to another. Computers' new skills are winning them jobs alongside decision-makers in a variety of companies, complementing human weaknesses with computer strengths.

To err is human

With skill and skullduggery, computer intelligence can already be disguised as human. Last year, in a "Turing contest" held at Boston's Computer Museum, a computer program tricked five of the ten judges into believing that it was man rather than machine. But to fit into a human mould, machines have to display human limitations as well as human skills. The judges at the Computer Museum, for example, were particularly impressed by the winning programs’ ability to imitate human typing errors. But who needs a computer that can't type?

Without such artificial stupidity, clever machines are not just people with the bugs worked out. They are different, and profoundly alien. Leave aside the things on which people and machines cannot yet be compared – bodies, sex, a social life or a childhood - and consider only reasoning. Machines can already imitate human performance on many problems, but by using utterly inhuman techniques. Computer chess-players have no concept of strategy; instead, at each turn they scan through several billion possible sequences of moves to pick the one which seems best. Computer logicians make their deductions in ways that no human would - or could. Computer bureaucrats apply the rules more tirelessly and consistently than any of their overworked human brethren. Watching such machines at work, nobody could mistake them for humans - or deny their intelligence.

No wonder. People and machines bring quite different capabilities to the task of reasoning. Human reasoning if limited by the brains that nature evolved; machines are better engineered. Plug in enough memory and a computer can remember everything that ever happened to it, or to anyone else. Given a logical problem to work out or a theoretical model of how a complicated machine works, computers can deduce more consequences more much faster than humans.

The real challenge, then, is not to recreate people but to recognise the uniqueness of machine intelligence, and learn to work with it. Surrendering the human monopoly on intelligence will be confusing and painful. But there will be large consolations. Working together, man and machine should be able to do things that neither can do separately. And as they share intelligence, humans may come to a deeper understanding of themselves. Perhaps nothing other than human intelligence - constantly struggling to recreate itself despite crumbling memories and helter-skelter reasoning - could even conceive of something as illogical and wonderful as machines that think, let alone build them and learn to live with them.

Vocabulary

artificial - искусственный

stupidity - глупость

create - создавать, творить

challenge - вызов

challenge - вызвать (на соревнование)

trick - обманывать, надувать

predict - предсказывать

neither - ни один

instead - вместо

research - исследование

intelligence - разум

adopt - принимать

come true - сбываться

dreadful - ужасный

climax - кульминация, развязка

obvious - очевидный

reason - причина

indistinguishable - неразличимый

human - человек

plentiful supply - множество

shortage - нехватка, дефицит

arise - здесь: возникать

proven - испытанный, доказанный

require - требовать

subsidy - субсидия, дотация

point -здесь: идея

perform - действовать

preferably - предпочтительно

exploit - эксплуатировать, использовать

gradually - постепенно

happen - происходить

capability - способность

remain - оставаться

beyond reach - вне достижимости

fairy tale - сказка

recognise - распознавать, узнавать

navigate - передвигаться

crowded - заполненный людьми

solve - решать

puzzle -загадка, головоломка

apply - применять

passable - сносный

skill - умение

alongside - наряду (с), рядом

variety - здесь: ряд

complement - дополнять

weakness - слабая сторона, минус

strength - сильная торона, плюс

err - ошибаться

skulduggery - надувательство

disguise - маскироваться

contest - состязание

judge - судья

rather than - а не

fit into a human mould - уподобиться человеку

display - проявлять

limitation - ограничение

particularly - особенно

impress - впечатлять, поражать

error - ошибаться

type - печатать

bug - разг.: неполадка, дефект

leave aside - оставить без внимания

compare - сравнивать

body - тело

sex - пол (мужской/женский)

consider - принимать во внимание, рассматривать

reasoning - рассуждение, аргументация

utterly - совершенно

concept - концепция, идея

scan - (бегло) просматривать

sequence - последовательность

pick - выбрать

deduction - вывод, заключение

tireslessly - неутомимо, неустанно

consistently - последовательно, упорно

overworked - переутомленный

brethren - мн.ч. братья, собратья

deny - отрицать

no wonder - неудивительно

brains - разум, мозг

evolve - развивать(ся), эволюционировать

plug in - подключать

recreate - освободить, дать отдых

surrender - уступать

confuse - приводить в замешательство

painful - болезненный

neither - ни один

consolation - утешение

share - делиться

crumble - рушиться, блекнуть

helter-skelter - беспорядок, суматоха

Word Study.

Ex. 1. Match the words with their Russian equivalents:

1. utterly a/ неудивительно

2. complicated b/ очевидный

3. logician c/ переутомленный

4. sequence d/ неутомимо

5. brains e/ сложный

6. brethren f/ последовательность

7. no wonder g/ совершенно

8. consistently h/ концепция, идея

9. overworked i/ разум

10. concept g/ последовательно, упорно

11. tirelessly h/ братья, собратья

12. obvious i/ логик

Ex. 2. Match the verbs with their Russian equivalents:

1. to deduce a/ творить

2. To plug in b/ требовать(ся)

3. To deny c/ дополнять

4. To evolve d/ узнавать

5. To remain e/ отрицать

6. To pick f/ передвигаться

7. To create g/ ошибаться

9. To recognise h/ маскировать(ся)

9. To accept i/ обманывать, надувать

10. To compare j/ предсказывать

11. To trick k/ сравнивать

12. to complement l/ эволюционировать

13. To navigate m/ выбирать

14. To perform n/ принимать

15. To require о/ бегло просматривать

16. To despise p/ оставаться

17. To predict q/ действовать

18. To scan r/ делать выводы

19. To err s/ включать в эл.сеть

Ex. 3. Match the phrases with their Russian equivalents:

1. to come true a/ чисто человеческий

2. To display human limitations b/ доказанный метод

3. semi-official goal c/ разбиение на категории

4. in plentiful supply d/ решать головоломки

5. merely human e/ множество

6. To define precisely f/ задача аргументирования

7. who needs it g/ очевидная проблема

8. assigning into categories h/ сбываться

9. To solve puzzles i/ точно определять

10. proven method g/ ошибочно принимать за людей

11. obvious problem k/ проявлять человеческие ограничения

12. task of reasoning l/ последовательность ходов

13. To mistake for humans m/ полу-официальная цель

14. sequence of moves n/ подключить память

15. typing error o/ применять правила

16. To plug in memory p/ имитировать ошибки

17. unravel mysteries q/ государственная дотация

18. To make deductions r/ сбываться

19. public subsidiary s/ кому это нужно

20. To imitate errors t/ ошибочная логика

21. faulty logic u/ печатные ошибки

22. To apply rules v/ делать заключения, выводы

Ex. 4. Translate the following sentences into English.

1. Алан Туринг и другие ученые решили создать компьютер, который мог бы обманывать людей, заставляя их думать, что он (ПК) - один из них.

2. Благодаря 40 годам исследования искусственного разума их полуофициальная цель стала возможной.

3. На самом деле, нет практической причины создавать машины, неотличимые от человека.

4. В случае возникновения дефицита, есть опробированные методы, которые не требуют государственных дотаций.

5. Ни один компьютер не может понимать сказки, узнавать лица или передвигаться по комнате, полной людей.

6. Компьютеры-шахматисты могут побить любого человека-шахматиста.

7. Умение ошибаться - это чисто человеческая черта (feature).

8. Посредством надувательства, компьютерный разум может быть замаскирован под человеческий.

9. На прошлом "Состязании Туринга" компьютерная программа обманула пять из десяти судей, заставив их думать, что они "общались" с человеком, а не с машиной.

10. Чтобы "уподобиться" человеку (to fit into human's mould), машины должны проявлять человеческие ограничения, равно как и человнческие умения.

11. Судьи, например, были поражены программой, которая могла имитировать печатные ошибки.

12. Но кому нужен компьютер, который не умеет печатать?

13. Компьютер применяет правила более неустанно и последовательно, чем любой из его переутомленных собратьев.

14. Даже разбиение слов на классы человек и машина делают по-разному.

Comprehension Check.

Answer the following questions:

1. What task did Alan Turing offer to other scientists in 1950?

2. What was his prediction?

3. What was the most obvious problem with Turing's challenge?

4. What can computers do?

5. Did the computer's program in a "Turing's Contest" manage to trick the judges?

6. What were they particularly impressed by?

7. Which things can't people and machines be compared on?

Topics to Discuss.

1. Computer and human chess-players.

2. Task of reasoning for people and machines.

Text 1C