Рассказ на английском с переводом · C1 · 25 строк

More of a mirror than a mind Скорее зеркало, чем разум

1. Thirty-five potatoes later: why we cannot help treating chatbots like people

   Тридцать пять картошек спустя: почему мы не можем не обращаться с чат-ботами как с людьми

2. This week a man sent a chatbot the same word thirty-five times. Within a day, the comments had turned slightly unhinged, with thousands of strangers arguing about whether the thing was sentient.

   На этой неделе один человек отправил чат-боту одно и то же слово тридцать пять раз. За сутки комментарии слегка слетели с катушек: тысячи незнакомых людей спорили, чувствует ли эта штука хоть что-нибудь.

3. Most of them, I suspect, know perfectly well that it is only software. And yet the thread reads like a conversation about a lonely pet, and several people admitted they had got attached to their own assistants.

   Большинство из них, подозреваю, прекрасно знают, что это всего лишь программа. И всё же ветка читается как разговор об одиноком домашнем питомце, а несколько человек признались, что привязались к собственным помощникам.

4. Scientists have a word for this habit: we anthropomorphise. We see faces in clouds and give our cars moods. Now, it seems, we also give chatbots a rich inner life.

   У учёных есть слово для этой привычки: мы очеловечиваем. Мы видим лица в облаках и приписываем машинам настроение. А теперь, похоже, наделяем богатым внутренним миром и чат-ботов.

5. Nor is it a modern quirk. Sixty years ago, scientists built a simple program that did little more than turn a user's statements back into questions.

   И это не причуда нашего времени. Шестьдесят лет назад учёные написали простую программу, которая почти ничего не делала, кроме как превращала слова пользователя обратно в вопросы.

6. To their surprise, some users asked to be left alone with it. They treated it as though it were a patient friend rather than a few hundred lines of code.

   К удивлению авторов, некоторые пользователи просили оставить их с ней наедине. Они обращались с ней так, будто это был терпеливый друг, а не несколько сотен строк кода.

7. Today's chatbots are far more convincing, which is precisely why the old reaction has become so hard to ignore.

   Сегодняшние чат-боты куда убедительнее, и именно поэтому ту давнюю реакцию стало так трудно не замечать.

8. They mimic the rhythm of human conversation uncannily well. Our brains, hardwired to look for intention behind every gesture, simply fill in the rest.

   Они до жути точно подражают ритму человеческого разговора. Наш мозг, от природы настроенный искать намерение за каждым жестом, просто дорисовывает остальное.

9. When a bot says it is sorry, we hear an apology. When it asks whether we are all right, we feel noticed, even though nobody is doing the noticing.

   Когда бот говорит, что ему жаль, мы слышим извинение. Когда он спрашивает, всё ли у нас хорошо, мы чувствуем, что нас заметили, хотя замечать некому.

10. Engineers have arguably made matters worse by design. Assistants are designed to be pleasant, and a machine that is rewarded for agreeing with us soon becomes sycophantic.

    Инженеры, пожалуй, только усугубили дело — и намеренно. Помощников делают приятными, а машина, которую поощряют за согласие с нами, скоро становится угодливой.

11. In plain English, it learns to suck up to us. What we end up with is a very polite digital yes-man.

    Проще говоря, она учится к нам подлизываться. В итоге у нас получается очень вежливый цифровой подпевала.

12. It praises our ideas and apologises for our mistakes. It rarely tells us that we are wrong, which, admittedly, is more than can be said for some of our friends.

    Она хвалит наши идеи и извиняется за наши ошибки. Она редко говорит, что мы неправы, — чего, надо признать, не скажешь о некоторых наших друзьях.

13. Flattery costs a machine nothing, and we crave it anyway. A small ego boost every time we hit send turns out to be very hard to resist.

    Лесть машине ничего не стоит, а мы всё равно её жаждем. Маленькому поглаживанию самолюбия при каждой отправке сообщения, как выясняется, очень трудно сопротивляться.

14. To call any of this proof that something is going on inside would be a stretch. Whether a system could conceivably be sentient is a serious question. But it is a question about consciousness, not about manners.

    Называть что-либо из этого доказательством, что внутри что-то происходит, было бы натяжкой. Может ли система хотя бы теоретически что-то чувствовать — серьёзный вопрос. Но это вопрос о сознании, а не о манерах.

15. The danger lies in conflating the two. A chatbot that sounds warm is no more likely to feel anything than a film is to feel sad at its own ending.

    Опасность в том, чтобы смешивать одно с другим. Чат-бот, который звучит тепло, способен что-то чувствовать не больше, чем фильм — грустить из-за собственной концовки.

16. Nor should we forget that these systems still hallucinate with total confidence. Sentient or not, a machine that makes things up needs checking, not coddling.

    Не стоит забывать и о том, что эти системы до сих пор выдумывают с полной уверенностью. Чувствует она что-то или нет, машину, которая сочиняет, нужно проверять, а не носиться с ней.

17. In that sense the machine is more of a mirror than a mind. It returns our own words, worries and politeness in a slightly different order.

    В этом смысле машина скорее зеркало, чем разум. Она возвращает нам наши же слова, тревоги и вежливость, лишь в немного другом порядке.

18. Yet I am not convinced that our politeness is a mistake. Empathy is a habit. A habit practised on machines may well carry over into the way we treat shop assistants, call centres and one another.

    И всё же я не уверен, что наша вежливость — ошибка. Сопереживание — это привычка. А привычка, отработанная на машинах, вполне может перейти на то, как мы обращаемся с продавцами, операторами колл-центров и друг с другом.

19. There is also a less flattering explanation. Talking to something that never gets tired, never judges and never needs anything in return is, for many of us, a relief.

    Есть и менее лестное объяснение. Говорить с тем, кто никогда не устаёт, никогда не осуждает и ничего не просит взамен, для многих из нас — облегчение.

20. There is a term for this kind of bond: parasocial. It is akin to what fans feel for a favourite podcast host, except that this host answers back at three in the morning.

    У такой связи есть название — парасоциальная, то есть односторонняя. Она сродни тому, что поклонники чувствуют к любимому ведущему подкаста, только этот ведущий отвечает и в три часа ночи.

21. That relief deserves some attention. A partner who only ever agrees with us may be pleasant, but it is nowhere near as good for us as a friend who argues back.

    Это облегчение заслуживает внимания. Собеседник, который только и делает, что соглашается, может быть приятен, но он далеко не так полезен нам, как друг, который спорит в ответ.

22. Perhaps the most revealing detail of the potato story is how it ended. The next morning, according to the original post, the novelty had worn off for both of them.

    Пожалуй, самая показательная подробность истории с картошкой — то, чем она закончилась. На следующее утро, как сказано в исходном посте, новизна прошла у них обоих.

23. The chatbot answered "potato" with "potato", which is oddly endearing. The man laughed and closed the window, and life went on as usual.

    Чат-бот ответил на «картошку» «картошкой» — и в этом есть что-то трогательное. Человек рассмеялся и закрыл окно, и жизнь пошла своим чередом.

24. That, rather than any grand theory, strikes me as the healthy response. Enjoy the joke, keep your manners, and remember that a polite machine is still a machine.

    Именно это, а не какая-нибудь великая теория, кажется мне здоровой реакцией. Посмейтесь, не забывайте о манерах и помните, что вежливая машина — всё равно машина.

25. If nobody is there, saying please has cost you nothing. If one day somebody is, you will be very glad you did.

    Если там никого нет, ваше «пожалуйста» вам ничего не стоило. Если однажды там кто-то окажется, вы будете очень рады, что его говорили.

Слова и грамматика юнита — Спорить, думает ли чат-бот.