Перевод статьи из журнала The Verge о том, как автоматизация проникает в производственные отношения совсем не с того ракурса, откуда бы хотелось
http://september.media/archives/3368 - оригинал
На складах, в колл-центрах и других секторах экономики умные машины уже управляют людьми, делая их работу более напряженной, изматывающей и опасной
На конференциях и предвыборных съездах управляющие IT-компаний и политики предупреждают нас о грядущем кризисе автоматизации – этот кризис подразумевает, что рабочие постепенно, а потом и все сразу будут заменяться умными машинами. Но их заявления скрывают тот факт, что кризис автоматизации уже происходит. Роботы уже здесь, они работают менеджерами и загоняют рабочих до полусмерти.
Роботы следят за работой горничных в отелях, сообщая им в каком номере нужно убраться и отслеживая, насколько быстро они это делают. Они руководят разработчиками софта, мониторя их клики и скроллы и снижая им зарплату, если они слишком медленно работают. Они прослушивают звонки работников колл-центров, указывая им что говорить, как это говорить и заставляя их работать постоянно, без перерыва. Пока мы смотрели на горизонт в ожидании самоуправляемых грузовиков, до которых всегда остается ждать еще лет пять, роботы появились в нашей жизни как супервайзеры, прорабы, менеджеры среднего звена.
Эти автоматизированные системы могут заметить потери в производительности, на которые менеджер-человек никогда бы не обратил внимания — секундное промедление между звонками, привычку задерживаться у кофе-машины после завершения задачи, новый маршрут, который, если все идет идеально, может обеспечить доставку нескольких дополнительных заказов в день. Но то, что для алгоритма выглядит как недостаток эффективности, для самих работников было последней возможностью взять передышку и почувствовать свою автономию. Когда эти небольшие перерывы и минуты свободы оптимизируются, их труд становится более интенсивным, напряженным и опасным. За последние несколько месяцев мне удалось пообщаться с более чем 20 работниками в 6 странах. Больше всего они боятся не того, что роботы отнимут у них работу, а того, что роботы уже стали их начальниками.
Мало в каких секторах экономики риски автоматизированного управления настолько очевидны как в Amazon. Практически все элементы управления складами компании осуществляются программными средствами — от расписания работ и их интенсивности до решений о том, когда увольнять людей за то, что они не справляются. У каждого работника есть «норма», определенное количество задач, которое им необходимо выполнить за час, и если они этого не делают, их могут уволить автоматически.
Когда Джейк (имя изменено) начал работать на складе во Флориде, его удивило насколько мало там было супервайзеров: всего двое или трое на более чем 300 рабочих. “Управление было полностью автоматизированным”, говорит он. Один супервайзер ходил по складу с лэптопом в руках, подгоняя рабочих, если они не укладывались в норму. (Amazon утверждает, что система оповещает менеджеров о том, что они должны говорить с рабочими о норме выработки и что все окончательные решения о персонале, включая увольнения, принимаются управляющими)
Джейк, попросивший использовать псевдоним, чтобы избежать ответных санкций, работал «ребиннером». Его задачей было снимать предметы с ленты конвейера, нажимать кнопку, класть эти предметы на ту полку, которую укажет компьютер, нажимать другую кнопку и так снова и снова. Он говорит, что это похоже на упражнение выпад с поворотом, которое приходится выполнять каждые 10 секунд, не останавливаясь. В это время гигантское табло рейтингов с бегущим анимированным человечком призывает тебя двигаться еще быстрее, показывая нормы выработки 10 самых быстрых работников в реальном времени. Иногда менеджер делает объявления по интеркому в духе спортивных комментаторов — «На третьем месте у нас идет Боб с 697 единицами в час», вспоминает Джейк. Самые быстрые рабочие получали бонусы во внутренней валюте Amazon, которые можно было обменять на колонку Amazon Echo или фирменные футболки компании. Отстающих увольняли.
«Останавливаться нельзя», говорит Джейк. «То есть буквально нельзя. Это как выйти из дома, а потом бежать без остановки 10 часов подряд, просто бежать».
Через несколько месяцев он почувствовал боль в спине. Один из управляющих иногда советовал ему сильнее сгибать колени, снимая товары с ленты. Когда Джейк последовал его совету, его производительность упала и другой менеджер сказал, что ему нужно ускориться. «Вы что, издеваетесь?!» вспоминает свою реакцию Джейк. «Если я начну работать быстрее, у меня будет сердечный приступ и я свалюсь прямо здесь». Наконец, его спина полностью отказала. Врач диагностировал повреждение двух позвоночных дисков и ему пришлось подать на инвалидность. Эта травма, по его словам, на «100 процентов» обусловлена интенсивностью работы в Amazon.
Каждый работник Amazon, с которым мне приходилось говорить, утверждал, что именно автоматически задаваемый темп работы, а не физическая сложность самой работы, делает ее настолько изматывающей. Все потенциальные задержки постоянно оптимизируются системой, а в месте с ними и какая бы то ни было возможность отдохнуть и восстановиться. Рабочий с западного побережья рассказал мне о новом приспособлении, которое подсвечивает предмет, который ты должен снять с полки, тем самым позволив Amazon еще больше увеличить производительность и избавиться от того, что этот рабочий описал как «микропередышки», спрятанные в те секунды, которые нужны, чтобы найти следующий предмет на полке.
Люди не могут выдерживать такую интенсивность работы, не подрывая своего здоровья. В прошлом году ProPublica, BuzzFeed и другие издания опубликовали расследования о курьерах Amazon, которые врезались в другие средства передвижения и сбивали пешеходов в попытке следовать требуемым маршрутам, которые задавались алгоритмически и отслеживались через приложение на телефонах курьеров. В ноябре, Reveal, проанализировав документацию 23 складов Amazon, выяснил, что почти 10% постоянных работников пострадали от серьезных травм в 2018. Это почти в два раза больше, чем в среднем по стране среди складских рабочих. Многие работники Amazon рассказывали мне, что хронические растяжения, обусловленные повторяющейся нагрузкой, носят характер эпидемии, но официально практически не фиксируются. (Представитель Amazon сказал, что компания серьезно относится к технике безопасности на рабочем месте, что на складах присутствует медперсонал и что рабочих призывают сообщать обо всех травмах.) Боль в спине, боль в коленях и другие симптомы, сопровождающие постоянные физические нагрузки, настолько распространены, что Amazon пришлось установить автоматы с обезболивающим на складах.
Постоянный стресс тоже сказывается. Джек вспоминает, что он кричал на других работников, чтобы они двигались быстрее только для того чтобы потом удивиться, что на него нашло, и извиниться. К концу смены он чувствовал себя настолько изможденным, что спал прямо в машине на стоянке у склада перед тем как отправиться домой. «Многие так делали», говорит он. «Просто откидывали спинку кресла в машине и засыпали». Другой рабочий из Миннесоты говорит, что его работа стала настолько интенсивной из-за алгоритмов, что это требовало переосмысления старого трудового законодательства. «Концепция 40-часовой рабочей недели предполагает, что ты восемь часов работаешь, восемь часов спишь и у тебя остается еще восемь часов на то, чтобы заниматься чем хочется», говорит он. «Но что если ты возвращаешься домой и сразу отключаешься и спишь 16 часов? Или если на следующий день после рабочей недели у тебя как будто бы похмелье, ты не можешь ни на чем сосредоточиться, просто дерьмово себя чувствуешь? Если ты теряешь время вне работы из-за побочных эффектов и изматывающих и напряженных условий этой работы?»
У рабочих неизбежно происходит выгорание, но поскольку каждое действие до малейшей детали диктуется машиной, их легко заменить. По воспоминаниям Джека, его наняли вместе с 75 другими людьми, но он был последним оставшимся из этой группы, когда его спина наконец отказала, а большинство рабочих сменилось дважды. «Ты просто номер, они могут заменить тебя любым человеком с улицы за пару секунд», говорит он. «Никакие навыки не нужны. Ничего не нужно. Единственно, что нужно делать – это работать очень быстро».
На складах Amazon есть роботы, которые формально относятся к категории тех, что лишают людей работы, но большинство рабочих вовсе не о них беспокоится. В 2014, Amazon начал использовать передвигающих полки роботов, автоматизировав таким образом работу по перемещению по складу с целью переноски товаров. Эти роботы оказались настолько эффективны, что понадобилось больше людей на другие роли, чтобы поддерживать задаваемый ими уровень производительности. Amazon построил дополнительные склады и сейчас в компании почти в три раза больше работников с полной занятостью, чем было до внедрения этих роботов. Но роботы действительно изменили саму работу: вместо того, чтобы ходить по складу, рабочие теперь стояли в клетках, снимая товары с полок, которые к ним доставляли роботы. Работники говорят, что это одна из самых динамичных и изматывающих задач на складе. Reveal выяснил, что травмы случались более часто именно на складах с роботами. Что логично, потому что именно интенсивность работы представляет собой проблему и именно те машины, которые ее обеспечивают, вызывают наибольшее опасение у рабочих.
В прошлом году на складах Amazon прошла волна протестов. Практически все они были вызваны тем, что автоматизированное управление не оставляет пространства для базовых человеческих потребностей. В Калифорнии одну из работниц автоматически уволили за то что она превысила свою квоту неоплачиваемого отпуска на один час после смерти родственника. (Ее наняли заново, после того как ее коллеги подали петицию.) В Миннесоте рабочие остановили работу в знак протеста против растущей нормы выработки, которая, по их словам, служила причиной травм и не оставляла времени для походов в туалет и религиозных нужд. Рабочие чувствовали, что для того чтобы удовлетворить требования машины, их самих заставляют превращаться в машин. Они скандировали: «Мы не роботы».
Каждая индустриальная революция это в той же мере история того, как мы организуем работу, в какой это история технологических изобретений. Паровые двигатели и хронометры использовались десятилетиями до того, как Фредерик Тейлор, первый из оптимизаторов, организовал на их основе современную фабрику. Во время работы на фабрике в конце 19 века он упростил и привел к стандартному виду каждую роль, расписав детальные инструкции на карточках. Он с точностью до секунды измерил время, необходимое для выполнения каждой задачи, и установил оптимальную производительность. Проделав эту работу, он тем самым разрушил ту власть, которой квалифицированные мастера обладали над темпом производства и запустил эпоху индустриального роста, а вместе с ней и эпоху изматывающей, монотонной и опасно ускоренной работы.
Генри Форд наиболее полно продемонстрировал эффективность этого подхода, когда он еще сильнее упростил задачи и организовал их выполнение по конвейерному принципу. Скорость конвейера задавала скорость рабочего и позволяла супервайзерам легко отмечать отстающих. Работники просто ненавидели конвейер. Эта работа была настолько бессмысленной и тяжелой, что люди увольнялись толпами, тем самым заставляя Форда увеличивать зарплаты в два раза. Когда эта технология стала распространяться, рабочие часто бастовали или замедляли работу, протестуя против «ускорений» — когда супервайзеры увеличивали скорость линии сборки до такого темпа, который было невозможно поддерживать.
Мы сейчас в процессе очередного великого ускорения. За ним стоит множество факторов, но один из них — это цифровизация экономики и новые способы организации работы, которая она позволяет осуществить. Рассмотрим торговлю: работники больше не стоят в магазинах в ожидании покупателей — с появлением онлайн торговли их роли разделились. Некоторые работают на складах, где они без передышки формируют заказы, другие работают в колл-центрах, где они отвечают на один вопрос за другим. И там, и там рабочие находятся под постоянным наблюдением. Каждое их действие отслеживается сканерами на складах и компьютерами в колл-центрах, которые передают данные автоматизированным системам, заставляющим людей работать на максимальном уровне производительности.
На самом базовом уровне автоматизированное управление начинается с расписания. Алгоритмы расписания появились в конце 1990-х, когда магазины начали их использовать для того, чтобы предсказывать наплыв покупателей и распределять смены, ориентируясь на этот прогноз. Эти системы делали то же самое, что сделали бы сами владельцы магазина, которые ставили меньше работников на медленные утренние часы и больше на обеденный перерыв, чтобы увеличить количество продаж в час. Просто программа лучше с этим справлялась и продолжала совершенствоваться, учитывая такие факторы как погода или спортивные соревнования поблизости — до такой степени, что могла предсказывать необходимость в работниках в 15-минутных интервалах.
Программное обеспечение настолько точно, что его можно использовать для создания гуманных графиков, говорит Сьюзан Ламберт, профессор Чикагского университета, изучающая нестабильность планирования. Вместо этого оно часто используется, чтобы распределить смены между минимальным числом работников (а порой и несколько меньшим), которое необходимо чтобы удовлетворить прогнозируемый спрос. Это даже не самый прибыльный подход, отмечает она, ссылаясь на проведенное ею исследование Gap: компаниям и инвесторам просто легче подсчитать сокращение затрат на рабочую силу, а не продажи, потерянные потому что покупателям не нравится ходить по пустынным магазинам. Но если это плохо для клиентов, это еще хуже для работников, которые должны постоянно успевать вести дела в условиях недостаточно укомплектованного персонала.
Хотя впервые их стали применять в розничной торговле, алгоритмы планирования сейчас распространены повсеместно. Например, на объектах Amazon, где сортируют товары перед доставкой, работники получают минимальное количество часов и вызываются приложением, когда становятся доступны дополнительные часы на складе, иногда всего за 30 минут до того, как они потребуются. В результате у них никогда нет времени на передышку.
Появление дешевых датчиков, сетей и машинного обучения позволило автоматизированным системам управления осуществлять более детальный надзор — и не только в структурированных условиях, таких как склады, но и везде, где работники носят свои устройства. Гиг-платформы, такие как Uber, первыми стали использовать эти технологии, но компании-поставщики, рестораны и другие отрасли вскоре стали применять их методы.
В автоматизированном управлении не было ни одного прорыва, но, как и в случае с секундомером, революционные технологии могут казаться заурядными, пока не станут основой для нового способа организации работы. Когда программы отслеживания скорости работы привязаны к складским сканерам или таксисты оснащены приложениями GPS, это позволяет осуществлять управление с таким масштабом и уровнем детализации, о котором Тейлор мог только мечтать. Было бы непозволительно дорого нанимать достаточно менеджеров для того чтобы регулировать каждое движение каждого работника до доли секунды или сажать их в каждый грузовик, теперь же для этого достаточно, может быть, одного. Вот почему все компании, наиболее активно следующие этой тактике, имеют одинаковую структуру: внизу большой пул плохо оплачиваемых, легко заменяемых, часто работающих неполный рабочий день или нанятых по контракту работников и на самом верху небольшая группа высокооплачиваемых работников, разрабатывающих программное обеспечение, которое управляет ими.
Это не та индустриальная революция, о которой нас предупреждали Илон Маск, Марк Цукерберг и другие люди в Кремниевой долине. Они все еще зациклены на призраке крадущего рабочие места ИИ, который изображается как нечто принципиально новое и необычайно тревожное — «циркулярная пила», по словам Эндрю Янга, угрожающая обществу, каким мы его знаем. Что касается апокалиптических видений, то такой взгляд всего лишь очень льстит технологической индустрии, которая в состоянии предупредить мир о своем собственном успехе, поднять тревогу, что она изобрела силы, столь мощные, что они навсегда сделают человеческий труд устаревшим. Но в своей абстрактной модели на уровне всей цивилизации этот взгляд упускает из виду то, как технология меняет опыт работы, и из-за присущего ему чувства неизбежности заглушает беспокойство за множество тех же людей, которые сегодня оказались под управлением машин. Зачем слишком волноваться из-за условий труда складских работников, таксистов, модераторов контента или операторов колл-центра, если все говорят, что через несколько лет их заменят роботы? Их политические предложения столь же абстрактны, как и их диагноз, и в основном сводятся к тому, чтобы дать людям деньги, как только на их место придут роботы.
Возможно, когда-нибудь роботы заменят водителей грузовиков и всех остальных, хотя чистое влияние автоматизации на количество рабочих мест до сих пор было не катастрофическим. Технология, несомненно, оставит людей без работы, как это было в прошлом, и стоит подумать о том, как обеспечить им систему социальных гарантий. Но один из вероятных сценариев состоит в том, что эти дальнобойщики окажутся не совсем безработными. Как показывает анализ Центра исследований труда и образования при Университете Беркли, они будут сопровождать автономные транспортные средства, чтобы помочь им перемещаться по запутанным городским улицам, получая более низкую заработную плату в условиях строгого мониторинга и контроля на новых деквалифицированных рабочих местах. Или, может быть, они будут сидеть в похожих на колл-центры офисах, дистанционно устраняя неисправности грузовиков, а их продуктивность будет отслеживаться алгоритмом. Короче говоря, они окажутся под управлением машин, в подчинении сил, которые росли годами, но в значительной степени игнорировались ИИ-фетишизмом.
«Робо-Апокалипсис уже наступил», — говорит Иоанна Броновицка, исследовательница из Центра изучения Интернета и прав человека и бывшая кандидатка в Европарламент. «Просто то, как мы выстроили эти нарративы, и, к сожалению, то, как люди слева и справа, такие как Эндрю Янг и люди в Европе, говорят на эту тему, способствует этому Апокалипсису. Они используют язык будущего, скрывающий действительную живую реальность людей, которая существует прямо сейчас».
Это не значит, что будущее ИИ не должно беспокоить рабочих. В прошлом для автоматического управления работой ее приходилось разбивать на задачи, которые можно было измерять с помощью машин — поездка, отслеживаемая по GPS, товар, отсканированный на складе. Но машинное обучение способно анализировать гораздо менее структурированные данные, и оно создает новые формы работы — от набора текста на компьютере до разговоров между людьми — готовые к приходу боссов-роботов.
Анджела (имя изменено) работала в колл-центре страховой компании несколько лет перед тем как уволилась в 2015. Как и во многих других колл-центрах, работа там была напряженной: клиенты часто бывали расстроены, программное обеспечение отслеживало номер звонившего и длительность разговоров, иногда ее прослушивало начальство и оценивало работу. Но когда она вернулась к работе в колл-центре в прошлом году, что-то изменилось. К обычным метрикам добавилась еще одна – эмоциональная составляющая – и оценивалась она с помощью ИИ.
Программа, с которой пришлось иметь дело Анджеле, была разработана Voci, одной из многих компаний, использующей ИИ для оценки работников колл-центров. Анджела получала великолепные оценки по всем остальным параметрам, но программа постоянно снижала ей оценку за негативные эмоции. Это показалось ей странным, потому что ее начальники-люди раньше хвалили ее чуткость в общении с клиентами. Никто не мог объяснить ей, почему именно ей занижают оценку, но она предполагала, что дело было в том, что ИИ интерпретировал ее быструю и громкую манеру говорить, периоды молчания (результат попыток соответствовать требованию свести до минимума перевод звонков в режим удержания) и проявление участия как негативные эмоции.
«Это заставило меня задуматься не отдает ли программа предпочтения фальшивому сочувствию, когда ты такой говоришь жизнерадостным голосом «Ох, мне жаль, что вам пришлось с этим столкнуться,»» — говорит Анджела, которая попросила использовать псевдоним из опасения возможных санкций. «Кажется, что единственный приемлемый способ выражения эмоций – это тот, который предлагает компьютер. Это очень ограничивает. К тому же клиентам это тоже не слишком приятно, потому что если бы они хотели поговорить с компьютером, они бы тогда не переключались с голосового меню на оператора».
Представитель Voci рассказал, что они тренировали свою программу машинного обучения на тысячах часов звукового материала, который специально привлеченные работники оценивали на позитивные и негативные эмоции. Он признал, что эти оценки субъективны, и сказал, что в совокупности они должны были учитывать различия типа тона или акцента. В конечном счете, представитель компании сказал, что Voci предоставляет инструмент для анализа, а колл-центры сами решают как использовать те данные, которые он предоставляет.
Проблемы, с которыми Анджела столкнулась при работе с Voci, заставили ее с настороженностью отнестись к следующему этапу автоматизации. Ее колл-центр был в процессе перехода на программное обеспечение Clarabridge, которое автоматизировало бы часть работы по оценке звонков, до сих пор выполняемой людьми, например то, произносят ли работники необходимые фразы. Ее центр также планировал расширить сферу использования Cogito, которая применяет ИИ, чтобы тренировать работников в реальном времени, подсказывая им, когда надо говорить медленнее или с большей энергией или выражать эмпатию.
Когда люди перечисляют профессии, которые исчезнут с приходом автоматизации, работники колл-центров идут сразу после водителей грузовиков. У них монотонная работа, а машинное обучение позволило достигнуть значительного прогресса в распознавании речи. Но машинное обучение испытывает трудности там, где речь идет об очень специфических и уникальных задачах. Кроме того, люди часто просто хотят поговорить с человеком, так что автоматизации подвергается та работа, которую выполняют менеджеры. Google, Amazon и множество более мелких компаний внедрили ИИ-системы, чтобы слушать звонки и тренировать работников или автоматически оценивать их работу. Компания CallMiner, к примеру, рекламирует ИИ, оценивающий профессионализм работников, их вежливость и уровень эмпатии, который, согласно демо-видео, он измеряет с точностью до доли процента.
Работники говорят, что эти системы зачастую топорно оценивают человеческое общение. Один работник утверждал, что можно было добиться нужной оценки по параметру эмпатия просто часто повторяя «извините». Другая работница колл-центра страховой компании говорила, что ИИ Cogito, который должен был указывать ей, что необходимо выразить сочувствие, когда он определял, что собеседник расстроен, по-видимому, активировался при любом изменении тона, даже если это был смех. У ее коллеги один из звонков ушел на проверку к супервайзерам, потому что Cogito продолжал оповещать о необходимости проявлять эмпатию. Но когда они переслушали запись, то оказалось, что звонивший смеялся от радости, потому что у него родился ребенок. Работница, тем временем, была занята заполнением форм и не слишком прислушивалась к разговору, поэтому она продолжала следовать указаниям ИИ и повторяла «извините» к недоумению клиента.
Cogito утверждают, что система «очень точна и ложные срабатывания случаются нечасто»; но когда это происходит – поскольку она скорее дополняет, чем заменяет людей – у работников колл-центра есть возможность самим оценить работу ИИ в применении к конкретной ситуации.По мере распространения этих систем важно будет оценивать их на предмет точности и предвзятости, но их существование также ставит и более важный вопрос: почему вообще такое количество компаний пытается автоматизировать эмпатию? Ответ на него связан с тем, как автоматизация сама по себе сделала работу более напряженной.
Раньше, на один сложный или эмоционально нагруженный звонок могло приходиться несколько простых звонков типа «я забыл свой пароль». Но теперь боты занимаются простыми звонками. «У нас нет простых звонков, которые мы могли бы направить им, чтобы они могли переключиться, как мы это делали раньше», говорит Иэн Джейкобс из аналитической компании Forrester. Автоматизированные системы также собирают информацию о клиентах и помогают заполнять формы, что должно было бы облегчить работу, вот только все освобождающееся время отслеживается и заполняется другими звонками.
Так, например, у работницы, которая использовала Cogito, была всего одна минута, чтобы заполнить страховые формы между звонками и только 30 минут в месяц на походы в туалет и личное время. Поэтому она переключалась с одного звонка на другой от людей, которые проходили через неизлечимые болезни, смерть родственников, выкидыши, и другие травматичные события. С каждым из этих звонков она должна была укладываться в 12 минут, и так 10 часов в день. «Это вводит тебя в ступор», рассказала она. Другие работницы рассказывали о хронической тревожности и бессоннице – результат дней проведенных за эмоционально тяжелыми разговорами, которые сопровождались тем, что, по словам одной работницы, «твой компьютер стоит у тебя над плечом и произвольно решает сохранишь ты свою работу или нет». Эта форма выгорания настолько распространена, что в индустрии для нее теперь есть специальное название: «усталость эмпатии». В электронной книжке, объясняющей необходимость ИИ, Cogito сравнивает работников колл-центров с медсестрами в травмпунктах, у которых за смену понижается эмоциональная чувствительность, отмечая, что качество работы операторов снижается после 25 звонков. Решение состоит в том, пишет компания, чтобы использовать ИИ для предоставления «эмпатии на должном уровне».
То, что межличностные навыки – такие как эмпатия – будут одной из ролей, оставленной для людей, после того как роботы придут им на смену, стало расхожим мнением и часто рассматривается как оптимистический вариант будущего. Но колл-центры показывают как легко это будущее может стать мрачным: автоматизация повышает требуемый от рабочих уровень эмпатии, а автоматизированные системы используются, чтобы выжать из них больше эмпатии или хотя бы ее считываемого машиной приближенного варианта. Анджела, работница, у которой были проблемы с Voci, опасается, что по мере того как ИИ будет использоваться для того, чтобы бороться с последствиями дегуманизирующих условий работы, ее работа будет становиться только более дегуманизирующей.
«Никто не любит звонить в колл-центр», — говорит она. «То, что я могу привнести человечность в эту работу, использовать свой стиль общения и выстроить отношения с ними, и заставить их почувствовать, что о них заботятся – это хорошая часть моей работы. Это то, что дает ей смысл», говорит она. «Но если все автоматизировать, то теряется та гибкость, которая позволяет установить человеческую связь».
Перевели Виктория Мызникова и Дмитрий Райдер
-Warhammer-Fantasy-фэндомы-6776602.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
-Warhammer-Fantasy-фэндомы-6776603.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
-Warhammer-Fantasy-фэндомы-6776604.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
-Warhammer-Fantasy-фэндомы-6776605.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
-Warhammer-Fantasy-фэндомы-6776606.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
-Warhammer-Fantasy-фэндомы-6776607.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
-Warhammer-Fantasy-фэндомы-6776608.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
-Warhammer-Fantasy-фэндомы-6776609.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
-Warhammer-Fantasy-фэндомы-6776610.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
-Warhammer-Fantasy-фэндомы-6776611.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
-Warhammer-Fantasy-фэндомы-6776612.jpeg "Teclis(AoS),Warhammer Fantasy,Warhammer FB,фэндомы,Nagash,Grand Alliance Death,Age of Sigmar,Grand Alliance Order,Library (AoS),Чертог Просвещения,длиннотекст")
