Компании устремились в ИИ. Теперь некоторые откатываются. Быстрая адаптация ИИ оставила работников убирать за потоком ошибок и низкокачественной работы.
Работодатели по всему миру сталкиваются с последствиями поспешного внедрения быстро меняющихся инструментов искусственного интеллекта.
Ситуация в компаниях
Meta сократила планы по увольнению персонала и увеличению числа ИИ‑агентов после того, как компания обнаружила, что сотрудники всё больше времени тратят на исправление технических и связанных с безопасностью ошибок, сообщает Reuters. А после сокращения штата, особенно менеджеров среднего звена, в ходе оптимизации 2023 года, компания вновь расширяет управленческий состав, как видно из публикаций сотрудников в LinkedIn.
В Microsoft, которая широко внедрила ИИ внутри компании, исполнительный вице‑президент Райан Рослански недавно публично пожаловался на распространение «плохого» ИИ в своей повседневной работе. Получив «то, что явно было документом, сгенерированным ИИ» от коллеги, он использовал ИИ для его суммирования и не получил никаких новых идей по содержанию, сказал он. Он предупредил подписчиков об опасности попасть в потенциальную «петлю разрушения», в которой ИИ читает и пишет, оставляя за собой «океан однообразия».
Между тем сотрудники магазинов и складов Walmart страдают от нереалистичных ожиданий, ошибок и ложных оповещений от ИИ‑инструментов, которые назначают задания, графики и контролируют эффективность, пишет Business Insider.
Работодатели сталкиваются с лавиной ошибок и низкокачественной работы, которые отнимают у сотрудников время, увеличивают риски для конфиденциальности и безопасности и повышают затраты. Теперь некоторые компании, которые стартовали в сфере ИИ быстро и агрессивно, притормаживают: вводят ограничения там, где ранее поощрялось экспериментирование, возвращают опытных сотрудников и усиливают обучающие программы.
Руководители компаний говорят, что в вопросе ИИ ощущается: «мы одновременно ведём грузовик и строим его, и это проблема», — сказал Джонни Си Тейлор младший, президент и генеральный директор Общественного общества управления персоналом (Society for Human Resource Management). «Если бы мы могли перемотать назад… мы представили бы это более обдуманно и медленно».
Инвестиции и результаты
Несмотря на миллиарды долларов, которые фирмы по всему миру инвестировали в ИИ за последние годы, значительных выгод пока не видно: 90% руководителей заявляют, что усилия в области ИИ ещё не привели к росту производительности в их компаниях, согласно рабочему документу Федерального резервного банка Атланты. А опрос Ernst & Young, опубликованный в прошлом месяце, показал, что 36% старших руководителей по ИИ в компаниях с годовым доходом не менее 1 млрд долларов сообщили о инциденте с ИИ, повлёкшем такие проблемы, как потеря данных, финансовый ущерб, урон бренду или перебои в работе.
Компании от Microsoft до McKinsey ограничивают использование ИИ сотрудниками, поскольку поток новых инструментов и их интенсивное потребление давят на итоговые показатели. Другие, такие как Palantir, Booz Allen Hamilton и Nvidia, ограничивают использование сотрудниками из‑за растущих опасений по поводу безопасности данных своих организаций при взаимодействии с компаниями по ИИ, сообщает Reuters.
Microsoft и Walmart отказались от комментариев. Meta, Palantir, Nvidia и Booz Allen Hamilton не ответили на запросы о комментариях.
Проблемы внедрения
«Изначально мы относились к ИИ как к обычному развёртыванию технологии: развернуть инструменты, провести обучение, стимулировать использование», — написала в недавнем блоге Кэтлин Хоган, директор по стратегии и трансформации Microsoft. «Мы поняли, что доступ и использование не равны трансформации».
ИИ остаётся неоднозначным как для руководителей, так и для сотрудников: более половины сотрудников заявили, что «не получают необходимого обучения по ИИ», в то время как большинство менеджеров признали, что их сотрудники лучше их разбираются в ИИ, согласно опросу Indeed, опубликованному в июле. Лишь 45% менеджеров сказали, что чувствуют себя «готовыми эффективно руководить поколением, выросшим с ИИ».
Многие работники чувствуют, что «от них требуют использовать эти инструменты без каких‑либо указаний о том, как их лучше внедрять», сказал Зак Мейбл, директор по исследованиям Центра по образованию и рабочей силе Джорджтаунского университета. Тем временем менеджеры балансируют между приказами «внедрите это, найдите прирост производительности и не жертвуйте качеством», добавил он.
Компании пытаются закрыть эти пробелы, отходя от разовых вебинаров для широких масс сотрудников и переходя к «постоянному обучению, ориентированному на роль», сказал Тейлор.
Microsoft обнаружила, что «добавление агентов в сломанный процесс по‑прежнему оставляет сломанный процесс» и «ускорение одного шага лишь создаёт более длинную очередь на следующем этапе», пишет Хоган в блоге. Компания выяснила, что акцент на обучении сотрудников, особенно при парной работе молодых инженеров с более опытными коллегами, повысил производительность.
Ограничения ИИ
Одним из препятствий на пути к большим выгодам от ИИ является склонность технологии выдавать «правдоподобно выглядящий результат» с недостатками или ошибками, которые не сразу очевидны, объяснила Джессика Рейф, доцент менеджмента Уортонской школы при Пенсильванском университете.
«Это увеличивает вероятность того, что ошибка распространится по рабочему процессу вместо того, чтобы быть немедленно исправленной», что может привести к лавинообразному нарастанию проблем, сказала Рейф.
В то же время способность ИИ оценивать человеческих работников остаётся ограниченной, что вызывает напряжение в некоторых компаниях. В Walmart растёт недовольство среди рядовых сотрудников магазинов из‑за непоследовательных и неточных ИИ‑инструментов, пишет Business Insider.
Сотрудники описывают ботов, которые устанавливают нереалистичные стандарты для людей и одновременно вносят множество собственных неэффективностей и ошибок. ИИ‑инструменты прокладывали бессмысленные маршруты для работников сборки заказов, что усложняло быстрое выполнение заказов, генерировали бесполезные оповещения о безопасности и ставили нереалистичные графики, из‑за которых сотрудники магазинов были вынуждены идти на сокращение процедур, чтобы успевать.
Эти боты предполагают, что работники «будут идеальны каждый раз», сказал один менеджер Business Insider. «Мы не будем держать людей по этим невозможным стандартам».
Нил Элан, юрист фирмы Stubbs Alderton & Markiles LLP, сказал, что наблюдает «растущий разрыв» между тем, как его корпоративные клиенты думают, что используется ИИ, и тем, как он действительно используется, что создаёт проблемы с конфиденциальностью, интеллектуальной собственностью, эффективностью и поведением сотрудников.
Это также создаёт головную боль для компаний, когда использование ChatGPT сотрудниками становится публичным.
Случай с 3M
Накануне того, как Уилл Мой должен был предстать против 3M в суде по делу о взрыве газа в 2020 году на предприятии в Хьюстоне, в результате которого погибли трое и пострадали сотни домов и предприятий, адвокат получил отчёт от независимого эксперта компании. Просматривая его на iPad, Мой заметил явные признаки использования ИИ: странное форматирование и шрифты и отметки времени, показывающие, что 14 500 страниц были собраны за считанные часы. Мой заподозрил, что автор, Джош Оутенриет из Knighthawk Engineering, не имел нужной экспертизы и полагался на ChatGPT, несмотря на то, что выставил 3M счёт на 90 000 долларов за отчёт, в котором утверждал, что компания не несёт ответственности.
Чаты Оутенриета, которые Мой запросил и представил в суде, показывают, что он после загрузки фотографии газового датчика в центре дела спрашивал ChatGPT: «Что я здесь вижу?».
Присяжные пришли к выводу, что 3M неправильно инспектировала систему обнаружения газа, и постановили выплатить компании 61,5 млн долларов 24 домовладельцам. Мой сказал после вердикта, что присяжные «выразили глубокое недоверие» к тому, что компания наняла эксперта, который делал утверждения «без какой‑либо основы».
«[3M] пытались изменить нарратив, — сказал Мой. — И они наняли эксперта, который никогда не имел дела с этим устройством».
Представитель 3M заявил, что «после независимого изучения фактов и вынесения собственных выводов» Оутенриет «использовал ИИ как инструмент при подготовке своего отчёта».
Юрист Оутенриета Янина Войтковски заявила, что ChatGPT не генерировал его выводы и не заменял его «профессионального суждения», но помогал в форматировании, структурировании и составлении текста в условиях «жёстких дедлайнов».
Заключение
Пока компании и сотрудники пробираются через неизвестность раннего этапа внедрения ИИ, затраты становятся более ясными, а широкие приросты производительности остаются недостижимыми.
В исследовании, опубликованном в мае, учёные из Университета Питтсбурга пришли к выводу, что производительность не выросла после того, как компании инвестировали в ИИ и сокращали персонал. Хотя руководители в течение многих лет были чрезвычайно оптимистичны в отношении потенциала ИИ, «оптимизм менеджмента не эффективно трансформируется в… лучшую производительность», говорится в статье.
Более 112 000 объявлений об увольнениях в США в 2026 году упомянули ИИ, что делает его одной из основных причин сокращений, сообщает Challenger, Gray & Christmas.
Ранее в этом году Meta приостановила практику отслеживания активности сотрудников на компьютерах для обучения своих систем ИИ, пишет Reuters. Meta также недавно сообщила сотрудникам, что их внедрение и использование инструментов ИИ больше не будет учитываться в оценках производительности, сообщает The Information.
Meta не ответила на запрос о комментарии.
Марк Ма, профессор Университета Питтсбурга и автор исследования по увольнениям, связанным с ИИ, сказал, что руководители сосредоточены на краткосрочных результатах, «поэтому они пытались поспешно двигаться вперёд, инвестируя в ИИ и увольняя работников».
Но, по его словам, акции компаний часто падают после объявлений о сокращениях, связанных с ИИ, что, по‑видимому, указывает на то, что «рынок также не считает, что это сработает».
«Многие из этих ошибок можно было избежать», — сказал Ма. «Теперь мне кажется, что некоторые менеджеры усвоили урок».