HBR предупредил о деградации знаний из-за ИИ в компаниях

Harvard Business Review зафиксировал побочный эффект массового внедрения генеративного ИИ в компаниях и предупреждает о деградации знаний из-за ИИ в компаниях. Вместо обещанного ускорения части бизнес-процессов организации получают поток слабых материалов, рост затрат на проверку и постепенное размывание внутренних знаний. Речь идёт не об отдельных ошибках моделей, а о системной нагрузке на сотрудников, которые вынуждены фильтровать и перепроверять машинный результат. В материале HBR этот эффект описан через термин workslop. Под ним понимают поток сгенерированного ИИ контента, который формально выглядит как рабочий результат, но требует дополнительной ручной проверки и исправлений. На практике цепочка выглядит так: сотрудник генерирует текст, сводку или проект решения, в материале остаются ошибки и «галлюцинации», коллеги тратят время на верификацию, доверие к данным падает, а ценность корпоративной базы знаний снижается. Издание пишет, что проблема усиливается, когда генеративные модели становятся обязательным слоем почти во всех процессах. Тогда ИИ перестаёт быть точечным инструментом и начинает влиять на то, как компания хранит, обновляет и передаёт знания между командами. Если ошибочные или шаблонные ответы многократно попадают во внутренние документы, они закрепляются в процедурах и начинают участвовать в принятии решений уже как «нормальные» данные. Отдельный эффект связан с навыками сотрудников. HBR отмечает, что при постоянной передаче черновой работы моделям люди реже проверяют исходные предпосылки, хуже удерживают контекст и постепенно теряют часть прикладной экспертизы. Для бизнеса это означает двойной расход: сначала компания платит за автоматизацию, затем за слой контроля над автоматизацией. Деградация знаний из-за ИИ в компаниях Тревога выглядит логичной на фоне того, как быстро генеративный ИИ вошёл в корпоративный контур. По данным McKinsey, ещё в 2024 году 65% опрошенных компаний заявляли, что уже регулярно используют генеративный ИИ хотя бы в одной бизнес-функции. Темп высокий, а правила применения часто писались уже после запуска пилотов. Обычно это плохой момент для аккуратной работы со знаниями. При этом ранние исследования не давали однозначного ответа о чистом росте производительности. Например, в известном исследовании NBER по колл-центрам модели действительно помогали менее опытным сотрудникам и повышали их выпуск. Однако этот результат касался узкого сценария с хорошо измеряемой задачей, а не всей офисной работы сразу. Переносить такой эффект на документооборот, аналитику, найм и внутренние коммуникации компании начали заметно быстрее, чем успели проверить ограничения. У крупных платформенных поставщиков был другой стимул. Microsoft, Google, OpenAI, Salesforce и другие продавали бизнесу не отдельную функцию, а идею универсального «второго пилота» для большинства офисных задач. Отсюда и риск: чем шире охват, тем больше в систему попадает материалов, которые выглядят убедительно, но не проходят даже базовую фактологическую проверку. В редакционных тестах похожих инструментов эта проблема проявляется регулярно: чем увереннее тон ответа, тем дороже обходится его ручная проверка. Схожая логика уже появлялась в других сегментах. Поисковые системы с ИИ-сводками несколько раз показывали ошибки в ответах на простые запросы, а разработчики программного кода жаловались на рост объёма правок после автогенерации типовых фрагментов. Для внутренней корпоративной среды такой сбой чувствительнее, потому что ошибка не исчезает после одного просмотра, а может остаться в шаблоне, инструкции или базе знаний. HBR отдельно выделяет влияние на найм и коммуникации внутри компаний. Автоматизированные этапы отбора и подготовки материалов искажают ожидания обеих сторон: кандидат получает шаблонную обратную связь, работодатель видит «причесанное» резюме, а реальный уровень совпадения приходится устанавливать вручную уже позже. Чем больше посредников в цепочке общения, тем меньше сигнал и тем больше шума. В качестве рабочего выхода из этой ситуации издание предлагает не отказываться от генеративного ИИ, а жёстче ограничивать его применение. Лучше всего модели работают там, где нужна быстрая заготовка, суммаризация или помощь в поиске вариантов, а итоговый результат остаётся у человека или у специализированной системы, обученной на проверенных внутренних данных. черновики писем и документов суммаризация длинных материалов поиск типовых формулировок внутренние базы знаний с ограниченным набором источников Наименее предсказуемым остаётся сценарий, когда публичная большая языковая модель подключается ко всем этапам сразу и начинает порождать вторичный контент поверх другого вторичного контента. В такой схеме компания быстрее получает видимость активности, чем реальный результат. Именно эту «имитацию бурной деятельности» HBR считает одной из главных управленческих ловушек текущего этапа. Рынок вряд ли откажется от корпоративного ИИ. По оценкам Bloomberg Intelligence, мировая выручка сегмента генеративного ИИ к началу следующего десятилетия может превысить $1 трлн, и значительная часть этого спроса придётся на бизнес-сервисы. Поэтому следующим этапом для компаний, вероятно, станет не расширение охвата любой ценой, а пересборка правил: где модель экономит время, а где создаёт новый отдел по исправлению её ошибок....

Сообщает itzine.ru

Новость из рубрики: Технологии, Наука

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

00:57, 02 Апр Эксперт: простые практики стали быстрым способом внедрения ИИ в компаниях Эксперт Центра развития «НОВАЯ ЭРА», политолог, исследователь политических коммуникаций Игорь Иванов объяснил, почему принуждение к использованию ИИ часто проваливается, а простые практики работают лучше. По его словам, молодые специалисты уже воспр...

02:57, 03 Май Зарплаты директоров по информационной безопасности в IT-компаниях превысили миллион рублей Директора по информационной безопасности в IT-компаниях Москвы и Санкт-Петербурга получают более 1 млн рублей. Об этом свидетельствуют результаты исследования, проведенного сервисами SuperJob, The Edgers и Positive Education.Согласно данным исследов...

15:44, 19 Авг Ландшафтный дизайн от L.BURO: когда природа становится частью дома Сад, парк, двор — это больше, чем просто территория. Это продолжение вашего пространства, место, где можно остановиться, вдохнуть свежий воздух и почувствовать ритм природы. Ландшафтный дизайн делает эту среду осмысленной, красивой и удобной. В сту...

21:57, 04 Май Железные аккумуляторы работают более 16 лет без деградации Китайские учёные объявили о прогрессе в разработке проточных батарей на основе железа, которые могут существенно удешевить и продлить срок службы систем хранения возобновляемой энергии. В ходе исследования, опубликованного в журнале Advanced Energy ...

11:57, 02 Ноя МИД России заявил о деградации безопасности журналистов в мире Международный день борьбы с безнаказанностью за преступления против журналистов отмечается на фоне новых жертв среди российских представителей медиа в текущем году, заявила официальный представитель МИД Мария Захарова. Официальный представитель МИД ...

13:57, 31 Авг Дочь Успенской озвучила новый упрек матери в «наживе на деградации» Татьяна Плаксина назвала Любовь «соучастницей преступления». На протяжении нескольких месяцев Любовь Успенская с дочерью находятся в напряженных отношениях. Из-за того, что в эфире телепередачи «На самом деле» Татьяна Плаксин...

20 лет деградации и мучений. Бывшая жена Аскольда Запашного, которой он изменял, высказалась об их браке 03:57, 12 Ноя "20 лет деградации и мучений". Бывшая жена Аскольда Запашного, которой он изменял, высказалась об их браке 46-летняя Элен Запашная, бывшая жена Аскольда Запашного, прокомментировала почти 20 лет их совместной жизни. Поводом послужили недавние признания циркового артиста в том, что он изменял супруге, а также что у него есть внебрачный сын от любовницы."Н...

06:57, 09 Сен В Долгопрудном школьник скончался после линейки на День знаний Перешедший в 9-й класс парень побывал на линейке в честь 1 сентября и уроках. Всё прошло благополучно, и он вернулся домой: ушёл в свою комнату, но там ему неожиданно стало плохо. Благо дома он был не один, но в итоге это никак не помогло.Дома также...

22:57, 04 Сен Губернатор Московской области посетил Технолицей им. Долгих в День знаний По данным властей Подмосковья, в новом учебном году в этом образовательном учреждении будут обучаться 1083 студента, включая 72 первоклассника и 28 выпускников.«Самые смелые мечты, самые большие высоты, которые вы хотите взять, пусть покоряются...

03:57, 02 Сен Почему День знаний отмечается 1 сентября: подборка удивительных фактов День знаний отмечают 1 сентября не только в России, но и в Беларуси, Казахстане и Армении. Источник фотографии: onedio.ru День знаний 1 сентября — это особенный праздник, когда школьные дворы наполняются цветами, улыбками и волнением. Взрослые вспом...

00:57, 05 Окт Сдадите ли вы ЕГЭ по русскому: 10 вопросов для проверки знаний - просто проверьте свои силы Сдадите ли вы ЕГЭ по русскому: 10 вопросов для проверки знаний - просто проверьте свои силы Считаешь, что правила русского языка — это не про тебя? Давно окончил школу и думаешь, что экзамены остались в прошлом? Попробуй пройти этот тест из самых пр...

12:14, 22 Авг Оформление гражданства и вида на жительство — это ответственный процесс, который требует внимательности и знаний В современном мире получение гражданства или вида на жительство в другой стране стало востребованной услугой. Люди стремятся расширить свои возможности, получить новые права и гарантии, а также обеспечить стабильное будущее для себя и своих семей. П...

16:51, 12 Фев Монтаж вентиляции представляет собой сложный технологический процесс, требующий профессиональных знаний и опыта Монтаж вентиляции является важнейшим этапом при создании комфортного и безопасного микроклимата в жилых, коммерческих и производственных помещениях. От качества проектирования и установки системы зависит не только свежесть воздуха, но и здоровье люд...

17:31, 12 Фев Удаление вмятин без покраски — это современная и эффективная технология, которая требует знаний, практики и внимания к деталям Удаление вмятин без покраски (Paintless Dent Repair, PDR) становится все более востребованной услугой в автосервисах, поскольку позволяет восстанавливать кузов автомобиля быстро, экономично и без потери заводского лакокрасочного покрытия. Эта технол...

06:57, 07 Май Ростелеком предупредил об ограничениях мобильного интернета в Москве до 9 мая Сам совет звучит буднично, но за ним обычная для майских праздников схема: операторы по очереди страхуют себя и пользователей перед сбоями в связи на фоне массовых мероприятий. В этом году похожие уведомления уже разослали МТС и «Билайн», причем реч...

19:57, 03 Ноя Ортопед Скакун предупредил о вреде сна на «картофельной» кровати Суть тренда в том, чтобы превратить обычную кровать в бесформенную мягкую «лежанку». По словам специалиста, такое спальное место нарушает естественные изгибы позвоночника и может привести к хроническим болям в спине и шее.Что за тренд Поклонники тре...

00:57, 22 Янв Губернатор Солодов предупредил о новом снегопаде на Камчатке На Камчатке власти начали готовиться к возможному мощному снегопаду, который прогнозируют в ближайшую неделю, после серии экстремальных погодных явлений, заявил губернатор Камчатского края Владимир Солодов. На Камчатку на следующей неделе может обру...

09:57, 12 Апр Глава OpenAI предупредил о реальной угрозе биотерроризма Глава OpenAI Сэм Альтман сделал громкое заявление, которое переводит дискуссию о безопасности искусственного интеллекта из плоскости научной фантастики в сферу практической политики и глобальной безопасности. В ходе своего недавнего выступления осно...

07:57, 18 Мар Россельхозцентр предупредил о нашествии саранчи в пяти регионах России Аграрии ряда российских территорий готовятся к увеличению популяции опасных насекомых из-за обнаруженных значительных зимовочных запасов, сообщили в Россельхозцентре. Нашествие вредителей прогнозируется в Волгоградской и Саратовской областях, а такж...

03:57, 14 Май МИД России предупредил об угрозе арестов за рубежом и экстрадиции россиян в США Российским гражданам при планировании заграничных поездок следует учитывать риск задержания и возможной экстрадиции в Соединенные Штаты из третьих стран, заявил директор департамента многостороннего сотрудничества по правам человека МИД Григорий Лук...

11:57, 10 Июн Не спасают, а сушат: врач предупредил об опасных напитках в жару Некоторые популярные напитки не помогают справиться с жаждой, а могут только усилить ее. Подробнее об этом в беседе с aif.ru рассказал диетолог и эндокринолог Антон Поляков. По словам специалиста, летом для восполнения жидкости лучше выбирать обычну...

23:57, 24 Май Босс Xiaomi предупредил о подорожании смартфонов в ближайшие годы Глава Xiaomi Лей Цзюнь заявил, что смартфоны продолжат дорожать в ближайшие годы из-за роста стоимости микросхем памяти и накопителей. По его словам, пользователям, которые регулярно обновляют устройства, возможно, не стоит слишком долго откладывать...

09:57, 24 Окт Депутат Колунов предупредил россиян о штрафах за отсутствие прописки Проживание в съёмном жилье без регистрации грозит административными штрафами как самому жильцу, так и владельцу недвижимости. Исключение предусмотрено только для тех, кто приехал к родственникам. Все нюансы, которые нужно знать, — далее в материале....

05:57, 06 Май Сбер предупредил о сбоях в приложении на майских праздниках. Что происходит Банк сообщил клиентам о возможных перебоях в работе сервисов и трудностях со входом в приложение с 5 по 9 мая. Причина — ограничения мобильного интернета в Москве и Подмосковье, которые вводят операторы связи в период праздничных мероприятий.Сбер пр...

12:57, 12 Мар ЦБ предупредил о гиперинфляции при снижении ставки до 3%. Когда же её начнут снижать Центробанк опубликовал исследование, в котором предупредил об опасности резкого смягчения денежно-кредитной политики. Эксперты регулятора смоделировали ситуацию, при которой ключевая ставка резко упадёт с текущих 16% до 3% и будет удерживаться на та...

12:57, 29 Сен Медведев предупредил о риске войны Европы с Россией из-за случайности Войны России с Европой быть не должно, однако России все равно стоит «быть начеку», заявил зампред Совбеза России Дмитрий Медведев. Медведев заявил в Telegram-канале, что конфликт Европы с Россией может перерасти в войну с применением оружия массово...

04:57, 19 Янв Президент Ирана предупредил о возможной атаке на аятоллу Али Хаменеи Попытка атаки на духовного лидера Ирана аятоллу Али Хаменеи будет воспринята как начало войны. Об этом заявил президент исламской республики Масуд Пезешкиан в соцсетях. «Любое нападение на аятоллу Хаменеи будет равносильно „полномасштабн...

20:57, 06 Ноя Фитнес-трекеры могут вызывать бессонницу, предупредил ученый Фитнес-трекеры оказались не такими полезными, как нам казалось Фитнес-трекеры вроде Apple Watch и Xiaomi Mi Band обещают нам путь к здоровью и идеальному сну, но, как оказалось, эти «умные браслеты» могут сыграть злую шутку. По мнению специалистов, ...

18:57, 01 Фев МИД предупредил россиян о росте случаев ограблений туристов в Чили В Чили в последнее время фиксируется рост числа ограблений, жертвами которых становятся в том числе российские туристы, особенно в центре Сантьяго вечером и ночью, сообщили в МИД России. МИД России обратил внимание граждан на рост числа ограблений т...

07:57, 28 Окт Строительный эксперт предупредил об уловке мошенников с проверкой окон По его словам, злоумышленники действуют по отработанной схеме, чтобы выманить деньги на ненужный ремонт. Владельцам квартир предлагают бесплатный осмотр, но в итоге находят «проблемы» в каждой квартире.Как выглядит схема Бесплатные проверки пластико...

03:57, 15 Окт Депутат Колунов предупредил о крупных штрафах для неряшливых водителей Выбрасывание мусора из автомобиля обернется серьезными денежными взысканиями и может привести к изъятию транспортного средства, рассказал зампред комитета Госдумы по строительству и ЖКХ Сергей Колунов. «За несанкционированную выгрузку и сброс ...

11:57, 26 Ноя Россельхознадзор предупредил курян о вспышке опасной болезни картофеля В Управлении Россельхознадзора по Орловской и Курской областям призвали жителей региона внимательнее относиться к проверке собранного урожая картофеля. Специалисты напоминают курянам об угрозе бурой гнили, которая относится к карантинным заболевания...

11:57, 31 Дек Депутат Аксаков предупредил о рисках покупки золота на пике Инвестировать в золото при его высоких ценах рискованно, особенно для частных инвесторов, поскольку металл больше подходит для сохранения средств, чем для спекуляций, отметил глава комитета Госдумы по финансовому рынку Анатолий Аксаков. Инвестироват...

10:57, 10 Май Депутат Гаврилов предупредил о схемах мошенников с капремонтом и списанием долгов Председатель комитета Госдумы по вопросам собственности, земельным и имущественным отношениям Сергей Гаврилов рассказал ТАСС о самых опасных мифах и мошеннических схемах, связанных с капремонтом и списанием долгов. Аферисты предлагают «убрать строку...

06:57, 18 Июн Джереми Кларксон предупредил, что может уже не появиться на экране из-за тяжелой болезни Британский телеведущий Джереми Кларксон рассказал о своем диагнозе «рак» в эпизоде документального сериала «Ферма Кларксона», вышедшем на этой неделе. 66-летний звезда экрана сообщил, что болезнь обнаружена на ранней стадии, и пообещал, что «всё буд...

16:57, 10 Мар Китай предупредил о глобальном дефиците авточипов из-за обострения спора с Nexperia Заявление министерства коммерции КНР последовало за действиями головного офиса Nexperia в Нидерландах, который отключил корпоративные учетные записи для всех сотрудников в Китае. В Пекине назвали это действие провокацией, создающей «новые трудности ...

22:57, 31 Мар Telegram предупредил россиян о последней возможности купить Premium. Что происходит Пользователи Telegram в России получили системные уведомления о том, что оформление Premium-подписки скоро станет технически невозможным. Мессенджер предложил внести предоплату на два года со скидкой. Разбираемся, что за этим стоит и чем грозит поку...

13:57, 21 Фев Врач предупредил: обычная зубная щётка не справляется с очисткой рта, и это опасно Многие люди считают, что если они чистят зубы два раза в день, то их здоровье в полном порядке. Однако стоматологи не согласны: даже самая тщательная чистка обычной щёткой убирает только 80 процентов налёта. Оставшаяся часть скапливается там, куда щ...

07:57, 15 Сен Бойтесь говорящего робота-мошенника: Сбербанк предупредил о всплеске новых киберпреступлений 15 февраля заместитель представителя правления Сбербанка Станислав Кузнецов во время выступления на инвестиционном форуме в Сочи сообщил о новом виде мошенничества, с которым могут столкнуться россияне. С его слов, в ближайшие полгода потенциальных ...

04:57, 21 Окт Трамп предупредил о высокой цене для многих, если не будет сделки по Украине Если конфликт на Украине не удастся урегулировать, многие могут столкнуться с серьезными последствиями. Об этом на пресс-конференции по итогам переговоров с премьер-министром Австралии Энтони Альбанезе 20 октября заявил президент США Дональд Трамп. ...

01:57, 09 Ноя Глава Nvidia предупредил: Китай может обогнать США в гонке за лидерство в сфере ИИ Генеральный директор Nvidia Дженсен Хуанг заявил, что Китай стремительно приближается к лидерству в области искусственного интеллекта и может «выиграть гонку ИИ», если США продолжат замедлять инновации из-за чрезмерного регулирования и экс...

18:57, 07 Апр Бизнес предупредил о рисках укрепления рубля. Какой курс нужен российским компаниям Глава Российского союза промышленников и предпринимателей (РСПП) Александр Шохин заявил о рисках дополнительного укрепления рубля из-за политики правительства и Центробанка. Он назвал предпочтительный для бизнеса валютный коридор.Текущая политика го...

08:57, 29 Мар Путин предостерёг бизнес от «проедания» нефтяных доходов. О чём предупредил президент на съезде РСПП Президент России Владимир Путин выступил на 35-м съезде Российского союза промышленников и предпринимателей (РСПП) с предупреждением о рисках нерационального использования дополнительных доходов от роста нефтяных котировок. Мероприятие впервые прошл...

19:57, 25 Мар Минфин предложил пересмотреть цену на нефть в бюджете с 2027 года. Центробанк предупредил о последствиях Министерство финансов России предложило изменить цену отсечения на нефть по бюджетному правилу начиная с 2027 года. Ведомство считает, что мировые цены на нефть в среднесрочной перспективе будут ниже текущих параметров. При этом на 2026 год корректи...

15:57, 15 Июн Пьянов предупредил о рисках «черного лебедя»: почему новая пандемия опаснее экономических шоков Фото пресс-служба ВТБСнижение глобальной геополитической напряженности и сохранение высоких котировок на рынке энергоносителей остаются главными предсказуемыми драйверами позитивного сценария для России. Такое заявление, апеллируя к теории Нассима Т...