В первой части перевода исследования McKinsey об использовании ИИ в работе и личной жизни мы узнали о заметных (и измеримых) преимуществах использования генеративного ИИ и о первых «плодах» инвестирования в него. Сегодня мы рассмотрим, какие главные риски видят респонденты опроса в использовании этой технологии.
По мере того, как компании начинают видеть преимущества генеративного ИИ, они также принимают и разнообразные риски, связанные с этой технологией, включая управление данными, такие как конфиденциальность, предвзятость или нарушение прав интеллектуальной собственности (ИС), а также управление моделями, которые, как правило, связаны с неточными результатами или отсутствием прозрачности в их получении, то есть с объяснимостью. Также к высоким рискам относятся безопасность и неправильное использование.
Респонденты последнего опроса с большей уверенностью, чем в прошлом году, заявляют, что их организации считают, что неточности и нарушение прав интеллектуальной собственности имеют отношение к использованию ими генеративного искусственного интеллекта, и около половины респондентов продолжают рассматривать ИИ как риск для кибербезопасности (Иллюстрация 7).
И наоборот, респонденты с меньшей вероятностью, чем в прошлом году, заявляют, что их организации считают рабочую силу и увольнение работников значимыми рисками и не активизируют усилия по их смягчению.
Именно неточность, которая может повлиять на варианты использования по всей цепочке внедрения и получения прибыли от искусственного интеллекта, начиная от взаимодействия с клиентом и сбора его пожеланий до написание приложения с ИИ и креативного контента, является фактически единственным риском, над которым, по заявлению респондентов, значительно чаще, чем в прошлом году, активно работают их организации.
Перевод слева направо: «Неточность», «Нарушение прав на интеллектуальную собственность», «Кибербезопасность», «Неприкосновенность частной жизни», «Соблюдение нормативных требований», «Объяснимость», «Беспристрастность и честность», «Вытеснение рабочей силы/человеческого труда», «Репутация компании», «Национальная безопасность», «Влияние на окружающую среду», «Политическая стабильность», «Физическая безопасность», «Ничего из вышеперечисленного»
Некоторые организации уже столкнулись с негативными последствиями использования искусственного интеллекта: 44% респондентов заявили, что их организации испытали хотя бы один негатив (Иллюстрация 8).
Респонденты чаще всего называют именно неточность главным риском, который затронул их организации; за ним следуют кибербезопасность и объяснимость, то есть набор систем и моделей, способный объяснять свои действия и принимать решения понятным для пользователей образом, чтобы повысить доверие к ИИ.
Наше предыдущее исследование показало, что существует несколько элементов управления, которые могут помочь в более ответственном использовании искусственного интеллекта, однако лишь немногие респонденты сообщают о наличии таких практик, связанных с рисками. Например, только 18% говорят, что в их организациях есть общекорпоративная система управления рисками — совет экспертов, наделенный полномочиями принимать решения, связанные с ответственным управлением ИИ, и только одна треть говорит, что осведомленность о рисках ИИ поколения и меры по снижению рисков являются необходимым набором навыков для технических специалистов.
Последний опрос также был направлен на то, чтобы понять, как и насколько быстро организации внедряют эти самые инструменты искусственного интеллекта нового поколения. Мы обнаружили три архетипа внедрения решений генеративного ИИ: потребители используют готовые, общедоступные решения; создатели настраивают эти инструменты, используя собственные данные и системы; и производители разрабатывают свои собственные базовые модели с нуля.
Результаты опроса показывают, что в большинстве отраслей организации находят готовые предложения, применимые к потребностям их бизнеса, хотя многие из них ищут возможности адаптировать модели или даже разработать свои собственные (Иллюстрация 9). Около половины заявленных случаев использования генеративного искусственного интеллекта в рамках бизнес-функций респондентов используют готовые общедоступные модели или инструменты с минимальной настройкой или вообще без нее.
Респонденты из сфер энергетики и материалов, технологий, средств массовой информации и телекоммуникаций с большей вероятностью сообщат о значительной адаптации или настройке общедоступных моделей или о разработке собственных запатентованных моделей для удовлетворения конкретных потребностей бизнеса.
Респонденты чаще всего сообщают, что их организациям требовалось от одного до четырех месяцев с начала проекта до внедрения искусственного интеллекта в работу, хотя время, которое это занимает, зависит от сфер деятельности (Иллюстрация 10). Это также зависит от подхода к приобретению этих способностей. Неудивительно, что узкоспециализированные или запатентованные модели используются в 1,5 раза чаще, чем готовые, общедоступные модели, на внедрение которых уйдет пять месяцев или больше.
Генеративный ИИ — новая технология, и организации все еще находятся на ранней стадии использования ее возможностей и масштабирования ее функций. Поэтому неудивительно, что лишь небольшая часть респондентов (46 из 876) сообщают, что значительная доля EBIT их организаций может быть связана с внедрением ими генеративного искусственного интеллекта. Тем не менее, этих лидеров использования ИИ стоит внимательно изучить. В конце концов, это первопроходцы, которые уже относят более 10% EBIT своих организаций на использование искусственного интеллекта.
42% этих высокоэффективных компаний говорят, что более 20% их EBIT приходится на использование негенеративного аналитического искусственного интеллекта, и своей деятельностью они охватывают целые отрасли и области, хотя большинство из них работают в организациях с годовым доходом менее 1 миллиарда долларов. Практика этих организаций, связанная с искусственным интеллектом, может послужить руководством для тех, кто хочет получить выгоду от внедрения искусственного интеллекта в своих организациях.
Начнем с того, что высокопроизводительные компании, использующие генеративный ИИ, применяют его в большем количестве своих подразделений— в среднем в трех сферах, в то время как другие — в двух. Они, как и другие организации, скорее всего, будут использовать генеративный ИИ в маркетинге, продажах, а также при разработке продуктов или услуг, но они гораздо чаще, чем другие, будут использовать решения ИИ в вопросах управления рисками, юриспруденции и соблюдения требований; в стратегии и корпоративных финансах; а также в цепочке поставок и управлении запасами.
Они более чем в три раза чаще, чем другие, используют ИИ в самых разных сферах деятельности — от обработки бухгалтерских документов и оценки рисков до тестирования НИОКР, ценообразования и рекламных акций. Хотя в целом около половины зарегистрированных приложений генеративного ИИ в рамках бизнес-функций используют общедоступные модели или инструменты, высокопроизводительные специалисты генеративного ИИ с меньшей вероятностью будут использовать эти готовые варианты, чем либо внедрять значительно адаптированные версии этих инструментов, либо разрабатывать собственные базовые модели.
Что еще эти успешные специалисты делают по-другому? Во-первых, они уделяют больше внимания рискам, связанным с развитием искусственного интеллекта.
Возможно, потому, что они достаточно глубоко изучили эти вопросы, они с большей вероятностью заявят, что их организации испытали на себе все негативные последствия от генеративного ИИ, о которых спрашивали авторы опроса: от кибербезопасности и личной конфиденциальности до проблем объяснимости и нарушения прав интеллектуальной собственности.
Основываясь на этом, они чаще заявляют, что их компании считают, что эти риски, а также соблюдение нормативных требований, воздействие на окружающую среду и политическая стабильность имеют прямое отношение к использованию ими генеративного ИИ, и заявляют, что предпринимают шаги для смягчения большего количества рисков, чем другие.
Лидеры индустрий, использующие генеративный ИИ, также гораздо чаще заявляют, что их организации следуют лучшим практикам, связанным с рисками (Иллюстрация 11). Например, они почти в два раза чаще, чем другие, привлекаются к выполнению юридических функций и внедряют анализ рисков на ранних стадиях разработки решений генеративного ИИ, то есть «смещаются влево». Они также гораздо чаще, чем другие, используют широкий спектр других лучших практик, связанных со стратегией или с масштабированием.
Иллюстрация 11. Организации, занимающиеся каждой практикой, % от общего числа респондентов.
Перевод условных обозначений слева направо: «Остальные респонденты», «Лидеры в использовании генеративного ИИ» (респонденты, ответившие, что минимум 11% EBIT их компаний в 2023 было напрямую связано с использованием генеративного ИИ)
Помимо рисков, связанных с внедрением генеративного искусственного интеллекта, высокоэффективные компании столкнулись с целым рядом различных проблем, которые могут послужить предупреждением для других игроков рынка (Иллюстрация 12).
70% говорят, что столкнулись с трудностями с данными, включая определение процессов для управления данными, развитием способности быстрой интеграции данных в модели ИИ и недостаточным объемом обучающих данных, что подчеркивает важную роль, которую данные играют в доходах компаний. Высокопроизводительные сотрудники также чаще, чем другие, сообщают о проблемах, связанных с их операционными моделями, такими как внедрение гибких методов работы и эффективное управление производительностью спринтов.
Перевод условных обозначений слева направо: «Остальные респонденты», «Лидеры в использовании генеративного ИИ» (респонденты, ответившие, что минимум 11% EBIT их компаний в 2023 было напрямую связано с использованием генеративного ИИ)
Онлайн-опрос проводился с 22 февраля по 5 марта 2024 года и собрал ответы 1363 участников, представляющих весь спектр регионов, индустрий, размеров компаний, специальностей и должностей. Из этих респондентов 981 заявили, что их организации внедрили ИИ по крайней мере в одной бизнес-функции, а 878 заявили, что их организации регулярно используют ИИ по крайней мере в одной функции. Чтобы скорректировать различия в показателях ответов, данные взвешиваются по вкладу страны каждого респондента в мировой ВВП.
Авторы исследования: Алекс Сингла и Александр Сухаревский — глобальные руководители QuantumBlack, AI by McKinsey и старшие партнеры в офисах McKinsey в Чикаго и Лондоне соответственно; Ларейна Йи — старший партнер в офисе Bay Area, партнером которого является Майкл Чуи, партнер McKinsey Global Institute; и Брайс Холл является ассоциированным партнером офиса в Вашингтоне, округ Колумбия.
