Названы пять неочевидных рисков использования ИИ для бизнеса

Первый скрытый риск использования искусственного интеллекта в бизнесе — телесные повреждения из-за ошибок ИИ. Такое мнение в беседе с «Газетой.Ru» высказал заместитель генерального директора IT-компании по информационным технологиям Articul Борис Кузьмин.

«В 2023 году в США робот Tesla нанес травмы человеку, а в Южной Корее сотрудник погиб из-за неправильной работы ИИ. Несоблюдение техники безопасности и ошибки в распознавании объектов могут привести к трагедиям, особенно в сфере робототехники», — отметил эксперт.

Второй риск — распространение дезинформации. Кузьмин уточнил, что ИИ иногда допускает серьезные фактические ошибки, например, некорректно описывает товары и услуги, что подрывает доверие клиентов и вредит репутации компаний. Один из случаев — публикация научной статьи с ошибочной иллюстрацией, где были изображены несуществующие анатомические детали, пояснил эксперт.

Третий риск — финансовые потери из-за ошибок ИИ. По словам Кузьмина, автоматизированные системы могут ошибаться, и это приводит к убыткам. Например, продавец на Amazon потерял £300 тыс. из-за неверной работы системы, списавшей деньги за рекламу в регионе, где он не продавал товары.

Четвертый риск — утечка конфиденциальных данных. Кузьмин допустил, что ИИ может стать причиной утечки данных, если использует информацию, содержащую коммерческую тайну. По словам эксперта, подобная ситуация произошла в Samsung, когда сотрудники вводили в GPT корпоративные данные.

Пятый риск — усиление предвзятости и дискриминации. Кузьмин пояснил, что информация для обучения ИИ-систем может содержать исторические предубеждения и приводить к дискриминации. Например, в 2023 году в этом уличили компанию iTutor Group при найме персонала. Эксперт сказал, что система отсеивала женщин старше 55 лет и мужчин старше 60 лет, не учитывая опыт и квалификацию. Это не только нанесло ущерб репутации, но и понесло финансовые убытки — компании пришлось выплатить $365 тыс., добавил Кузьмин.

Чтобы снизить риски, эксперт посоветовал российским предпринимателям проводить регулярные инструктажи и обучать сотрудников. Кузьмин уточнил, что нужно четко распределять ответственность — системы не могут отвечать за безопасность людей при работе с ИИ. Это должны делать руководители и ответственные сотрудники, заключил эксперт.

Доцент Финансового университета при правительстве РФ Петр Щербаченко уверен, что россияне могут заработать с помощью ИИ. По словам эксперта, нейросеть может помочь в подготовке текстов и постов для соцсетей, изображений, презентаций, создании чат-ботов.

Ранее россиянам рассказали, сможет ли ИИ полностью заменить журналистов.