Первый скрытый риск использования искусственного интеллекта в бизнесе — телесные повреждения из-за ошибок ИИ. Такое мнение в беседе с «Газетой.Ru» высказал заместитель генерального директора по информационным технологиям IT-компании Articul Борис Кузьмин.
«В 2023 году в США робот Tesla нанес травмы человеку, а в Южной Корее сотрудник погиб из-за неправильной работы ИИ. Несоблюдение техники безопасности и ошибки в распознавании объектов могут привести к трагедиям, особенно в сфере робототехники», — отметил эксперт.
Второй риск — распространение дезинформации. Кузьмин уточнил, что ИИ иногда допускает серьезные фактические ошибки, например, некорректно описывает товары и услуги, что подрывает доверие клиентов и вредит репутации компаний. Один из случаев — публикация научной статьи с ошибочной иллюстрацией, где были изображены несуществующие анатомические детали, пояснил эксперт.
Третий риск — финансовые потери из-за ошибок ИИ. По словам Кузьмина, автоматизированные системы могут ошибаться, и это приводит к убыткам. Например, продавец на Amazon потерял £300 тыс. из-за неверной работы системы, списавшей деньги за рекламу в регионе, где он не продавал товары.
Четвертый риск — утечка конфиденциальных данных. Кузьмин допустил, что ИИ может стать причиной утечки данных, если использует информацию, содержащую коммерческую тайну. По словам эксперта, подобная ситуация произошла в Samsung, когда сотрудники вводили в GPT корпоративные данные.
Пятый риск — усиление предвзятости и дискриминации. Кузьмин пояснил, что информация для обучения ИИ-систем может содержать исторические предубеждения и приводить к дискриминации. Например, в 2023 году в этом уличили компанию iTutor Group при найме персонала. Эксперт сказал, что система отсеивала женщин старше 55 лет и мужчин старше 60 лет, не учитывая опыт и квалификацию. Это не только нанесло ущерб репутации, но и понесло финансовые убытки — компании пришлось выплатить $365 тыс., добавил Кузьмин.
Чтобы снизить риски, эксперт посоветовал российским предпринимателям проводить регулярные инструктажи и обучать сотрудников. Кузьмин уточнил, что нужно четко распределять ответственность — системы не могут отвечать за безопасность людей при работе с ИИ. Это должны делать руководители и ответственные сотрудники, заключил эксперт.
Доцент Финансового университета при правительстве РФ Петр Щербаченко уверен, что россияне могут заработать с помощью ИИ. По словам эксперта, нейросеть может помочь в подготовке текстов и постов для соцсетей, изображений, презентаций, создании чат-ботов.
Ранее россиянам рассказали, сможет ли ИИ полностью заменить журналистов.