Георгий Гайковстарший инженер исследователь MTS AIВсе мы сталкивались с комичными случаями, когда ИИ модели давали некорректные ответы на вопросы, или, например, не умели рисовать пальцы на руках человека. Но это касалось применений, в которых цена ошибки была незначительной
Искусственный интеллект стал реальностью. Россия, несмотря на определенные трудности, активно развивает эту сферу, стремясь занять лидирующие позиции на мировом рынке. О том, как компании используют эту технологию для повышения эффективности и безопасности, какие алгоритмы и методы сегодня наиболее востребованы, и какие перспективы развития ожидают российскую индустрию ИИ рассказывает Георгий Гайков, старший инженер исследователь MTS AI
Какие конкретные области ИИ являются основными и приносящими доход и прибыль российским компаниям (и экономию их клиентам)?
Основные направления включают аналитические системы (например, для принятия решений о выдаче кредитов), рекомендательные системы (например, определяющие, какие товары или услуги показывать пользователям), компьютерное зрение (для биометрии, распознавания медицинских изображений и автомобильных номеров) и обработку естественного языка.
Недавний бум, вызванный появлением ChatGPT, касается обработки естественного языка. Стало возможным автоматизировать такие задачи, как программирование, тестирование, разметка данных, редактирование текстов, написание сценариев, модерирование контента и перевод. Сейчас активно развиваются чат-боты, обеспечивающие поддержку по конкретным темам, такими как корпоративные базы знаний. Можно обучить программу работать на вашем сервере без передачи данных третьим сторонам, что обеспечивает высокий уровень безопасности.
Какие методы и алгоритмы машинного обучения наиболее перспективны сегодня на рынке?
Самые популярные алгоритмы сейчас – генеративного искусственного интеллекта, в генерации текстов это большие языковые модели, в генерации изображений – это диффузионные модели. Также стоит не забывать про генерацию речи, здесь также используются диффузионные модели, но совместно с языковыми.
Как обеспечить безопасность и этичность при разработке и внедрении систем ИИ?
Для того, чтобы понять, как нам правильно и корректно соблюсти баланс между нашими целями с одной стороны, этичностью и безопасностью при разработке и внедрении систем, использующих искусственный интеллект, с другой стороны, нужно в первую очередь и понять, какие цели мы преследуем и какие важные этические правила существуют в нашем социальном мире.
Для того, чтобы ИИ с нашей помощью мог предоставлять этичную и безопасную информацию, его нужно научить. Для этого нужно 1) разработать свод принципов и стандартов, которые помогут обеспечить безопасность и этичность использования технологий ИИ, 2) определить границы ответственности системы, ИИ может быть помощником человека, но не может нести ответственность за возможные последствия, 3) человек должен понимать и контролировать процесс принятия решений ИИ, чтобы отслеживать его действия и своевременно выявлять проблемы в функционировании.
Компании, чья деятельность связана с разработкой ИИ, должны понимать и принимать необходимость соблюдения этих принципов, отражать в своих внутренних корпоративных нормах, участвовать в подготовке и подписании совместных коллективных документах разработчиков продуктов ИИ.
Как посчитать рентабельность инвестиций (ROI) от ИИ-инициатив?
Рентабельность инвестиций (ROI) зависит от конкретного сценария применения ИИ. Например, если речь идет о повышении производительности труда, то показатель ROI можно рассчитать, исходя из сокращения издержек на оплату труда после внедрения ИИ-решений.
Могут ли ИИ-модели быть предвзятыми и что с этим делать?
Да, еще как могут. Ощутимо сложнее сделать непредвзятую модель. Это связано прежде всего с обучением моделей – какие данные использовались при обучении (если мы будем обучать одну модель используя данные на арабском языке, а вторую – используя данные на иврите, закономерно ожидать, что обе модели могут по-разному отвечать на вопросы о справедливом завершении палестино-израильского конфликта). В меньше степени предвзятость может задаваться инструкциями, которые используются при работе ИИ. Чтобы минимизировать предвзятость, важно тщательно подбирать обучающие данные и включать в них многообразные и сбалансированные примеры. Также необходимо тестировать модели на возможные предвзятые ответы и корректировать их.
Как вы оцениваете и управляете рисками, связанными с ошибками и сбоями в работе ИИ-систем?
Закладываем это в этапы обучения и тестирования, оставляем возможность обратной связи для клиентов. В целом, все мы сталкивались с комичными случаями, когда ИИ модели давали некорректные ответы на вопросы, или, например, не умели рисовать пальцы на руках человека. Но я хочу чтобы вы понимали, что это касалось применений, в которых цена ошибки была незначительной. Если задаться целью минимизировать число ошибок ИИ, если отдать этому большой приоритет – ошибок станет значительно меньше. Пожалуй, наиболее требовательная к сбоям и ошибкам область – это беспилотные автомобили. При грамотно построенных стандартах и требованиях к тестированию, испытаниям, число ошибок достигает приемлемых значений (не обязательно делать ИИ совсем безошибочным – если ИИ будет ошибаться существенно реже человека, это уже достойный результат).
Как защитить данные, используемые и создаваемые ИИ-системами? Как найти баланс между использованием больших данных и защитой конфиденциальности пользователей?
Данные, используемые нейросетями при обучении, представляют собой черный ящик – они вполне могут включать информацию третьих лиц. Даже если производитель ИИ подробно перечислит все источники информации, использовавшиеся при обучении модели, проверить истинность такого перечня будет очень и очень сложно – цена тренировки модели типа GPT слишком высока для подобных проверок. Если вы не хотите чтобы на ваших данных обучались нейросети – избегайте публикации ваших данных в открытом доступе интернете, а ИИ используйте развернутый на своем собственном сервере. Это обеспечит безопасность и конфиденциальность.
Какие навыки и компетенции вы считаете наиболее важными для сотрудников в эпоху ИИ?
В наше время люби все больше и больше сталкиваются с ИИ-моделями в своей повседневной деятельности. Самое важное при этом – не бояться осваивать новое. Человек может переложить часть своей, прежде всего рутинной, деятельности на ИИ-модель и освободить время для работы, которая требует сосредоточения.
Какие перспективы развития ИИ вы видите в России в ближайшие годы? Какие области могут получить наибольшее развитие?
ИИ будет все более и более широко внедряться во все сферы деятельности, например, большее распространение получат системы распознавания лиц, которые позволят в некоторой перспективе снизить нагрузку на кассиров в магазинах. Относительно областей развития, ИИ – это технология, которая является обслуживающей, так что она будет развиваться вместе с базовой областью, в которой она применима, например, с медициной или добычей руды.
Как вы оцениваете уровень научных исследований и разработок в области ИИ в России по сравнению с мировыми лидерами в этой области?
Безусловно, Россия отстает от мировых лидеров – США и Китая, но достаточно уверенно держится во втором эшелоне. В нашей стране есть хорошие университеты и много талантливых людей, если государство и бизнес будут продолжать вкладываться в развитие науки и образования в сфере ИИ, то Россия имеет шанс в перспективе 5-10 лет выйти в мировые лидеры.
