Вопрос о том, может ли бесплатный искусственный интеллект (ИИ) быть по-настоящему полезным для клиентов, не навязывая им ненужные услуги или искажая восприятие преимуществ продукта, стал ключевым на сессии форума «Финополис», которая была посвящена этическим вопросам применения технологий ИИ в финансовом секторе. Эксперты обсуждали, как искусственный интеллект влияет на доступность финансовых сервисов и возможно ли, что в будущем он станет «великим уравнителем», или наоборот, усилит неравенство между пользователями.

С одной стороны, технологии ИИ обещают демократизацию финансовых услуг. С их помощью пользователи с разным уровнем доходов могут получить качественные советы по инвестициям, персонализированные страховые тарифы и даже более доступные кредитные продукты. С другой стороны, эксперты обеспокоены тем, что такие алгоритмы могут быть настроены так, что усиливают существующие социальные и экономические различия. Основным вызовом является необходимость обеспечения этики и прозрачности в процессе разработки и применения ИИ-решений.

Как отметил вице-президент, директор по продукту и технологиям «Т-Банка» Константин Маркелов, важнейшей проблемой является то, что «бесплатный сервис» в контексте ИИ часто означает, что клиент фактически становится товаром. Такие услуги могут извлекать выгоду из данных пользователя, а не действовать в его интересах. Поэтому, по мнению Маркелова, чтобы ИИ действительно работал на пользу клиенту, он должен быть не только прозрачным, но и платным. Технологии ИИ должны быть осознанно используемыми, а алгоритмы — настроены таким образом, чтобы служить интересам пользователей.

Маркелов также подчеркнул, что ИИ не является всезнающим и независимым оракулом, а всего лишь инструментом, который работает с теми данными, которые ему предоставлены. Это означает, что если обучающая выборка содержит ошибки или предвзятость, ИИ будет воспроизводить их в своих рекомендациях. К примеру, если алгоритм обучен на данных, которые превозносят цифровой рубль как безусловно положительную инновацию, он будет склонен продвигать именно эту точку зрения, даже если это не соответствует интересам пользователей. По словам эксперта, критически важно понимать, какие именно метрики используются для обучения алгоритма и что именно он оптимизирует.

В то же время, несмотря на риски, связанные с искажениями в алгоритмах, существует и ряд положительных примеров использования ИИ в финансовой сфере. Как отметил руководитель лаборатории машинного интеллекта «Яндекса» Александр Крайнов, ИИ может значительно повысить точность рекомендаций, если запросы формулируются правильно. Например, чем более точно и корректно сформулирован вопрос, тем более релевантным будет ответ системы. Однако, если ИИ не сталкивался с конкретной ситуацией, он может ошибиться, что также важно учитывать.

Особое внимание в ходе сессии было уделено вопросам доступности финансовых услуг для разных групп населения. Виктор Достов, председатель ассоциации «Электронные деньги», подчеркнул, что технологии ИИ в целом способствуют демократизации финансовых инструментов. Они делают их доступными для более широкого круга пользователей, включая тех, кто ранее не мог себе позволить традиционные банковские услуги.

Руслан Вестеровский, вице-президент Сбербанка и руководитель блока «Управление благосостоянием», отметил, что ИИ способен давать качественные советы по инвестициям и помогать в балансировке портфелей даже тем клиентам, у которых ограничены финансовые ресурсы. Это позволяет значительно снизить порог входа на рынок инвестиций, где раньше требовались большие суммы для начала работы. В страховании ИИ позволяет разрабатывать персонализированные тарифы, которые учитывают не только возраст, но и состояние здоровья и образ жизни клиента, что также делает страховые услуги доступнее.

Применение ИИ в борьбе с мошенничеством стало еще одной важной темой обсуждения. Алгоритмы способны гораздо быстрее выявлять подозрительные операции, чем люди, что значительно снижает риски и убытки для клиентов. Однако, как отметил Вестеровский, если на финансовом рынке останутся только ИИ-агенты, это может привести к непредсказуемым последствиям. Важно, чтобы ИИ использовался в совокупности с человеческим контролем, а не заменял его полностью.

С другой стороны, в долгосрочной перспективе интересы банков и клиентов все-таки могут совпадать, считает Михаил Мамута, руководитель службы по защите прав потребителей Банка России. Он отметил, что капитализация бизнеса напрямую связана с уровнем доверия пользователей. Банк, который не заботится о защите прав своих клиентов и не применяет ИИ с учетом их интересов, может столкнуться с проблемами на рынке.

Кроме того, Центробанк России уже разработал и направил в финансовые организации кодекс этики в сфере разработки и применения ИИ. Согласно этому кодексу, важно информировать клиентов о том, что они взаимодействуют с ИИ, а также предоставлять возможность общения с живыми сотрудниками банка. ЦБ предложил также регулярно проверять качество ИИ-систем, следить за соблюдением конфиденциальности данных и развивать системы управления рисками. Важным аспектом является обмен опытом и лучшие практики среди финансовых организаций, что поможет предотвратить многие этические проблемы, связанные с применением искусственного интеллекта.