Искусственный интеллект в области соблюдения нормативных требований — это не черный ящик, а проверка ответственности: интервью с Романом Элошвили

Роман Элышвили является основателем ComplyControl, стартапа по соблюдению норм и обнаружению мошенничества на основе ИИ для финансовых учреждений.

Узнайте о лучших новостях и событиях в финтехе!

Подписывайтесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и других

Что на самом деле тестируется в ИИ для соблюдения норм: технологии или мы?

В финансовых услугах соблюдение норм больше не является просто функцией. Это активная точка давления — где сталкиваются регулирование, риск и операции. С внедрением технологий ИИ в эту сферу возникает вопрос: насколько мы действительно можем автоматизировать, и кто несет ответственность, когда что-то идет не так?

Привлекательность ИИ в обнаружении мошенничества и соблюдении норм легко понять. Финансовые учреждения сталкиваются с растущими ожиданиями обрабатывать огромные объемы данных, реагировать на развивающиеся угрозы и соблюдать изменяющиеся регуляции — все это без компромиссов в скорости или точности. Автоматизация, особенно когда она управляется машинным обучением, предлагает способ снизить операционную нагрузку. Но это также вызывает более глубокие опасения по поводу управления, объяснимости и контроля.

Эти напряжения не теоретические. Они разворачиваются в реальном времени, поскольку финансовые компании внедряют модели ИИ в роли, традиционно занимаемые человеческими аналитиками. За кулисами возникают новые риски: ложные срабатывания, слепые зоны в аудитах и алгоритмические решения, которые остаются непрозрачными как для пользователей, так и для регуляторов.

В то же время от специалистов по соблюдению норм требуют изменить свои роли. Вместо того чтобы вручную проверять каждую транзакцию, теперь они контролируют инструменты, которые это делают. Эта переработка — от исполнителя к оценщику — требует не только новых технических навыков, но и более сильного чувства этической и процедурной ответственности. ИИ может масштабировать анализ данных. Он может отмечать несоответствия. Но он не может полностью объяснить намерения, интерпретировать контекст или принять на себя вину.

Понимание этих ограничений критически важно. И немногие люди находятся в лучшем положении, чтобы исследовать их, чем Роман Элышвили, основатель компании по соблюдению норм ComplyControl, базирующейся в Великобритании. Его работа находится на пересечении риска, автоматизации и надзора — где алгоритмическая эффективность встречается с регуляторным контролем.

Имея более десяти лет опыта в этой сфере, Роман на собственном опыте увидел, как команды по соблюдению норм эволюционируют и как ИИ изменяет как их рабочие процессы, так и их обязанности. Он утверждает, что обещание ИИ заключается не в устранении человеческих ролей, а в их переработке — принося новую ясность в то, что машины должны обрабатывать, и что люди все еще должны владеть.

Этот сдвиг требует большего, чем технические обновления. Он требует культурной переориентации вокруг ответственности. Прозрачные системы, аудитируемые процессы и четко назначенная человеческая ответственность больше не являются просто функциями — они стали минимальным стандартом. Когда ИИ вводится в критическую инфраструктуру, он не просто решает проблемы. Он вводит новую категорию решений, которые требуют активного, стратегического управления.

В этом разговоре для FinTech Weekly Роман предлагает обоснованный взгляд на то, что необходимо для ответственной интеграции ИИ в соблюдение норм и предотвращение мошенничества. Его перспектива не рассматривает автоматизацию как неизбежность, а как выбор — тот, который требует постоянного человеческого суждения, операционной ясности и готовности задавать трудные вопросы о том, где на самом деле находится доверие.

Мы рады поделиться его мнением в то время, когда многие в финтехе задаются вопросом не о том, следует ли внедрять ИИ, а о том, как сделать это, не потеряв из виду стандарты, которые изначально сделали финансовые системы работающими.

1. Вы построили карьеру на пересечении соблюдения норм и технологий. Можете ли вы вспомнить момент, когда вы поняли, что ИИ может коренным образом изменить способ управления рисками?

Я бы не сказал, что это был просто один конкретный момент, который изменил все. Скорее, это был растянутый процесс. Я провел значительную часть своей карьеры, работая с устоявшимися европейскими банками, и одно, что я постоянно замечал, это то, что многие из них сильно отставали, когда речь шла о цифровых банковских решениях. Контраст был особенно очевиден по сравнению с более развитыми финтех-хабами.

Несколько лет назад, когда тема развития ИИ снова начала набирать популярность, я естественным образом заинтересовался и начал изучать это. И когда я изучал технологии и их работу, я осознал, что искусственный интеллект имеет потенциал радикально изменить способ, которым банки обрабатывают свои обязательства, ставя их на один уровень с современными, более гибкими финтех-игроками.

Вот что и привело меня к запуску своей компании в 2023 году. Сложность соблюдения норм и управления рисками только продолжает расти с каждым годом. Столкнувшись с этой реальностью, наша миссия проста: предоставить решения на основе ИИ финансовым компаниям и помочь им справляться с такими нарастающими вызовами более эффективно.

2. С вашей профессиональной точки зрения, как изменилась роль человеческих специалистов по мере того, как инструменты ИИ становятся более продвинутыми в соблюдении норм и обнаружении мошенничества?

Прежде чем сказать что-либо другое, позвольте мне сразу же уточнить одну вещь. Существует общая озабоченность во многих областях о том, заменит ли ИИ человеческих работников. И что касается специалистов по соблюдению норм и управления рисками, мой ответ — нет — по крайней мере, не в ближайшее время.

Хотя искусственный интеллект уже трансформирует нашу отрасль, он далеко не безупречен. Таким образом, человеческое участие остается важным фактором. Регламенты по соблюдению норм постоянно меняются, и кто-то должен взять на себя ответственность, когда системы не успевают или совершают ошибки. На текущем уровне развития ИИ все еще испытывает трудности с ясным объяснением своих решений, поэтому его не готово оставить наедине. Особенно в области, где доверие и прозрачность имеют первостепенное значение.

Тем не менее, ИИ активно упрощает процессы соблюдения норм. Например, в зависимости от конфигурации, системы ИИ теперь могут отмечать подозрительные транзакции или даже временно блокировать их, запрашивая дальнейшую проверку. Нет необходимости, чтобы реальные люди просматривали каждую деталь вручную, если только что-то действительно не выделяется как странное. И по мере эволюции этих систем они продолжат сокращать необходимость в ручной работе, позволяя командам сосредоточиться на более тонких задачах, которые действительно требуют человеческого участия.

Я верю, что мы увидим рост гибридной модели, где эксперты по соблюдению норм также станут все более искусными в использовании инструментов ИИ. Они будут теми, кто внедряет и обслуживает системы ИИ, в то время как сам ИИ упростит их работу, упрощая сложные данные и предоставляя рекомендации. Однако окончательное решение останется за людьми.

3. Работая с ИИ в таких чувствительных областях, как финансовое соблюдение норм, как вы лично подошли к задаче поддержания доверия и подотчетности в принятии решений?

Конечно. Как я уже упоминал, когда вы используете ИИ в соблюдении норм, доверие имеет решающее значение.

Вот почему мы построили наши системы ИИ так, чтобы они были полностью прозрачными. Они не работают как “черный ящик” — каждое предложение, которое система делает, основано на прослеживаемых правилах и данных. Мы ведем полный аудит того, как каждое решение принимается, чтобы его можно было полностью объяснить. Эта практика уже оказалась невероятно ценной при работе с регуляторами.

Окончательное решение всегда остается за ответственным по соблюдению норм. ИИ просто предлагает хорошо обоснованное предложение, которое человек может затем легко проверить и принять решение, одобрить или отклонить его.

4. Ваш опыт охватывает более 10 лет. Как изменилась ваша точка зрения на автоматизацию и человеческий надзор на протяжении вашей карьеры, особенно сейчас, когда ИИ становится более автономным?

Определенно. Говоря более широко о состоянии принятия ИИ, чем дальше продвигается эта технология, тем больше автономии мы постепенно ей предоставляем — при условии, что она тщательно протестирована и продолжает показывать надежность.

Но что меняется еще больше, так это роль, которую человеческий специалист играет в этом уравнении. Вместо того чтобы микроменеджировать каждый случай, ответственные по соблюдению норм теперь все чаще играют роль стратегических наблюдателей. Они могут быстро просматривать целые партии похожих случаев, проверять производительность системы и точно настраивать модели на основе результатов.

Другими словами, де-факто роль ответственных по соблюдению норм переходит от выполнения работы вручную к управлению системами ИИ, когда они делают это за них.

5. Работа в управлении рисками на основе ИИ означает навигацию по сложным этическим вопросам. Как вы лично разработали структуру для принятия ответственных решений при проектировании или внедрении решений на основе ИИ?

Мы построили наш подход на двух ключевых идеях: четком надзоре и принципах Ответственного ИИ. Каждая модель, которую мы используем, имеет назначенного человека, который за нее отвечает. Оценки рисков, проверки производительности и проверки соблюдения норм проводятся регулярно.

Мы также следим за тем, чтобы наши системы были аудитируемыми. Если алгоритм принимает решение, этот процесс можно проверить и подтвердить. Эта прозрачность является основной частью нашей приверженности ответственной разработке ИИ.

6. В вашем пути каково было самое трудное профессиональное урок о пределах — или рисках — чрезмерного полагания на автоматизацию в таких критических областях, как предотвращение мошенничества?

Один урок, который мы определенно должны иметь в виду, это то, что даже хорошо обученные модели все еще могут “галлюцинировать” — могут ошибаться в тонких, но серьезных аспектах.

ИИ может пропустить сложные схемы мошенничества или может вызвать слишком много ложных срабатываний. Вот почему сочетание ИИ с человеческим опытом так важно — люди обладают гибким суждением и лучше оценивают этику и общий контекст так, как ИИ не способен.

Баланс между двумя обещает лучшие, более надежные результаты. ИИ может использоваться для покрытия огромного объема задач и упрощения их сложности, в то время как люди, в свою очередь, используются для поддержания соответствующего уровня точности и доверия.

7. Для молодых специалистов, входящих в соблюдение норм, управление рисками или разработку ИИ сегодня, какие личные принципы или привычки вы бы посоветовали им развивать, чтобы добиться успеха и адаптироваться в такой быстро меняющейся среде?

Прежде всего: никогда не останавливайтесь на обучении. Технологический прогресс не имеет кнопки “пауза”, и вам нужно идти в ногу или остаться позади. Здесь нет промежуточного варианта.

Во-вторых, думайте широко. С развитием ИИ границы между ролями стираются — технологии, финансы и регулирование становятся смешанными. Я убежден, что широкий набор навыков и открытость ума будут определяющими чертами для будущих специалистов в этой области.

В-третьих — и естественное продолжение предыдущих двух — будьте адаптивными. Изменения постоянны, и способность быстро приспосабливаться будет вашим большим преимуществом.

И, наконец, развивайте сильные навыки коммуникации и учитесь быть командным игроком. Как мы уже обсудили, соблюдение норм находится на пересечении бизнеса, технологий и права. Таким образом, возможность переключаться и общаться с людьми из всех этих миров станет ценным навыком.