FCA закликає переглянути AI-моделі для фінконсультацій: Ризики 2024

Британське Управління з фінансового регулювання та нагляду (FCA) зіткнулося з наполегливими закликами оцінити необхідність регуляторного контролю над великими мовними моделями (LLM), такими як ChatGPT, Claude та Gemini. Це питання стає все актуальнішим, оскільки ці системи відіграють значну роль у прийнятті фінансових рішень споживачами. Огляд, проведений на замовлення FCA, виявив, що понад чверть британських споживачів покладаються на генеративний штучний інтелект для отримання фінансових порад, часто не усвідомлюючи відсутність регуляторного захисту, що діє для традиційних фінансових послуг. Ця ситуація підкреслює потребу в адаптації чинних правил до стрімкого розвитку технологій.

Зростання довіри до AI та регуляторні виклики

Виконавчий директор FCA та автор згаданого огляду, Шелдон Міллс, наголосив на ризику того, що чатботи можуть вийти за межі загальної фінансової інформації та перейти до надання регульованих консультацій. Персоналізовані рекомендації або адаптивні підказки, які надає AI, можуть бути сприйняті як повноцінні фінансові консультації, що у Великій Британії є виключною прерогативою авторизованих компаній. Хоча AI-системи мають надавати лише загальну інформацію, межа стає розмитою, коли модель відповідає на детальні особисті запитання користувача.

Міллс закликав FCA протягом трьох-шести місяців провести ретельний аналіз масштабу, характеру та ринкового впливу AI-моделей, які наразі перебувають поза чинним регуляторним периметром. Регулятор повинен оцінити, як він може посилити та адаптувати свої правила у відповідь на зростаючу залежність як фінансових компаній, так і споживачів від таких технологій. Джонатан Гербст, глобальний керівник практики фінансових послуг у Norton Rose Fulbright, зазначив, що цей заклик є скоріше запрошенням до діалогу, ніж вимогою негайних правозастосовних заходів, підкреслюючи ширше питання відповідності чинних правил сучасному ландшафту фінансових послуг.

Ризики концентрації та системні загрози

Окрім питань регулювання консультацій, огляд FCA також вивчає ризик концентрації в секторі фінансових послуг. Нещодавнє опитування, цитоване Beinsure, показало, що 81% фінансових компаній у світі вже використовують AI на певному рівні, причому 40% перейшли до більш просунутого впровадження. Хоча більшість компаній застосовують AI у менш ризикованих бек-офісних процесах, британські фінансові установи активніше використовують ці технології у взаємодії з клієнтами, зокрема для обробки скарг та надання інвестиційних орієнтирів.

Шелдон Міллс попередив, що широке впровадження AI може призвести до критичної залежності компаній від обмеженої групи розробників моделей, хмарних провайдерів та технологічних постачальників. Це може спричинити «корельовану поведінку», «стадні реакції» та «спільні операційні збої» в усьому секторі. Заступниця голови Банку Англії, Сара Бріден, висловила аналогічні занепокоєння, зазначивши, що чинні регуляторні рамки не були розроблені для автономних AI-агентів, і компанії не можуть покладатися на погодження людиною кожної дії таких систем. Це свідчить про рух британських органів влади до більш конкретних правил для використання AI у фінансах, адже питання полягає в тому, чи зможе нагляд встигати за системами, які автоматизують рішення та залежать від обмеженої кількості постачальників.

Для українських споживачів та страхових компаній, що спостерігають за цими тенденціями, досвід Британії є важливим сигналом. Він підкреслює потребу у прозорості та чітких правилах використання AI у фінансових сервісах, включно зі страхуванням, аби уникнути ризиків, пов'язаних з нерегульованими порадами та потенційними системними збоями. Розуміння цих викликів дозволить адаптувати стратегії та захистити інтереси клієнтів у майбутньому.