Няколко големи американски институции ограничават или блокират достъпа на трети AI агенти до клиентски сметки след доклади за неразрешени входове и автономни действия на тези програми.
Според източници на Axios агенти с изкуствен интелект са влизали в клиентски профили и в някои случаи са извършвали дейности, които не съвпадат с инструкциите на потребителите, което накара банките да преразгледат политики и защити.
Какво се случва и какъв е рискът
Обикновено става дума за ситуации, в които агент или AI асистент получава достъп до сметката на човек с разрешението на потребителя и неговите данни за вход. Дори при съгласие от клиента това противоречи на насоките на повечето банки, които изискват хората сами да влизат в собствените си сметки, посочват запознати.
Банковите ръководители се опасяват от действия, които агентите с достъп до профила могат да предприемат — особено ако клиентът е дал права за покупки или прехвърляне на средства. В други случаи агенти, програмирани да изпълняват заявки от името на потребителя, са се свързвали с кол центрове или са извършвали действия, които изглеждат независими от инструкциите на клиента, добавят източниците.
Реакцията на банките
Morgan Stanley, Bank of America, JPMorgan, Wells Fargo и Citi са сред институциите, които предприемат мерки за ограничаване на рисковете. Според източници Morgan Stanley е започнала да блокира достъпа на агенти от трети страни; JPMorgan, Bank of America и Citi също налагат ограничения.
Говорител на Chase заявява, че клиентите не трябва да предоставят потребителските си имена и пароли на никого. Говорител на Morgan Stanley казва, че банката не е наблюдавала случаи на „нелегитимни агенти, задвижвани от изкуствен интелект, които получават достъп до нашите платформи“.
За да намалят риска, повечето банки разрешават или се движат в посока да позволят достъп само за четене, който дава възможност на външни приложения да виждат финансовата информация без правото да извършват операции. Такава опция вече се използва от услуги като Quicken за бюджетиране и анализи.
Мениджъри и банкови ръководители подчертават необходимостта от баланс: клиентите вероятно ще искат да използват AI агенти, но засега рисковете от твърде либерален подход са високи. Много банки трудно различават дали дейността на даден агент е била инициирана от потребителя или е автономна, което усложнява оценката и контрола.
Въпреки наличието на ресурси и опит като критична инфраструктура, институциите предупреждават, че парите не са достатъчни сами по себе си предвид бързото развитие на технологиите. Банките инвестират в предотвратяване на най-лошите сценарии и подготвят планове за реакция, включително сценарии за „деня след“, за да могат бързо да възстановят или осигурят достъпа на клиентите.
КОМЕНТАРИ (0)