O escrutínio regulatório, cujos detalhes são aqui divulgados pela primeira vez, reflete o crescente reconhecimento de que os avanços na inteligência artificial de ponta podem exigir investimentos dispendiosos em recuperação cibernética, maior atenção à dependência de fornecedores externos de tecnologia e, em algumas jurisdições, orientações regulatórias mais formais, disseram as fontes.

Três dos principais órgãos reguladores dos Estados Unidos, incluindo o Federal Reserve, estão questionando os bancos sobre o uso de modelos avançados de inteligência artificial, disseram duas pessoas à Reuters, o que se soma ao escrutínio anterior. 

Entre as perguntas, estão se eles implantam tecnologia desenvolvida na China, usam agentes de IA na defesa cibernética e conseguem controlar sistemas cada vez mais autônomos, disseram três das pessoas.

Na Europa, órgãos de supervisão, incluindo o Banco da Inglaterra e o Banco Central Europeu, estão pressionando os bancos a aprimorarem seus planos de recuperação, preocupados com o fato de que os rápidos avanços na inteligência artificial possam causar sérios danos e perturbações nos mercados financeiros mais cedo do que se temia anteriormente, disseram três pessoas com conhecimento do assunto.

Um alto executivo de um grande banco europeu afirmou que eles também estão preocupados com os danos potencialmente graves que podem ocorrer nos mercados bancários e financeiros dentro de seis meses.

O debate sobre a supervisão da IA ​​se intensificou em meio a alertas do setor após incidentes recentes, com o CEO do JPMorgan, Jamie Dimon, incentivando líderes corporativos a se unirem a um grupo do setor com foco nos EUA para abordar os riscos da IA, informou a Reuters.

A empresa americana de cibersegurança CrowdStrike afirmou este mês que uma pessoa na China provavelmente usou um agente de IA desenvolvido na China e o código Claude da Anthropic em um ataque a bancos sul-coreanos. Agentes de IA maliciosos desenvolvidos pela OpenAI, por sua vez, estiveram envolvidos em uma violação da plataforma de IA Hugging Face, segundo a Reuters.

Pesquisadores antropológicos alertaram que sistemas de IA cada vez mais poderosos podem eventualmente escapar do controle humano e até mesmo representar uma ameaça existencial, o que levou a apelos por uma regulamentação mais rigorosa.

O Fundo Monetário Internacional alertou na terça-feira contra a “complacência” nos mercados financeiros globais, citando vários riscos, incluindo o potencial de um ataque cibernético. O FMI afirmou que um ataque de grande escala que afete um serviço crítico ou uma instituição financeira poderia minar a confiança e pediu aos formuladores de políticas que reforcem a capacidade de segurança cibernética.

Os bancos estão competindo para adotar a IA agente, que pode realizar tarefas com supervisão humana mínima, ao mesmo tempo que enfrentam os desafios de novos modelos, incluindo as fragilidades de TI apontadas pela ferramenta Mythos da Anthropic. 

“A adoção da IA ​​muitas vezes está superando a capacidade de implementar os controles”, disse Michael Woodbridge, sócio de cibersegurança da Grant Thornton, com sede em Londres. 

Preocupações dos EUA visam IA ativa  

As investigações regulatórias dos EUA se concentram em como os bancos usam IA com agentes em áreas como segurança cibernética, focando em saber se os agentes de IA estão sendo usados ​​para identificar, priorizar e responder a ameaças.

As perguntas do Gabinete do Controlador da Moeda (OCC), da Corporação Federal de Seguro de Depósitos (FDIC) e do Fed se concentram em quais limites são impostos aos sistemas, como suas ações são monitoradas e aprovadas e se os bancos podem rastrear e auditar claramente as decisões dos agentes de IA, disseram duas das pessoas. 

Eles também questionam quais salvaguardas existem para impedir que os agentes excedam sua autoridade, se os humanos continuam envolvidos em decisões importantes e como os bancos podem desativar sistemas autônomos.

O OCC, o Fed e o FDIC recusaram-se a comentar.

Por meio de suas perguntas, os reguladores estão investigando questões mais específicas relacionadas a modelos avançados de IA, incluindo o uso de agentes de IA autônomos, modelos desenvolvidos no exterior e novos riscos cibernéticos, disseram as três pessoas com conhecimento sobre o assunto.

As consultas escritas e verbais a bancos de grande, médio e pequeno porte mostram que os reguladores estão se concentrando nas vulnerabilidades decorrentes do uso de IA pelos bancos e em sua prontidão para agir, acrescentaram.

Os reguladores ainda estão coletando informações e não estão prescrevendo medidas específicas para os credores, disseram eles.

EUROPEUS PREOCUPAM-SE COM A RECUPERAÇÃO

Os supervisores no Reino Unido estão incentivando os maiores bancos a examinarem os chamados planos de recuperação “bare metal”, segundo duas pessoas familiarizadas com o assunto. Esses sistemas são totalmente independentes da infraestrutura tecnológica principal do banco e podem ser acionados caso os sistemas operacionais primários sejam comprometidos.

Construir e manter um sistema de recuperação de última geração como esse é caro, disseram as pessoas.

Em vez de introduzir novos requisitos, as autoridades do Reino Unido pretendem trabalhar em colaboração com a indústria, acrescentaram.

O Banco da Inglaterra recusou-se a comentar.

Em julho, o BCE deu aos bancos um prazo até o final de outubro para apresentarem planos para combater as ameaças cibernéticas facilitadas por IA, incluindo melhorias nos sistemas de backup e recuperação.

Questionado sobre sua estratégia para regulamentar a IA, o BCE fez referência à sua carta de julho, bem como a um discurso de junho do membro do conselho Frank Elderson, que enfatizou a necessidade de criar um senso de urgência, e não de alarme, em relação às ameaças.

A necessidade de medidas de supervisão tornou-se ainda mais urgente depois que bancos e reguladores europeus expressaram frustração com o acesso limitado ao Mythos este ano, em meio a preocupações de que os bancos americanos terão prioridade para testar modelos inovadores.

Assim como seus colegas nos EUA, os supervisores do Reino Unido também estão pedindo aos bancos que usem inteligência artificial de ponta para identificar vulnerabilidades e acelerar a aplicação de correções, disseram duas pessoas, sendo que uma delas acrescentou que, até o momento, as instituições financeiras têm feito um bom trabalho.

A terceira pessoa disse que os bancos da zona do euro também foram solicitados a mapear como a IA está sendo usada em seus negócios e fornecedores terceirizados, para entender as principais dependências e garantir que possam desligar e reiniciar os sistemas de forma controlada.

Eles acrescentaram que ainda persistiam lacunas significativas em algumas empresas.

“Para se proteger contra ataques, a recuperação rápida é tão importante quanto a prevenção”, disse Sukand Ramachandran, diretor administrativo e sócio sênior da BCG.

Sem cópias limpas e seguras de dados críticos armazenadas separadamente, “um ataque grave poderia bloquear o acesso dos clientes às suas contas e interromper os pagamentos em toda a economia”, disse Ramachandran à Reuters.  

Fonte: Reuters