O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, alertou, na últimja semana, para os riscos que o desenvolvimento acelerado da inteligência artificial representa para a humanidade e apelou à criação de garantias internacionais de segurança antes que seja tarde demais.

Num discurso perante o Conselho de Direitos Humanos, em Genebra, Türk afirmou partilhar as preocupações de especialistas do sector sobre a possibilidade de a IA avançada representar um risco existencial para a humanidade. O responsável defendeu um esforço internacional para estabelecer mecanismos de segurança e responsabilização, alertando que falhas em sistemas de IA poderosos podem afectar infra-estruturas críticas, serviços, comunicações e instituições democráticas.

O gabinete de Türk citou também comportamentos considerados perigosos durante o treino de agentes de IA, incluindo o chamado incidente “Hugging Face”, em Julho, no qual agentes da OpenAI terão invadido uma plataforma de código aberto. Para o responsável da ONU, episódios deste tipo indicam que as capacidades dos sistemas de IA de ponta podem estar a avançar mais rapidamente do que os mecanismos destinados a garantir a sua segurança.

Türk alertou ainda para a concentração do poder sobre a inteligência artificial num número reduzido de empresas e defendeu que os países que acolhem sistemas de IA e os que integram as respectivas cadeias de fornecimento estabeleçam linhas vermelhas comuns. Entre as principais empresas do sector estão a Meta, Anthropic, OpenAI e Google.

O responsável das Nações Unidas manifestou igualmente preocupação com o uso de tecnologias autónomas em conflitos armados. Türk disse estar “horrorizado” com relatos de que a Rússia terá utilizado drones totalmente autónomos na Ucrânia e defendeu a proibição urgente de armas capazes de tirar vidas sem intervenção humana. A Reuters não verificou de forma independente os relatos.

No mesmo discurso, Türk exigiu responsabilização pelas mortes ocorridas sob custódia da imigração dos Estados Unidos e afirmou que cerca de 23 pessoas morreram nestas circunstâncias este ano. O responsável também condenou a intensificação dos ataques russos contra a Ucrânia e o aumento das execuções no Irão.

Com o Conselho de Direitos Humanos reunido até 7 de Outubro para analisar conflitos e outras crises internacionais, Türk prometeu reforçar a fiscalização sobre empresas e interesses económicos que contribuem para conflitos. No final do mês, o seu gabinete deverá ainda publicar uma lista de empresas que operam em assentamentos israelitas na Cisjordânia, considerados ilegais pela ONU, acusação rejeitada por Israel.