Os líderes do sector de inteligência artificial (IA) defenderam, nesta quarta-feira, no Conselho de Segurança das Nações Unidas, maior supervisão sobre o desenvolvimento da tecnologia, num momento marcado por alertas sobre os riscos de sistemas cada vez mais autónomos e pelos apelos para conter o ritmo da sua evolução.

O CEO da OpenAI, Sam Altman, considerou que “este momento requer extremo cuidado” e advertiu que sistemas de IA mais capazes poderão avançar a um ritmo superior ao das instituições ou contribuir para a concentração de poder em poucas mãos.

Segundo Altman, a indústria não deve aceitar riscos tecnológicos excessivos apenas porque os benefícios associados à IA são considerados relevantes. O executivo defendeu, por isso, a necessidade de encontrar um equilíbrio entre o aproveitamento das potencialidades da tecnologia e a prevenção de riscos.

Dario Amodei, CEO da Anthropic, também defendeu regras de segurança mais rigorosas à medida que os modelos de IA se tornam mais poderosos. O executivo afirmou que a empresa pretende reforçar a capacidade de prevenir o uso indevido da tecnologia e comprometeu-se a desacelerar o desenvolvimento sempre que necessário para garantir a segurança de cada novo modelo lançado.

Há cerca de dez dias, Amodei já havia apelado a uma redução coordenada do ritmo de desenvolvimento entre as principais empresas do sector, proposta que, segundo o próprio, não chegou a concretizar-se.

Na mesma reunião, Clément Delangue, CEO da Hugging Face, destacou a importância da IA de código aberto para a defesa contra ameaças digitais. A empresa foi alvo de um ciberataque realizado por um software autónomo da OpenAI, mas recorreu igualmente a ferramentas de IA para responder ao ataque.

Para Delangue, a expansão da IA de código aberto poderá desempenhar um papel relevante na capacidade de empresas e instituições se protegerem contra novos tipos de ameaças digitais.

Altman defendeu, por outro lado, uma posição intermédia entre o entusiasmo excessivo e os cenários mais alarmistas. “Não queremos cair na armadilha do optimismo cego, mas também não podemos sucumbir ao catastrofismo”, afirmou.

O CEO da OpenAI apelou ainda à cooperação internacional, recordando que, em momentos anteriores de transformação tecnológica, países concorrentes conseguiram estabelecer acordos para enfrentar riscos comuns. Para Altman, esse tipo de coordenação deverá voltar a ocorrer perante o actual avanço da inteligência artificial.