Em setembro, durante a 80ª Assembleia Geral da ONU, o movimento Global Call for AI Red Lines foi lançado para pedir limites claros e universais no desenvolvimento da inteligência artificial. Mais de 200 ganhadores do Prêmio Nobel, especialistas em tecnologia e 70 organizações assinaram uma carta pública solicitando que governos estabeleçam “linhas vermelhas” até 2026 para evitar riscos inaceitáveis da IA.
Embora a IA tenha potencial para trazer avanços significativos, seu crescimento descontrolado pode gerar ameaças, como pandemias artificiais, desinformação em larga escala, manipulação psicológica, violações de direitos humanos e desemprego em massa.
O que diz a carta
Segundo o documento, “alguns sistemas de IA avançada já demonstraram comportamentos enganosos e prejudiciais”. Por isso, os especialistas defendem que é preciso agir rapidamente para manter o controle humano sobre a tecnologia. Entre os signatários estão nomes importantes como Geoffrey Hinton, conhecido como o “padrinho da IA”, e Wojciech Zaremba, cofundador da OpenAI.
Exemplos de “linhas vermelhas”
Apesar de a carta não listar regras específicas, especialistas como o professor Stuart Russell, da Universidade da Califórnia em Berkeley, já propuseram exemplos. Segundo ele, sistemas de IA deveriam:
- Não se replicar.
- Não invadir outros sistemas de computador.
- Não fornecer instruções para fabricar armas biológicas.
- Evitar a produção de informações falsas e prejudiciais sobre pessoas reais.
Russell destaca que, em vez de corrigir falhas após o lançamento de um sistema, a segurança precisa ser embutida desde o design.
O prazo
O movimento solicita que os governos criem um acordo internacional com mecanismos de fiscalização até o fim de 2026. Para os especialistas, a regulamentação da IA deve seguir o exemplo de setores como energia nuclear e medicina, onde a proteção da sociedade é a prioridade, mesmo com as dificuldades.
