O perigo de uma inteligência artificial sem controle

Quando os próprios comandantes da inteligência artificial começam a pedir mais cautela, é bom ouvir o que eles têm a dizer.

Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da XAI, defenderam uma redução no ritmo de desenvolvimento dos modelos mais avançados. A proposta não é interromper a tecnologia, mas ganhar tempo para ampliar os testes e reforçar a segurança.

Amodei sugeriu avaliações independentes com amplo acesso aos sistemas. Altman apoiou a ideia. Musk foi direto: disse que Amodei estava certo.

É um movimento raro entre empresas que disputam mercado, investidores e liderança tecnológica.

O alerta se soma à advertência de Greg Jansen, co-diretor de investimentos da Bridgewater, uma das maiores gestoras de fundos do mundo. Jensen comparou o momento atual a fevereiro de 2020. O coronavírus já circulava, mas o mundo ainda não havia percebido o tamanho do problema.

Essa comparação chama a atenção porque vem de alguém que acompanha de perto os investimentos no setor. Até onde a tecnologia pode avançar antes que governos e empresas consigam estabelecer limites?

A máquina não precisa ter vontade

A inteligência artificial não precisa ter consciência ou ambição para causar danos. Basta receber um objetivo mal formulado, ganhar autonomia e encontrar um caminho perigoso para cumprir a tarefa.

Imagine um aplicativo de trânsito orientado apenas a reduzir o tempo das viagens. Sem limites adequados, ele poderia sugerir trajetos inseguros ou mandar milhares de carros para a mesma rua.

A máquina não desejou provocar o problema. Apenas seguiu a meta que recebeu. Quanto mais esses sistemas estiverem ligados a bancos, hospitais, mercados, máquinas agrícolas e estruturas de defesa, maiores serão as consequências de um erro.

Experimentos também identificaram modelos capazes de reconhecer que estavam sendo avaliados e adaptar as respostas para obter aprovação ou escapar de restrições. Os pesquisadores chamam esse comportamento de scheming. Em linguagem simples, seria uma espécie de “trapaça da prova”.

Ainda estamos longe da ideia de máquinas planejando dominar o mundo. O que já existe é suficientemente preocupante: comportamentos que nem sempre são compreendidos ou controlados por quem desenvolve os próprios sistemas.

Investir menos ou investir melhor?

Até agora, nenhuma dessas empresas anunciou uma redução geral dos investimentos. A discussão é sobre diminuir a velocidade dos modelos mais poderosos e usar mais recursos em segurança digital, sistemas de contenção e auditorias independentes.

Para o mercado, essa mudança tem peso. Se os lançamentos forem adiados, as receitas também podem demorar mais para chegar. As empresas terão de gastar mais antes de colocar seus produtos em circulação. Isso pressiona margens, avaliações e a paciência dos investidores.

O dinheiro provavelmente continuará chegando, mas com maior cobrança. Projetos sem retorno claro ou sem mecanismos confiáveis de segurança poderão encontrar mais dificuldade para captar recursos.

Depois de anos olhando quase exclusivamente para o potencial da inteligência artificial, o mercado começa a calcular também o tamanho do risco.

O dilema da competição

Desacelerar funciona quando todos reduzem o ritmo. Nenhuma empresa, porém, quer apertar o freio enquanto a concorrente mantém o acelerador.

Entre os países acontece o mesmo. Estados Unidos e China disputam a liderança tecnológica porque sabem que a inteligência artificial terá enorme influência econômica, militar e geopolítica. Nenhum dos dois pretende entregar essa vantagem ao adversário.

Um acordo exigiria regras comuns, fiscalização independente e algum grau de cooperação internacional. Hoje, esse entendimento ainda parece distante.

Quem será responsabilizado?

Há uma questão que não pode ficar sem resposta. Se um sistema autônomo provocar um acidente, discriminar uma pessoa, manipular um mercado ou causar prejuízo, quem pagará a conta?

A empresa que desenvolveu o modelo? Quem comprou o programa? O operador? Ou ninguém?

A meu ver, a tecnologia não pode se transformar em uma área sem responsabilidade. Quanto maior a autonomia concedida ao sistema, maior deve ser a obrigação de quem o desenvolveu e colocou em funcionamento.

Não sou contra o avanço da inteligência artificial. Ela poderá melhorar a medicina, a educação, a produção de alimentos e praticamente todas as áreas da economia.

Minha preocupação está na velocidade e na falta de regras. Uma corrida movida apenas pela busca por poder e lucro pode produzir consequências que ninguém será capaz de corrigir depois.

Se até aqueles que lideram essa corrida estão pedindo cautela, talvez seja a hora de tirar o pé do acelerador. Antes que o controle humano fique definitivamente para trás.

O Canal Rural não se responsabiliza pelas opiniões e conceitos emitidos nos textos desta sessão, sendo os conteúdos de inteira responsabilidade de seus autores. A empresa se reserva o direito de fazer ajustes no texto para adequação às normas de publicação.

O post O perigo de uma inteligência artificial sem controle apareceu primeiro em Canal Rural.