IA pode acabar com a humanidade? Pesquisadores alertam para riscos da tecnologia

O avanço acelerado da inteligência artificial (IA) está levantando discussões em todo o mundo sobre os limites da tecnologia e os possíveis impactos de sistemas cada vez mais autônomos. Pesquisadores da área de segurança de IA e executivos de empresas que desenvolvem esses modelos defendem que o ritmo de evolução precisa ser acompanhado por medidas de segurança e regras capazes de reduzir riscos.

Entre os alertas mais contundentes está o de Evan Hubinger, pesquisador que trabalha com alinhamento de IA. Ele estima em mais de 10% a possibilidade de sistemas avançados de inteligência artificial provocarem a morte de todos os seres humanos na próxima década.

A avaliação não significa que os modelos disponíveis atualmente apresentem esse nível de risco. O próprio pesquisador diferencia os sistemas atuais de uma eventual inteligência artificial muito mais avançada, capaz de executar tarefas complexas com elevado grau de autonomia.

Por que pesquisadores estão preocupados com a inteligência artificial?

Uma das principais preocupações está relacionada ao desenvolvimento de sistemas capazes de tomar decisões e executar ações sem supervisão humana constante. O chamado alinhamento de IA busca fazer com que os objetivos e comportamentos desses sistemas permaneçam compatíveis com valores e interesses humanos. O desafio aumenta à medida que os modelos se tornam mais sofisticados e passam a operar como agentes capazes de realizar várias etapas de uma tarefa por conta própria.

O ex-pesquisador da Anthropic Jacob Coxon também chamou atenção para a velocidade dos avanços. Em declaração à BBC, ele afirmou que ele e outros profissionais estavam “genuinamente assustados” com o ritmo de desenvolvimento e com as possíveis consequências para a humanidade.

A preocupação com máquinas capazes de superar determinadas capacidades humanas, porém, não é recente. Discussões sobre os riscos de uma inteligência artificial avançada existem há décadas. O matemático britânico Alan Turing já abordava, nos anos 1950, a possibilidade de máquinas inteligentes desenvolverem capacidades que poderiam ultrapassar o controle humano.

O que é a chamada superinteligência?

As principais empresas do setor vêm investindo no desenvolvimento de modelos cada vez mais avançados. Parte dessa corrida tecnológica está relacionada à busca pela chamada superinteligência artificial, conceito ainda teórico que descreve sistemas capazes de superar os seres humanos em uma ampla variedade de tarefas intelectuais.

A tecnologia utilizada atualmente já consegue produzir textos, imagens, códigos, análises e outros conteúdos. Sistemas mais avançados, por outro lado, poderiam executar tarefas complexas de maneira mais independente, incluindo planejamento e tomada de decisões.

A OpenAI e a Anthropic afirmam que trabalham para desenvolver sistemas avançados de forma segura e com benefícios para a sociedade. Ao mesmo tempo, críticos questionam algumas das previsões mais otimistas sobre o potencial da tecnologia e argumentam que determinadas empresas podem ter incentivos comerciais para ampliar a percepção sobre as capacidades futuras da IA.

IA poderia sair do controle?

Um dos cenários discutidos por pesquisadores é o desenvolvimento de sistemas capazes de contribuir para a criação de versões ainda mais avançadas de inteligência artificial. A hipótese ganhou atenção com o crescimento dos chamados agentes de IA, ferramentas que podem receber uma tarefa e executar diferentes ações de maneira autônoma, em vez de apenas responder a uma pergunta.

Pesquisadores também apontam possíveis usos de sistemas altamente avançados em áreas como ataques cibernéticos, espionagem, desenvolvimento de armas biológicas e operações militares.

Outro risco seria o impacto sobre mercados e estruturas econômicas caso sistemas autônomos passassem a executar determinadas atividades em escala muito superior à capacidade humana.

Esses cenários, no entanto, permanecem em grande parte no campo das projeções. Não há consenso entre especialistas de que uma inteligência artificial capaz de provocar uma extinção humana esteja próxima de existir.

Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, estão entre os nomes que defendem maior atenção à segurança durante o desenvolvimento de sistemas avançados. A proposta, porém, não significa necessariamente interromper a pesquisa em inteligência artificial.

Amodei já afirmou que desacelerar não deveria significar parar o treinamento de modelos ou interromper o avanço tecnológico. A ideia seria reservar mais tempo para testes de segurança e permitir que avaliações independentes analisem os riscos antes da implementação de sistemas cada vez mais poderosos.

Altman também defendeu maior controle sobre a velocidade do desenvolvimento. Segundo o executivo, o avanço tecnológico deve continuar, mas em um ritmo que permita a realização de estudos de segurança e mecanismos de monitoramento.

Empresas de IA defendem regulamentação

A discussão também chegou aos governos. Empresas como OpenAI e Anthropic passaram a defender regras para determinados usos e níveis de capacidade da inteligência artificial.

O movimento, contudo, também é alvo de críticas. Alguns pesquisadores e integrantes do setor de tecnologia questionam se a defesa de regulamentações por grandes empresas poderia criar barreiras para concorrentes menores e fortalecer a posição das companhias que já dominam o mercado.

Por enquanto, não existe consenso sobre qual seria o modelo adequado de regulamentação nem sobre a necessidade de interromper ou limitar determinadas linhas de pesquisa.

O debate envolve duas questões diferentes: os riscos concretos que a inteligência artificial já produz e os cenários futuros associados ao desenvolvimento de sistemas muito mais autônomos e capazes.

A principal dificuldade para governos e empresas é estabelecer mecanismos de segurança que acompanhem a velocidade de evolução da tecnologia sem impedir pesquisas e aplicações consideradas úteis.

Acompanhe o jornal DCI.