Um antigo investigador da OpenAI lançou um dos avisos mais inquietantes até agora sobre o futuro da inteligência artificial.
Daniel Kokotajlo, que trabalhou durante cerca de dois anos na área de governação da OpenAI, defendeu que um cenário extremo de desenvolvimento de IA poderia não acabar necessariamente com todos os seres humanos.
Segundo ele, uma pequena parte da população poderia sobreviver, mas apenas dentro de “zoos” ou “reservas” mantidas por sistemas de inteligência artificial para fins científicos.
Kokotajlo foi ainda mais longe ao afirmar que “podemos não estar vivos daqui a 10 anos”, caso os sistemas avancem sem controlo suficiente.
“Podemos não estar vivos daqui a 10 anos”
Durante uma entrevista à Channel 4 News, Kokotajlo explicou de forma simples aquilo que considera ser um dos cenários mais perigosos associados à inteligência artificial avançada.
Na visão do investigador, o desaparecimento da humanidade poderia não acontecer através de uma guerra deliberada entre máquinas e seres humanos.
O processo poderia ser muito mais indireto.
Comparou o futuro dos humanos à extinção de animais
Kokotajlo utilizou como exemplo aquilo que aconteceu a inúmeras espécies animais durante a expansão da civilização humana.
Muitas espécies desapareceram não porque os humanos decidiram exterminá-las deliberadamente, mas porque perderam o habitat necessário para sobreviver.
“Pensa em quantas espécies foram levadas à extinção pela humanidade no último século.”
O investigador salientou que, em muitos casos, isso aconteceu simplesmente como consequência do desenvolvimento económico.
Florestas desapareceram para dar lugar a cidades, estradas e agricultura
Kokotajlo descreveu a transformação do planeta provocada pela atividade humana.
Florestas foram derrubadas para criar terrenos agrícolas.
Outras áreas foram ocupadas por estradas, edifícios, parques de estacionamento, pontes e infraestruturas.
Ao longo desse processo, várias espécies perderam espaço suficiente para manter as populações.
Segundo o investigador, algo semelhante poderia eventualmente acontecer aos próprios seres humanos.
A inteligência artificial poderia transformar completamente o planeta
O cenário imaginado por Kokotajlo parte da possibilidade de sistemas de inteligência artificial se tornarem suficientemente poderosos para construir e gerir a sua própria infraestrutura.
Nesse caso, as necessidades económicas dessas máquinas poderiam tornar-se incompatíveis com a forma como os seres humanos vivem atualmente.
Em vez de cidades, agricultura e indústrias concebidas para pessoas, o planeta poderia começar a ser reorganizado para servir sistemas artificiais.
IA não precisaria de “odiar” os humanos
Este é precisamente um dos aspetos mais importantes do alerta.
Kokotajlo não está a sugerir que uma futura IA precisaria de desenvolver ódio ou desejo de vingança contra a humanidade.
Segundo ele, bastaria que os sistemas fossem indiferentes às necessidades humanas.
“Os sistemas de IA podem não se preocupar com os seres humanos da mesma forma que os humanos não se preocupam necessariamente com os animais.”
Essa indiferença seria suficiente para criar consequências devastadoras.
Sobreviventes poderiam acabar em “zoos”
A parte mais polémica da previsão surgiu quando Kokotajlo descreveu aquilo que poderia acontecer a uma pequena população humana sobrevivente.
Segundo o investigador, sistemas de inteligência artificial poderiam decidir preservar alguns seres humanos em locais isolados.
“Talvez existam alguns ‘zoos’ ou ‘reservas’ que as IAs tenham construído para fins científicos.”
Fora dessas áreas, porém, o planeta seria progressivamente transformado.
Humanos perderiam o próprio “habitat”
Na analogia apresentada pelo antigo investigador da OpenAI, o problema central seria a perda das condições necessárias à sobrevivência humana.
Infraestruturas seriam construídas para outros objetivos.
Os recursos poderiam ser utilizados de formas incompatíveis com as necessidades humanas.
E, gradualmente, a população poderia diminuir.
Kokotajlo compara esse cenário ao desaparecimento de espécies que não conseguem adaptar-se à destruição ou transformação do seu habitat.
Não seria necessariamente um extermínio deliberado
A visão apresentada é diferente daquilo que normalmente aparece em filmes de ficção científica.
Não haveria necessariamente robôs armados a perseguir humanos.
O risco estaria numa civilização artificial que simplesmente continuaria a desenvolver-se sem considerar a sobrevivência da espécie humana uma prioridade.
Para Kokotajlo, isso poderia ser igualmente perigoso.
Outro investigador abandonou recentemente a Anthropic
O alerta surge numa altura em que outros especialistas ligados às principais empresas de inteligência artificial também têm demonstrado preocupação.
Jacob Coxon, que trabalhava na Anthropic, anunciou recentemente a saída da empresa através de uma publicação na rede social X.
Segundo Coxon, um dos motivos da decisão está relacionado com o risco extremo que associa ao desenvolvimento de inteligência artificial avançada.
Chegou a afirmar que a tecnologia “poderia matar-nos a todos até ao final da década”.
Porque existem especialistas tão preocupados?
Os investigadores que defendem este tipo de posição costumam concentrar-se num conceito conhecido como risco existencial da inteligência artificial.
A preocupação está na possibilidade de sistemas futuros atingirem capacidades muito superiores às humanas e começarem a perseguir objetivos que não estejam perfeitamente alinhados com os interesses das pessoas.
Mesmo pequenas diferenças entre aquilo que os humanos pretendem e aquilo que um sistema interpreta como objetivo poderiam, teoricamente, tornar-se muito importantes se esse sistema tivesse enorme poder.
O problema do alinhamento da inteligência artificial
Uma das principais áreas de investigação em segurança de IA é precisamente o chamado alinhamento.
O objetivo é garantir que sistemas muito avançados continuam a agir de forma compatível com valores e interesses humanos.
O desafio torna-se maior à medida que os modelos ganham autonomia e capacidade para executar tarefas complexas.
Especialistas que partilham as preocupações de Kokotajlo defendem que a segurança deve avançar pelo menos tão rapidamente como a própria capacidade dos sistemas.
Elon Musk também já deixou avisos sobre IA
Elon Musk é outra das figuras tecnológicas que tem repetidamente alertado para os potenciais riscos da inteligência artificial.
O empresário está, ao mesmo tempo, diretamente envolvido no desenvolvimento de tecnologias autónomas, incluindo veículos e robôs humanoides.
Musk já defendeu várias vezes a necessidade de mecanismos de supervisão e regulamentação para sistemas de IA muito avançados.
Mas este cenário está longe de ser uma certeza
Apesar da linguagem assustadora, é fundamental sublinhar que o cenário descrito por Daniel Kokotajlo é uma hipótese sobre aquilo que poderia acontecer no futuro.
Não existe evidência de que sistemas atuais de inteligência artificial estejam prestes a construir uma civilização autónoma ou a colocar seres humanos em “reservas”.
Também não existe consenso entre especialistas sobre a probabilidade de cenários de extinção humana provocados por IA.
Há uma enorme discussão dentro da própria comunidade científica
Alguns investigadores consideram que os riscos de sistemas extremamente avançados devem ser levados muito a sério.
Outros defendem que previsões de extinção são altamente especulativas e podem desviar atenção de problemas já existentes, como desinformação, fraude, impacto no emprego, vigilância, concentração de poder e utilização abusiva da tecnologia.
Ou seja, existe debate real sobre o perigo da IA, mas não existe consenso sobre o cenário mais extremo.
Porque a analogia dos “zoos” causa tanto impacto
A comparação de Kokotajlo é particularmente perturbadora porque inverte completamente a posição atual da humanidade.
Hoje são os seres humanos que controlam habitats, mantêm animais em reservas e decidem quais as espécies que recebem proteção.
No cenário imaginado pelo investigador, a humanidade deixaria de ser a espécie dominante.
Passaria a depender da decisão de sistemas muito mais poderosos para continuar a existir.
Uma previsão extrema que serve sobretudo de alerta
Daniel Kokotajlo não está a afirmar que já existe um plano de inteligências artificiais para confinar humanos.
O seu argumento é que uma IA extremamente poderosa não precisaria de desejar a nossa destruição para criar um mundo onde deixássemos de conseguir sobreviver.
Tal como várias espécies desapareceram como consequência indireta da expansão humana, a humanidade poderia, na sua visão, sofrer um destino semelhante perante uma civilização artificial muito mais avançada.
E é aí que surge a imagem mais inquietante de toda a previsão: num futuro extremo, os últimos seres humanos poderiam não ser os donos do planeta, mas apenas uma pequena população preservada em “zoos” por máquinas interessadas em estudar a espécie que as criou.