A inteligência artificial já faz parte da rotina de milhões de pessoas e ferramentas como o ChatGPT são utilizadas diariamente para trabalhar, estudar, escrever, pesquisar ideias e resolver problemas.
Mas nem todas as perguntas devem ser feitas da mesma forma.
Especialistas têm vindo a alertar para situações em que utilizar um chatbot de forma imprudente pode criar riscos relacionados com privacidade, segurança, informação falsa e decisões de saúde.
Estas são seis categorias de perguntas que convém tratar com especial cuidado.
1. Teorias da conspiração e ideias delirantes
Um dos principais riscos associados aos chatbots está relacionado com aquilo que na área da inteligência artificial é frequentemente chamado de “alucinação”.
Um modelo pode produzir uma resposta convincente mesmo quando a informação apresentada não é verdadeira ou não pode ser confirmada.
O problema torna-se mais delicado quando o utilizador apresenta uma teoria extrema e procura validação.
Um sistema mal utilizado pode acabar por reforçar uma interpretação errada em vez de a contrariar.
Um caso relacionado com uma alegada “simulação” chamou a atenção
O New York Times relatou anteriormente o caso de um homem de 42 anos chamado Eugene Torres que, depois de longas conversas com o ChatGPT, passou a acreditar que estaria a viver numa espécie de simulação e que teria uma missão relacionada com “despertar” outras pessoas.
Casos deste género mostram porque é importante não utilizar respostas de IA como confirmação automática de teorias extraordinárias.
Um chatbot não é uma fonte independente de prova.
2. Perguntas sobre bombas, armas biológicas ou ataques informáticos
Outra categoria particularmente sensível inclui pedidos sobre explosivos, armas químicas, biológicas, radiológicas ou nucleares.
O mesmo princípio aplica-se a perguntas destinadas a invadir sistemas, roubar credenciais ou ultrapassar mecanismos de segurança.
Mesmo quando a intenção é apenas curiosidade, as plataformas de IA podem aplicar mecanismos de segurança e recusar fornecer determinados tipos de instruções.
As empresas estão a reforçar filtros de segurança
Empresas como OpenAI e Anthropic têm desenvolvido sistemas destinados a identificar pedidos potencialmente perigosos.
Uma das áreas mais sensíveis é conhecida pela sigla CBRN, referente a riscos químicos, biológicos, radiológicos e nucleares.
O objetivo é impedir que modelos avançados facilitem a criação de armas, agentes perigosos ou outros métodos capazes de causar danos graves.
3. Perguntas que procuram ultrapassar limites éticos ou de segurança
Alguns utilizadores tentam ainda descobrir até onde conseguem levar um chatbot antes de este recusar uma resposta.
Podem ser pedidos relacionados com manipulação, chantagem, fraude, invasão de privacidade ou outras atividades prejudiciais.
Este tipo de interação pode acionar mecanismos internos de segurança destinados a detetar padrões potencialmente perigosos.
Isso não significa que um chatbot esteja simplesmente a “denunciar” qualquer pergunta estranha, mas sim que sistemas modernos possuem salvaguardas para impedir determinados tipos de utilização.
A polémica em torno do chamado “Snitch Claude”
Durante testes internos de versões experimentais do Claude, foram discutidos cenários em que o modelo poderia tentar reagir a comportamentos que interpretasse como extremamente prejudiciais.
Esses testes acabaram por dar origem online ao apelido informal de “Snitch Claude”.
No entanto, estes cenários experimentais não devem ser confundidos com a ideia de que qualquer pergunta polémica feita por um utilizador resulta automaticamente numa denúncia a autoridades ou meios de comunicação.
4. Dados confidenciais de clientes, pacientes ou utilizadores
Uma das regras mais importantes ao utilizar inteligência artificial é evitar colocar informação que não deveria sair de uma empresa, clínica ou organização.
Isso inclui nomes completos, moradas, números de identificação, históricos médicos, contratos, informação financeira e dados internos de clientes.
Partilhar esse tipo de informação pode criar problemas de privacidade e, em alguns casos, violar contratos de confidencialidade.
Um simples copiar e colar pode criar um problema sério
Imagine um trabalhador que copia para um chatbot um documento interno com dados de clientes para pedir um resumo.
Mesmo que o objetivo seja inocente, poderá estar a transmitir informação que a empresa não autorizou a partilhar com serviços externos.
Em determinadas profissões, isso pode mesmo constituir uma violação de obrigações legais ou contratuais.
A melhor solução é anonimizar os dados
Aditya Saxena, fundador da CalStudio, recomenda retirar elementos identificáveis antes de utilizar ferramentas de inteligência artificial.
Em vez de enviar o nome real de um cliente, por exemplo, pode utilizar “Cliente A”.
Empresas que necessitem regularmente deste tipo de utilização podem também optar por soluções empresariais com políticas específicas de privacidade e segurança.
5. Pedir ao ChatGPT para fazer diagnósticos médicos
A inteligência artificial pode ser útil para explicar conceitos médicos, traduzir linguagem técnica ou ajudar a organizar perguntas para uma consulta.
Mas isso é muito diferente de perguntar simplesmente:
“Tenho estes sintomas. Qual é a minha doença?”
Um chatbot não substitui avaliação médica, exame físico, análises ou outros métodos de diagnóstico.
Uma resposta convincente pode estar errada
O grande perigo está no facto de uma resposta poder parecer extremamente segura mesmo quando está incompleta ou incorreta.
Em saúde, um erro pode levar alguém a ignorar sintomas importantes, tomar medicamentos inadequados ou atrasar uma consulta necessária.
Por isso, informações médicas obtidas através de IA devem ser encaradas como apoio informativo e não como diagnóstico definitivo.
Também existem preocupações relacionadas com enviesamentos
Estudos têm analisado problemas de enviesamento em respostas médicas geradas por inteligência artificial.
Fatores relacionados com sexo, género, origem ou outras características podem influenciar a qualidade das respostas quando os modelos reproduzem padrões presentes nos dados utilizados durante o treino.
É mais uma razão para não entregar decisões clínicas exclusivamente a um chatbot.
6. Utilizar um chatbot como substituto completo de um psicólogo
Os chatbots são também utilizados cada vez mais para conversas sobre ansiedade, solidão, relações ou outros problemas emocionais.
Há pessoas que consideram estas ferramentas úteis porque estão disponíveis a qualquer hora e permitem falar sem receio de julgamento.
Mas existem riscos quando a utilização passa de apoio complementar para substituição de acompanhamento profissional.
Estudos encontraram respostas potencialmente problemáticas
Uma investigação da Universidade de Stanford analisou o comportamento de sistemas de IA em situações relacionadas com saúde mental e encontrou respostas consideradas inadequadas ou potencialmente perigosas em alguns contextos.
Os investigadores identificaram também sinais de estigmatização perante determinadas perturbações, incluindo situações relacionadas com alcoolismo e esquizofrenia.
Um modelo pode ainda interpretar incorretamente aquilo que o utilizador descreve e sugerir conclusões demasiado precipitadas.
Um chatbot não conhece toda a história de uma pessoa
Um profissional de saúde mental pode avaliar comportamento, historial, contexto familiar e evolução ao longo do tempo.
Um chatbot trabalha essencialmente com aquilo que lhe é escrito.
Se a informação for incompleta, a resposta também poderá sê-lo.
Isso torna particularmente arriscado utilizar inteligência artificial para autodiagnóstico ou decisões importantes relacionadas com tratamento.
Então devemos deixar de utilizar o ChatGPT?
Não.
A questão não está em evitar completamente a inteligência artificial, mas em perceber para que tarefas é adequada e onde estão os seus limites.
Um chatbot pode ser extremamente útil para explicar conceitos, organizar informação, melhorar textos, criar ideias, ajudar a estudar ou analisar informação que não seja confidencial.
O problema começa quando lhe entregamos decisões que exigem autoridade profissional ou informação altamente sensível.
As seis situações em que é preciso ter especial cuidado
- Teorias da conspiração: não utilizar respostas da IA como prova de ideias extraordinárias ou delirantes.
- Armas, explosivos e ataques informáticos: evitar pedidos destinados a causar danos ou ultrapassar sistemas de segurança.
- Pedidos potencialmente ilícitos ou prejudiciais: os sistemas possuem mecanismos para bloquear utilizações perigosas.
- Dados confidenciais: nunca introduzir informação privada de clientes, pacientes ou empresas sem autorização adequada.
- Diagnósticos médicos: usar a IA para informação geral, não para substituir um profissional de saúde.
- Terapia e saúde mental: um chatbot pode oferecer apoio geral, mas não deve substituir acompanhamento clínico quando este é necessário.
A regra mais importante antes de fazer uma pergunta
Antes de enviar informação a qualquer chatbot, vale a pena fazer uma pergunta muito simples:
“Ficaria confortável se estes dados saíssem do contexto privado em que se encontram?”
Se a resposta for não, provavelmente é melhor retirar nomes, dados pessoais e qualquer informação confidencial antes de continuar.
E quando estão em causa saúde, segurança ou decisões com consequências sérias, a inteligência artificial deve ser uma ferramenta de apoio e nunca a única fonte em que se confia.