Hoje, milhões de usuários contam com vários chatbots baseados em IA, como o ChatGPT, como um recurso útil, seja para negócios, lazer ou educação. Mas você sempre pode contar com um chatbot para obter os fatos? O ChatGPT está mentindo ou apenas fornecerá informações factuais? Verificar O ChatGPT aprende com as conversas do usuário?
Links Rápidos
De onde o ChatGPT obtém suas informações?
No período de treinamento, o ChatGPT recebeu muitos dados de fontes da web, como sites governamentais e de agências, periódicos acadêmicos, monografias, artigos de notícias, podcasts, fóruns online, livros, bancos de dados, filmes, documentários e sites de mídia social.
Especificamente, o ChatGPT-3 foi treinado usando um banco de dados abrangente de informações que totalizou 570 GB de dados. Como afirma um artigo de Foco na Ciência , 300 bilhões de palavras de informação foram inseridas no sistema GPT-3 durante seu desenvolvimento.
Algo digno de nota aqui é que o ChatGPT está recebendo apenas dados que existiam antes de 2021. Isso significa que o chatbot não pode responder a perguntas sobre eventos recentes. O ChatGPT também não tem acesso à Internet. Os dados alimentados no treinamento são o único tipo que ele usa para atender às solicitações do usuário.
Mas o ChatGPT está apenas fornecendo os fatos ou algumas informações vagas misturadas com suas respostas? Além disso, o ChatGPT pode mentir para você? Verificar O ChatGPT pode fornecer informações confiáveis sobre saúde?
O ChatGPT mente?
Embora o ChatGPT geralmente forneça informações verdadeiras aos usuários, ele também tem a capacidade de "mentir". Obviamente, o ChatGPT não decide mentir maliciosamente para os usuários, simplesmente porque não pode fazê-lo. Afinal, o ChatGPT é uma ferramenta de processamento de linguagem, não uma imitação de uma pessoa real, real.
No entanto, o ChatGPT ainda pode tecnicamente mentir por meio de um fenômeno conhecido como alucinações de IA.
Uma alucinação de IA envolve um sistema de IA que fornece informações que parecem razoáveis ou plausíveis, mas na verdade não são verdadeiras. Na verdade, as alucinações da IA podem fornecer informações de que ela nunca foi alimentada durante o período de treinamento. Alternativamente, pode ocorrer quando o sistema de IA fornece informações não relacionadas à reclamação ou solicitação. Um sistema de IA pode fingir ser um ser humano alucinado.
Sistemas de IA, como chatbots, caem em armadilhas de alucinações por vários motivos: falta de compreensão do mundo real, bugs de software e limitações nos dados fornecidos.
Como mencionado anteriormente, o ChatGPT só pode fornecer informações usando dados publicados até 2021, o que certamente limita os tipos de reivindicações que pode atender.
Um dos maiores Problemas de ChatGPT é que ele também pode ser vítima de viés ao fornecer informações aos usuários. Até a equipe de desenvolvimento do ChatGPT afirmou que o sistema de IA foi "politicamente tendencioso, humilhante" e "censurável" no passado. Como mencionei Independente A equipe de desenvolvimento do ChatGPT está empenhada em resolver esse problema, mas isso não significa que não seja mais um risco.
Quando questionado, o ChatGPT afirmou que os motivos que podem fornecer informações imprecisas incluem o seguinte:
- Ambigüidade na pergunta (estímulos vagos e pouco claros).
- Informações fornecidas incompletas.
- Forneça informações tendenciosas ou incorretas.
- Limitações técnicas (principalmente devido à falta de acesso aos dados atuais).
Portanto, o próprio ChatGPT mencionou que existem cenários em que não fornecerá informações precisas aos usuários.
Em outra resposta na mesma conversa, o ChatGPT afirmou que "é sempre uma boa ideia verificar qualquer informação [que forneçam] com outras fontes". Verificar Coisas para evitar perguntar aos chatbots de IA.
Você pode confiar no ChatGPT?
Como ele pode fornecer informações falsas, você obviamente não pode confiar no ChatGPT 100% o tempo todo.
Você pode reduzir o risco de alucinações do chatbot de IA definindo critérios específicos sobre como você responde. No entanto, ainda não há garantia de que alguma desinformação não vaze pelas rachaduras.
Por esse motivo, é uma boa ideia verificar todas as informações que o ChatGPT fornece, especialmente se você estiver solicitando informações sobre eventos recentes. Verificar esses dados com referência a outras fontes pode ajudá-lo a determinar se o ChatGPT está certo no que diz e pode impedir que você tome decisões imprudentes.
ChatGPT é útil, mas nem sempre honesto
Infelizmente, você não pode confiar no ChatGPT para fornecer informações honestas e imparciais 100% do tempo. Este chatbot AI é sem dúvida útil e pode ajudá-lo de várias formas, mas vale sempre a pena verificar se a informação que está a dar é real ou não. Você pode ver agora O que é um jailbreak do ChatGPT? Você deve usar essas tecnologias?
