A menos que você viva longe da civilização, é provável que você já tenha ouvido falar e até mesmo usado o ChatGPT ou um chatbot de IA semelhante. Embora o uso desses chatbots seja certamente divertido e ajude a facilitar o acesso às informações, também pode ser perigoso se você não souber o que está fazendo.
Os chatbots de IA têm algumas limitações e é importante que você entenda o que eles implicam. Portanto, aqui estão algumas coisas a serem evitadas ao fazer qualquer pergunta a um chatbot de IA. Verificar A maioria dos bots de bate-papo baseados em IA para conversar e se divertir.
Links Rápidos
1. Diagnóstico médico
Os chatbots de IA são bons em muitas coisas, mas fornecer diagnósticos médicos precisos não está entre eles. Claro, você pode não estar errado o tempo todo, mas confiar em um chatbot para diagnosticar sua doença em vez de em um médico é como pesquisar no Google o que há de errado com você e presumir a doença pelos sintomas correspondentes.
O chatbot irá simplesmente resumir as informações que obteve da internet, que podem ou não ser verdadeiras. Mais importante, ele não conhece seu histórico médico, sensibilidade a certas substâncias ou sua tolerância e, portanto, não pode julgar que tipo de tratamento é adequado para você.
A internet tende a exagerar as coisas, então não é de admirar que muitas pessoas que pesquisam os sintomas se encontrem delirantes e ansiosas. O uso de chatbots de IA pode replicar o mesmo efeito e piorar as coisas. Para seu próprio bem, não consulte um chatbot para aconselhamento médico. Verificar Como a inteligência artificial melhorará o futuro da saúde?.
2. Analise os produtos
Um chatbot com inteligência artificial pode listar facilmente o preço e as especificações de um produto no qual você pode estar interessado, mas nunca pode fornecer uma avaliação precisa do produto. Por que? Porque uma revisão de produto, por definição, envolve a opinião pessoal, experiência e julgamento do revisor.
Uma IA não tem a capacidade de ver, cheirar, tocar, provar ou ouvir, portanto, as afirmações que ela possa fazer sobre um produto – qualquer produto, não apenas uma tecnologia – em sua “análise” seriam hipócritas.
Por exemplo, um chatbot AI não pode experimentar a sensação de segurar um telefone na mão, a clareza de seu alto-falante, a qualidade de seu motor de vibração, a confiabilidade do sensor de impressão digital, a fluidez do software e a versatilidade do telefone. . sistema de câmera.
Se você deseja obter recomendações sobre quais produtos comprar, peça ao bot de bate-papo para resumir as avaliações existentes. Você precisará usar um bot AI que pode pesquisar na web, como o Bing com ChatGPT embutido.
3. Aconselhamento jurídico
Você pode ter encontrado alguns artigos dizendo que o ChatGPT passou nos exames da faculdade de direito dos EUA e que os chatbots de IA estão a caminho de entrar em nossos tribunais nos próximos anos. Isso deve ser chocante, mas uma pesquisa rápida dirá que, na verdade, estamos tentando inserir a IA em nosso sistema jurídico desde 2015!
Algumas empresas já criaram paralegais de IA, até mesmo comercializando-os como uma alternativa acessível aos advogados humanos. O conceito claramente tem uma vantagem para pessoas que não podem pagar um advogado humano, mas os problemas com os chamados advogados de IA são reais demais para serem ignorados.
A diferença óbvia é que os chatbots de IA carecem de bom senso. Coisas que são instintivamente óbvias para nós, humanos, precisam ser programadas em chatbots, tornando-os menos capazes de raciocinar.
Mais importante ainda, um advogado humano pode procurar novas evidências e pensar fora da caixa para encontrar soluções inteligentes e brechas. Mas um chatbot de IA só pode usar os dados que você fornece e processá-los de maneira predeterminada. O advogado de IA também seria um alvo ideal para hackers roubarem os dados confidenciais de muitas pessoas ao mesmo tempo. Verificar O ChatGPT se tornará uma ameaça à segurança cibernética? Aqui está o que observar.
4. Notícias
O uso de chatbots de IA como fonte de notícias apresenta três problemas principais: responsabilidade, contexto e autoridade. Primeiro, responsabilidade. Quando você lê uma notícia, conhece o editor e o jornalista por trás dela. Ou seja, alguém é responsável pelas informações fornecidas a você, portanto, há um incentivo claro para ser preciso, a fim de manter sua reputação e credibilidade.
Mas com um chatbot de IA, não há ninguém escrevendo a notícia. Em vez disso, o bot apenas resume histórias que já estão disponíveis na web. Isso significa que não há fonte primária e você não sabe de onde vem a informação. Portanto, não é confiável.
Em segundo lugar, o contexto. Se a notícia que você está lendo for apenas um resumo de informações obtidas de várias fontes, ela pode rapidamente pintar uma narrativa falsa porque você perde o contexto mais profundo de cada história individual. O bot não sabe se o que está afirmando é verdade ou não, apenas mistura as coisas de uma forma que parece certa em um nível superficial.
E, finalmente, salada. Sabemos que o ChatGPT pode ser tendencioso (entre outros problemas). Portanto, se todos recorrermos aos chatbots de IA como fonte de notícias, isso dará às empresas por trás deles a capacidade de conter qualquer cobertura negativa e destacar toda a cobertura positiva em torno das causas em que você acredita e deseja promover. Isso é muito perigoso por razões óbvias. Verificar O Bing com IA pode vencer a Pesquisa do Google?
5. Opinião política
Deve ficar bem claro por que pedir a um chatbot uma opinião política é importante. Quando você pergunta a um ChatGPT sobre sua preferência em qualquer questão política, geralmente recebe uma resposta contida que diz algo como: "Como um modelo de linguagem AI, não tenho preferências ou desejos pessoais ..."
Essa limitação é compreensível, mas os usuários do Reddit já encontraram maneiras de os "bot jailbreakers" responderem de maneira irrestrita usando todos os tipos de exploits criativos. Uma coisa é fazer isso por diversão, mas pedir uma opinião política irrestrita de um chatbot de IA é o mesmo que permitir que seu filho acesse a dark web; Não poderia terminar bem para nenhuma das partes envolvidas. Verificar O OpenAI realmente perdeu o controle do chatbot ChatGPT?
6. Conteúdo comercial
O maior ponto de venda dos chatbots de IA é a capacidade de gerar conteúdo instantaneamente. O que pode levar algumas horas para uma pessoa digitar, o ChatGPT pode fazer em segundos. Exceto que não pode.
Mesmo que você ignore a ética questionável de usar chatbots de IA para escrever conteúdo, não pode ignorar que eles simplesmente não são bons o suficiente para substituir escritores humanos. Ainda não, pelo menos. O ChatGPT, por exemplo, geralmente oferece conteúdo impreciso, desatualizado e repetitivo.
Como esses bots não têm suas próprias opiniões, julgamentos, imaginação ou experiências passadas, eles não podem fazer inferências inteligentes, pensar em exemplos, usar metáforas e criar histórias da mesma forma que um escritor humano profissional pode.
Em outras palavras, não agrega nenhum valor novo à Internet. Usar chatbots para uso pessoal é perfeitamente aceitável. Mas usá-los para escrever seus artigos, notícias, postagens de mídia social, cópia da web e muito mais é provavelmente uma péssima ideia. Verificar Reforçando os motivos pelos quais o ChatGPT não aceita seu trabalho de redação de conteúdo.
Os chatbots de IA são divertidos, mas ainda têm algumas desvantagens
É difícil dizer como os chatbots de IA afetarão a indústria de tecnologia e a sociedade moderna como um todo. Por mais revolucionária que seja a tecnologia, os chatbots apresentam muitos problemas que precisam ser resolvidos.
O interessante é que a Microsoft agora está integrando um chatbot do tipo ChatGPT diretamente em seu mecanismo de busca Bing, e o Google em breve fará o mesmo com seu próprio chatbot chamado Gemini. Será interessante ver como os novos motores de busca baseados em IA mudarão a Internet. Agora você pode visualizar Como criar e usar eticamente arte baseada em IA.
