O ChatGPT é um novo chatbot de IA poderoso e de ação rápida, mas muitas pessoas apontaram que ele tem algumas falhas sérias. Pergunte a ele o que quiser e receberá uma resposta que parece ter sido elaborada por um ser humano, tendo recebido o conhecimento e as habilidades de escrita do treinamento em grandes quantidades de dados online.
No entanto, assim como a Internet, a linha entre fato e ficção é certamente fluida, e o ChatGPT é culpado de cometer erros em mais de uma ocasião. Com o ChatGPT definido para mudar nosso futuro, aqui estão algumas de nossas maiores preocupações sobre isso. Verificar O ChatGPT tem problemas de privacidade?
Links Rápidos
O que é o ChatGPT?
ChatGPT é um paradigma de linguagem natural projetado para produzir respostas que se assemelham a conversas humanas. Assim como discutir com alguém, você pode falar com o ChatGPT e ele se lembrará de coisas que você disse no passado, além de poder corrigir suas respostas quando for desafiado.
Ele é treinado em todos os tipos de textos da Internet, você pode pensar na Wikipedia, postagens em blogs, livros e artigos acadêmicos. Isso significa que, além de responder a você de maneira humana, ele pode recuperar informações sobre nosso mundo atual, bem como extrair informações históricas de nosso passado.
Aprender a usar o ChatGPT é simples e é fácil se enganar pensando que o sistema de IA funciona sem problemas. No entanto, nos meses desde o seu lançamento, usuários de todo o mundo levaram o chatbot de IA ao seu limite, fazendo com que alguns problemas importantes fossem revelados.
1. ChatGPT gera respostas erradas
O ChatGPT falha em matemática básica, não parece responder a perguntas simples de lógica e chega a discutir fatos que não são totalmente verdadeiros. Como as pessoas nas mídias sociais podem atestar, o ChatGPT pode dar errado em mais de uma ocasião.
conhece a empresa OpenAI Sobre essa limitação, escrevi o seguinte: “Às vezes, o ChatGPT escreve respostas que parecem razoáveis, mas estão incorretas ou não fazem sentido”. Essas "alucinações" de fato e ficção, como eu me refiro a elas, são particularmente perigosas quando se trata de coisas como aconselhamento médico ou de acertar os fatos sobre eventos históricos importantes.
Ao contrário de outros assistentes de IA como Siri ou Alexa, o ChatGPT não usa a internet para selecionar as respostas. Em vez disso, ele constrói uma frase palavra por palavra, escolhendo o "token" mais provável que deve vir a seguir, com base em seu próprio treinamento. Em outras palavras, o ChatGPT chega a uma resposta fazendo uma série de suposições, o que é parte do motivo pelo qual argumenta respostas erradas como se fossem exatamente certas.
Embora ele seja ótimo em explicar conceitos complexos, o que o torna uma ferramenta poderosa para o aprendizado, é importante não acreditar em tudo o que ele diz. O ChatGPT nem sempre está certo - pelo menos não ainda. Verificar O ChatGPT pode fazer piadas, mas a IA pode realmente nos fazer rir?
2. ChatGPT tem um viés em seu modelo
O ChatGPT é treinado nos textos coletivos que foram escritos por muitas pessoas em todo o mundo, no passado e no presente. Infelizmente, isso significa que os mesmos vieses que existem no mundo real também podem aparecer no modelo.
Foi demonstrado que o ChatGPT produz algumas respostas terríveis que discriminam gênero, etnia e minorias, algo que a empresa está tentando mitigar.
Uma maneira de explicar esse problema é apontar os dados como o problema, culpando a humanidade pelos preconceitos que estão online e além. Mas parte da responsabilidade também é da OpenAI, cujos pesquisadores e desenvolvedores selecionam os dados usados para treinar o ChatGPT.
Mais uma vez, a OpenAI reconhece que isso é um problema e disse que está abordando o que eles chamam de "comportamento tendencioso", coletando feedback de usuários que são encorajados a sinalizar uma saída ruim do ChatGPT.
Com o potencial de prejudicar as pessoas, você pode argumentar que o ChatGPT não deve ser divulgado ao público antes que esses problemas sejam estudados e resolvidos. Mas a corrida para ser o primeiro a lançar as ferramentas de IA mais poderosas pode ser suficiente para a OpenAI jogar essa cautela ao vento.
Por outro lado, um chatbot de IA semelhante chamado Sparrow - de propriedade da empresa controladora do Google, Alphabet - foi lançado em setembro de 2022. No entanto, foi deliberadamente mantido a portas fechadas devido a questões de segurança semelhantes.
Na mesma época, o Facebook lançou um modelo de linguagem AI chamado Galactica, destinado a auxiliar a pesquisa acadêmica. Ele foi rapidamente recolhido depois que muitos usuários o criticaram por produzir resultados falsos e tendenciosos relacionados à pesquisa científica.
3. ChatGPT pode assumir funções de humanos
O hype em torno do rápido desenvolvimento e implantação do ChatGPT ainda não foi resolvido, mas você descobrirá que essa tecnologia básica já está integrada a vários aplicativos comerciais. Entre os aplicativos que integraram o GPT-4 estão Duolingo e Khan Academy. Verificar Aplicativos que integraram o modelo GPT-4 em seu núcleo, mas como eles funcionam?
O primeiro é um aplicativo dedicado ao ensino de um novo idioma, enquanto o último é uma ferramenta de aprendizado versátil que oferece vários cursos. Ambos oferecem o que é essencialmente um tutor de IA, seja na forma de um personagem com IA com o qual você pode falar no idioma que está aprendendo. Ou como um tutor de IA que pode fornecer feedback personalizado sobre seu aprendizado e progresso.
Por um lado, pode mudar a forma como aprendemos, tornando o ensino mais acessível e tornando o domínio de habilidades um pouco mais fácil. A desvantagem, no entanto, é que isso tira empregos que os humanos ocupam há muito tempo.
Os avanços tecnológicos sempre levaram à perda de empregos, mas a velocidade do avanço da inteligência artificial significa que muitas indústrias enfrentam o mesmo problema. Da educação à ilustração e às funções de atendimento ao cliente, o ChatGPT e sua tecnologia subjacente remodelarão radicalmente nosso mundo moderno. Verificar As maneiras pelas quais a IA generativa mudará o mercado de trabalho.
4. ChatGPT pode desafiar o idioma usado na escola
Você pode pedir ao ChatGPT para revisar sua redação ou indicar como melhorar um parágrafo. Ou você pode se retirar completamente da equação e fazer com que o ChatGPT escreva tudo para você.
Os professores experimentaram alimentar tarefas de inglês no ChatGPT e receberam respostas melhores do que muitos de seus alunos. Desde escrever cartas introdutórias até descrever os principais tópicos de uma obra famosa da literatura, o ChatGPT pode fazer tudo sem hesitação.
Isso levanta a questão: se o ChatGPT pode escrever para nós, os alunos precisarão aprender a escrever no futuro? Pode parecer uma questão existencial, mas quando os alunos começarem a usar o ChatGPT para ajudar a escrever suas redações, as escolas terão que pensar em uma resposta rápida. A rápida disseminação da inteligência artificial nos últimos anos deve chocar muitas indústrias, e a educação é apenas uma delas.
5. ChatGPT pode causar danos no mundo real
Anteriormente, mencionamos como informações incorretas do ChatGPT podem causar danos no mundo real, sendo um exemplo um conselho médico errado. Mas há outras preocupações também.
A velocidade com que o texto de aparência natural pode ser gerado torna muito fácil para um fraudador fingir ser alguém que você conhece nas mídias sociais. Da mesma forma, detectar um e-mail de phishing projetado para extrair detalhes confidenciais de você será mais difícil, com o benefício adicional de que o ChatGPT pode produzir texto livre de erros gramaticais - o que antes era um sinal de alerta óbvio.
Espalhar informações falsas também é uma preocupação séria. A escala em que o ChatGPT pode produzir texto, juntamente com a capacidade de fazer com que informações incorretas pareçam convincentemente verdadeiras, certamente tornará as informações na Internet mais questionáveis.
A velocidade com que o ChatGPT pode produzir informações já causou problemas para o Stack Exchange, um site dedicado a fornecer respostas corretas para perguntas do dia a dia. Logo após o lançamento do ChatGPT, os usuários começaram a inundar o site com respostas pedindo ao ChatGPT para gerá-lo.
Sem voluntários humanos suficientes para classificar o backlog, seria impossível manter um alto nível de respostas de qualidade. Sem mencionar que muitas das respostas estavam simplesmente incorretas. Para evitar danos ao site, todas as respostas geradas com o ChatGPT foram banidas. Verificar Formas como as crianças podem usar o ChatGPT com segurança.
6. OpenAI tem muito poder
Com grandes poderes vêm grandes responsabilidades, e a OpenAI detém muito poder. É uma das primeiras empresas de IA a realmente abalar o mundo com não um, mas vários modelos de IA, incluindo Dall-E 2, GPT-3 e GPT-4.
O OpenAI seleciona os dados usados para treinar o ChatGPT, mas essa informação não está disponível publicamente. Simplesmente não sabemos os detalhes de como o ChatGPT foi treinado, quais dados foram usados, de onde vieram os dados ou como é a arquitetura do sistema em detalhes.
Embora a OpenAI considere a segurança uma alta prioridade, não sabemos muito sobre como os próprios modelos funcionarão, para o bem ou para o mal. Se você acha que o código deve ser de código aberto ou concorda que ele deve manter partes dele em segredo, não há muito que possamos fazer a respeito.
No final das contas, temos que confiar cegamente na OpenAI para pesquisar, desenvolver e usar o ChatGPT com responsabilidade. Quer concordemos com os métodos ou não, a OpenAI continuará a desenvolver o ChatGPT de acordo com seus próprios objetivos e padrões éticos. Verificar O OpenAI realmente perdeu o controle do chatbot ChatGPT?
Enfrente os maiores problemas da inteligência artificial
Há muito o que se entusiasmar com o ChatGPT, mas além de seus usos imediatos, existem alguns problemas sérios que vale a pena entender. A OpenAI reconhece que o ChatGPT pode produzir respostas maliciosas e tendenciosas, na esperança de mitigar o problema coletando feedback do usuário. Mas sua capacidade de produzir textos convincentes, mesmo quando os fatos não são verdadeiros, pode ser facilmente utilizada por pessoas mal intencionadas.
Com uma tecnologia completamente nova, é difícil prever os problemas que surgirão no futuro. Portanto, embora possa ser divertido de usar, certifique-se de não acreditar em tudo que o ChatGPT diz. Você pode ver agora O ChatGPT pode fornecer informações confiáveis sobre saúde?
