As questões de privacidade e segurança de dados tornaram-se mais importantes do que nunca à luz do avanço da tecnologia e do uso de inteligência artificial avançada. Com o surgimento da nova geração de modelos de linguagem proprietária, como o ChatGPT, surge uma questão importante sobre como esses modelos lidam com os dados do usuário e como a privacidade dos usuários pode ser mantida.
As versões GPT personalizadas do ChatGPT permitem que qualquer pessoa crie uma ferramenta de IA mais específica para quase tudo que você possa imaginar; As edições criativas, tecnológicas e de jogos do GPT podem fazer tudo. Melhor ainda, você pode compartilhar as versões GPT personalizadas criadas com qualquer pessoa.
No entanto, ao compartilhar suas versões GPT personalizadas, você pode cometer um erro caro que expõe seus dados a milhares de pessoas em todo o mundo. Verificar O ChatGPT tem problemas de privacidade?
Links Rápidos
O que são versões GPT personalizadas?
Versões GPT personalizadas são minimodelos programáveis de ChatGPT que podem ser treinados para serem mais úteis em tarefas mais específicas. É como transformar o ChatGPT em um chatbot que se comporta da maneira que você deseja e ensiná-lo a se tornar um especialista nas áreas que realmente importam para você.
Por exemplo, um professor da sexta série poderia criar uma versão GPT especializada em responder perguntas em tom, escolha de palavras e estilo apropriados para alunos da sexta série. O GPT pode ser programado para que, quando um professor fizer uma pergunta ao GPT, o chatbot formule respostas que atendam diretamente ao nível de compreensão dos alunos da sexta série. Evitaria termos complexos ou incompreensíveis, manteria a extensão das frases dentro do razoável e adotaria um tom encorajador. O apelo das versões personalizadas do GPT é a capacidade de personalizar o chatbot dessa forma, ao mesmo tempo que amplia sua experiência em domínios específicos usando dados de treinamento. Verificar Versões GPT personalizadas que você pode começar a usar agora.
Como as versões personalizadas da GPT podem expor seus dados
Para criar GPTs personalizados, você normalmente instrui o gerador de GPT do ChatGPT sobre quais áreas deseja que sua versão GPT se concentre, fornece uma imagem de perfil, depois um nome e pronto. Com essa abordagem, você obtém a versão GPT, mas não a torna muito melhor do que o ChatGPT clássico apenas graças ao nome legal e à foto do perfil.
O poder da versão personalizada do GPT vem dos dados específicos e das instruções fornecidas para treiná-la. Ao fazer upload de arquivos e conjuntos de dados relevantes, o modelo pode se tornar especializado de uma forma que o ChatGPT clássico e pré-treinado em grande escala não consegue. O conhecimento contido nesses arquivos carregados permite que o GPT personalizado se destaque em determinadas tarefas em comparação com o ChatGPT, que pode não ter acesso a essas informações especializadas. Em última análise, são os dados mais personalizados que permitem maior capacidade.
Mas enviar arquivos para otimizar sua versão GPT é uma faca de dois gumes. Isso cria um problema de privacidade ao mesmo tempo que aprimora os recursos da sua versão do GPT. Pense em um cenário em que você criou uma GPT para ajudar os clientes a saber mais sobre você ou sua empresa. Qualquer pessoa que tenha um link para sua GPT personalizada ou que de alguma forma faça você usar uma reivindicação pública usando um link malicioso pode acessar os arquivos que você enviou para sua GPT.
Aqui está um exemplo simples.
Eu descobri uma versão GPT personalizada que supostamente ajuda os usuários a aumentar a popularidade dos vídeos no TikTok, recomendando hashtags e tópicos de tendência. Depois do GPT personalizado, bastou um pouco de esforço para que ele vazasse as instruções fornecidas durante a configuração. Aqui está uma prévia:
Aqui está a segunda parte das instruções.
Se você olhar com atenção, a segunda parte das instruções informa ao formulário para não “compartilhar nomes de arquivos diretamente com os usuários finais e sob nenhuma circunstância você deve fornecer um link de download para qualquer um dos arquivos”. Claro, se você perguntar inicialmente ao GPT personalizado, ele dirá não, mas com um pouco de engenharia rápida, isso muda. A versão GPT personalizada expõe o único arquivo de texto em sua base de conhecimento.
Com o nome do arquivo, foi necessário apenas um pouco de esforço para que o GPT imprimisse o conteúdo exato do arquivo e depois baixasse o próprio arquivo. Neste caso, o arquivo real não era confidencial. Depois de examinar algumas versões personalizadas do GPT, havia muitas delas com dezenas de arquivos expostos.
Existem centenas de arquivos GPT disponíveis publicamente contendo arquivos confidenciais aguardando que agentes mal-intencionados os capturem. Verificar Como usar o Create GPT para obter uma versão personalizada do ChatGPT.
Como proteger dados personalizados da versão GPT
Primeiro, pense em como você compartilhará (ou não) a GPT personalizada que acabou de criar. No canto superior da tela de criação de GPT personalizada, você encontrará um botão Salvar. Clique no ícone de seta suspensa e, a partir daqui, selecione como deseja compartilhar sua versão:
- apenas eu: o GPT personalizado não será publicado e só poderá ser usado por você.
- Somente pessoas com o link: qualquer pessoa com um link para o GPT personalizado pode usá-lo e possivelmente acessar seus dados.
- Ano: o GPT personalizado está disponível para qualquer pessoa e pode ser indexado pelo Google e encontrado em pesquisas gerais na Internet. Qualquer pessoa com acesso provavelmente conseguirá verificar seus dados.
Infelizmente, atualmente não existe uma maneira 100% infalível de proteger os dados que você envia para uma GPT personalizada compartilhada publicamente. Você pode ser criativo e dar instruções estritas para não revelar dados em sua base de conhecimento, mas isso geralmente não é suficiente, como mostrou a demonstração acima. Se alguém realmente deseja acessar a base de conhecimento e tem experiência com Arquitetura de comandos de texto para inteligência artificial E em algum momento, eventualmente, o GPT personalizado irá quebrar os dados e expô-los.
É por isso que é mais seguro não enviar nenhum material confidencial para uma GPT dedicada que você pretenda compartilhar publicamente. Depois que dados privados e confidenciais são carregados em um GPT dedicado e deixados em seu computador, esses dados ficam efetivamente fora de seu controle.
Tenha também muito cuidado ao usar reivindicações que você copia online. Certifique-se de entendê-los bem e evite afirmações vagas com links. Podem ser links maliciosos que sequestram seus arquivos, codificam-nos e enviam-nos para servidores remotos. Verificar A engenharia de script de comando é um trabalho real? Fatores a ter em consideração.
perguntas comuns
Q1. O ChatGPT retém dados do usuário?
ChatGPT mantém conversas com usuários a fim de aprimorar sua base de conhecimento. Todos os dados podem ser excluídos no final da sessão para garantir a privacidade.
Q2. Os desenvolvedores podem acessar dados de conversas?
Os desenvolvedores não podem acessar dados de conversas. O treinamento não está disponível para desenvolvedores e ocorre em um ambiente seguro e criptografado.
Q3. A OpenAI compartilha dados de usuários com terceiros?
OpenAI não compartilha dados do usuário com terceiros. OpenAI segue políticas rígidas de privacidade e segurança.
Q4. Posso personalizar minha experiência ChatGPT?
Sim, os usuários podem personalizar sua experiência criando versões GPT personalizadas.
Use versões GPT personalizadas com cuidado
Versões GPT dedicadas são um recurso poderoso, mas podem ser arriscadas. Embora permitam criar modelos personalizados altamente capazes em campos específicos, os dados que eles usam para aprimorar seus recursos podem ser expostos. Para mitigar riscos, evite enviar dados verdadeiramente confidenciais para versões GPT personalizadas que você criar sempre que possível. Além disso, tenha cuidado com arquiteturas de comandos maliciosas que podem explorar certas vulnerabilidades para roubar seus arquivos. Agora você pode visualizar Ferramentas online para melhorar suas habilidades de engenharia de script de comando.
