Estágio 4 de 5 — Testes Práticos · Você já usa IA no dia a dia e quer saber até onde dá pra levar isso pro trabalho? Esse artigo é pra essa fase.
ChatGPT é seguro pra colocar material de trabalho dentro? Eu demorei pra fazer essa pergunta do jeito certo, e olha que ela devia ser fácil pra mim.
Eu trabalho numa empresa de segurança da informação. É literalmente o meu ofício pensar em onde os dados de alguém vão parar, quem consegue ler o quê, e o que acontece com uma informação depois que ela sai da sua tela.
Mesmo assim, eu passei um bom tempo usando IA no trabalho com uma ideia na cabeça que estava incompleta. Não errada — incompleta. E é justamente essa parte que falta que quase ninguém explica.
O critério que eu já aplicava antes de colar qualquer coisa
Não vou fingir descuido pra criar suspense. Eu nunca fui do tipo que joga documento na primeira caixa de texto que aparece.
Antes de usar IA com qualquer coisa do trabalho, eu já fazia três coisas. Desativei o compartilhamento de dados nas configurações, pra que as conversas não fossem usadas em treinamento. Uso o aplicativo de desktop, com os arquivos na minha própria máquina. E filtro o que entra — resumo de relatório longo, ata de reunião, resposta de e-mail são coisas de rotina, não segredo industrial.
Com esse setup, eu me considerava tranquilo. E, comparado com a média das pessoas, estava mesmo.
Só que tinha uma peça da mecânica que eu não tinha encaixado direito. Descobri de um jeito meio irônico: pesquisando sobre o assunto e conversando com a própria IA sobre como ela funciona. A ficha demorou uns segundos pra cair.
Desativar o treinamento não deixa o processamento local
Essa é a confusão mais comum que existe sobre o assunto, e ela é sutil o bastante pra pegar até quem é da área.
Quando você desativa o compartilhamento de dados nas configurações, você está pedindo uma coisa bem específica: que as suas conversas não sejam usadas pra treinar os modelos daquela empresa. Isso funciona. É a configuração mais importante que existe, e se você não ligou ainda, vale interromper a leitura e ligar agora.
Mas isso não significa que a análise aconteça no seu computador.
O arquivo está na sua máquina. O texto que você envia, não. Ele sai daí, atravessa a internet, é processado num servidor da empresa lá fora e volta como resposta. É assim que essas ferramentas funcionam — o modelo não roda no seu notebook, ele roda num data center.
“Arquivo local” e “processamento local” são coisas diferentes. Eu sabia disso tecnicamente, mas na prática do dia a dia eu tinha juntado as duas numa sensação só de segurança, e é exatamente isso que a maioria das pessoas faz.
Então a pergunta certa nunca foi “o dado ficou aqui?”. É outra, e é mais desconfortável: eu aceito que esse conteúdo específico trafegue até o servidor de um terceiro?
Pra um texto genérico de escritório, eu aceito. Pra um documento com dado pessoal de outra pessoa, número de contrato ou qualquer coisa sob acordo de confidencialidade, a resposta muda por completo. A diferença não está na ferramenta nem na configuração. Está no que você escolhe colar.
O que aconteceu na Samsung, e por que é o exemplo mais honesto que existe
Em abril de 2023 a Samsung liberou os engenheiros da divisão de semicondutores a usar o ChatGPT pra ajudar com código. Em menos de um mês aconteceram três episódios separados, relatados pelo portal coreano The Economist Korea e depois repercutidos pela Bloomberg.
Um engenheiro colou o código de um banco de dados pra que a ferramenta procurasse erros. Outro pediu otimização de código-fonte. Um terceiro subiu a gravação de uma reunião interna e pediu que gerasse a ata.
Repara numa coisa: nenhum dos três estava fazendo nada malicioso. Os três estavam fazendo exatamente o que eu faço toda semana — pedindo ajuda com uma tarefa chata. Foi por isso que aconteceu três vezes em três semanas. Não foi má-fé, foi rotina.
Em maio a Samsung mandou um memorando interno proibindo IA generativa nos dispositivos e nas redes da empresa. O motivo declarado no documento é exatamente o que eu expliquei ali em cima: o receio de que os dados ficassem em servidores externos, difíceis de recuperar e de excluir.
Tem um número nessa história que eu acho mais revelador do que a proibição em si. Numa pesquisa interna da própria Samsung de 2023, 65% dos funcionários já achavam que essas ferramentas representavam risco de segurança. Eles sabiam. E usaram assim mesmo, porque a ferramenta resolvia um problema real na frente deles.
A Samsung não foi a primeira. Em fevereiro daquele ano, JPMorgan Chase, Bank of America e Citigroup já tinham proibido ou restringido o uso. E em março uma falha na própria plataforma chegou a exibir títulos de conversas de usuários para outras pessoas — um bug, corrigido rápido, mas que mostrou que a superfície de risco existe.
ChatGPT é seguro pro seu trabalho? O que eu faço hoje
Depois de entender a mecânica direito, eu não parei de usar. Seria hipocrisia, porque continuo terceirizando tarefa chata toda semana. O que mudou foi o filtro antes de colar.
Compartilhamento de dados desativado nas configurações. Leva trinta segundos e é a única coisa desta lista que é botão. O resto é critério.
Documento se separa por dono. Material meu, eu decido sozinho. Material de outra pessoa ou de outra empresa, a régua é bem mais apertada.
Nome, CNPJ e número de contrato saem antes. Na maioria das vezes o resumo funciona igual sem eles. Se funciona igual, não tem motivo pra mandar.
O teste do e-mail externo. Se eu não colaria aquele trecho num e-mail pra fora da empresa, também não colo numa IA. É o filtro mais rápido que eu conheço e acerta quase sempre.
Saber se a empresa tem regra escrita sobre isso. E aqui eu tenho que ser honesto: eu ainda não validei a política da minha. Trabalho com segurança da informação, escrevi este texto inteiro, e esse item continua aberto na minha lista. É exatamente o tipo de coisa que a gente adia porque a ferramenta está funcionando e ninguém reclamou. Vou atrás disso — e conto aqui o que descobrir.
O risco que quase me pegou não foi o de dado
Aqui está a parte que me incomoda mais, e que quase nenhum artigo sobre segurança de IA discute.
Enquanto todo mundo discute o dado que sai, o que quase me custou caro foi o dado que não voltou.
Quando testei cinco tarefas de trabalho com IA numa semana só, pedi o resumo de um documento longo. O resumo ficou ótimo: identificou cláusulas, prazos, obrigações. Eu quase segui em frente com ele. Aí fui conferir no original e vi que uma cláusula de renovação automática tinha ficado de fora. Justamente o ponto mais importante do documento inteiro.
Não teve vazamento. Não teve configuração errada. Teve uma omissão silenciosa dentro de um resumo que parecia completo.
Nenhum ajuste de privacidade protege contra isso. A única proteção é abrir o original.
Se essa parte te pegou mais que a de privacidade, escrevi um texto inteiro sobre até onde dá pra confiar no que a IA responde.
O que eu diria pra mim mesmo há um ano
Que a pergunta estava certa, mas incompleta.
“ChatGPT é seguro?” não tem resposta de sim ou não, do mesmo jeito que “carro é seguro?” não tem. Depende de quem dirige, do que você está carregando e de onde você está indo.
O que dá pra dizer com honestidade é isto: com o treinamento desativado e critério sobre o que entra, é seguro o bastante pra tarefa comum de escritório. Não é lugar pra dado de terceiro sob confidencialidade. E não é confiável, em configuração nenhuma, pra ser a última leitura de um documento que importa.
E você — já colou alguma coisa do trabalho numa IA e depois bateu aquela sensação de “peraí, será que eu devia?”. Me conta nos comentários. Tenho a impressão de que essa história é bem mais comum do que a gente admite.
Fonte: memorando interno da Samsung obtido pela Bloomberg News, maio de 2023 (Exame).
