Especialista em blockchain e IA da IBM diz que o ChatGPT apresenta vários ‘riscos principais’ para uso corporativo
Listando várias áreas de preocupação, Jerry Cuomo, da IBM Automation, expõe as possíveis armadilhas para empresas que usam o ChatGPT.
O diretor de tecnologia da IBM Automation, Jerry Cuomo, recentemente publicou um post em seu blog apresentando o que ele afirma ser vários riscos associados ao uso do ChatGPT para empresas.
De acordo com o post no blog, há várias áreas de risco-chave que as empresas devem considerar antes de operar o ChatGPT. No entanto, Cuomo conclui que apenas dados não sensíveis estão seguros com o ChatGPT:
“Assim que seus dados entram no ChatGPT,” escreve Cuomo, “você não tem controle nem conhecimento de como eles estão sendo usados.”
Conforme o post, esse tipo de vazamento de dados não intencional também pode colocar as empresas em risco legal se os dados de parceiros, clientes ou clientes forem expostos ao público em geral após vazarem para os dados de treinamento do ChatGPT.
Cuomo também cita riscos à propriedade intelectual e a possibilidade de vazamentos que podem colocar as empresas em violação de acordos de código aberto.
De acordo com o post do blog da IBM:
“Se informações sensíveis de terceiros ou internas da empresa forem inseridas no ChatGPT, elas se tornam parte do modelo de dados do chatbot e podem ser compartilhadas com outras pessoas que fizerem perguntas relevantes.”
O Cointelegraph entrou em contato com a OpenAI para comentar sobre a declaração acima e recebeu a seguinte resposta de um intermediário de relações públicas por e-mail: “[T] os dados não serão compartilhados com outras pessoas que fizerem perguntas relevantes.”
O representante também mencionou a documentação existente sobre os recursos de privacidade do ChatGPT, incluindo um post no blog detalhando a capacidade dos usuários da web de desativar o histórico de chat.
A API do ChatGPT tem o compartilhamento de dados desativado por padrão, de acordo com a OpenAI.
A política da API é perfeitamente clara – o que é confuso é a política sobre as conversas que temos usando a interface da web do ChatGPT e os aplicativos iOS/Android
— Simon Willison (@simonw) 15 de agosto de 2023
No entanto, os críticos observaram que as conversas na versão web são salvas por padrão. Os usuários também precisam optar por não salvar suas conversas – uma característica conveniente para retomar de onde pararam – e por não permitir que seus dados sejam usados para treinar o modelo. Até o momento, não há opção para reter conversas sem concordar em compartilhar dados.
VEJA MAIS:
