Em março deste ano, as empresas e laboratórios de IA foram surpreendidos com uma carta aberta assinada por mais de 1.100 pessoas, incluindo Elon Musk, Steve Wozniak e Tristan Harris, pedindo que fizessem uma pausa nas pesquisas de desenvolvimento de sistemas de inteligência artificial por um período mínimo de seis meses.
Um trecho da carta cita que esses sistemas estão se tornando competitivos em tarefas gerais:
“Devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade? Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização?”
A carta foi divulgada após o compartilhamento em massa de uma imagem do Papa Francisco criada por meio de IA. A imagem em questão parecia tão verdadeira que levantou debates sobre o quanto a AI pode auxiliar na disseminação de desinformação.
Os signatários da carta afirmam que, caso as empresas não anunciem rapidamente uma pausa na corrida dos sistemas de IA, os governos devem intervir. É importante ressaltar a relevância desse documento, pois muitos dos co-autores são especialistas em IA, incluindo engenheiros da Meta e Google e até mesmo o fundador e CEO da Stability AI Emad Mostaque.
Apenas dois dias após a divulgação da carta, que ocorreu em 29 de março de 2023, as autoridades de proteção de dados da Itália ordenaram que a OpenAI pare de processar dados de cidadãos italianos, com encerramento imediato das operações em 31 de março.
Segundo o DPA Italiano (Data Protection Authority ou Autoridade italiana de proteção de dados), o ChatGPT pode conter recursos que violam o Regulamento Geral de Proteção de Dados da União Europeia (GDPR), por isso, estão abrindo uma investigação e emitiu uma ordem para que a OpenAI bloqueie o ChatGPT na Itália até segunda ordem.
O que pode acontecer com o ChatGPT agora?
No momento, apenas a Itália emitiu uma ordem de bloqueio da ferramenta, que tinha o prazo de até 20 dias, mas já foi acatada pela OpenAI. No entanto, a GDPR é uma regulamentação que se estende por todo o território europeu.
Considerando que a Open AI não possui uma entidade legal estabelecida na União Europeia, isso significa que qualquer entidade de proteção de dados pode intervir e solicitar o bloqueio da ferramenta em seus territórios.
Sendo assim, pode ser que outros países da UE sigam o exemplo da Itália caso seja identificada alguma irregularidade de monitoramento de dados no chatbot ou, simplesmente, se alguma dessas entidades quiser cooperar com as investigações iniciadas na Itália.
Quais são as preocupações da Itália sobre o uso do chatbot?
Como já foi testado por diversos usuários, especialistas e portais de notícias, o ChatGPT e o GTP-4 estão sendo desenvolvidos e aprimorados com base em dados disponibilizados na Internet, o que significa que a ferramenta pode ter acesso a dados pessoais dos usuários.
No território europeu, a GDPR se aplica sempre que esses dados são processados por qualquer ferramenta, por isso, o DPA Italiano está investigando a possibilidade do chatbot estar violando dados pessoais para responder perguntas sobre personalidades públicas – ou mesmo não tão públicas.
Além disso, como é anunciado pela própria empresa, o ChatGPT pode errar. Muitos usuários já comentaram sobre a ferramenta “inventar informações” para complementar suas respostas, por não ter acesso a dados mais recentes.
Sem uma especificação da OpenAI sobre quais dados estão sendo armazenados e utilizados para treinar seu mecanismo de chatbot, o DPA Italiano investia a possibilidade dos dados estarem sendo processados ilegalmente e, caso isso seja verdade, todos os países da União Europeia podem ordenar que seus dados sejam excluídos, reiniciando todo o treinamento do ChatGPT.
Por fim, outra preocupação do DPA Italiano é o uso de dados dos usuários menores de idade do ChatGPT. Conforme esclarecido pelo departamento, a OpenAI não possui um sistema robusto de identificação de idade para garantir a segurança dos usuários menores de idade.
Por isso, caso a empresa não consiga comprovar a idade de seus usuários italianos, pode ser que todos os cadastros atuais dos usuários italianos sejam perdidos e a empresa precise estabelecer um novo modelo de verificação na plataforma.
A OpenAI já começou a bloquear geograficamente o uso do ChatGPT
Após a repercussão da carta e da solicitação do DPA Italiano, a OpenAI já iniciou o bloqueio do chatbot em território italiano neste sábado (01 de abril de 2023).
Conforme divulgado por usuários com endereço IP italiano que tentaram acessar a ferramenta nesses últimos dias, o site apresenta um comunicado que diz: “Lamentamos informar aos usuários que desativamos o acesso a usuários na Itália, a pedido da autoridade de proteção de dados – DPA.”
O CEO da OpenAI, Sam Altman, comentou sobre a decisão em seu Twitter:
We of course defer to the Italian government and have ceased offering ChatGPT in Italy (though we think we are following all privacy laws).
Italy is one of my favorite countries and I look forward to visiting again soon!
— Sam Altman (@sama) March 31, 2023
Ele explica que a Itália é um de seus países preferidos e, obviamente, a OpenAI iria respeitar a decisão das autoridades. O CEO também garante que os assinantes do ChatGPT Plus serão reembolsados e suas assinaturas serão pausadas para não gerar novas cobranças indevidas.
Reativação do ChatGPT na Itália ocorre um mês depois do bloqueio
Segundo a Forbes, o ChatGPT foi reativado na Itália após a OpenAI se comprometer a apresentar ao governo italiano uma proposta com medidas de transparência e boas práticas. Após atualizar suas políticas de privacidade e, recentemente, lançar um manual de boas práticas para utilizar a ferramenta, a OpenAI retornou com sua ferramenta conversacional ao país ainda no final de abril.
Boas Práticas do ChatGPT: O que a OpenAI considera como a forma correta de utilizar a ferramenta?
Em seu site, a OpenAI compartilhou um documento intitulado “Práticas recomendadas da GPT”, no qual a startup esclarece como utilizar suas ferramentas alimentadas pelo GTP-3 e GTP-4 para criar seus conteúdos, responder suas dúvidas e auxiliar seu dia a dia, de forma consistente e respeitando as políticas de privacidade. Confira algumas das práticas recomendadas:
1. Dê ao ChatGPT Instruções Claras
A ferramenta não pode entender “além” do que é apresentado, então, se você deseja respostas curtas, peça por elas. Se deseja uma escrita de nível especializado, especifique. Quanto mais claro você for sobre o que deseja, mais provável é que obtenha o resultado esperado.
Inclua detalhes na sua consulta para obter respostas mais relevantes, peça ao modelo para adotar uma persona, use delimitadores para indicar claramente partes distintas da entrada, e especifique os passos necessários para completar uma tarefa.
2. Texto de Referência
O ChatGPT pode inventar respostas, especialmente quando questionado sobre tópicos esotéricos. Fornecer um texto de referência pode ajudar a obter respostas mais precisas. Instruir o modelo a responder usando um texto de referência ou a responder com citações de um texto de referência é uma das formas de evitar que a ferramenta cometa erros.
3. Dividir Tarefas Complexas
Assim como em engenharia de software, é uma boa prática decompor um sistema complexo em componentes modulares. Tarefas complexas tendem a ter taxas de erro mais altas do que tarefas simples.
Utilizar a classificação de intenção para identificar as instruções mais relevantes para uma consulta do usuário ou resumir documentos longos em partes para construir um resumo completo recursivamente podem ser mais úteis do que exigir da ferramenta uma tarefa muito complexa.
4. Dê Tempo ao ChatGPT para “Pensar”
A ferramenta pode cometer mais erros ao tentar responder imediatamente um comando muito longo, por isso, pedir uma cadeia de raciocínio antes de uma resposta pode ajudar o ChatGPT a raciocinar de forma mais confiável. Instrua o modelo a elaborar sua própria solução antes de chegar a uma conclusão.
5. Use Ferramentas Externas e os Plug-ins da ferramenta
Compense as fraquezas do ChatGPT alimentando-o com saídas de outras ferramentas. Por exemplo, um sistema de recuperação de texto pode informar ao ChatGPT sobre documentos relevantes. Para isso, use pesquisa baseada em embeddings para implementar recuperação de conhecimento eficiente ou use execução de código para realizar cálculos mais precisos.
Essas são algumas das recomendações sugeridas pela OpenAI. Você pode conferir a documentação completa clicando aqui.
