Cartilha gratuita ensina como usar a IA com segurança; saiba mais

Nem os magnatas da tecnologia estão se entendendo: alguns defendem um freio na inteligência artificial, enquanto outros falam que o mercado vai se autorregular. Imagine então como fica a cabeça de quem começou a mexer agora com essa novidade: como utilizar a IA de forma segura? Uma organização brasileira desenvolveu uma cartilha gratuita que aborda esses pontos, de modo a capacitar a população. O novo material integra a “Cartilha de Segurança para Internet” e traz a mensagem central de que “A IA é assistente. O responsável é você”. A gerente do projeto, Cristine Hoepers, lembrou que a inteligência artificial é um software, ou seja, um programa de computador, que “não possui discernimento ou senso crítico”. O fascículo mais recente explica, por exemplo, que os populares chatbots (como ChatGPT, Claude e Gemini) não necessariamente identificam fatos. Na realidade, eles calculam a resposta mais provável com base nos dados de treinamento e no contexto do prompt. O documento traz ainda orientações sobre temas importantes e, em alguns casos, controversos: - Alucinações: tratar respostas como rascunho, checar fatos e confirmar se as fontes citadas existem. Prompts: escrever pedidos claros e detalhados, e instruir a ferramenta a avisar quando não tiver certeza. - Privacidade: não inserir senhas, CPF, dados bancários ou documentos internos, e desativar o uso das conversas para treinamento. - Uso no trabalho: seguir as regras da empresa e não usar contas pessoais para tarefas profissionais. Agentes de IA: limitar permissões e exigir aprovação humana antes de pagamentos, envio de mensagens ou exclusão de dados, inclusive por risco de prompt injection. - Golpes e deepfakes: desconfiar de pedidos urgentes, confirmar informações por canais oficiais e checar se o dinheiro caiu na conta. - Direitos autorais: reescrever com as próprias palavras, citar autores e indicar o uso de IA. - Saúde: não usar chatbots para autodiagnóstico, automedicação ou em substituição a profissionais. O fascículo está disponível gratuitamente em https://cartilha.cert.br/fasciculos/. Ele foi produzido pelo Centro de Estudos, Resposta e Tratamento de Incidentes de Segurança no Brasil (CERT.br), ligado ao Núcleo de Informação e Coordenação do Ponto BR (NIC.br).