O que a avaliação precisa responder
Uma avaliação útil responde quatro perguntas: qual objetivo público justifica o sistema; quem pode receber benefícios ou sofrer impactos; quais falhas, usos indevidos e efeitos distributivos são plausíveis; e quais evidências demonstram que os controles funcionam. Ela conecta decisão política, processo administrativo, tecnologia e direitos.
O Framework para a Autoavaliação de Impacto Ético do Governo Digital organiza primeiro uma avaliação de riscos e, conforme o nível identificado, uma avaliação de práticas éticas. O material tem caráter orientador e foi concebido para evoluir. Portanto, deve ser combinado com as normas aplicáveis, a governança do órgão e análise especializada quando necessária.
A avaliação não substitui relatório de impacto à proteção de dados, estudo técnico, análise de segurança ou controles de contratação. Esses instrumentos podem se apoiar mutuamente, mas respondem a perguntas diferentes. Reunir tudo em um documento genérico cria a aparência de conformidade e dificulta responsabilização.
1. Delimite sistema, decisão e contexto
Descreva o sistema de forma funcional: quais entradas recebe, qual modelo ou regra utiliza, que saída produz e como essa saída influencia uma ação pública. Inclua componentes de terceiros, bases consultadas, integrações e intervenção humana. O nome comercial da ferramenta não explica o fluxo de decisão.
Defina onde o uso começa e termina. Um assistente que resume documentos para um servidor tem risco diferente de um mecanismo que prioriza fiscalizações ou recomenda concessão de benefício. O mesmo modelo pode ter impactos distintos conforme a população, a qualidade dos dados, o grau de dependência da saída e a possibilidade real de correção.
Registre a finalidade e o que está fora de escopo. Limites explícitos ajudam a identificar desvio de função, quando uma solução criada para apoio passa a ser usada como decisão automática. Eles também orientam treinamento, acesso e monitoramento.
2. Identifique pessoas afetadas e caminhos de dano
Liste usuários diretos, pessoas avaliadas pelo sistema, equipes que revisam a saída e grupos que podem ser afetados indiretamente. Considere quem tem menor acesso digital, quem aparece pouco nos dados, quem enfrenta barreiras de linguagem ou deficiência e quem depende de um serviço essencial.
Em seguida, descreva caminhos concretos de dano. Uma classificação incorreta pode atrasar atendimento; um resumo incompleto pode ocultar informação relevante; uma recomendação baseada em histórico pode reproduzir desigualdades; uma resposta generativa pode inventar regra; um vazamento pode expor dados pessoais. Rótulos amplos como “risco de viés” são insuficientes sem causa, evento e consequência.
Atribua probabilidade e gravidade com critérios compreensíveis. Considere também a detectabilidade: alguns erros aparecem rapidamente, enquanto outros se acumulam silenciosamente. Priorize riscos graves, difíceis de detectar ou que atingem pessoas com pouca capacidade de contestação.
3. Transforme princípios em controles e evidências
Para cada risco prioritário, defina prevenção, detecção, resposta e responsável. Qualidade de dados pode exigir critérios de origem e atualização; equidade pode exigir testes por grupos relevantes; segurança pode exigir segregação de ambientes, gestão de acesso e testes adversariais; supervisão pode exigir amostragem e dupla revisão em casos sensíveis.
Um controle só existe de forma verificável quando deixa evidência: registro de versão, resultado de teste, aprovação, log de acesso, justificativa de exceção ou indicador. Frases como “o sistema será monitorado” precisam indicar o que será medido, por quem, com qual frequência e qual limite dispara ação.
A LGPD deve ser considerada quando houver tratamento de dados pessoais. A aplicação ao caso exige identificar finalidade, necessidade, compartilhamentos, segurança, direitos e demais requisitos pertinentes. Este conteúdo é informativo e não substitui avaliação jurídica ou do encarregado.
4. Projete transparência e contestação no serviço
Transparência não significa publicar código-fonte ou detalhes que comprometam segurança. Significa oferecer informação proporcional para que pessoas entendam quando a IA participa, qual é seu papel, que dados são relevantes, quais limitações existem e como solicitar explicação ou revisão.
O Guia de Design de Transparência do Governo Digital orienta que a informação apareça na interface e no momento da interação. Um aviso escondido em termos extensos não ajuda o cidadão a ajustar expectativas nem exercer direitos. A mensagem deve distinguir conteúdo gerado, apoio à decisão e decisão automatizada.
Defina um canal de contestação conectado ao processo. Quem recebe a solicitação? Quais registros estarão disponíveis? Qual prazo e autoridade de revisão? Um botão sem operação por trás apenas desloca o problema. Casos contestados também são fonte importante para identificar padrões de falha.
5. Reavalie durante todo o ciclo de vida
A avaliação inicial registra uma fotografia. Mudanças de modelo, fornecedor, base, população, finalidade ou integração podem alterar o risco. Defina quais mudanças exigem nova avaliação e quais indicadores serão acompanhados continuamente. Atualize o documento quando surgirem incidentes ou evidências relevantes.
Na contratação, preserve acesso às informações necessárias para auditoria, portabilidade e encerramento. Dependência do fornecedor não elimina a responsabilidade pública. Requisitos de logs, comunicação de incidentes, mudanças de versão, localização de dados e exclusão precisam aparecer antes da implantação.
Inclua desativação: como interromper o sistema, preservar registros necessários, revogar acessos, tratar dados remanescentes e voltar ao processo anterior. Um mecanismo de alto impacto sem saída planejada cria risco operacional mesmo quando funciona.
Erros comuns que enfraquecem a avaliação
- Copiar uma matriz genérica sem observar o processo real.
- Avaliar apenas o modelo e ignorar dados, interface, pessoas e integrações.
- Tratar revisão humana como assinatura automática.
- Usar precisão média para esconder falhas concentradas em grupos ou casos críticos.
- Confundir transparência com uma cláusula extensa e inacessível.
- Registrar controles sem responsável, evidência ou limite de ação.
- Concluir a avaliação antes do lançamento e nunca revisá-la.
Outro erro é apresentar a avaliação como garantia de ausência de dano. O objetivo é melhorar a decisão, tornar premissas visíveis e reduzir riscos com controles proporcionais. Risco residual deve ser documentado e aceito pela autoridade adequada, não escondido por uma pontuação média.
Conecte o resultado aos demais processos descritos em o que fazemos: arquitetura, contratação, segurança, treinamento, atendimento e monitoramento. Se a avaliação não altera requisitos, prioridades ou limites, provavelmente não está integrada à governança real.
Registre também as pessoas que participaram, as evidências analisadas e as divergências relevantes. Decisões éticas raramente são puramente técnicas; documentar diferentes perspectivas mostra como o órgão ponderou benefícios, incertezas e efeitos sobre o público. Esse histórico facilita revisões futuras e evita que uma pontuação apague argumentos importantes.
Como o Grupo Edge aborda o tema
A frente de cibersegurança e governança de IA é tratada pelo Grupo Edge como expansão especializada. A abordagem proposta conecta inventário, papéis, dados, acessos, testes, supervisão e evidências ao processo institucional, sem apresentar certificações ou disponibilidade comercial não comprovadas.
A avaliação deve orientar decisões sobre tecnologia, operação e contratação, dentro da visão mais ampla de tecnologia para o setor público. Para discutir um contexto específico, fale com o Grupo Edge.