Em dezembro de 2027 entra em vigor, na União Europeia, uma regra que muda a postura de qualquer empresa que use IA para decidir sobre gente: contratar, promover, avaliar desempenho ou definir uma condição de trabalho por meio de IA passa a ser classificado como alto risco, com a exigência de que um ser humano consiga entender, acompanhar e, se precisar, interromper a decisão antes que ela produza efeito. É o que dizem o Artigo 14 e o Anexo III da lei europeia de inteligência artificial, e eles nomeiam exatamente os casos que mais aparecem hoje dentro das empresas: filtrar candidaturas, avaliar candidatos, decidir promoção ou desligamento, distribuir tarefas com base em comportamento.
Do outro lado do Atlântico, a cidade de Nova York já não trata isso como promessa distante: desde 2023, qualquer empresa que use uma ferramenta automatizada para selecionar ou avaliar candidatos ali precisa publicar uma auditoria independente de viés a cada ano e avisar cada candidato com pelo menos dez dias úteis de antecedência. Quem não cumpre paga multa por infração — e não fazer a auditoria e não avisar o candidato contam como duas infrações separadas.
No Brasil, o caminho é outro, mas o destino é parecido: a Lei Geral de Proteção de Dados já garante à pessoa afetada por uma decisão tomada só por processamento automatizado o direito de pedir revisão, e isso vale para decisões sobre perfil profissional, de consumo e de crédito — não apenas para big techs. Para quem decide sobre políticas internas de IA numa empresa brasileira, essas três frentes não são notícia distante: são o desenho que qualquer ferramenta que decide sobre gente vai precisar seguir, cedo ou tarde.
O problema não é o algoritmo, é o silêncio em volta dele
O caso mais visível do problema não veio da Europa nem de Nova York — veio de um processo na Califórnia. Derek Mobley, homem negro, com mais de quarenta anos e com deficiência, aplicou para mais de cem vagas pela plataforma de recrutamento da Workday desde 2017. As respostas chegavam quase instantâneas, muitas de madrugada, sempre negativas, sem uma única entrevista. Em 2023 ele processou a empresa alegando que o sistema de triagem automatizada discriminava por idade, raça e deficiência.
O processo levou anos só para decidir uma pergunta prévia: quem é responsável quando uma ferramenta de triagem toma a decisão no lugar do recrutador? Em 2024 a Justiça entendeu que a Workday podia ser tratada como agente das empresas que usam a ferramenta — não como fornecedora neutra de software. Em maio de 2025, parte do caso virou ação coletiva nacional, aberta a candidatos com mais de quarenta anos avaliados pelo sistema desde 2020. Em junho de 2026, um juiz negou o pedido da Workday para encerrar o processo, mantendo em aberto as alegações sobre idade e deficiência.
O caso Mobley não é exceção, é sintoma. Um estudo de pesquisadores das universidades Stanford, Chapman e Northeastern analisou mais de 4 milhões de candidaturas de 3 milhões de pessoas, avaliadas por algoritmos de um mesmo fornecedor em 156 empresas. Ao examinar cada vaga separadamente — e não a média de todas juntas, que escondia o problema —, encontraram que quase 26% das candidaturas de pessoas negras e cerca de 15% das candidaturas de pessoas asiáticas foram dirigidas a vagas em que o algoritmo produziu um resultado considerado discriminatório pelo critério usado pela Justiça americana. Em parte dos casos, a mesma pessoa era recusada em várias vagas de empresas diferentes numa proporção maior do que se cada empresa decidisse de forma independente — um padrão que os pesquisadores chamaram de rejeição sistêmica.
Quase 26% de todas as candidaturas enviadas por pessoas negras — perto de 40 mil inscrições — foram para vagas em que o algoritmo produziu o que a legislação federal americana define como resultado discriminatório.
O padrão comum aos dois casos não é técnico. É que, no momento em que a decisão aconteceu, ninguém dentro da empresa sabia dizer com que informação ela foi tomada, nem quem — ou o quê — a confirmou.
Por que revisar depois do fato não resolve
A reação mais comum, ao ler esses números, é publicar uma política ou fazer uma auditoria pontual no lançamento da ferramenta. As duas ajudam, mas nenhuma resolve o problema central, por dois motivos.
O primeiro é o tempo. Uma auditoria anual, como a exigida em Nova York, é feita depois: mesmo com boas práticas, um padrão enviesado roda por meses antes que alguém audite de novo e o note. Nesse intervalo, a decisão já aconteceu para centenas ou milhares de pessoas.
O segundo é que revisar "depois" costuma significar revisar o resultado, não o processo. Ninguém registrou, no momento da decisão, quem pediu a triagem, com que instrução e com base em qual informação da empresa. Sem esse registro, uma auditoria posterior só enxerga o resultado agregado — o mesmo problema que o estudo de Stanford identificou ao notar que a média de todas as vagas escondia o viés que aparecia vaga por vaga.
O que falta não é mais regra. É um mecanismo que atue no momento da decisão, não depois dela.
O que precisa existir na prática
Um ambiente de IA que decide, sugere ou influencia decisões sobre pessoas — contratação, promoção, crédito, medida disciplinar — precisa de mecanismos verificáveis antes de qualquer decisão sair da conversa.
Identidade de quem pediu. Toda solicitação de triagem, avaliação ou recomendação carrega o nome de quem a fez, vindo do mesmo diretório de identidade que a empresa já usa — nunca uma conta pessoal fora do controle da área de TI.
Aprovação humana antes da ação, não depois do resultado. Uma ação sensível sobre uma pessoa — recusar um candidato, sinalizar risco de crédito, propor uma medida disciplinar — para e pede confirmação de alguém com autoridade antes de seguir, dentro da própria conversa, e não numa auditoria que corre atrás do que já aconteceu.
Segregação entre quem propõe e quem aprova. A pessoa, ou o agente, que sugere a decisão e a pessoa que confirma não podem ser a mesma, para que uma recomendação automática nunca vire decisão final sozinha.
Acesso conforme o papel de cada pessoa. Só quem tem autoridade sobre RH, crédito ou conduta consegue confirmar esse tipo de decisão; qualquer outro perfil dentro da empresa nem enxerga a opção.
Trilha de auditoria reconstruível. Quando alguém contesta — como aconteceu no caso Mobley —, dá para reconstruir em minutos com que informação a decisão foi tomada, quem pediu e quem confirmou, sem depender da memória de ninguém.
É assim que a Skyller foi desenhada: aprovação humana antes de uma ação sensível, acesso conforme o papel de cada pessoa e uma trilha de auditoria detalhada por área do sistema.
O que muda para quem decide
O ganho mais visível é jurídico. Boa parte do caso Mobley girou em torno de uma pergunta que uma trilha de auditoria responderia em segundos: quem controlava a ferramenta no momento da decisão, e ela agiu como agente de quem? Empresas que registram quem pediu e quem confirmou cada decisão sobre uma pessoa entram numa disputa dessas com prova, não com reconstrução de memória meses depois.
Há um ganho anterior à disputa: menos disputa para começar. Quando a aprovação humana acontece antes da ação — não depois, numa auditoria —, parte dos erros que geram reclamação nunca chega a produzir efeito sobre a pessoa. E quando o candidato ou o colaborador sabe que existe uma etapa de confirmação humana, a decisão carrega menos desconfiança, mesmo quando o resultado é negativo.
Para a área de RH, de crédito ou de conformidade, o ganho prático é conseguir separar, no próprio sistema, o que foi sugestão de IA do que foi decisão confirmada por uma pessoa — a distinção exata que juízes, reguladores e candidatos vêm cobrando com mais frequência a cada ano.
Perguntas para levar à próxima reunião
Antes de expandir o uso de IA em qualquer decisão que afete pessoas, vale levar estas perguntas para a próxima reunião com RH, jurídico e TI:
- Alguma decisão sobre contratação, promoção, crédito ou disciplina sai hoje de uma conversa com IA sem confirmação humana registrada? Se a resposta for sim, esse é o primeiro ponto a fechar, antes de qualquer outro ajuste.
- Quem pediu e quem aprovou aparecem como pessoas diferentes no registro, ou é sempre a mesma pessoa nos dois papéis? Se for sempre a mesma, não existe segregação de fato — só o nome dela.
- Se um candidato ou colaborador contestar uma decisão daqui a seis meses, dá para reconstruir com que informação ela foi tomada? Sem essa trilha, a defesa da empresa depende de memória, não de registro.
- A empresa consegue apontar, para qualquer decisão sobre uma pessoa nos últimos 90 dias, quem confirmou? Se a resposta exigir procurar em várias ferramentas diferentes, o registro não existe de fato — está espalhado.
