為何企業應先盤點 AI 系統,再製定任何政策
Por que o inventário de sistemas de IA vem antes de qualquer política
企業制定 AI 使用政策前,應先盤點實際使用的 AI 系統,記錄各系統的負責人、用途、數據、供應商及風險。盤點可從採購記錄、部門訪查和既有企業系統着手,並指定一名清單負責人;文中舉例,官方清單的六個系統經部門訪查後,另發現九個未申報系統。作者指出,這些 shadow AI 不會因企業沒有詢問而消失;個人資料處理記錄可與 AI 系統清單連結,但兩者並非同一文件。
Por que o inventário de sistemas de IA vem antes de qualquer política
O problema
Toda empresa que decide escrever uma política de uso de IA parte do que já conhece: o ChatGPT que todo mundo usa, talvez o Copilot, talvez uma ferramenta de atendimento. O problema é que essa lista nasce da memória de quem está na sala, não de um levantamento. Sou auditor de sistemas críticos e vejo esse atalho se repetir: a política sai bonita, cobre o óbvio e ignora o modelo de score que roda dentro do sistema de crédito há anos, ou o módulo de triagem de currículo que já vem embutido na ferramenta de recrutamento.
Inventário de sistemas de IA é a lista do que a equipe usa de fato, com dono, propósito, dado e fornecedor registrados por sistema. É o requisito prático da ISO 42001 e da estrutura de risco do NIST. Sem ele, avaliação de risco, política de uso e auditoria interna de IA não têm onde se apoiar.
Quem é o dono disso
Na maioria das empresas, a resposta no primeiro dia é ninguém. TI sabe o que foi comprado com orçamento de TI. Compliance sabe o que passou por contrato. Nenhuma das duas vê o que o marketing instalou como extensão de navegador, nem o que o RH liga dentro da ferramenta de recrutamento.
O inventário precisa de uma pessoa nomeada, não de um comitê inteiro supervisionando de longe. Alguém que receba a pergunta "esse sistema está na lista?" e saiba responder sem convocar reunião. Sem esse dono, o inventário vira documento atualizado uma vez, no mês em que o projeto começou, e esquecido depois.
Os quatro passos, e o shadow AI que eles revelam
Montar esse inventário não é projeto de TI com orçamento próprio. É levantamento, e cabe numa planilha:
- Liste o que foi contratado: contrato, nota fiscal, licença com módulo de IA declarado.2. Pergunte pra cada área o que ela usa de fato: qual ferramenta, para qual tarefa, com que frequência, conta da empresa ou pessoal.3. Olhe dentro dos sistemas que a empresa já tem: ERP, CRM, ferramenta de recrutamento. A IA embutida em produto comprado por outro motivo é a que mais escapa de um levantamento feito só por e-mail.4. Registre em campos fixos: sistema, dono, propósito, dados, fornecedor, risco. Parágrafo descritivo não sobrevive a uma auditoria. O segundo e o terceiro passo são os que custam caro pular. Num cenário comum desse tipo de levantamento, a lista oficial traz seis sistemas, todos com contrato assinado. Ao perguntar pra cada área o que ela usa de fato, sem ameaça de punição, aparecem mais nove: corretor de currículo dentro da ferramenta de recrutamento, resumo automático de reunião que alguém assinou sozinho, extensões de navegador usadas pra rascunhar proposta, um complemento de planilha já fazendo previsão de venda. A lista real termina mais que o dobro da lista oficial. Esse uso não declarado tem nome, shadow AI, e ele não desaparece porque a empresa não perguntou sobre ele. ## O que isso tem a ver com LGPD Boa parte dos sistemas levantados processa dado pessoal: currículo, histórico de crédito, prontuário. A LGPD já exige que controlador e operador mantenham registro das operações de tratamento de dados pessoais que realizam. Quem já mantém esse registro tem metade dos campos do inventário de IA prontos: dado que entra e dado que sai são colunas que os dois documentos compartilham. Os dois não são o mesmo documento, o registro de tratamento documenta operação sobre dado pessoal e o inventário de IA documenta sistema e modelo, incluindo os que não tocam em dado pessoal nenhum, mas onde eles se cruzam vale linkar um ao outro em vez de duplicar o levantamento. ## Três erros comuns nesse levantamento O primeiro é confundir inventário de IA com inventário de software. Uma licença de ferramenta de produtividade com um botão de "resumir com IA" entra na lista de ativos de TI há anos; só vira item do inventário de IA quando alguém registra o que aquele botão decide ou recomenda, com que dado e para quem. O segundo é tratar o levantamento como auditoria pontual, feita uma vez pra satisfazer um questionário de cliente ou uma certificação, e arquivada depois. Um sistema que troca de fornecedor de modelo no meio do contrato, ou que passa a processar um dado novo depois de uma atualização, muda de risco sem avisar ninguém, e o inventário parado não capta essa mudança. O terceiro é concentrar o levantamento só em sistema voltado pra fora, o chatbot de atendimento, a recomendação visível ao cliente, e esquecer o que roda por dentro: triagem de currículo, priorização de chamado, detecção de fraude. Esses sistemas internos tomam decisão sobre pessoa com a mesma força que um sistema voltado pro cliente final, e costumam ser os que menos têm dono claro. ## O custo de pular essa etapa Ele não aparece no dia em que a política é publicada. Aparece meses depois, quando um cliente grande manda um questionário de due diligence perguntando quantos sistemas de IA a empresa opera, com que dado e sob qual risco, e a resposta precisa ser montada às pressas, sistema por sistema, porque nunca existiu de forma consolidada. Eu vejo o mesmo atraso em auditoria de sistema crítico fora do contexto de IA: quem audita primeiro pergunta o que existe, não o que está documentado em política. Um sistema sem dono nem registro é, para efeito de auditoria, um sistema que a empresa não controla, mesmo funcionando bem no dia a dia. ## Conclusão Avaliação de impacto, política de uso e auditoria interna de IA dependem de uma lista que já exista antes delas. Tentar qualquer uma das três sem esse inventário é desenhar controle para um sistema que ninguém provou que existe. Antes de aprovar qualquer política de uso de IA generativa, pergunte quem é o dono do inventário da sua empresa hoje. Se a resposta demorar mais que cinco segundos, já apareceu o primeiro ponto a resolver. Este texto é uma versão condensada de uma análise mais longa que publiquei em https://iso42001.com.br/artigos/inventario-sistemas-ia/
來源:DEV Community · dev.to