.webp){kind=small}
A Administração de Pequenas Empresas (SBA, na sigla em inglês) tem utilizado uma ferramenta de inteligência artificial para detectar fraudes em seus programas de empréstimo relacionados à COVID-19, mas não classificou o então projeto piloto como um caso de uso de alto impacto — uma classificação que exige que as agências federais atendam a padrões mínimos de práticas de gerenciamento de riscos, de acordo com o Escritório do Inspetor Geral da SBA.
Em um comunicado de gestão divulgado publicamente na segunda-feira, o órgão de fiscalização observou que a agência vem testando um programa de IA para identificar fraudes em empréstimos de assistência em desastres, incluindo o Programa de Proteção ao Salário e os Empréstimos para Desastres por Danos Econômicos.
O OIG afirmou que a SBA não incluiu o projeto-piloto de combate à fraude no inventário mais recente de casos de uso de IA listado em seu site público, embora tenha observado que a agência tem sido transparente sobre o uso da ferramenta. A revisão foi conduzida até abril, embora o inventário público da SBA ainda não inclua esse caso de uso até o momento da publicação.
O órgão de fiscalização citou um comunicado de fevereiro, no qual a SBA detalhou a suspensão de 111.620 empréstimos de mutuários da Califórnia suspeitos de fraude nos programas de empréstimo da agência durante a pandemia. O comunicado dizia, em parte, que a agência "recentemente firmou uma parceria com a Palantir para expandir a investigação nacional sobre o abuso dos programas PPP e EIDL".
Em janeiro, o FedScoop noticiou que a SBA (Administração de Pequenas Empresas dos EUA) havia assinado um contrato com a Palantir para fornecer um "Projeto Piloto e Treinamento Intensivo de Prevenção de Fraudes da SBA."
Posteriormente, em julho — após o período de revisão do OIG (Escritório do Inspetor Geral) — a SBA anunciou que estava formalizando o uso do software da empresa para prevenção de fraudes, que, segundo a SBA, "utiliza tecnologia avançada e inteligência artificial para revelar dados e pistas, apoiar a aplicação da lei penal e auxiliar na recuperação de fundos para os contribuintes americanos".
O OIG, no entanto, afirmou que a agência não parecia estar cumprindo os padrões federais de mitigação de riscos no que diz respeito à implementação piloto da tecnologia.
Em abril de 2025, o Escritório de Administração e Orçamento (OMB) divulgou um memorando solicitando que as agências tomassem medidas para mitigar quaisquer potenciais problemas decorrentes do uso de ferramentas de IA consideradas de alto impacto. O relatório do órgão de fiscalização afirmou que "o OMB presume que qualquer modelo de IA que afete a solicitação de uma pessoa por serviços ou benefícios federais essenciais, incluindo empréstimos, detecção de fraudes e julgamentos relacionados, seja de alto impacto".
Algumas das práticas mínimas de gestão de riscos que o OMB recomenda que as agências implementem para casos de uso de alto impacto incluem a realização de uma avaliação de impacto da IA, o oferecimento de soluções ou recursos consistentes para os afetados por decisões baseadas em IA e o fornecimento de supervisão humana adicional, intervenção e responsabilização pelo uso das ferramentas.
Embora o órgão de fiscalização tenha afirmado acreditar que o uso da ferramenta de detecção de fraudes pela SBA se enquadra na definição de uso de alto impacto do OMB, os investigadores escreveram que, quando conversaram com os gestores da SBA sobre o assunto, eles disseram que esse caso específico não se qualificava como de alto impacto, mesmo que o modelo pudesse potencialmente sinalizar empréstimos como fraudulentos.
O relatório do OIG também afirmou que "não recebeu documentação da agência que comprovasse a determinação" de que o caso de uso em questão não atendia à definição de alto impacto.
O órgão de fiscalização acrescentou que, como a SBA "não constituiu um conselho de governança de IA, conforme exigido pelas diretrizes do OMB, ela não demonstrou que sua liderança e seu Diretor de IA estabeleceram e supervisionaram um processo formal para determinar quais casos de uso de IA atendem à definição de alto impacto e para documentar essas determinações".
Juntamente com outras cinco recomendações para que a SBA (Administração de Pequenas Empresas dos EUA) reforce sua conformidade com os requisitos federais de IA (Inteligência Artificial), o OIG (Escritório do Inspetor Geral) solicitou que a agência desenvolva um processo consistente para identificar casos de uso de IA de alto impacto e fundamente suas decisões com documentação escrita.
O relatório do OIG é apenas a mais recente revisão de um órgão de fiscalização federal sobre o uso de IA pela SBA, que expressou preocupações sobre a supervisão da agência em relação às suas ferramentas. Uma auditoria de maio, divulgada pelo Escritório de Responsabilidade Governamental (GAO), também constatou que a agência não tem relatado de forma consistente um inventário de seus usos de IA.
Esse relatório do GAO acabou levando à aprovação, pela Câmara dos Representantes, de uma medida bipartidária em junho, que exigiria que a SBA (Administração de Pequenas Empresas dos EUA) relatasse ao Congresso o uso de IA e aprendizado de máquina, detalhando os benefícios e riscos dessas capacidades, as medidas que podem ser tomadas para mitigar os riscos e como a agência "pode manter a participação humana em decisões baseadas" nessas tecnologias. O Senado ainda não analisou o projeto de lei.
.jpg)
.webp)
.webp)
.jpeg)
