Pesquisa que orienta nossas decisões.

Investigamos proteção de dados, controle de acessos, erros nas respostas dos modelos e documentação de decisões automatizadas. Os estudos incluem anonimização, redução da quantidade de dados utilizados e avaliação de riscos. A atenção à privacidade orienta tanto a organização dos experimentos quanto a análise das possíveis aplicações.

Pesquisamos classificação de textos, identificação de nomes e entidades, respostas a perguntas e produção de resumos. Também avaliamos sistemas que consultam documentos antes de gerar uma resposta, técnica conhecida como RAG. O objetivo é compreender o comportamento dessas ferramentas, suas limitações e os cuidados necessários em cada contexto.

Os estudos começam com uma pergunta e critérios definidos para avaliar os resultados. Organizamos os experimentos, registramos versões e analisamos limitações e riscos antes de formular recomendações. Esse registro permite comparar alternativas e compreender as condições em que os resultados foram obtidos.

As entregas incluem relatórios, protocolos, conjuntos de dados sintéticos e orientações para avaliação e governança. Esses materiais apoiam as equipes da B&M Adapta. As publicações são internas por padrão, e eventuais divulgações externas consideram a privacidade, a segurança e os compromissos institucionais envolvidos.

Materiais como o NIST AI Risk Management Framework e a ISO/IEC 42001 servem de referência para a gestão de riscos e a organização dos estudos. O uso dessas referências não representa uma certificação. As recomendações do Lab são analisadas conforme o contexto e a capacidade das equipes.