Inteligência Artificial avança no governos federal e estaduais, mas sem política de transparência

O uso de tecnologias emergentes chegou ao poder público, como mostra a nova edição da pesquisa TIC Governo Eletrônico, realizada a cada dois anos pelo Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação, Cetic.br, do NIC.br, divulgada nesta terça-feira, 26/07. Em especial sistemas de inteligência artificial.

A inteligência artificial é de longe a tecnologia emergente mais mencionada, por cerca de metade dos órgãos federais (45%) e 22% dos estaduais. Mais ainda no Legislativo, 55%, e 50% do Ministério Público. “Cerca de 70 órgãos federais e 300 no âmbito estadual, totalizando quase 400 órgãos públicos que já utilizam inteligência artificial”, afirmou a coordenadora da pesquisa, Manuela Ribeiro.

Os tipos de inteligência artificial mais utilizados foram aprendizagem de máquina para predição e análise de dados (32% dos órgãos federais e 9% dos estaduais) e automatização dos processos de fluxo de trabalho (31% dos órgãos federais e 11% dos estaduais).

Destaca-se ainda o uso de tecnologias de mineração e análise de linguagem escrita por um a cada quatro órgãos federais. Já o reconhecimento e processamento de imagens foram citados por 13%, o reconhecimento de fala, que converte a linguagem falada em formato legível para máquina, por 10%; a geração de linguagem natural por 7% e a movimentação de máquinas autônomas, como robôs, veículos ou drones, por 1%.

Além da pesquisa quantitativa, a TIC Governo Eletrônico faz análises sobre o impacto do uso de tecnologias e lembra que “tais aplicações possibilitariam benefícios, como a melhoria da tomada de decisão, da prestação de serviços públicos e da economia de recursos, num patamar dificilmente alcançado sem o apoio dessas tecnologias”.

Mas enquanto o uso desses sistemas de IA aumentou, especialmente para dar respostas à pandemia de Covid-19, “também ampliou preocupações quanto à segurança e à proteção da privacidade e dos dados pessoais de cidadão”. Nessa linha, a pesquisa chama a atenção para a importância da transparência aos algoritmos, como forma de possibilitar aos cidadãos entenderem o modo de operação dos sistemas de IA.

“A principal propriedade da transparência algorítmica é a possibilidade de saber como um sistema de IA opera, seus atributos, fatores, critérios, decisões de design e dados utilizados que conduzem às operações realizadas pelo sistema. Isso pode parecer algo simples de ser alcançado, mas a complexidade dos algoritmos gera vários desafios em sua implementação na administração pública, como a necessidade de capacitar os funcionários públicos, a interação entre o que é divulgado pela administração e o sigilo garantido aos criadores de sistemas de IA pelos regulamentos de propriedade intelectual; a determinação de quem deve ser informado sobre esses assuntos; a interação dos desenvolvedores de sistemas de IA e membros da administração pública com o objetivo de coordenar esforços para alcançar a transparência algorítmica, entre outros. Como não há apenas uma solução para essas questões e incógnitas, é necessário analisar e avaliar a forma como esses sistemas se relacionam com os novos cenários.”

Fonte: Convergência Digital