Regulamentação de IA é urgente no Brasil e há ‘miopia’ no mercado
O ministro do Superior Tribunal de Justiça e ex-chefe da Comissão de Juristas do Senado para discutir a regulamentação de IA no Brasil, Ricardo Villas Bôas Cueva, disse ser urgente aprovar a regulamentação do uso de Inteligência Artificial no Brasil e diz que há ‘miopia e resistência da indústria’. O risco de não ter uma regulamentação é o Brasil enfrentar situações complexas mais à frente e perder o bonde da história.
Ao jornal O Globo, o ministro do STJ afirmou que ainda “há uma resistência da indústria” à regulamentação, devido aos custos que surgiriam. Porém, “há certa miopia desses setores, porque é a regulação que vai permitir que isso se desenvolva com segurança”.
O trabalho da comissão de juristas deu importância a princípios e diretrizes, mas também estabeleceu direitos dos usuários e uma classificação de riscos.Uma das prioridades foi evitar que os algoritmos aumentem a discriminação. Pessoas de origem africana ou asiática, por exemplo, geralmente são prejudicadas por IAs de reconhecimento facial, porque a base de dados se baseia em critérios de uma única etnia (branca).
Há também um “viés antiminorias” em IAs utilizadas por departamentos de recursos humanos para pré-seleção de currículos. As máquinas geram distorções e criam barreiras artificiais porque a maioria dos contratados são homens, por exemplo. O magistrado destacou que as ferramentas de IA dificultam o rastreamento da origem das informações, o que pode contribuir para a propagação de fake news: “Esses textos amalgamados são produzidos por máquinas que não pensam, que trabalham com uma agregação enorme de dados e conseguem simular um entendimento, mas não sabem exatamente o conteúdo do que está sendo dito”.
O texto trazido pela comissão já previu que o uso da IA no Judiciário é uma atividade de alto risco e, por isso, exige um cuidado maior. De acordo com o ministro, isso significa uma “auditoria do algoritmo”. Ou seja, é necessário “fazer uma análise prévia, para ver se tem algum risco de discriminar ou enviesar”. Na visão de Cueva, as máquinas devem ser usadas na Justiça apenas para fazer pesquisas, e nunca para substituir as pessoas. “O ser humano é indispensável para exatamente julgar, o que é uma faculdade humana”, pontuou. O projeto apresentado ao Senado prevê a gradação de risco dos sistemas de IA, lista direitos dos afetados por decisões automatizadas e prevê um novo órgão governamental para supervisionar o uso das soluções.
Fonte: Convergência Digital com informações do portal Conjur e do Jornal O Globo
