OpenAI, dona do ChatGPT, proíbe criação e uso de chatbots por políticos ou governos

A OpenAI estabeleceu limites para o uso de suas ferramentas na política durante a preparação para as eleições de 2024 nos EUA, em meio à crescente preocupação com que sistemas de inteligência artificial possam produzir desinformação em massa e influenciar eleitores em disputas eleitorais de maior porte.

O ChatGPT e o Dall-E da OpenAI são algumas das aplicações de chatbot e geração de imagens mais poderosas disponíveis em inteligência artificial. O crescimento dessas ferramentas tem levantado preocupações sobre o software desenvolvido pela OpenAI e seus pares ser usado para manipular eleitores com notícias falsas e imagens e vídeos gerados por computador.

Durante uma série de esclarecimentos em suas políticas feitas nessa segunda-feira (15), a OpenAI afirmou que as pessoas não têm permissão para usar suas ferramentas para campanhas políticas e lobby. Também não é permitido criar chatbots que se passam por candidatos e outras pessoas reais, ou chatbots que fingem ser governos locais, afirmou.

Para ajudar os eleitores a avaliar melhor se as informações ou imagens são geradas por IA, a OpenAI disse que começará a codificar detalhes sobre a origem das imagens geradas pelo Dall-E ainda no primeiro trimestre deste ano. A empresa também está fornecendo cada vez mais links e atribuições a relatórios de notícias para ajudar os eleitores a avaliar a confiabilidade do texto gerado. Mas há um ceticismo, especialmente no meio político, com relação à força das empresas de tecnologia serem capazes de contere seus sistemas de Inteligência Artificial.

Fonte: Convergência Digital