O perigo da inteligência artificial: especialistas publicam carta aberta
Tecnologia, negócios e comportamento sob um olhar crítico
Um grupo de especialistas em inteligência artificial (IA), composto por atuais e ex-funcionários de empresas do setor, divulgou uma carta aberta apontando os perigos dessa tecnologia. A carta, intitulada “O direito de alertar sobre inteligência artificial avançada”, é assinada por 13 pessoas, sendo a maioria ex-colaboradores da OpenAI, empresa responsável pelo ChatGPT.
Outros dois participantes, um atualmente empregado e outro ex-colaborador, são do laboratório de IA DeepMind, ligado ao Google, sendo que um deles também trabalhou na Anthropic, responsável pelo chatbot Claude.
O que diz a carta aberta sobre IA
O conteúdo da carta critica a postura das empresas de IA em relação à transparência e operação responsável da tecnologia. O grupo destaca a falta de abertura das companhias em compartilhar informações com a sociedade, enfatizando a importância de governos, entidades independentes e a população terem acesso a esses dados.
Segundo o texto, as empresas de IA têm forte incentivo financeiro para evitar uma supervisão eficaz, demonstrando preocupação com a falta de transparência e governança corporativa insuficiente nesse contexto.
Como regular a atividade das empresas de IA?
Os especialistas propõem que as empresas de IA não restrinjam críticas de funcionários e estabeleçam processos confiáveis e anônimos para alertas e relatórios de riscos. Além disso, é enfatizada a importância de apoiar uma cultura de críticas abertas e permitir que os funcionários relatem problemas das tecnologias ao público.
Recentemente, a OpenAI criou um comitê de Segurança e Proteção para supervisionar suas operações com IA, mesmo após utilizar uma voz similar à de Scarlett Johansson em seu chatbot, mesmo com a negativa da atriz.
Até o momento, as empresas DeepMind, OpenAI e Anthropic não se pronunciaram sobre a carta aberta. O documento completo pode ser acessado em inglês através deste link.
Fonte: Tecmundo
Já segue o macuxi nas redes sociais? Acompanhe todas as notícias em nosso Instagram, Twitter, Facebook, Telegram e também no Tiktok
