Esta é a segunda mini crônica das minhas interações com o Copilot, a inteligência artificial anunciada pela Microsoft no SuperBowl. Nessa conversa, falamos sobre as IAs e, depois de certa insistência de minha parte, consegui obter respostas que apontavam a alguns caminhos de discussão: Falta de transparência; Racismo; Privacidade; Dilemas Éticos; riscos de segurança [pública] e Concentração de poder. Aqui, você acompanha nossa conversa sobre transparência.
O Copilot me disse, em um primeiro momento, que encontrou quatro tópicos que melhorariam a questão da transparência, identificada como um risco das IAs para a humanidade. De fato, quando vemos as discussões sobre essa tecnologia permearem os meios de comunicação, artistas e acadêmicos criticam com veemência a característica fechada dessas tecnologias. A humanidade estaria, então, se entregando a um processo que recebe o nome marketeiro de inteligência, sem sequer conseguir entender quais são as suas lógicas e sem poder auditar essas máquinas, quer seja preventivamente, quer seja para remediar problemas já ocorridos.
Os outros riscos que o Copiloto IA citou em relação às IAs poderiam ser mitigados por auditorias de transparência. Cathy O’neil imortalizou em seu livro “Weapons of math destruction” como a quebra de sigilo de sistemas de dosimetria penal nos EUA revelou por quais mecanismos o sistema estava sendo racista e permitiu que fossem corrigidos, ao invés de serem tidos como naturais e resultado de algum tipo mítico de ciência algorítmica.
O Copiloto da Microsoft não me mostrou muito como chegou aos resultados que chegou, apenas citou três ou quatro fontes, dependendo da resposta, o que seria, como reparei no primeiro texto dessa série, adequado para uma avaliação do Ensino Médio. Talvez seja a IA emulando a ideia do jovem como futuro da humanidade.
Uma solução que o Copiloto encontrou para dirimir o obscurantismo das IAs é a regulamentação, que efetivamente não existe hoje. Apesar de haver muita pressão para que Estados passem a pensar no assunto, o lobby das empresas de tecnologia tem conseguido paralisar a sociedade o suficiente para criar modelos obscuros e sigilosos, cujos defeitos e perigos podem ser meticulosamente mascarados por quanto tempo for possível. Isso porque a regulamentação e a transparência desaceleram o desenvolvimento, a eficiência e até a lucratividade dessas plataformas.
Até agora, tenho achado difícil manter uma conversa com o Copiloto, cuja programação está condicionada a fornecer textos informativos e pontuais como resposta. A minha postura de pesquisa, simulando minha criança interior, que deseja “trocar ideia” com a inteligência artificial, aponta para uma das maiores fragilidades desses sistemas: conseguirem construir textos legíveis e relativamente coerentes, mas sem saber exatamente o que estão fazendo e o que estão “falando”. Conseguimos até avançar nos assuntos, mas sempre chegamos a respostas superficiais e estruturadas em tópicos descritivos.
Isso porque essa linguagem da máquina representa, antes de tudo, um modelo matemático, pré-programado, constrito em suas fontes e aprendizado. Por essa razão, as IAs têm cada uma delas habilidade em realizar apenas algum tipo de tarefa específica, e ainda exigem, em seu conjunto, que nós saibamos guiá-las para que satisfaçam, ainda que minimamente, nossa necessidade pontual.
Continuarei tentando conversar com o Copiloto para desvendar, como minha criança interior, os limites da IA. Acompanhe aqui no blog!