Na semana passada, um recém-criado Conselho de Inteligência Artificial e Sociedade lançou uma consulta pública com uma pergunta tão ampla quanto capciosa: o que o Brasil quer da inteligência artificial?
A consulta pública – que apresenta como aberta e participativa, mas é encabeçada por instituições privadas e tem como conselheiros representantes de empresas interessadas – foi lançada em um momento crucial.
Na quarta-feira, 24, o senador Eduardo Gomes, do PL do Tocantins, apresentou o relatório preliminar sobre regulação de IA, fruto do trabalho da Comissão Temporária Interna criada pelo Senado para discutir o tema.
Gomes disse que é uma proposta "pró-inovação e protetiva de direitos". "O Brasil não será colonizado na corrida pela inteligência artificial. A regulação não é urgente. Urgente é a proteção dos direitos do cidadão", ele declarou.
O texto prevê diretrizes gerais, como o desenvolvimento de IA pautado na ética, a avaliação prévia de riscos dos sistemas e a obrigatoriedade de "avaliação de impacto algorítmico", além da proteção aos direitos autorais – já que obras criativas são utilizadas para treinamento de IA.
Só que, ao mesmo tempo, sua proposta prevê o uso de uma das mais perigosas aplicações de inteligência artificial: a identificação biométrica à distância – como o reconhecimento facial – que será permitida para fins de investigação e repressão de crimes.
Esses sistemas, sabemos, são discriminatórios e falhos, sobretudo por automatizar o encarceramento e a criminalização da população negra. Mas são muito bons como propagandas de governos e para torrar dinheiro público.
Mas piora. O projeto apresentado também prevê o uso de armas autônomas, letais ou não, com uma vaga condição de "controle humano significativo". Para entender os problemas disso, basta olhar para o que Israel está fazendo em Gaza, que eu contei neste mesmo espaço três semanas atrás.
A proposta está em discussão no Senado. Depois, ainda deve passar pela Câmara. Enquanto o texto é debatido no Congresso, o Conselho de Inteligência Artificial e Sociedade lançou sua consulta paralela: o que o Brasil quer da inteligência artificial?
A proposta, segundo os organizadores, é "elaborar de forma participativa e aberta o texto legal da possível regulação da inteligência artificial" no Brasil. A pergunta é capciosa por uma razão simples: o que quem está perguntando quer?
O Conselho é uma iniciativa do Instituto Tecnologia e Sociedade e da Abranet, associação de empresas de internet. Reúne membros da sociedade civil e de empresas, como a Fundação Itaú, Albert Einstein e a influenciadora Nathalia Arcuri.
É importante criar espaços de debate, especialmente em um tema que está longe de consenso. Mas é importante também entender quais são esses espaços de debate. A iniciativa mostra que os interessados nessa regulação têm mecanismos sofisticados para amplificar sua influência.
Os criadores do Conselho alegam que a criação de vários foros de discussão é benéfica. Que haverá consultas presenciais em eventos como a Campus Party, e que as respostas serão encaminhadas ao Senado e à Câmara.
Usam como exemplo o Marco Civil da Internet, que também foi feito de forma participativa em sua fase inicial. Só que tem uma diferença: aquela consulta, em 2009, foi feita pelo governo, ainda que tenha tido a participação de entidades privadas. A iniciativa partiu do Ministério da Justiça, e não de entidades e empresas interessadas na regulação.
O tema deve chegar logo na Câmara, já que o presidente da casa, Arthur Lira, anunciou que quer discutir IA junto com redes sociais. Notícias já mostram que, na Câmara, a proposta do Senado já é vista como excessivamente rígida para as empresas.
É a velha dicotomia proteção de direitos versus inovação, presente em todas as discussões sobre regulação de tecnologia. Foi assim com o Marco Civil da Internet e com a LGPD. Mas quem está defendendo a inovação e por quê? E de que tipo de inovação estamos falando?
É preciso entender o jogo de interesses e saber quem está, de fato, sendo ouvido. Provavelmente o que as empresas que perguntam querem não é o mesmo do torcedor que foi preso indevidamente após um reconhecimento facial errado em um estádio em Sergipe. Quem deve capitanear essa discussão?
Nenhum comentário:
Postar um comentário