Em Movimento #14: tecnologia e grafite promovem a cidadania
IA demanda transparência de conteúdo 25 anos Valor Econ?mico.txt
André Gildlin: “Devemos ter pensamento crítico em rela??o ao conteúdo e,ênciadeconteúdoanosValorEcon?poker star satellite na dúvida, buscar outras fontes” — Foto: Pedro Flausino/Divulga??o Treinados a partir da varredura de uma base massiva de informa??es disponíveis na internet e em repositórios específicos, os modelos de inteligência artificial (IA) colocam em evidência a necessidade de mitigar os riscos de conteúdos falsos n?o serem apenas intencionais, mas resultado da falta de identifica??o de fontes id?neas, sem inibir o desenvolvimento de projetos inovadores baseados na tecnologia. Tarefa que os especialistas consideram desafiadora face a complexidade em se atingir o ponto de equilíbrio dessa balan?a. A identifica??o da fonte das informa??es é considerada um fator crítico. Os desenvolvedores até conseguem saber com certa precis?o onde está ocorrendo o processo de minera??o de dados que geram o conteúdo fornecido pela IA, mas como essa varredura é feita em escala gigantesca fica muito difícil saber se o conteúdo que os usuários obtêm é verdadeiro ou falso. window._taboola = window._taboola || []; _taboola.push({ mode: 'organic-thumbs-feed-01-stream', container: 'taboola-mid-article-saiba-mais', placement: 'Mid Article Saiba Mais', target_type: 'mix' }); De acordo com Henrique Fabretti, CEO do Opice Blum Advogados, a alucina??o é uma característica da plataforma. Significa que, apesar de seu processo de aprimoramento ao longo do tempo, os modelos de IA seguir?o fornecendo informa??es erradas. “Ela pode alucinar mais ou alucinar menos. Mas se pensarmos em alucina??o como uma característica oposta à acurácia, nunca teremos uma IA totalmente acurada”, diz. O risco de propaga??o de conteúdos falsos sempre existirá. A era digital diminuiu as barreiras para acessar informa??es, ou seja, o usuário pergunta e recebe respostas das mais variadas fontes: balizadas, totalmente artificiais ou exploratórios. “é uma característica do mundo atual”, salienta Demi Getschko, diretor-presidente do Núcleo de Informa??es e Coordena??o do Ponto Br (NIC.br), órg?o responsável por implementar as decis?es e projetos do Comitê Gestor da Internet no Brasil (CGI.br). Embora ressalte a importancia de aperfei?oamento dos mecanismos de controle para que os sistemas de IA possam fornecer informa??es as mais fidedignas possível, André Gildlin, vice-presidente de estratégia da Associa??o Brasileira de Inteligência Artificial (Abria), atribui aos usuários papel relevante na checagem da veracidade do conteúdo. “Devemos ter pensamento crítico em rela??o ao conteúdo e, na dúvida, buscar outras fontes”, afirma. As empresas já disp?em de técnicas que permitem validar a origem dos dados minerados para a cria??o de conteúdo. Um deles é a marca d’água digital, aplicada principalmente em imagem, que funciona como uma espécie de assinatura do que é gerado pela plataforma. Outro é a indica??o às referências que serviram de base para a resposta. “S?o solu??es técnicas bem-vindas para coibir a difus?o de fake news”, afirma Rodolfo Avelino, professor de Ciência da Computa??o do Insper. Uma das startups que desenvolveram plataforma de IA está fazendo pesquisas para tentar identificar de onde surgiram “peda?os” (trecho de textos, uma palavra ou parte de uma imagem, por exemplo) inseridos na resposta que a IA fornece aos usuários, acrescenta Fabretti, do Opice Blum Advogados. A preocupa??o n?o é somente com a origem e a acuracidade dos dados, mas também com a propriedade intelectual. O grande debate no direito é se os sistemas de IA poderiam acessar informa??es que est?o protegidas por direitos autoriais para extrair um padr?o e gerar conteúdo. “A única forma de o sistema ser ‘responsável’ é permitir o acesso aos dados até para informar que o conteúdo solicitado pelo usuário n?o pode ser replicado por estar protegido”, afirma Luís Fernando Prado, sócio do Prado Vidigal Advogados e conselheiro da Abria. Além das ferramentas de rastreamento, o marco legal é visto como um mecanismo para exigir transparência e atribuir responsabilidades pelos resultados que as plataformas de IA geram. Em tramita??o no Congresso Nacional, o Projeto de Lei 2338 contém princípios de preven??o, precau??o e mitiga??o de riscos e danos causados, raz?o pela qual é considerado no mundo jurídico um instrumento de regula??o de extrema relevancia. Mas se a transparência da plataforma de IA é um tema que ninguém discute, o mesmo n?o ocorre com o seu alcance. Existe o temor de que a restri??o excessiva de acesso à base de dados possa comprometer a qualidade de treinamento das plataformas. Outro receio é que a regula??o do conteúdo para mitigar o risco de propaga??o de fake news possa frear o fomento à inova??o. “O Brasil tem uma carência muito grande de inova??o. Se inibirmos os projetos, corremos o risco de ficar para trás. O ideal seria ter liberdade para inovar e proteger o conteúdo”, diz Gildlin, da Abria.
