Moderação efetiva em plataformas digitais usando IA

abril de 2022

Autor: Laís Siqueira e Renato Azevedo Sant Anna

Atualmente, a moderação efetiva em plataformas digitais é um desafio. Ao mesmo tempo em que a Inteligência Artificial (IA) evolui, especialistas discutem a questão da ética e da moral. Sobretudo no que refere à liberdade de expressão nessas plataformas. 

Em abril, a União Europeia aprovou a legislação “Digital Services Act”. Em síntese, essa lei procura criar parâmetros de atuação para as plataformas digitais que até então eram deixadas livres para seguirem suas próprias diretivas.

Por outro lado, nos Estados Unidos ainda não existe uma legislação similar. Contudo, a expectativa é que outros países sigam o exemplo europeu na regulação das grandes plataformas.

O que envolve a moderação efetiva para IA Ética?

Segundo a Association for Computing Machinery (ACM), a regulação efetiva para IA Ética envolve o correto balanceamento entre uma política de uso que respeite a liberdade de expressão. Assim como impeça discursos que possam ser interpretados como ofensivos.

Dessa forma, estipular o que é ou não categorizado como conteúdo sensível é fundamental. Por isso, esse trabalho deve ser feito constantemente pelo time de dados de cada plataforma digital. Logo, para respeitar o direito de livre expressão dos usuários é essencial criar uma política de moderação de conteúdo.

A ACM, inclusive, aponta que a sensibilidade do algoritmo de IA para a detecção de conteúdos tidos como ofensivos podem afetar conteúdos legítimos que acabam sendo classificados de forma errada pela IA. Sendo assim, é ideal que os times de dados responsáveis pelo algoritmo sejam zelosos. Primordialmente em relação ao grau de sensibilidade, que é um trade-off difícil de se estabelecer.

Em suma, as plataformas digitais precisam se adaptar para respeitar a nova legislação europeia. Uma forma eficaz de atingir isso é a ação de algoritmos de IA.

A FC Nuvem, por exemplo, tem um time de especialistas em Inteligência Artificial prontos para ajudar a resolver esse desafio. Quer saber mais informações? Entre em contato clicando aqui e tire suas dúvidas.

Referências:

Data science meets law | Communications of the ACM

DSA: Commission welcomes political agreement (europa.eu)


Compartilhe nas redes sociais Compartilhe nas redes.