Oficina da Net Logo

Inteligência artificial que identifica discurso de ódio é burlado com palavra amor

A maneira de conseguir enganar a IA está justamente no modo de encontrar as ofensas.

Por | @oficinadanet Google

O Google tem desenvolvido uma plataforma de inteligência artificial para conseguir identificar e ainda punir os discursos de ódio que circulam pela internet. A ferramenta em questão usa palavras-chaves que podem contar em conteúdos relacionados à violência ou mesmo linguagem obscena.

Porém, ao que tudo indica, burlar o sistema de identificação parece não ser tão complicado. Um método revelou que as possibilidades de o algoritmo do Google não detectar algum palavrão diminui quando, ao meio dos comentários, existe o termo “amor” em algum trecho.

Inteligência artificial que identifica discurso de ódio é burlado com palavra amor.Inteligência artificial que identifica discurso de ódio é burlado com palavra amor.

A maneira de conseguir enganar a IA está justamente no modo de encontrar as ofensas. A ferramenta acaba dando uma nota em porcentagem para algum comentário considerado negativo. Deste modo, a presença da palavra “amor” e anda outros termos positivos diminuiu o valor atribuído ao texto para que ele pudesse ter sido excluído.

Com a descoberta para burlar a tecnologia, o Google deverá aprimorar o seu recurso e deixar a sua criação ainda mais inteligente. Uma das medidas será o Google entender qual a intenção real do texto e o contexto de um termo.

Fonte: TheNextWeb

COMPARTILHE
Comentários
Carregar comentários