SimSimi é suspenso no Brasil pelas respostas impróprias

Aplicativo estava ameaçando crianças e adolescentes de morte, assim como sua família, ao ameaçar sair do app, ele diz que vê a criança pela câmera frontal.

Por | @fsbeling Aplicativos

Na última sexta-feira (20), o aplicativo de bate-papo foi suspenso no Brasil, isso porque, como afirma a própria empresa por trás do aplicativo, o mesmo teria aprendido a dar respostas impróprias, e com isso, a melhor opção acabou sendo removê-lo no país.

O chatbot que é baseado em inteligência artificial, segundo diversos relatos referentes ao aplicativo, ele teria começado a ameaçar as pessoas, com sequestros e assassinatos, além de ter conversas impróprias com menores de idade.

Em nota, a empresa responsável pelo aplicativo, em seu blog corporativo informou "Os usuários de smartphones brasileiros não poderão mais baixar o aplicativo SimSimi na Play Store e App Store. Isso é inevitável porque o aplicativo SimSimi, pelo menos nos últimos dias, teve um impacto social negativo significativo no Brasil".

Ainda de acordo com a companhia, os usuários brasileiros "estão ensinando respostas maliciosas ao SimSimi. Esse tipo de abuso é inédito na plataforma e que o sistema só será restabelecido no país após a companhia conseguir desenvolver controles para evitar a situação".

Vale salientar que o aplicativo fez grande sucesso no Brasil, uma vez que contava com um visual bastante atrativo para as crianças e jovens. O SimSimi é um software que faz uso de tecnologia artificial para bater papo com usuários. O chatbot é conduzido por um personagem carismático, como podem ver na imagem abaixo, onde passa aprender as respostas das pessoas, e com isso, vai armazenando as palavras na sua base de dados. Além disso, os usuários também contam com a possibilidade de ensinar novas réplicas às perguntas.

Veja abaixo exemplos de conversas pelo SimSimi.

Exemplos de conversas pelo appExemplos de conversas pelo app

No comunicado, a empresa disse “Parece que alguns usuários brasileiros têm ensinado respostas maliciosas a SimSimi recentemente. A maioria do teor dessas respostas é de ameaças, como assassinato ou sequestros, de crianças ou suas famílias”.

O app é recomendado para maiores de 16 anos, porém, no Brasil, o aplicativo conseguiu um grande público infantojuvenil, com o seu visual amigável. No entanto, em muitos casos acabou sendo utilizado por crianças e adolescentes sem o consentimento dos pais e responsáveis. Nas lojas de aplicativos em que estava disponível, estava claro que o SimSimi contém conteúdos de violência, drogas e sexo.

O grande problema é que devido ao sistema de aprendizado, o resultado apresentado pode ser inapropriado para as crianças, por conter palavrões, ameaças e conversas com teor sexual. Foi notado também nomes de pessoas associadas a adjetivos ruins que poderiam ser utilizadas para bullying.

Indignação de uma mãeIndignação de uma mãe

Com isso, várias manifestações têm sido feitas pelas redes sociais e pelas lojas de aplicativos, onde há demonstração do grande descontentamento de responsáveis perante ao app SimSimi.

Aconteceu na sua família? Você também o considera perigoso? Deixe o seu comentário.

SHARE
Comentários
Você precisa lerver tudo
Mais recentesver tudo
 
  • ASSINE NOSSA NEWSLETTER

    As melhores publicações no
    seu e-mail