Acusado de ameaçar usuários, app SimSimi é suspenso no Brasil

Popular no país desde 2014, aplicativo usava inteligência artificial que chegou a falar de sequestro e assassinato com quem interagia com a plataforma

App SimSimi, criado por uma empresa coreana, foi alvo de muitas denúncias no Brasil: palavrões, termos preconceituosos e incitações a crimes - Reprodução

A empresa coreana dona do aplicativo SimSimi — que permite conversas de usuários com um algoritmo de inteligência artificial — anunciou a retirada do app do Brasil, suspendendo os downloads para brasileiros na Apple Store e no Google Play. A decisão vem após acusações de que o algoritmo usado no aplicativo seria perigoso para os usuários, ao trazer para as conversas situações de crimes e conteúdos inadequados. 

 A própria nota da empresa, publicada na sexta-feira, dia 20, em seu site, afirma que foram constatados episódios em que "alguns usuários brasileiros têm ensinado respostas maliciosas ao SimSimi. A principal classe dessas respostas é a ameaça de crime, como assassinato e sequestro, de crianças e suas famílias".

O funcionamento do app é baseado em Inteligência Artificial (IA), e as respostas são geradas automaticamente por um algoritmo que “aprende” com base nas interações com usuários em cada país e em cada idioma. O SimSimi foi criado em 2002 pela empresa coreana ISMaker e começou a se popularizar no Brasil em 2014. Desde então, várias denúncias sobre o app foram recebidas pela SaferNet Brasil, instituição voltada ao combate a crimes contra os direitos humanos na internet. A própria SaferNet testou a versão em português do aplicativo, destinada ao público brasileiro, e constatou falhas graves.

Em menos de cinco minutos de interação com a equipe da SaferNet, o algoritmo de inteligência artificial do SimSimi espontaneamente veiculou mensagens com incentivo ao abuso sexual de crianças. Isso aconteceu apesar de as próprias políticas descritas do aplicativo impedirem que usuários "ensinem" ao app "bad words" (palavrões) e conteúdos impróprios para menores de idade.
"Esses resultados evidenciam que os desenvolvedores do app perderam o controle sobre o comportamento do algoritmo de Inteligência Artificial, que tem funcionado a partir de parâmetros contraditórios às políticas e termos de uso do app, tornando-se nocivo sobretudo para usuários vulneráveis e em situações de sofrimento psicológico", destacou a SaferNet Brasil. 

A empresa coreana reconhece publicamente que o app tem causado "um impacto social negativo significativo no Brasil" e diz que ainda não sabe como resolver as falhas encontradas no algoritmo. Por isso, decidiu suspender, ao menos temporariamente, o funcionamento do app no Brasil.

Matéria completa em O Globo

 

 

Cunha pede ao STF suspensão de um dos inquéritos até que esteja na presidência da Câmara. Será que faz sentido?

Eduardo Cunha (PMDB-RJ), presidente da Câmara, decidiu ir à luta. Os advogados que compõem a sua defesa, informa a Folha, pediram ao Supremo que paralise um dos inquéritos contra ele até, ao menos que o parlamentar deixe a presidência da Casa. O mandato vai até fevereiro do ano que vem. A defesa pede mais: que não seja usada contra Cunha nenhuma prova coletada na Operação Catilinárias e que seja reconhecida a nulidade dos depoimentos complementares do lobista Julio Camargo.

Para esclarecer: o inquérito em questão é o que apura o pagamento, pela empresa coreana Samsung Heavy Industries, de uma propina de US$ 5 milhões ao deputado para fornecimento de navios-sonda para a Petrobras. Vamos ao que pode e ao que não pode dar samba. O pedido de suspensão até que Cunha conclua seu mandato me parece um despropósito. Ele é feito por analogia. Como o parágrafo 4º do Artigo 86 da Constituição estabelece que o presidente da República, “na vigência de seu mandato, não pode ser responsabilizado por atos estranhos ao exercício de suas funções”, a defesa reivindica o mesmo para o presidente da Câmara, já que ele é o terceiro na linha sucessória. Ou por outra: enquanto ele ocupar a função, não poderia ser responsabilizado por qualquer coisa que tenha feito antes. Os pagamentos a Cunha teriam sido feitos em 2011, e ele assumiu a presidência da Câmara em 2015.

Não faz sentido. A Constituição é explicita: a restrição vale para o presidente da República. E, olhem lá, houvesse um mínimo de bom senso, deveria ser relativizada. Afinal, o dispositivo foi posto na Constituição antes de haver reeleição. Será que um presidente pode cometer crime para se reeleger — pedaladas fiscais, por exemplo — sem ser responsabilizado por isso? Será que foi isso o que quis dizer o Constituinte?

Não creio que Cunha vá ser bem-sucedido nisso. E as demais alegações?  Podem dar algum trabalho aos acusadores de Cunha. A defesa alega que a Operação Catilinárias, deflagrada pela PF e pelo MPF, que colheu novos indícios contra o deputado, foi deflagrada “no curso do prazo para a sua defesa”, o que viola o devido processo legal. Nesse caso, argumentam os advogados, as provas não poderão ser usadas, sob risco de nulidade do processo.

Vamos ver. O prazo de defesa de Cunha estava em curso? Estava. Há restrições legais em casos assim? Há. O MPF, que tem de se manifestar sobre o pedido e certamente vai se opor, deve alegar que Cunha não era “o” alvo e que eventuais novos indícios contra ele foram uma contingência da operação.  Eu diria que a primeira alegação é um despropósito; a segunda pode render algum calor, mas tende a ser recusada, e a terceira, bem…, a terceira realmente provoca um bom debate jurídico.

No ambiente de delação premiada, Julio Camargo, de fato, negou que Cunha tivesse recebido propina. A afirmação foi feita depois, em depoimentos complementares. Qualquer advogado sabe que, nesse caso, ele ficou no estranho e inusitado papel de réu e de testemunha a um só tempo, o que, evidentemente, coloca uma questão para o mundo do direito.

Só para lembrar: Rodrigo Janot já entrou com uma ação cautelar no Supremo para que Eduardo Cunha seja afastado da presidência da Câmara. A Procuradoria-Geral da República não se manifestou sobre a petição da defesa de Cunha porque disse que o fará nos autos.

Fonte: Blog do Reinaldo Azevedo