Blog Prontidão Total NO TWITTER

Blog Prontidão Total NO  TWITTER
SIGA-NOS NO TWITTER
Mostrando postagens com marcador SaferNet Brasil. Mostrar todas as postagens
Mostrando postagens com marcador SaferNet Brasil. Mostrar todas as postagens

sábado, 16 de março de 2019

‘Esconderijos’ da internet desafiam investigação sobre crimes de ódio

Sob anonimato, integrantes de redes ocultas coordenam assédios virtuais e têm minorias como alvo preferencial. Mesmo com toda dificuldade, número de ações na Justiça acompanhadas pelo Ministério Público Federal cresceram 29% entre 2017 e o ano passado

 O massacre na Escola Estadual Raul Brasil, em Suzano, na Grande São Paulo, expõe o avanço de grupos e crimes cibernéticos de propagação de ódio. A participação de uma dessas redes no atentado, que deixou 10 mortos e 11 feridos na quarta-feira, é investigada pelo Ministério Público Estadual (MPE). Ataques virtuais contra negros e mulheres e a incitação de crimes contra a vida são planejados e apoiados em fóruns na internet profunda que celebraram o massacre em Suzano. 
 Entre 2017 e o ano passado, houve aumento de 29% no número de ações na Justiça acompanhadas pelo Ministério Público Federal (MPF) relacionadas a crimes de ódio na internet – os registros passaram de 342 em 2017 para 442 no ano passado. “Tem havido uma intolerância maior e a sensação de que a internet é terra sem lei”, diz a procuradora Fernanda Domingos, do Grupo de Apoio sobre Criminalidade Cibernética do MPF. 

O dado se refere a discriminações na internet por raça, etnia, religião e procedência, como ataques a nordestinos, por exemplo. E o aumento de processos em 2018, segundo o MPF, pode ter relação com o ano eleitoral, época considerada propícia para a propagação de discursos de ódio na web.  Para identificar os agressores virtuais, o MPF apura não só o que acontece na internet superficial, onde estão as redes sociais, por exemplo, como o que ocorre na chamada dark web, a internet com forma de acesso específica para dificultar a identificação de seus usuários. O olhar para as profundezas da internet tem um motivo. “Os criminosos estão se refugiando lá porque é um meio onde o anonimato é mais fácil. Tem havido uma migração para essas redes”, afirma Fernanda. 

Um dos fóruns que comemoraram o ataque em Suzano, por exemplo, migrou em 2018 da internet exposta, em que as páginas podem ser buscadas pelo Google, para a dark web. O MPE apura se usuários desse “chan”, como são chamados os fóruns na dark web, incitaram o atentado. Os “chans” agregam pessoas com interesses comuns que se valem do suposto anonimato garantido pela rede. Uma enciclopédia na dark web enumera os grupos que existem e suas finalidades. Grande parte do compartilhamento de material de pornografia infantil ocorre nesses espaços. 
“São grupos que se validam mutuamente, compartilham valores que ferem direitos humanos e produzem conteúdos criminosos”, diz Juliana Cunha, diretora da ONG SaferNet Brasil. 

No fórum que comemorou o ataque em Suzano, os membros, em geral, são homens jovens. “São recrutados aqueles com dificuldades de inserção social. Os relatos envolvem o fracasso em se relacionar com mulheres, de ter papel social”, diz Juliana. Juntos, promovem ataques virtuais misóginos ou direcionados a outras minorias. “Eles se coordenam e elegem alvos, invadem e obtém informações pessoais, enviam ameaças e chantagens.” A violência pode culminar em atos com mortes, que ganham aplausos dos membros e colocam o grupo em destaque diante de outros na dark web. “É para dizer ‘existo e posso causar um grande estrago’”.  

Até chegar às profundezas da internet é comum, porém, que o envolvimento com atos criminosos tenha começado em redes sociais já conhecidas. “Outros usuários indicam ferramentas e conteúdos e a pessoa vai migrando para ambientes mais restritos. É natural que comecem a acobertar (o crime) e busquem lugares mais seguros”, diz Luiz Walmocyr Jr., especialista em crimes cibernéticos. A operação Darknet da Polícia Federal desbaratou em 2014, pela primeira vez na América Latina, a propagação de pornografia infantil na dark web.  

Entraves
Mas o monitoramento dos grupos é complexo e esbarra em dificuldades até diplomáticas. É comum que os fóruns estejam hospedados em países com os quais o Brasil não têm cooperação. Outra dificuldade é técnica. Peritos e investigadores da PF ouvidos pelo Estado explicam que, nesses ambientes, o IP – “CEP” do usuário na rede – fica coberto por várias camadas de “protocolos”, o que exige trabalho exaustivo para identificar os servidores onde estão as informações. Após o mapeamento, é preciso autorização para acioná-los. Só com o aval judicial é que começa, de fato, a apuração tradicional. 

sábado, 21 de abril de 2018

Acusado de ameaçar usuários, app SimSimi é suspenso no Brasil

Popular no país desde 2014, aplicativo usava inteligência artificial que chegou a falar de sequestro e assassinato com quem interagia com a plataforma

App SimSimi, criado por uma empresa coreana, foi alvo de muitas denúncias no Brasil: palavrões, termos preconceituosos e incitações a crimes - Reprodução

A empresa coreana dona do aplicativo SimSimi que permite conversas de usuários com um algoritmo de inteligência artificial — anunciou a retirada do app do Brasil, suspendendo os downloads para brasileiros na Apple Store e no Google Play. A decisão vem após acusações de que o algoritmo usado no aplicativo seria perigoso para os usuários, ao trazer para as conversas situações de crimes e conteúdos inadequados. 
 A própria nota da empresa, publicada na sexta-feira, dia 20, em seu site, afirma que foram constatados episódios em que "alguns usuários brasileiros têm ensinado respostas maliciosas ao SimSimi. A principal classe dessas respostas é a ameaça de crime, como assassinato e sequestro, de crianças e suas famílias".

O funcionamento do app é baseado em Inteligência Artificial (IA), e as respostas são geradas automaticamente por um algoritmo que “aprende” com base nas interações com usuários em cada país e em cada idioma. O SimSimi foi criado em 2002 pela empresa coreana ISMaker e começou a se popularizar no Brasil em 2014. Desde então, várias denúncias sobre o app foram recebidas pela SaferNet Brasil, instituição voltada ao combate a crimes contra os direitos humanos na internet. A própria SaferNet testou a versão em português do aplicativo, destinada ao público brasileiro, e constatou falhas graves.


Em menos de cinco minutos de interação com a equipe da SaferNet, o algoritmo de inteligência artificial do SimSimi espontaneamente veiculou mensagens com incentivo ao abuso sexual de crianças. Isso aconteceu apesar de as próprias políticas descritas do aplicativo impedirem que usuários "ensinem" ao app "bad words" (palavrões) e conteúdos impróprios para menores de idade.
"Esses resultados evidenciam que os desenvolvedores do app perderam o controle sobre o comportamento do algoritmo de Inteligência Artificial, que tem funcionado a partir de parâmetros contraditórios às políticas e termos de uso do app, tornando-se nocivo sobretudo para usuários vulneráveis e em situações de sofrimento psicológico", destacou a SaferNet Brasil. 

A empresa coreana reconhece publicamente que o app tem causado "um impacto social negativo significativo no Brasil" e diz que ainda não sabe como resolver as falhas encontradas no algoritmo. Por isso, decidiu suspender, ao menos temporariamente, o funcionamento do app no Brasil.