Mark não tem e-mail, fotos e nenhum contato há 10 anos. E ele ainda não pode trazê-los de volta. Um caso mostra o desafio da sociedade em tentar encontrar um equilíbrio entre o bom e o mau uso da tecnologia.
Um homem teve suas contas de e-mail e celular suspensas e seu nome foi encontrado envolvido em uma investigação judicial sobre pornografia infantil sem saber por quê.
Afinal, Mark, o pseudônimo que ele escolheu usar ao postar a história do New York Times, foi sinalizado como um possível criminoso. O motivo: ela mandou fotos da genitália do filho para o pediatra, depois que notou inchaço na região do pênis, e depois que o próprio médico pediu as fotos quando apareceu o caso. Tudo aconteceu durante a pandemia em fevereiro de 2021, tornando impensável a ida ao hospital, principalmente quando havia outra solução.
As fotos foram tiradas pela mãe da criança com o celular de Mark, e a mão do homem até aparece em uma delas apontando para onde o menino sente dor.
As imagens imediatamente disparam alarmes no algoritmo do Google, virando a vida do homem de cabeça para baixo: ele não tem acesso a e-mail, então não tem acesso a muitas outras contas. perdeu 10 anos de documentos armazenados na nuvem do Google, incluindo contatos e fotos; ele perdeu todos os compromissos que tinha no calendário do Google; não tem acesso ao Google Fi, funcionalidade de operadora, permite chamadas, SMS ou acesso à internet móvel.
No entanto, quase dois anos depois, ele ainda não conseguia acessar esses fóruns até que eles fossem removidos pelo Google.
Nos dois dias após a foto ser tirada, a conta de Mark foi suspensa com a mensagem: sua conta foi suspensa por "conteúdo nocivo", que é uma "grave violação das políticas do Google" e possivelmente ilegal". Um link para possíveis motivos de suspensão também está incluído, entre eles "abuso sexual infantil e exploração infantil".
Este caso, que teve lugar nos Estados Unidos, levanta uma série de questões transfronteiriças. Poderia acontecer o mesmo em Portugal?
_________________________________________
Humano vs máquina
Elsa Veloso disse à CNN Portugal que esta é uma situação que levanta algumas questões. O advogado de Privacidade e Proteção de Dados lembra que, no caso de Mark, foi o algoritmo que decidiu alertar as autoridades após ser confirmado por um presidente humano, conforme exigido por lei, lei dos Estados Unidos e lei da União Europeia.
O especialista salienta que ainda há algumas questões que se colocam neste caso, desde logo o que significa "intervenção humana", pois o contexto o exige, é essencial quem vai realizar o trabalho. Esta verificação tem "capacidade de decisão, treino e educação".
"É importante entender o que entendemos por intervenção humana. Nem sempre ter um genital em uma foto significa pornografia. Todos os médicos serão banidos se fizerem? Fotos de pacientes?", perguntou Elsa Veloso, expressando que essa era uma das os pacientes. Os maiores desafios da Inteligência Artificial.
“Se o incidente fosse apenas reportado por Inteligência Artificial, então as coisas seriam diferentes”, disse o especialista, acrescentando que isso violaria a lei, inclusive na União Europeia, e, portanto, em Portugal. Nesse caso, acrescentou, o Google pode correr o risco de "ser condenado a pagar indenização se usar Inteligência Artificial sem intervenção humana e essa intervenção causar danos a qualquer pessoa".
A questão levantada é o Regulamento Geral de Proteção de Dados, aprovado pela Comissão Europeia em 2016, com efeito jurídico diretamente aplicável em Portugal. Outro cenário seria o algoritmo do Google detectar um caso semelhante e denunciá-lo diretamente às autoridades.
Elsa Veloso refere-se a nós o artigo 22, que trata de "decisões pessoais automáticas, incluindo a criação de perfis". Ao mesmo tempo, afirma-se que "os titulares dos dados têm o direito de não serem sujeitos a quaisquer decisões tomadas exclusivamente com base no tratamento automatizado, incluindo a definição de perfis, que produzam resultados no domínio da sua jurisdição ou tenham influência significativa sobre eles. da mesma maneira."
É aí que começa um novo debate, desencadeado pela proposta da Comissão Europeia em discussão no Parlamento Europeu: obrigar ou não as empresas de tecnologia a fornecer dados a 27 sistemas de justiça. ?
Agora, Eduardo Santos, presidente da organização D3 – Defesa dos Direitos Digitais, explicou à CNN Portugal que as empresas têm a liberdade de escolher se condenam ou não o incidente.
O mesmo responsável disse que, se a proposta ao Parlamento Europeu, que visa "estabelecer legislação para a prevenção e combate ao abuso sexual infantil", for aprovada, como está agora, haverá riscos para os direitos de privacidade.
“São propostas inteligentes”, brincou Eduardo Santos, salientando que a Comissão Europeia pretende ter “o sol no celeiro e a chuva na Europa”, ou seja, ter a privacidade das comunicações, mas para rastrear comportamentos ilegais. “O problema é que não se pode ter um sem o outro”, prosseguiu o advogado, defendendo que este tipo de proposta “significa questionar a privacidade das comunicações dos cidadãos”.
O presidente da D3 sublinhou que algumas organizações tinham sensibilizado para o assunto, mas apontou o fracasso da resposta da Comissão Europeia quando questionada sobre como garantir algo sem danos.
"É a opinião de quem não entende de tecnologia, não vê o contexto. A tecnologia é útil, mas no momento também é obscura", enfatizou Eduardo Santos, que vê um problema. outro tópico se a proposta continuar: "Pense em quantos recursos serão desperdiçados em todos esses dispositivos fictícios.
Se voltarmos à questão da intervenção humana, ainda que ali estivesse, Elsa Veloso lembra que a conclusão ainda está errada, pois o homem não é culpado dos crimes denunciados às autoridades, até que o afastaram após 10 meses de reclamações. Arquivo. Google.
Mais tarde, disse o advogado, a tecnologia "deveria ter o bom senso de aceitar a decisão da polícia, não insistir nela". E porque a alternativa, que Mark disse que não vai buscar, é um pequeno processo judicial de cerca de sete mil dólares (aproximadamente o equivalente a uma quantia em euros).
_________________________________________
Como eles nos veem?
Empresas como o Google, se quiserem, podem ouvir e ver o que fazemos com os algoritmos, neste caso, elas têm acesso a contas conectadas ao Google, que hoje são tudo.
O especialista em cibersegurança Rui Shantilal explica à CNN Portugal como tudo funciona. Por exemplo, um engenheiro de computação inseriu 100.000 imagens em um programa de software e as listou como pornografia infantil. Esse mesmo software deve ser capaz de identificar padrões que serão usados posteriormente para rastrear conteúdo que ele reconheça como semelhante.
No caso de Mark, o software encontrará um padrão no pênis da criança a partir de milhares de imagens que vimos. Mas Rui Shantilal também define bem o problema: “se automatizar demais, porque a tecnologia tem que ser uma das ferramentas para ajudar a encontrar o comportamento, então essa descoberta tem que ser confirmada”.
'Isso tem um efeito enorme na vida de uma pessoa por causa do automatismo descontrolado', acrescentou o especialista, que chegou a admitir ter compartilhado a imagem com o pediatra do filho. Estou na mesma situação que Mark.
E deixe Mark dizer isso, porque ele ainda não pode recuperar sua conta. Tudo por causa do que Elsa Veloso disse ser o “abuso de posição” das grandes empresas de tecnologia. Em um determinado caso, disse o advogado, o Google estava infringindo a lei, porque a justiça absolveu o pai da criança de qualquer crime, mas o fórum se recusou a devolver a conta ao homem.
Rui Shantilal sublinhou que a regra é que as empresas devem verificar os indivíduos antes de reportarem às autoridades. No entanto, ressalta o especialista, houve um problema desde o início, que afetou também os americanos. É apenas que o software que detecta conteúdo ilegal pode bloquear automaticamente a conta e os dados dessa pessoa do site.
Quando o criminoso é o denunciante
Ainda há um problema com essa pergunta semelhante, sobre se outras pessoas podem acessar informações e dados pessoais, como fotos. Suponha, hipoteticamente, que o crime detectado pelo software pertença a uma pessoa, mas esta pessoa esteja agindo ilegalmente. De facto, e neste caso, terá acesso a imagens que poderá utilizar para conteúdos ilegais.
Rui Shantilal admite que isso é possível, pois a Google “não consegue aceder a tudo no email ou na cloud”. Além disso, há outro problema, possivelmente um problema de controle de qualidade: geralmente são os subcontratados, não o Google, que usam o software.
No entanto, conhecendo o meio ambiente - Rui Shantilal é o fundador da INTEGRITY Part of Devoteam, empresa de pesquisa e consultoria na área de segurança da informação - o especialista lembra que existem processos para evitar isso. tipos de situações.
“Essas empresas costumam checar a pessoa contratada, como é seu histórico, etc.