Seguir

Criptografia não Importa - Uma Sequência

Há pouco tempo o facebug anunciou que ia unificar a infraestrutura de chat do Facebook, Instagram e Whatsapp, e todo mundo que vi se focou na criptografia. Bem, criptografia é bom, eu uso, recomendo, mas a verdade é que ela não importa.

Quando era moleque, ouvi em um jornal pela primeira vez "quebra do sigilo telefônico", perguntei pros meus pais o que era e recebi a resposta clara: uma cópia da conta telefônica. As contas vinham detalhadas, com para quem, que horas e quanto durou.
Muita gente foi presa assim.

Isso é o que chamamos hoje de metadata. A justiça poderia autorizar um grampo, para pegar o conteúdo, a "data" da conversa, e/ou quebra de sigilo, para pegar a "metadata".
E, se um investigador não precisa de muito tutano para saber que se você liga para bandidos está no esquema,

uma IA que reconhece rostos na caneca da mesa que ninguém nem viu na foto, não vai ter tanta dificuldade.
Se eu escrevo sobre política em público, uma IA que analise a metadata das minhas DMs vai deduzir que são pessoas interessadas nesse tema.

Agora, adicione bots de páginas.

Há um pouco mais de tempo houve o grande movimento de adicionar bots de conversação em páginas. Se você fala com a página que vende esmalte, deduzo que gosta disso e te mostro anúncios de esmalte.
Não é ciência de foguete.
E se a infraestrutura é unificada, a metadata é unificada

Passa a ser muito fácil identificar o usuário através das redes e unificar o perfil. Hoje são bancos de dados gigantescos, com bilhões de usuários, e separados. É virtualmente impossível fazer uma junção em tempo real para saber quem você é em cada rede. Mas unificando o servidor

Só que isso não é usado apenas para vender esmalte. Há todo tipo de conclusão que pode ser tirada dos nossos hábitos de chat.
Você tem um caso extraconjugal? É viciado em jogo? Faz parte de um grupo terrorista? Trafica drogas? Descobriu uma doença grave? Está falindo?

Tendo metadata o bastante, podemos deduzir todo tipo de coisa. Você não é advogado, mas conversou demoradamente com um no facebug. Posso passar a te mostrar anúncios de serviços jurídicos no instagram.
Mas veja... a conclusão pode estar errada. O advogado pode ser date do Tinder.

O movimento de unificar a infraestrutura vai permitir recolher metadado como talvez só o Google já tenha feito, e os modelos de IA vão permitir todo tipo de perfil. A precisão desses perfis pode ser um problema por ser ruim ou por ser boa demais.

Se ela for muito boa, o Zuckerberg vai ter nas mãos um perfil sem igual de uns dois bilhões de pessoas e usar isso para alimentar timelines, moldando o que essas pessoas veem, suas opiniões, suas realidades, e as manipulando para serem cada vez mais dependentes das plataformas.

Se for ruim, todo tipo de engano vai ocorrer, e pessoas vão ser punidas injustamente, porque essas plataformas confiam nesses perfis para se auto policiar. "Shadowbans" já são amplamente utilizados e já afetam a esfera pública de maneiras que não fazemos nem ideia.

Porém, uma coisa que podemos ter certeza, é que assim como nas iterações anteriores e atuais desse tipo de tecnologia haverá falhas e haverá efeitos emergentes.
Ninguém planejou que as linhas de tempo algorítmicas fossem resultar em radicalização e filtros bolha. Aconteceu.

Há todo tipo de ator buscando maximizar os resultados nessas plataformas, há todo tipo de interação caótica, há todo tipo de coisa que pode dar errado, mesmo se pudéssemos confiar que o Zuckerberg fosse remotamente uma boa pessoa e sua empresa ética.

É um movimento muito maquiavélico abrir mão de escanear o conteúdo das suas mensagens, enquanto constrói um banco de dados de metadata assustadoramente grande, e esconder esse fato anunciando "agora tudo é criptografado" para melhorar a imagem danificada da empresa.

Na escala que o facebook opera, provavelemente ele ganha mais informação unificando a metadata do que perde criptografando os dados.

P.S.: Metadata não pode ser eliminada. Seu provedor de internet tem, email, sua operadora de telefone, etc.
Podemos proibir seu armazenamento, seu uso em "personalização", mas não eliminar.

O que nos leva ao ponto chave:
-> Use serviços que confia que não vão abusar da metadata.

Entre para participar dessa conversa
Mastodon(te)

O masto.donte.com.br é uma instância moderada com um foco em usuários do Brasil, mas usuários de outros lugares (e outras línguas) são bem vindos. Discursos de ódio são proibidos. Usuários que não respeitem as regras serão silenciados ou suspensos, dependendo da severidade da violação.