Os óculos inteligentes da Meta significam que qualquer criança pode ser filmada secretamente. Na era da IA, como podemos enfrentar esse risco?

Levei um tempo para perceber o que o homem sentado ao meu lado no trem estava fazendo. Ele estava folheando fotos de uma garotinha em seu telefone; ampliando alguns, cortando as imagens. Nada incomum, é claro, exceto que, olhando mais de perto, as fotos mostravam claramente a criança sentada à nossa frente, brincando com os pais. Em um trem lotado de pessoas, em sua maioria olhando distraídos para nossos próprios telefones, um estranho fotografava secretamente aquela garotinha repetidas vezes. E se não fosse pela tela visível do telefone o denunciando, ele não teria sido pego.

Esse encontro foi há algum tempo, mas minha memória se agitou na semana passada ouvindo um clipe do vice-presidente de wearables da Meta, Alex Himel, falando com carinho à BBC sobre o uso de seus novos óculos inteligentes para filmar sua filha cantando em um concurso de talentos. Eles permitiram que ele capturasse a memória sem ter que observá-la através de uma tela, disse ele, libertando-o para “viver o momento, de cabeça erguida e mãos livres”. Até agora, tudo bem. Mas e quanto ao risco de bandidos potencialmente usá-los para filmar secretamente as filhas de outras pessoas, de cabeça erguida e com as mãos livres? Os óculos inteligentes da Meta têm uma pequena luz de alerta piscando na armação para indicar quando o usuário está gravando, mas a tecnologia ainda é nova o suficiente para que muitas pessoas nem pensem em procurá-la. E na era da IA, as imagens roubadas de crianças são importantes. Retirados da vida real ou extraídos da Internet, eles são a matéria-prima para gerar material de abuso infantil de aparência realista do tipo mais extremo e perturbador. (Se isso soa como um crime cruel, mas em última análise bastante sem vítimas, a Internet Watch Foundation alertou num relatório recente que o material gerado pela IA corre o risco de alimentar o interesse sexual nas crianças, normalizando a violência e aumentando o risco de ofensas na vida real.)

Gaby Hinsliff é colunista do Guardian

Você tem uma opinião sobre as questões levantadas neste artigo? Se desejar enviar uma resposta de até 300 palavras por e-mail para ser considerada para publicação em nossa seção de cartas, clique aqui.