Os seres humanos exploram as emoções de forma abrangente para transmitir mensagens e suas resoluções e assim desenvolverem as relações necessárias para a organização de uma sociedade. As crianças e adolescentes nestas respectivas idades passam por diversas oscilações de emoções, é um período de aprendizado individual e coletivo. Imagine tudo isso sendo midiatizado por meio de plataformas diversas que promovem uma troca infinita de mensagens em diferentes formatos? Estas emoções estão sendo armazenadas em diferentes servidores que não tem como acessar e remover facilmente. Com os recentes avanços de tecnologias de inteligências artificiais, estas emoções e relações estão sendo mediadas por "mãos invisíveis”. É realmente seguro, deixar desenvolvimento e aprendizado de mundo de crianças e adolescentes nas mãos destas tecnologias?

Recentemente surgiram diversas reportagens sobre o uso de reconhecimento facial em escolas e vestibular brasileiros, antes de expressar minha indignação, pesquisei o que de fato acredito ser riscos únicos deste uso em privacidade de dados para crianças e adolescentes. Me preocupo que as crianças e adolescentes estejam muito menos cientes de seus direitos de dados em comparação aos adultos, claro, com ressalvas em relação as legislações de responsabilidades e proteção de dados, por exemplo, sabemos que as tecnologias de reconhecimento facial identificam e autenticam as identidades das pessoas capturando e combinando rostos diversos de um banco de dados. Esta tecnologia está nos nossos dia a dia, desbloqueio de smartphones pessoais, verificação de identidade de funcionários, são alguns exemplos. A biometria facial de uma pessoa é essencial para qualquer sistema de reconhecimento facial principalmente para agrupar e armazenar base de imagens, cabe aqui perguntar, os responsáveis legais tem acesso as imagens que estão sendo armazenadas das crianças e adolescentes diariamente? Como é feito este processo, quem tem acesso, se alguma imagem é compartilhada com empresas terceiras de fora do Brasil. Precisamos de informações mais claras, é um grande problema associar esta informação com comportamentos das crianças a fim de tentar manipular sua vivência escolar, inclusive estes terceiros podem usar estes dados para marketing não autorizado.

Outro ponto importante é sobre a proteção das imagens, estas que são riscos enormes de segurança cibernética pois estes dados faciais podem ser usados para rastreamento feitos por acessos indevidos, tivemos acessos a diversos casos de ataques cibernéticos durante a pandemia a aulas online, o que abre brechas para questionar por exemplo, quem no governo aprovou esses contratos? Quanto isso custou ao contribuinte? Por que o governo está usando uma tecnologia que é proibida em vários estados dos EUA, está em debate na segurança pública brasileira e que reguladores na França, Suécia, Polônia e Bulgária consideraram ilegal por não ser necessária nem proporcional e não respeitar a privacidade das crianças Será que as crianças e adolescentes estão realmente seguras? As crianças, pais e/ou responsáveis legais ​​devem receber nada menos do que informações completas, redigidas em linguagem que as crianças possam entender facilmente. Qualquer titular de dados, incluindo uma criança, tem o direito de saber exatamente como seus dados pessoais serão processados, compartilhados e armazenados, e pode especificar as condições sob as quais seu consentimento será aplicado. Qualquer coisa menos do que prudência e transparência corre o risco de comprometer a privacidade das crianças e consequentemente sua segurança.

O perigo de normalizar a vigilância para as crianças

A falsa sensação de segurança gerada pela vigilância da tecnologia de reconhecimento facial, levanta questões sobre como estamos acostumando a sociedade a uma normalização de que segurança e rastreamento, monitoramento são sinônimos, a medida que avançamos com o digital em nossos dia a dia, perdemos o timing para o debate, ao meu ver estamos entregando de forma muito fácil os dados das crianças e adolescentes sem questionar um tecnologia que apresenta mais riscos que benefícios. Este artigo de opinião é para fomentar um debate sério e necessário sobre como as tecnologias de inteligência artificial estão sendo introduzidas nas vidas de crianças e adolescentes.