Para garantir que eles não se tornem um instrumento de exploração comercial
Já imaginou se os dados pessoais coletados durante o período escolar forem usados por ou vendidos a empresas para o direcionamento de publicidade infantil, induzindo crianças e adolescentes ao consumo abusivo e desenfreado?
A desobediência a princípios éticos essenciais, como a minimização de dados, pode levar à coleta massiva de informações pessoais e, como explicamos (volte para lá), muitas vezes esses dados são utilizados por plataformas digitais para traçar os perfis de consumo de cada um. A partir desses perfis, as grandes plataformas vendem seu espaço para empresas anunciantes, que terão anúncios de seus produtos e serviços direcionados de forma personalizada para pessoas que usam a internet e as tecnologias digitais da informação e comunicação, reforçando hábitos e valores consumistas.
O ato das plataformas digitais de vender dados obtidos a partir de atividades educacionais é ilegal e desvirtua a finalidade social do ensino. Não é justo que, para acessar a educação, uma criança ou um adolescente esteja sendo monitorado constantemente por meio da coleta de tantas informações - privadas, íntimas e sensíveis -, muito menos que elas sejam usadas para bombardeios de anúncios publicitários, que nada têm a ver com as atividades pedagógicas. Além disso, vale lembrar que toda publicidade direcionada especificamente a crianças é abusiva e, portanto, ilegal.
Assim, além de cobrar pela observância de princípios como a minimização de dados, precisamos também estar atentos a parcerias, ditas gratuitas, firmadas entre empresas de tecnologia, escolas e secretarias de educação para o ensino remoto, exigindo de todos esses atores, especialmente das empresas de tecnologia e plataformas digitais, transparência e privacidade na gestão dos dados pessoais estudantis. Vale lembrar, sempre, que na internet nada é gratuito.
Para proteger crianças e adolescentes de riscos à sua segurança e integridade física, psíquica e sexual
Já parou para pensar em um caso de vazamento de dados de cadastro, fotos, vídeos ou mensagens privadas de estudantes, a partir do qual essas informações sejam utilizadas para fins ilegais, como cyberbullying, assédio sexual, racismo, LGBTfobia, entre outras situações violentas ou humilhantes?
A extensão e profundidade dos registros de navegação que compõem o universo dos dados pessoais de crianças e adolescentes, incluindo os estudantis, acaba por permitir a identificação e a caracterização precisa de indivíduos e de seus hábitos, e a exposição indevida dessas informações pode gerar danos irreversíveis.
Normalmente, nessa fase de juventude há maior exposição a riscos gerais, ainda mais no uso da internet, a partir de redes sociais, aplicativos de mensagem e plataformas digitais. O mau uso da rede e uma eventual quebra de segurança de dados pessoais como endereço, fotos e vídeos, ao chegar às mãos de pessoas desautorizadas ou maliciosas, têm potencial de oferecer, inclusive, riscos à integridade física, psíquica e sexual de crianças e adolescentes.
É importante, portanto, estarmos atentos às medidas de segurança que os dados pessoais estudantis estão recebendo - tanto os que contam sobre o comportamento on-line do usuário, como seus registros de mensagens e fotos em redes sociais, quanto aqueles que se relacionam à vida íntima e off-line de crianças e adolescentes, como seu número de telefone e rota percorrida entre a casa e a escola.
Para impedir a consolidação da vigilância e o reforço da discriminação
Como será estudar em um local que mede o nível de atenção dos estudantes durante as aulas por meio de suas expressões faciais, identificadas por câmeras ou instrumentos tecnológicos? E ter provas corrigidas por algoritmos, robôs, que reconhecem padrões de linguagem?
Vivemos em um mundo com cada vez mais sensores de reconhecimento corporal. Desde câmeras de vigilância e catracas de acesso por meio de impressões digitais, as tecnologias de monitoramento se fazem presente no nosso cotidiano e, muitas vezes, nem mais as notamos. Junto a isso, cresce também o número de estudos e pesquisas que demonstram sua ineficiência e viés - ou, em outras palavras, o tratamento desigual que elas fornecem a indivíduos -, que pode abrir margem para ações discriminatórias e, sobretudo,
racistas . Cada vez se tem notícia de mais casos de falhas em sistemas de tecnologias de reconhecimento facial, que já resultaram até mesmo em prisões injustas - via de regra, de pessoas negras.
Existem estudos que indicam que as tecnologias de reconhecimento, principalmente as utilizadas por grandes plataformas digitais, têm um padrão racista. Isso acontece, em alguma medida, porque os bancos de dados a partir dos quais essas tecnologias são programadas não são desenhados a partir de padrões étnicos diversos, o que acaba fazendo com que elas criem perfis distorcidos no caso de pessoas negras ou não brancas. Assim, essas tecnologias geram margem para atos discriminatórios muito graves, como a acusação de uma pessoa por um crime que ela não cometeu.
Uma pesquisa produzida pelas organizações PretaLab/Olabi e ThoughtWorks sob o título #quemcodabr sobre a diversidade no mercado de tecnologia mostrou que apenas 36,9% da população empregada no setor estão formadas por pessoas negras/pretas e pardas, enquanto as brancas representam 58,3%. Há uma sub-representação da população negra, que representa 53,9% do total de habitantes no país, contra 45,2% de brancos. Também há uma super-representatividade de homens, que são 68,3% das pessoas empregadas no setor, enquanto são apenas 48,5% da população total brasileira. Mais de 20% das equipes de tecnologia não possuem nenhuma mulher e mais de 30% nenhuma pessoa negra.
Para saber mais sobre o assunto, recomendamos o livro “Comunidades, Algoritmos e Ativismos Digitais: olhares afrodiaspóricos”, de Tarcízio Silva.
Quando instaladas em escolas, essas tecnologias biométricas podem se tornar instrumentos de vigilância massiva e ininterrupta, capazes de desnaturalizar o ambiente da sala de aula e da unidade escolar em geral, ao torná-lo controlado e pouco confortável para crianças e adolescentes exercerem livremente suas vivências de aprendizado.
Portanto, é importante ter em mente que a discussão sobre o uso de tecnologias tão invasivas, como as de reconhecimento facial, passa por uma questão ética em disputa, que tem levado, inclusive, algumas empresas e plataformas, como Google, Facebook e Amazon, a enfrentar problemas na justiça, perder investimentos de clientes globais e até suspender pesquisas na área. O uso de tecnologias em escolas deve ser precedido de muito debate envolvendo toda a comunidade escolar (incluindo as famílias), governos, poder público e organizações especializadas.
Para diminuir riscos e ameaças à privacidade
Já imaginou ter problemas em uma entrevista de emprego na vida adulta por uma simples postagem inadequada nas redes sociais quando mais jovem, ou por ter ficado de recuperação em uma matéria na época do ensino fundamental?
Qualquer dado pessoal, por definição, é uma informação íntima da vida de cada um e, portanto, é essencial que seja garantida sua segurança para a preservação da privacidade, cada vez mais posta em risco em nosso mundo atual.
Esse caso de reprovação em uma entrevista de emprego por conta de uma postagem feita na internet quando ainda se era adolescente, ou por ter ficado de recuperação em alguma matéria na época do colégio, não é impossível acontecer no contexto em que vivemos, de coleta massiva de dados, inclusive estudantis, violando a confidencialidade das informações e a intimidade das pessoas. No caso de estudantes, o respeito à privacidade é ainda mais significativo. Enquanto seres em fase de desenvolvimento físico, mental, intelectual, psíquico e social, poder cometer erros em ambientes seguros, e contar com o devido suporte para compreendê-los e mudá-los, é parte do processo de autonomia, autoconfiança e identidade atravessado por crianças e adolescentes.
Se tudo que uma criança ou adolescente fizer em sua vida escolar e no processo de aprendizado ficar registrado, à mercê do uso de terceiros, podendo gerar consequências negativas futuras, não estaríamos privando-lhes do direito ao erro e à experimentação?
Para assegurar a privacidade estudantil, devem existir mecanismos de minimização dos dados coletados e tratados por plataformas e aplicativos de ensino e por qualquer tecnologia utilizada em sala de aula ou no espaço escolar. Além disso, é fundamental que os dados coletados sejam devidamente protegidos, o que pode ser feito por medidas como sistema de proteção contra , e também formações educativas em segurança digital.
Para proteger também a segurança, integridade e privacidade de professores e gestores escolares
Você já parou para pensar que, além dos estudantes, os dados dos educadores e da gestão escolar também podem estar sujeitos a estas ameaças?
Vale lembrar que os dados pessoais de professores e de gestores escolares, em muitos casos, também são coletados. Isso acontece, por exemplo, quando são instaladas câmeras em escolas e também no uso de plataformas digitais de ensino.
Portanto, a preocupação com a proteção de dados pessoais estudantis e a garantia de que não serão coletados dados excessivos, para além da finalidade daquele uso, e que os dados coletados não serão utilizados para fins injustos, ilegais ou incompatíveis com as atividades de ensino e aprendizado, também representam uma proteção a professores e gestores escolares, agentes essenciais para a vivência da experiência educativa.
Para desenvolver práticas educativas em cidadania digital nas escolas
Diante da importância de os dados pessoais estudantis serem bem utilizados, não é, então, essencial que conversemos sobre o tema nas escolas, desde a infância e adolescência?
O ensino sobre cidadania digital e o desenvolvimento de práticas educativas sobre segurança na internet e no uso de tecnologias digitais da informação e comunicação são fundamentais, porque precisamos mostrar às crianças e adolescentes o funcionamento do mundo digital, inclusive para que possam entender suas oportunidades e riscos.
As leis brasileiras estabelecem que o pluralismo de ideias e concepções deve ser garantido, não sendo possível, assim, a utilização de somente uma plataforma, ou um conjunto de ferramentas digitais de uma mesma empresa, com os estudantes. Nossa legislação também ressalta a cultura digital, o pensamento crítico, o autoconhecimento e o exercício da cidadania como parte do desenvolvimento integral dos estudantes. Em resumo, aprender a participar de forma cidadã dentro e fora da internet é imprescindível para lidar com os desafios do século 21, e a educação para a cidadania se estende também ao ambiente digital.
O artigo 26 do Marco Civil da Internet dispõe que é dever do Estado na prestação de serviços públicos educacionais desenvolver formação para uso seguro, responsável e consciente da internet. Além disso, desde a Lei de Diretrizes e Bases da Educação, de 1996, o pluralismo de ideias e concepções deve ser garantido, ou seja, não se pode utilizar somente uma plataforma ou um conjunto de ferramentas de uma mesma empresa com os estudantes. A Base Nacional Comum Curricular (BNCC), em suas 10 competências gerais, ressalta a cultura digital, o pensamento crítico, o autoconhecimento e o exercício da cidadania como parte do desenvolvimento integral dos estudantes.
Assim, crianças e adolescentes têm o direito de entender que existem plataformas que compõem um cenário de concentração de poder das grandes corporações de tecnologia - localizadas especialmente no hemisfério norte, mas que, ao mesmo tempo, existe um movimento colaborativo de criação e distribuição de tecnologia baseado em padrões técnicos abertos e , que permite o aprimoramento de ferramentas e possibilidades sem a dependência de um único fornecedor. Falaremos mais sobre isso adiante (caso queira passar para essa parte agora, clique aqui)!
