Este artigo foi atualizado pela última vez em outubro 18, 2023
Table of Contents
Estudante negro não discriminado pelo software anti-trapaça da VU
Vrije Universiteit Amsterdam justificada em queixa de discriminação
A Vrije Universiteit Amsterdam (VU) foi inocentada de acusações de discriminação depois que uma estudante alegou que o software anti-trapaça da universidade a havia atacado injustamente por causa de sua cor de pele escura. O Conselho de Direitos Humanos rejeitou a denúncia, afirmando que as dificuldades da estudante com o software não estavam relacionadas à sua raça. No entanto, o Conselho criticou a universidade pela forma como tratou a queixa de discriminação.
Alegações de discriminação
Em julho de 2022, Robin Pocornie, estudante de mestrado em bioinformática, apresentou queixa alegando que enfrentava dificuldades ao usar o software anti-trapaça obrigatório, Proctorio, durante exames online. Pocornie afirmou que ela teve que iluminar seu rosto para provar sua identidade ao software, enquanto seus colegas brancos não enfrentavam a mesma exigência.
O julgamento provisório de dezembro do supervisor independente sugeriu que Pocornie pode ter sido vítima de discriminação com base na cor da sua pele. A pesquisa científica mostrou que o software de reconhecimento facial pode ser menos preciso para indivíduos com tons de pele escuros. No entanto, o Conselho para os Direitos Humanos concluiu que Pocornie não teve mais problemas do que os outros alunos durante os exames.
Decepção e Consciência
Embora Pocornie tenha expressado desapontamento com o resultado da queixa, ela estava convencida de que o seu caso tinha chamado a atenção para a questão da discriminação na tecnologia. Ela destacou a necessidade de as instituições educacionais considerarem a funcionalidade igual da tecnologia que utilizam para todos os alunos.
O Centro de Racismo e Tecnologia, que prestou assistência jurídica a Pocornie, também expressou desapontamento com a decisão do Conselho. A advogada e presidente do centro, Naomi Appelman, comentou sobre os desafios de provar legalmente a discriminação em sistemas algorítmicos.
Resposta da Universidade
A VU reconheceu em outubro que não tinha inicialmente considerado o potencial de discriminação ao implementar o software anti-trapaça. No entanto, a universidade enfatizou seus esforços para minimizar o risco de mau funcionamento do software e ofereceu aos alunos a opção de fazer os exames pessoalmente caso encontrassem problemas durante os exames práticos.
NU.nl entrou em contato com a Vrije Universiteit para obter uma resposta à decisão do Conselho, mas uma declaração da universidade está pendente.
Impacto mais amplo
Embora o caso de Pocornie não tenha resultado numa constatação de discriminação, aumentou a consciencialização sobre os potenciais preconceitos na tecnologia e destacou a importância de garantir a igualdade de acesso e funcionalidade para todos os alunos, independentemente da sua raça ou cor da pele. Ao lançar luz sobre esta questão, o caso de Pocornie levou as instituições educativas a reavaliar a sua utilização da tecnologia e a considerar os potenciais efeitos discriminatórios dos sistemas algorítmicos.
À medida que a conversa em torno da discriminação na tecnologia continua, é essencial que as universidades e outras instituições avaliem criticamente e abordem quaisquer potenciais preconceitos nas ferramentas que empregam. Ao fazer isso, eles podem garantir um ambiente de aprendizagem justo e inclusivo para todos os alunos.
Software anti-trapaça
Seja o primeiro a comentar