SEPEI Data de Publicação: 31 ago 2026 10:34 Data de Atualização: 31 ago 2026 11:36
Os riscos de reprodução de desigualdades e preconceitos pela inteligência artificial (IA), a necessidade de ampliar a diversidade entre as pessoas que desenvolvem tecnologias e o papel da educação na formação de usuários críticos foram alguns dos principais temas discutidos na mesa-redonda “Diversidade, Inclusão e IA Generativa: Racismo, Responsabilidade e Cidadania”, realizada durante o Seminário de Ensino, Pesquisa, Extensão e Inovação do IFSC (Sepei), realizado no Câmpus Caçador.
A mesa-redonda ocorreu na sexta-feira, 28 de agosto, e a sua gravação está disponível no canal do IFSC no YouTube.
As participantes foram duas professoras do IFSC - Alba Valéria de Sant'Anna de Freitas Loiola, do Câmpus Caçador, e Roberta Cajaseiras de Carvalho, do Câmpus Chapecó - e a técnica em assuntos educacionais Priscila Vieira Bastos, do Câmpus Restinga do Instituto Federal do Rio Grande do Sul (IFRS). O assistente de aluno e coordenador-adjunto do Núcleo de Estudos Afro-brasileiros e Indígenas (Neabi) do Câmpus Caçador, Richard Wellinson Baldoino Goterra, foi o mediador.
O debate abordou como os sistemas de inteligência artificial podem reproduzir discriminações presentes na sociedade e discutiu caminhos para uma utilização mais ética, crítica e socialmente responsável dessas tecnologias.
Na sua fala, Alba Loiola chamou atenção para a necessidade de compreender a inteligência artificial como uma ferramenta acessível a pessoas de diferentes áreas do conhecimento. “Se eu penso que a IA é da computação, da informática, eu como professora de linguagem eu não tenho nenhuma responsabilidade sobre isso. A geografia não tem, a história não tem, a química não tem.. Mas nós temos responsabilidade compartilhada sobre isso.”, afirmou, ao destacar que o debate sobre inteligência artificial não deve ficar restrito às áreas de Computação e Informática.
Segundo Alba, projetos de ensino, pesquisa e extensão também precisam considerar a formação para o uso crítico da tecnologia e a ampliação da participação de grupos historicamente sub-representados. Para a pesquisadora, ampliar essa compreensão pode contribuir para que grupos historicamente excluídos também se reconheçam como capazes de participar da criação e do desenvolvimento de tecnologias.
A professora do Câmpus Caçador apresentou dados para discutir as desigualdades no acesso e no uso de tecnologias digitais: enquanto 69% da classe A usa ferramentas de IA generativa, esse índice é de apenas 16% nas classes DE. Segundo ela, as diferenças no acesso à internet e aos equipamentos também influenciam quem participa da produção de conhecimento e dos sistemas de IA. Alba destacou ainda que a exclusão pode formar um ciclo: a falta de acesso reduz a presença de determinados grupos nos dados utilizados para treinar algoritmos, contribuindo para a criação de modelos enviesados e, posteriormente, para formas de discriminação automatizada.
Educação crítica e inclusão
Em sua participação, Priscila Vieira Bastos, do IFRS, abordou a relação entre inteligência artificial, aprendizagem, inclusão e educação crítica a partir de sua área de estudo, a filosofia. Ela destacou o conceito de racismo algorítimico, que ocorre quando o sistema de inteligência artificial que acaba reproduzindo e distribuindo preconceito racial estruturado.
A pesquisadora trouxe dados de estudos que apontam diferença na precisão da identificação de rostos por ferramentas de IA de reconhecimento facial: enquanto ela é de quase 100% para pessoas brancas, cai para 93% entre pessoas negras. "Os piores índices desses erros ocorrem em mulheres negras, revelando uma dupla discriminação da raça de gênero", destacou.
"E aqui eu coloco também a questão dos debates os defensores da tecnologia que enxergam a inteligência artificial como uma ferramenta indispensável para a localização de foragidos da justiça, mapeamento dinâmico criminal e encontrar pessoas desaparecidas com eficiência. Já os críticos apontam que a alta incidência de falsos positivos em minorias étnicas e pessoas transgênero resulta em injustas, transformando a tecnologia em vetor de violência institucional", completou.
Diversidade na criação das tecnologias
Roberta Cajaseiras de Carvalho, professora do Câmpus Chapecó, encerrou as apresentações reforçando que os problemas relacionados ao racismo algorítmico estão ligados às escolhas humanas presentes na criação das tecnologias. “O racismo algorítmico acontece quando sistemas de IA repetem ou aumentam preconceitos contra as pessoas negras na vida real”, explicou.
A pesquisadora apresentou exemplos de situações em que tecnologias podem produzir resultados discriminatórios, como sistemas de reconhecimento facial e mecanismos de filtragem utilizados em diferentes plataformas. Ela destacou também que a falta de diversidade nas equipes responsáveis pelo desenvolvimento de tecnologias pode contribuir para que determinadas experiências e realidades não sejam consideradas durante a criação dos sistemas.
Para Roberta, ampliar a participação de pessoas negras, indígenas e de outros grupos historicamente sub-representados na área de tecnologia é uma das formas de enfrentar o problema. “A falta de representatividade ou a falta de diversidade é uma das principais causas dessas falhas”, afirmou.