Esta pesquisa analisa como os estereótipos de gênero presentes nos dados de treinamento influenciam o comportamento dos algoritmos de Inteligência Artificial (IA), contribuindo para a reprodução de desigualdades sociais. A lacuna científica que motiva o estudo está na integração limitada entre perspectivas de gênero e práticas técnicas de mitigação de vieses algorítmicos (algorithmic bias). Assim, busca-se compreender de que forma os dados enviesados impactam processos automatizados de decisão e propor diretrizes baseadas em princípios de fairness, accountability e explainable AI. A pesquisa adota abordagem qualitativa, método dedutivo e procedimento bibliográfico, complementados por estudos de caso e revisão de relatórios institucionais (ONU Mulheres, UNESCO, União Europeia). Espera-se evidenciar que a falta de diversidade nos dados e nas equipes de desenvolvimento amplia a desigualdade de gênero e compromete a ética e a transparência das decisões automatizadas. O estudo, portanto, tem a intenção contribuir para a construção de práticas tecnológicas mais justas, inclusivas e socialmente responsáveis.