ETHICAL DILEMMAS OF GENERATIVE ARTIFICIAL INTELLIGENCE IN KNOWLEDGE ORGANIZATION AND REPRESENTATION
DOI:
https://doi.org/10.59289/hsbw5275Keywords:
Generative Artificial Intelligence, Knowledge Representation, EthicsAbstract
This article analyzes the ethical dilemmas arising from the incorporation of Generative Artificial Intelligence into Knowledge Organization and Representation processes. It is a bibliographic and documentary study of an exploratory and descriptive nature, adopting a qualitative approach. The corpus consisted of Volumes I and II of the work Ethical Challenges in Knowledge Organization, edited by Ribeiro (2025), selected for bringing together recent discussions on ethics, values, problems, and dilemmas in the field. Based on a full reading of the chapters, transversal concepts, recurring ethical issues, and analytical macro-dimensions were identified, related to authorship, provenance, and intellectual responsibility; reliability, transparency, and algorithmic governance; epistemic justice and representational diversity; knowledge representation and organization; knowledge organization systems; information mediation, retrieval, and use; and informational infrastructures, power, and governance. The results indicate that Generative Artificial Intelligence expands and reconfigures dilemmas already discussed within Knowledge Organization and Representation, especially regarding the reliability of representations, the preservation of provenance, human supervision, and responsibility for informational products generated or modified by automated systems. The study concludes that the field offers relevant conceptual foundations to guide the critical, ethical, and responsible use of these technologies in informational environments.
References
BARDIN, Laurence. Análise de conteúdo. Edições 70, 1977.
BERNARDI, Guilherme. Limites absolutos ou relativos para a substituição de postos de trabalho por inteligência artificial? Considerações a partir da automação industrial e da subsunção do trabalho intelectual. Revista Eletrônica Internacional de Economia Política da Informação da Comunicação e da Cultura, São Cristóvão, v. 26, n. 2, p. 109-124, 2024. Disponível em: https://ufs.emnuvens.com.br/eptic/article/view/20833. Acesso em 12 maio 2026.
CAPURRO, Rafael. Desafíos teóricos y prácticos de la ética intercultural de la información. In: RODRÍGUEZ, Luis Germán; PÉREZ ÁLVAREZ, Miguel Ángel (coord.). Ética multicultural y sociedad en la red. Madrid: Fundación Telefónica, 2014. p. 3-25. Disponível em: http://www.capurro.de/paraiba.html. Acesso em: 10 jun. 2026.
CORUJO, Luís; REVEZ, Jorge; GUARDADO DA SILVA, Carlos; ASCENSÃO DE MACEDO, Laureano S. A produção científica portuguesa sobre (Sistemas de) Organização do Conhecimento no âmbito da ISKO. In: RIBEIRO, Fernanda (org.). Desafios éticos na Organização do Conhecimento. Porto: Faculdade de Letras da Universidade do Porto, 2025. v. 2, p. 379-393.
CRAWFORD, Kate. Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press, 2021.
DAHLBERG, Ingetraut. Knowledge organization: a new science? Knowledge Organization, Frankfurt, v. 33, n. 1, p. 11-19, 2006. Disponível em: https://www.imrpress.com/journal/ko/33/1/10.5771/0943-7444-2006-1-11. Acesso em: 10 jun. 2026.
DELGADO, Vitor Rabelo; ABREU, Vinicius Augusto de Carvalho. Inteligência artificial generativa e escrita acadêmica: reflexões éticas. In: ENCONTRO NACIONAL DE PESQUISA EM CIÊNCIA DA INFORMAÇÃO, 24., 2024, Aracaju. Anais [...]. Aracaju: ANCIB, 2024. Disponível em: https://enancib.ancib.org/enancib/article/view/1743. Acesso em: 10 jun. 2026.
FLORIDI, Luciano; CHIRIATTI, Massimo. GPT-3: Its nature, scope, limits, and consequences. Minds and Machines, [s. l.], v. 30, n. 4, p. 681-694, 2020. Disponível em: https://link.springer.com/article/10.1007/S11023-020-09548-1. Acesso em: 12 maio 2026.
FLORIDI, Luciano. The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford: Oxford University Press, 2023.
GROHMANN, Rafael; SCHNEIDER, Marco; SILVEIRA, Sérgio Amadeu da. Soberania e Inteligência Artificial: perspectivas brasileiras. Liinc em Revista, Rio de Janeiro, v. 20, n. 1, 2024. Disponível em: https://search.proquest.com/openview/a43fc90acc8933009aec35af0cba408a/1?pq-origsite=gscholar&cbl=5008010. Acesso em: 10 jun. 2026.
GUIMARÃES, José Augusto Chaves; MILANI, Suellen Oliveira; EVANGELISTA, Isadora Victorino. Valores éticos na organização e representação do conhecimento. Encontros Bibli: revista eletrônica de biblioteconomia e ciência da informação, Florianópolis, v. 20, n. 42, p. 19-32, jan./abr. 2015. Disponível em: https://www.redalyc.org/pdf/147/14735377003.pdf. Acesso em: 10 jun. 2026.
GUIMARÃES, José Augusto Chaves; MILANI, Suellen Oliveira; PINHO, Fábio Assis. Aspectos éticos em organização e representação do conhecimento (ORC): uma análise preliminar de valores e problemas a partir da literatura internacional da área. Encontros Bibli: Revista Eletrônica de Biblioteconomia e Ciência da Informação, Florianópolis, v. 13, n. esp. 1, p. 124-135, 2008. Disponível em: https://doi.org/10.5007/1518-2924.2008v13nesp1p124 . Acesso em: 10 jun. 2026.
HAYASHI, Maria Cristina Piumbato Innocentini; SILVA, Marcia Regina da; RIGOLIN, Camila Carneiro Dias; MARCELO, Júlia Fernandes. Ética algorítmica e interseccionalidade na Organização do Conhecimento com Inteligência Artificial. In: RIBEIRO, Fernanda (coord.). Desafios éticos na organização do conhecimento. Porto: CITCEM, 2025. v. 2, p. 99-112.
HJØRLAND, Birger. Domain analysis in information science: eleven approaches – traditional as well as innovative. Journal of Documentation, Bingley, v. 58, n. 4, p. 422-462, 2002. Disponível em: https://doi.org/10.1108/00220410210431136. Acesso em: 10 jun. 2026.
HJØRLAND, Birger. What is knowledge organization (KO)? Knowledge Organization, Frankfurt, v. 35, n. 2/3, p. 86-101, 2008. Disponível em: https://storage.imrpress.com/imr/journal/KO/article/505437/1752847178259.pdf. Acesso em: 10 jun. 2026.
MINAYO, Maria Cecília de Souza. O desafio da pesquisa social. In: MINAYO, Maria Cecília de Souza (org.). Pesquisa social: teoria, método e criatividade. Petrópolis, RJ: Vozes, 2001. p. 9-29.
NOBLE, Safiya Umoja. Algorithms of oppression: how search engines reinforce racism. NYU Press, 2018.
O'NEIL, Cathy. Weapons of math destruction: How big data increases inequality and threatens democracy. Crown, 2016.
BENTES PINTO, Virgínia; SOUZA, Rosali Fernandez de; SANTOS, Plácida Leopoldina Ventura Amorim da Costa; SILVA, Armando Malheiro da. Inteligência artificial e organização do conhecimento: possibilidades e desafios para a representação temática da informação. In: RIBEIRO, Fernanda (coord.). Desafios éticos na organização do conhecimento. Porto: CITCEM, 2025. v. 1.
RIBEIRO, Fernanda (org.). Desafios éticos na Organização do Conhecimento. Porto: Faculdade de Letras da Universidade do Porto, 2025. v. 1.
RIBEIRO, Fernanda (org.). Desafios éticos na Organização do Conhecimento. Porto: Faculdade de Letras da Universidade do Porto, 2025. v. 2.
ROCKEMBACH, Moisés. Ciência aberta e inteligência artificial: desafios éticos e transparência em modelos generativos. In: CONFERÊNCIA LUSÓFONA DE CIÊNCIA ABERTA, 15., 2024. Anais [...]. Coimbra: Universidade de Coimbra, 2024. Disponível em: https://www.elibrary.ru/item.asp?id=75019919. Acesso em: 10 jun. 2026.
ROVETTO, Robert J. The ethics of conceptual, ontological, semantic and knowledge modeling. AI & Society, Dordrecht, v. 39, p. 1547-1568, 2024. Disponível em: https://doi.org/10.1007/s00146-022-01563-3. Acesso em: 10 jun. 2026.
SAMPAIO, Rafael Cardoso; SABBATINI, Marcelo; LIMONGI, Ricardo. Diretrizes para o uso ético e responsável da inteligência artificial generativa: um guia prático para pesquisadores, São Paulo: Intercom, 2024. Disponível em: https://econtents.sbu.unicamp.br/boletins/index.php/ppec/article/view/9509/4948. Acesso em: 24 de set. 2025.
SOUSA, Nuno. Singularidades éticas: a coevolução dos sistemas de organização do conhecimento com IA Generativa e o papel transformador do utilizador. In: RIBEIRO, Fernanda (coord.). Desafios éticos na organização do conhecimento. Porto: CITCEM, 2025. v. 1, p. 179-192.
SUÁREZ SÁNCHEZ, Adriana; NAUMIS PEÑA Catalina. Aplicaciones de la Inteligencia Artificial en el modelado de la estructura semántica-relacional de un tesauro de Bibliotecología y Estudios de la Información. In: RIBEIRO, Fernanda (coord.). Desafios éticos na organização do conhecimento. Porto: CITCEM, 2025. v. 2, p. 285-299.
UNESCO. Guia para a IA generativa na educação e na pesquisa. Unesco, 2024.
ZAMBONI, Rita Costa Veiga; FRANCELIN, Marivalde Moacir. Garantia cultural, garantia ética e hospitalidade na organização e representação do conhecimento. In: ENCONTRO NACIONAL DE PESQUISA E PÓS-GRADUAÇÃO EM CIÊNCIA DA INFORMAÇÃO, 17., 2016, Salvador. Anais [...]. Salvador: ANCIB, 2016. Disponível em: https://www.eca.usp.br/acervo/producao-academica/002793479.pdf. Acesso em: 10 jun. 2026.