ARTIFICIAL INTELLIGENCE SYSTEMS AND IMPACT ASSESSMENTS FOR HUMAN RIGHTS

Authors

Abstract

This paper, based on an exploratory approach, conducts an analysis of the functioning of artificial intelligence systems, questioning the impacts of the development and use of such systems on human rights. In this sense, it explores the discriminatory impacts for groups historically marked by vulnerabilities, seeking to demonstrate that the use of artificial intelligence systems can deepen already existing inequalities and violations, impacting such groups differently. At the normative level, we analyze the strategies for regulating artificial intelligence, focusing on the development of impact assessments from an approach centered on human rights. In conclusion, it is pointed out that, although impact assessments are important instruments for accountability and the formation of a governance structure for artificial intelligence systems, they must observe the existence of unacceptable risks, otherwise they may legitimize practices that violate human rights.

Downloads

Download data is not yet available.

Author Biographies

Joana de Souza Machado, Universidade Federal de Juiz de Fora

Professora Adjunta do Departamento de Direito Público Material e do corpo docente permanente do PPGD (Direito e Inovação) da Faculdade de Direito da Universidade Federal de Juiz de Fora - MG. Doutora e Mestre em Direito, área de concentração Teoria do Estado e Direito Constitucional, pela Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio), com estágio doutoral junto à Harvard Law School e atuação como pesquisadora visitante na Boston College Law School. Tem experiência na área de Direito, com ênfase na relação entre inovação, direitos humanos e violências institucionais; poder judiciário e política;  constitucionalismo digital. 

Carolina Fiorini Giovanini, Universidade Federal de Juiz de Fora

Mestranda em Direito e Inovação no PPGD da Universidade Federal de Juiz de Fora (UFJF). Pesquisadora do NEAPID.

Nathan Paschoalini Ribeiro Batista, Universidade Federal de Juiz de Fora

Mestrando em Direito e Inovação no PPGD da Universidade Federal de Juiz de Fora (UFJF). Membro do Núcleo de Coordenação da Rede de Pesquisa em Governança da Internet. Pesquisador do NEAPID.

Sergio Marcos Carvalho de Ávila Negri, Universidade Federal de Juiz de Fora

Professor do Departamento de Direito Privado e do corpo permanente do PPGD em Direito e Inovação da Universidade Federal de Juiz de Fora (UFJF). Doutor e Mestre em Direito Civil pela UERJ, com especialização junto à Università di Camerino (Itália). Coordenador do NEAPID.

Downloads

Published

2024-02-21

Issue

Vol. 10 No. 26 (2023): Educação, participação popular e democracia: caminhos possíveis para uma experiência igualitária

Section

Artigos