Вадия Афган кызы Алакбарзаде - аспирант, юридический факультет, кафедра ЮНЕСКО прав человека и информационного права
Баку
Vadiya A. Alakbarzade - PhD student, Faculty of Law, UNESCO Department of Human Rights and Information Law
Baku
Введение. В связи с быстрым развитием технологий системы искусственного интеллекта (ИИ) широко применяются в различных социальных и правовых сферах: от найма сотрудников до вынесения судебных решений и оценки кредитоспособности. Несмотря на кажущуюся нейтральность этих технологий, они часто воспроизводят и усиливают существующие структурные предубеждения, что приводит к прямой или косвенной дискриминации определённых социальных групп.
Цель. Рассмотреть проблему алгоритмической дискриминации, возникающую в процессе принятия решений системами искусственного интеллекта, с точки зрения международного права и прав человека.
Теоретические основы. Статья раскрывает юридические и технические аспекты алгоритмической дискриминации. С юридической точки зрения акцент смещается с «намерения» на «последствие», что усложняет правовую оценку и распределение бремени доказывания. С технической стороны, многие алгоритмы действуют как «чёрный ящик», то есть процессы принятия решений непрозрачны, что затрудняет правовое вмешательство.
Результаты и выводы. Автор утверждает, что действующая система международного права в области прав человека – включая Международный пакт о гражданских и политических правах (ICCPR) и Международную конвенцию о ликвидации всех форм расовой дискриминации (ICERD) – не способна эффективно регулировать проблему. Причины этого кроются как в технической сложности, так и в низком уровне обязательств государств и отсутствии конкретных правовых стандартов.
Существующие механизмы индивидуальной правовой защиты – Европейский суд по правам человека, договорные органы ООН и Межамериканский суд по правам человека – в настоящее время не обладают достаточными техническими знаниями и процессуальными возможностями для эффективного реагирования.
Отмечен относительно прогрессивный подход ЕС через Акт об ИИ и Общий регламент по защите данных (GDPR), в то время как в США и странах Глобального Юга сохраняются значительные пробелы. В завершение приводятся рекомендации по усилению международной правовой базы, адаптации национального законодательства, созданию специализированных институтов и обязательной оценке воздействия алгоритмов.
Introduction. Due to rapid technological development, artificial intelligence systems (AI) are increasingly used in various social and legal domains, such as recruitment, judicial decisions, and credit scoring. Although these technologies may appear neutral, the data they rely on and their learning processes often replicate and reinforce pre-existing structural biases, resulting in both direct and indirect discrimination against certain social groups.
Purpose. To analyze the issue of algorithmic discrimination arising in the decision-making processes of AI systems from the perspective of international law and human rights.
Theoretical Basis. The article explores the legal and technical dimensions of algorithmic discrimination. Legally, such discrimination does not align with traditional concepts, as the focus shifts from “intent” to “impact.” This complicates legal assessment and the burden of proof. Technically, many algorithms function as “black boxes,” meaning their decision-making processes are opaque, making legal intervention more difficult.
Results and Conclusions. It is argued that the current international human rights framework – including instruments such as the ICCPR and ICERD – is insufficient to address this issue. These normative gaps are due not only to technical complexity but also to weak state compliance and the absence of specific legal standards.
Individual legal protection mechanisms – such as the European Court of Human Rights (ECtHR), UN Treaty Bodies, and the Inter-American Court of Human Rights – are currently ill-equipped to respond effectively due to limited technological expertise and procedural barriers.
The article highlights the European Union’s relatively advanced approach through instruments like the AI Act and GDPR, while pointing out the significant gaps that remain in the United States and Global South countries. The article concludes with recommendations, including strengthening the international legal framework, aligning national legislation, establishing specialized institutions, and mandating algorithmic impact assessment.
The authors declare that there are no conflicts of interest present.