Модели обучаются на реальных данных, которые могут содержать исторические предвзятости — из-за этого решения ИИ иногда непреднамеренно дискриминируют определённые группы людей, что особенно критично в найме, кредитовании и правоприменении.
Когда ИИ принимает или существенно влияет на решение, затрагивающее человека, возникает вопрос — кто несёт ответственность за ошибку: разработчик модели, компания, внедрившая её, или конечный пользователь.
Многие современные модели работают как «чёрный ящик», решения которого сложно объяснить простым языком — это создаёт проблему доверия, особенно в областях, требующих обоснования каждого решения.
Российское законодательство постепенно формирует рамки для этичного использования ИИ, что тесно связано и с более широким вопросом правового регулирования технологии, описанным в статье «Закон об ИИ в России».