EU AI Act делит ИИ-системы на четыре уровня риска. «Неприемлемый риск» — технологии, полностью запрещённые в ЕС, например социальный скоринг граждан государством. «Высокий риск» — системы в критичных сферах (найм, кредитование, медицина, правоохрана), требующие строгого аудита и прозрачности. «Ограниченный риск» — системы вроде чат-ботов, обязанные раскрывать пользователю факт общения с ИИ. «Минимальный риск» — большинство обычных ИИ-приложений без специальных требований.
Важная особенность EU AI Act — экстерриториальность: закон применяется не только к компаниям, зарегистрированным в ЕС, но и к любому бизнесу за пределами Евросоюза, если его ИИ-система используется европейскими пользователями или влияет на них. Это значит, что даже российская компания, продающая ИИ-продукт клиентам в Европе, формально подпадает под требования закона.
Для систем, отнесённых к высокому риску, закон требует ведения технической документации, обеспечения человеческого контроля над решениями системы, регулярного тестирования на предвзятость и точность, а также прозрачности перед конечными пользователями о том, что решение принято или поддержано ИИ.
Закон вступает в силу поэтапно: запрет систем неприемлемого риска — с 2024–2025 года, требования к системам общего назначения и высокого риска — с 2025–2027 года в зависимости от категории. Штрафы за нарушение могут достигать 7% глобального годового оборота компании — что делает соответствие требованиям закона существенным фактором для любого бизнеса, планирующего работу на европейском рынке.