Разметка данных — это процесс присвоения меток, категорий или аннотаций сырым, необработанным данным — текстам, изображениям, аудиозаписям — чтобы модель могла обучиться на примерах с известным правильным ответом. Например, для обучения модели-классификатора спама нужен набор писем, каждое из которых размечено как «спам» или «не спам».
Разметка может выполняться вручную специально нанятыми людьми-разметчиками, полуавтоматически с использованием вспомогательных инструментов, либо с привлечением уже обученной модели для предварительной разметки с последующей проверкой человеком. Качество и последовательность разметки напрямую определяют потолок качества итоговой обученной модели — ошибки и противоречия в разметке модель унаследует как часть усвоенных закономерностей.
Специализированная разновидность разметки — сбор человеческих оценок предпочтительности разных вариантов ответа модели, используемая в RLHF для alignment языковых моделей под человеческие ценности и ожидания.