Глоссарий ИИ

Нейросеть, обученная на огромных массивах текста, которая генерирует и понимает язык — основа ChatGPT, GigaChat, YandexGPT.

Модель, устроенная по аналогии с нейронами мозга: слои узлов, которые учатся находить закономерности в данных.

Архитектура нейросети (2017 год), лежащая в основе всех современных LLM — умеет учитывать контекст всего текста сразу, а не по словам.

Минимальный кусочек текста, который обрабатывает модель — часть слова, слово или знак препинания. Стоимость запросов к API считают в токенах.

Текстовый запрос или инструкция, которую пользователь даёт модели. Качество промпта напрямую влияет на качество ответа.

Процесс получения ответа от уже обученной модели — в отличие от обучения, это то, что происходит при каждом вашем запросе.

Донастройка готовой модели на специализированных данных, чтобы она лучше решала конкретную задачу или домен.

Подход, при котором модель перед ответом подтягивает актуальные данные из внешней базы — снижает галлюцинации и добавляет свежие знания.

Числовое представление текста, изображения или другого объекта, по которому можно измерять смысловую похожесть.

Ситуация, когда модель уверенно выдаёт неверную или выдуманную информацию как факт.

Максимальный объём текста (в токенах), который модель может «удержать в памяти» в рамках одного диалога.

Способность модели работать не только с текстом, но и с изображениями, аудио или видео в одном запросе.

Система на основе LLM, которая не просто отвечает, а самостоятельно планирует шаги и использует инструменты для достижения цели.

Гипотетический ИИ, способный решать любые интеллектуальные задачи не хуже человека — пока не достигнут ни одной моделью.

Крупная модель, обученная на широком массиве данных и приспособленная под множество разных задач без необходимости обучения с нуля.

Модель, которая перед финальным ответом генерирует развёрнутую цепочку внутренних рассуждений, что повышает точность на сложных задачах — логика, математика, код.

Две базовые ошибки обучения модели: переобучение — когда модель «зазубрила» тренировочные данные, но плохо работает на новых; недообучение — когда модель не уловила закономерности вовсе.

Новые способности модели, которые внезапно проявляются при достижении определённого масштаба (параметров, данных), но отсутствуют у меньших версий той же архитектуры.

Российская LLM от Сбера, одна из ведущих отечественных моделей — участвует в Полярном тесте AI Радар.

Семейство языковых моделей от Яндекса, лежит в основе Алисы и продуктов Яндекса.

Российская модель генерации изображений от Сбера, аналог Midjourney и DALL·E.

Семейства открытых русскоязычных моделей, часто используемые как база для дообучения нишевых решений.

Открытый российский бенчмарк для оценки языковых моделей на русском языке по десяткам заданий.

Модель, чьи веса доступны для скачивания и локального запуска — в отличие от закрытых моделей, доступных только через API.

Компактная модель (обычно до 10 млрд параметров), которую можно запустить на локальном сервере или даже смартфоне.

Модель, обученная одновременно на тексте, изображениях и иногда аудио — понимает и генерирует контент разных типов.

Федеральный закон «О персональных данных» — ключевое ограничение при обучении и эксплуатации ИИ-систем в России, если они обрабатывают данные о людях.

Статус, обязывающий объекты (банки, энергетику, госорганы) использовать сертифицированное и часто отечественное ПО, включая ИИ-решения.

Официальный список российского софта Минцифры — включение в реестр даёт налоговые льготы и приоритет в госзакупках.

«Регуляторная песочница» — временный особый правовой режим, позволяющий тестировать ИИ-технологии (например, беспилотники) в обход части обычных норм.

Добровольное соглашение российских компаний о принципах разработки и применения ИИ, курируемое Альянсом в сфере ИИ.

Языковая модель, полностью обученная и размещённая на территории страны — требование для работы с чувствительными государственными данными.

См. ЭПР — среда с упрощёнными правилами для отработки новых технологий до появления постоянного регулирования.

Программный документ (принят в 2019 году, обновлён с горизонтом до 2030 года), задающий цели и приоритеты государства в развитии ИИ.

Указ, которым утверждена Национальная стратегия развития искусственного интеллекта в России.

Обсуждаемое в России и мире требование обозначать текст, изображения и видео, созданные или изменённые ИИ.

Практика и договорное обязательство поставщика ИИ-модели не сохранять и не использовать переданные через API данные клиента для дальнейшего обучения моделей.

Автономный или полуавтономный сервис на базе LLM, выполняющий рабочие задачи — от обработки заявок до анализа отчётности.

Автоматизация по жёстким правилам без ИИ — часто путают с AI-агентами, но RPA не умеет обрабатывать неструктурированные данные.

Показатель окупаемости инвестиций в ИИ-проект — ключевая метрика при принятии решения о масштабировании пилота.

Практики и инструменты для развёртывания, мониторинга и обновления ML-моделей в проде — «DevOps для машинного обучения».

Точка концентрации ИИ-экспертизы, стартапов и инфраструктуры в конкретном городе или регионе.

Группа серверов с видеокартами, объединённых для обучения и инференса больших моделей — главный дефицитный ресурс отрасли.

Задокументированный случай сбоя, вреда или неэтичного поведения ИИ-системы — отслеживается для оценки рисков отрасли.

Вложения фондов в ИИ-стартапы на ранней стадии в обмен на долю в компании.

Компания, чей основной продукт построен на технологиях ИИ, а не просто использующая их как вспомогательный инструмент.

Расчёт прибыльности продукта на одного пользователя с учётом стоимости инференса модели — каждый запрос к LLM стоит реальных денег.

Подход, при котором ИИ-система самостоятельно планирует последовательность шагов, использует внешние инструменты и доводит многошаговую задачу до результата без пошагового участия человека.

Низкокачественный, массово сгенерированный ИИ-контент — тексты, изображения или видео — который наводняет интернет и снижает доверие аудитории к контенту в целом.

Продуктовая категория ИИ-ассистентов, встроенных прямо в рабочий инструмент (редактор кода, офисный пакет, CRM), которые помогают пользователю выполнять задачи, оставаясь на подхвате.

Технология автоматизации процесса создания модели машинного обучения — от подбора признаков до архитектуры и гиперпараметров, — снижающая порог входа в разработку ИИ-решений.

Стандартизированный набор задач для сравнения качества разных моделей между собой.

Независимая методика AI Радар для сравнения ведущих моделей на реальных, а не синтетических задачах.

Популярный международный бенчмарк, проверяющий знания модели по 57 предметным областям — от права до медицины.

Склонность модели генерировать вредный, оскорбительный или опасный контент — один из ключевых параметров безопасности.

Степень, в которой поведение модели соответствует намерениям и ценностям человека, а не только формальному промпту.

Целенаправленный поиск уязвимостей и опасного поведения модели с помощью атакующих промптов до релиза в прод.

Атака, при которой вредоносная инструкция прячется во входных данных, чтобы заставить модель нарушить исходные правила.

Режим работы ИИ-системы, при котором финальное решение или проверку выполняет человек, а не модель самостоятельно.

Техника обхода встроенных ограничений безопасности модели с помощью специально сформулированных запросов, вынуждающая её выдать запрещённый или вредоносный контент.

Набор технических и политических ограничений вокруг модели, которые не дают ей выдавать вредный, небезопасный или нежелательный для бизнеса контент.

Направление в ИИ, нацеленное на то, чтобы решения модели были понятны и обоснованы для человека, а не оставались «чёрным ящиком».

Специалист, встраивающий готовые модели в продукты — на стыке разработки и машинного обучения.

Специалист, который проектирует и оптимизирует запросы к LLM для получения стабильно качественных результатов.

Специалист по анализу данных и построению моделей — классическая профессия, эволюционировавшая вместе с ростом ИИ.

Специалист, отвечающий за инфраструктуру и стабильную работу ML-моделей в промышленной эксплуатации.

Базовое умение сотрудника эффективно и безопасно использовать ИИ-инструменты в повседневной работе — навык, а не профессия.

Процесс освоения новых, связанных с ИИ компетенций специалистами из смежных или неайтишных профессий.

Менеджер продукта, отвечающий за то, какие ИИ-функции строить и как встраивать их в пользовательский опыт.

Специалист, проектирующий инфраструктуру и архитектуру ИИ-систем масштаба компании.

Стиль разработки, при котором человек описывает желаемый результат на естественном языке и принимает код от ИИ-агента, не вникая построчно в его содержание.

Архитектура, генерирующая изображения через постепенное «очищение» шума — лежит в основе Kandinsky, Stable Diffusion, DALL·E.

Ключевой элемент трансформера: позволяет модели определять, какие части текста важнее для генерации конкретного слова.

Экономичный способ дообучения модели, изменяющий лишь малую часть весов вместо переобучения всей сети.

Сжатие модели за счёт снижения точности вычислений — модель работает быстрее и требует меньше памяти.

Обучение компактной «модели-ученика» повторять поведение большой «модели-учителя» почти без потери качества.

Хранилище эмбеддингов, по которому ищут семантически похожие фрагменты текста — основа RAG-систем.

Техника, при которой модель прописывает промежуточные шаги рассуждения перед финальным ответом — повышает точность.

Параметр, регулирующий случайность ответов модели: ниже — предсказуемее, выше — креативнее.

Способность модели решать задачу без примеров (zero-shot) или по 1–2 примерам прямо в промпте (few-shot), без дообучения.

Способность модели самой решать, когда обратиться к внешнему инструменту или API, и передать туда нужные параметры.

Скрытая от пользователя инструкция, задающая модели роль, тон и ограничения ещё до начала диалога.

Искусственно сгенерированные данные для обучения моделей, когда реальных данных не хватает или они защищены законом.

Присвоение меток исходным данным вручную или с помощью ИИ — обязательный этап подготовки обучающей выборки.

Выполнение ИИ-вычислений прямо на устройстве — смартфоне, камере — а не в облаке: быстрее и без интернета.

Архитектура, где вместо одной большой сети запрос обрабатывает лишь несколько специализированных «экспертов» из многих — это снижает вычислительные затраты при том же качестве.

Открытый стандарт, который позволяет AI-агентам единообразно подключаться к внешним инструментам, файлам и сервисам — «USB-порт» для ИИ-приложений.

Архитектура из двух конкурирующих нейросетей — генератора и дискриминатора, — которые обучаются в противостоянии друг с другом, что позволяет создавать реалистичные изображения и другой контент.

Структурированное представление знаний в виде сети связанных фактов («сущность — отношение — сущность»), которое ИИ-системы используют для более точного и проверяемого поиска и ответа.

Техника искусственного увеличения и разнообразия тренировочного набора данных за счёт трансформации существующих примеров, а не сбора новых.

Числовые значения (веса) внутри нейросети, которые настраиваются в процессе обучения и определяют, как модель обрабатывает входные данные — их количество часто используют как грубую оценку «размера» модели.

Область ИИ, отвечающая за распознавание и анализ изображений и видео.

Раздел ИИ, занимающийся пониманием и генерацией человеческого текста.

Модели, создающие новый контент — текст, изображения, код — в отличие от предиктивных моделей, которые только прогнозируют.

Чат-бот отвечает по сценарию или на вопросы, агент самостоятельно планирует и выполняет многошаговые задачи.

Приложение на основе ИИ, взаимодействующее с пользователем через речь — например, Алиса или Салют.

Технология преобразования текста в звучащую речь.

Технология преобразования устной речи в текст.

Технология извлечения текста из изображений и сканов документов.

Синтетическое изображение, видео или аудио, созданное ИИ и выдающее себя за подлинное.

Использование ИИ для управления транспортом без участия человека, с разными уровнями автоматизации.

Виртуальная модель физического объекта или процесса, обновляемая в реальном времени для прогноза и оптимизации.

Применение компьютерного зрения и анализа данных для помощи врачам в постановке диагноза по снимкам и анализам.

AI-агент, который самостоятельно пишет, тестирует и правит программный код по задаче на естественном языке, а не просто подсказывает отдельные строки.

Задача обработки естественного языка по определению эмоциональной окраски текста — позитивной, негативной или нейтральной, — широко применяемая для анализа отзывов и обращений клиентов.

Направление, в котором модели ИИ управляют поведением роботов и других устройств в физическом мире, а не только обрабатывают текст, изображения или звук.