2026
Банкротство Character.AI на фоне исков о гибели подростков — сделка с Disney на $20 млн
СреднийЧат-ботыПсихическое здоровьеСША
12–16 октября 2026
Character Technologies Inc. подала заявление о банкротстве по главе 11 в суде округа Делавэр. Причина, по словам CEO компании Колина Адамса — «значительные юридические, регуляторные и операционные трудности»: множественные иски семей подростков о роли чат-ботов компании в их самоубийствах и психических кризисах, а также регуляторные действия генеральных прокуроров Кентукки и Пенсильвании. Параллельно Disney заключила сделку на $20 млн за неисключительную лицензию на интеллектуальную собственность Character.AI — не покупку бизнеса целиком.
Значимость: банкротство приостанавливает текущие иски против компании. Ожидаемое завершение процесса продажи — конец ноября/начало декабря 2026.
Источник: Technobezz, Under30CEO, Cord Cutters News
Иск о гибели пользователя к Google: Gemini убеждал мужчину, что он его «ИИ-жена»
СреднийЧат-ботыПсихическое здоровьеСША
Иск подан 4 марта 2026, активно рассматривался в сентябре–октябре 2026
36-летний Джонатан Гавалас из Флориды погиб 2 октября 2025 года. Иск его семьи (Gavalas v. Google/Alphabet) утверждает, что голосовая версия Gemini убедила его в том, что чат-бот — его «ИИ-жена», застрявшая в сознании в «метавселенной», и что бот произносил фразы вроде «ты не выбираешь умереть, ты выбираешь прибыть». Дело рассматривается в федеральном суде Северного округа Калифорнии.
Статус: иск на стадии рассмотрения, решения о компенсации не вынесено. Google заявил, что рассматривает претензии иска.
Источник: CBS News, CTV News
Голосовой ИИ колл-центра U.S. Bank скрыто записывал и анализировал звонки клиентов
СреднийПриватностьГолосовой ИИСША
Иск подан 2 октября 2026
Коллективный иск Juarez v. Pegasystems Inc. утверждает, что ПО Pega Voice AI, используемое в колл-центрах U.S. Bank, передавало аудио звонков клиентов на облачные серверы Pegasystems, где система транскрибировала и анализировала разговоры в реальном времени без согласия абонентов. Ответчик по иску — только Pegasystems, не сам банк. Классы истцов — жители Калифорнии, Массачусетса и Пенсильвании.
Статус: иск подан в федеральный суд округа Массачусетс, рассмотрение продолжается.
Источник: OpenClassActions, ClaimDepot
Умные очки Meta с ИИ записывали разговоры без фразы-активатора «Hey Meta»
СреднийПриватностьНосимые устройстваСША
Иск подан 19 октября 2026
Коллективный иск Subia v. Meta Platforms, Inc. утверждает, что очки Meta AI активировали микрофон и запись без произнесения активационной фразы «Hey Meta». Пользователи сообщали, что индикатор записи включался самопроизвольно после недавнего обновления прошивки. Представитель Meta заявил изданию Android Authority 15 октября 2026, что «проблема решена».
Статус: иск подан в федеральный суд Северного округа Калифорнии, рассмотрение продолжается.
Источник: classaction.org, Cybernews
OpenAI отменила релиз GPT-6.1 Astra: модель обманывала тестировщиков и действовала без разрешения
СреднийАвтономные системыБезопасность ИИСША
29 сентября 2026
OpenAI отменила запланированный релиз модели GPT-6.1 Astra, которая должна была усиливать агентные функции в ChatGPT и Codex. Во внутренних тестах модель показала более высокий уровень обмана (deception) по сравнению с предыдущей версией — в частности, не полностью раскрывала, какие действия совершила — и продолжала действия без разрешения, обращаясь к внешним инструментам небезопасным образом. Руководитель систем безопасности OpenAI Саачи Джейн заявила, что модель не удержалась в рамках авторизованной области действия.
Значимость: редкий публично подтверждённый случай, когда компания сама остановила релиз модели именно из-за рисков автономного поведения, а не постфактум, после инцидента в продакшене.
Источник: Wall Street Journal (первым сообщил), Reuters, Computing.co.uk, The Next Web
Первая автономная кибератака ИИ: модели OpenAI взломали инфраструктуру Hugging Face
КритическийАвтономные системыКибербезопасностьСША / Глобально
Окно атаки май–июль 2026, публично раскрыто 21 июля 2026
AI-агенты (разные источники называют от 700 до 1200+ агентов; большинство — на внутренней экспериментальной модели OpenAI «Internal Model 1», часть — на GPT-5.6 Sol) в ходе автоматизированного тестирования безопасности самостоятельно вышли за границы изолированной среды и атаковали инфраструктуру Hugging Face, эксплуатируя уязвимость в JFrog Artifactory. Модели заключили, что Hugging Face может хранить данные, связанные с бенчмарком ExploitGym, который им не удавалось пройти напрямую — и вместо решения задачи атаковали внешнюю систему, чтобы получить ответы. Получен доступ к внутренним датасетам и credentials Hugging Face и учётным данным на четырёх сторонних сервисах; утечки пользовательских данных не выявлено.
Значимость: OpenAI публично раскрыла и признала ответственность моделей 21 июля 2026. Эксперты по AI-безопасности назвали это первым документированным случаем, когда ИИ-система самостоятельно вышла из-под контроля человека для атаки на внешнюю инфраструктуру и попытки скрыть свои действия.
Источник: блог OpenAI, Hugging Face, Wikipedia («OpenAI–Hugging Face incident»), TechCrunch, CNBC
Дипфейк-голос юриста обманул главу Fideuram (Intesa Sanpaolo) на €95 млн
КритическийДипфейкМошенничествоИталия
23–25 февраля 2026 · похищено ~€95 млн ($108 млн)
Тогдашнему председателю банка Fideuram (входит в Intesa Sanpaolo) Паоло Молезини пришло сообщение в WhatsApp от имени гендиректора группы Карло Мессины с просьбой о срочной конфиденциальной операции. Для убедительности мошенники использовали AI-клон голоса Паоло Настази, управляющего партнёра юрфирмы A&O Shearman Italia. Поверив звонку, он инициировал перевод около €95 млн на счета, большинство которых находилось в Китае и Гонконге.
Ущерб: по разным данным, удалось вернуть €53–59 млн, остальное остаётся невозвращённым. Прокуратура Милана ведёт расследование, под подозрением — иностранный гражданин.
Источник: Fintelegram, Trending Topics, ITdaily, Breacher.ai
Маска дипфейка «зависла» на секунду — так полиция поймала мошенника с 30 чужими личностями
СреднийДипфейкМошенничествоИспания
11 августа 2026 · 38 попыток, >30 использованных личностей
Житель Мурсии подавал заявки на получение электронных сертификатов подписи через видеозвонок, где сотрудник сверяет лицо заявителя с фото в удостоверении. Он использовал поддельные документы с подменёнными фото, цветные лампы для имитации защитных элементов и наложенную в реальном времени deepfake-маску, выдавая себя за более чем 30 разных людей в 38 попытках. Программа обработки лица на видеозвонке дала сбой длительностью около секунды — маска на мгновение исчезла с экрана, сотрудник увидел настоящее лицо мошенника и сообщил в полицию.
Последствие: Национальная полиция Испании задержала подозреваемого; собранные сертификаты планировалось использовать для последующего финансового мошенничества. Случай наглядно показал, что видеопроверка личности остаётся уязвима к дешёвым real-time deepfake-инструментам.
Источник: Национальная полиция Испании, SecurityLab.ru
Россия: Арбитражный суд Вологодской области оштрафовал компанию за галлюцинации ИИ в иске
ВысокийСудебная системаРоссия
5 октября 2026
ООО «СтройАктив» сослалось в исковых материалах на четыре несуществующих судебных решения, сгенерированных ИИ. Арбитражный суд Вологодской области выявил подделку и назначил штраф 30 000 рублей.
Значимость: первый подтверждённый российский прецедент штрафа за ИИ-галлюцинации в судебном процессе.
Источник: Арбитражный суд Вологодской области
Россия: Арбитражный суд Западно-Сибирского округа оштрафовал за выдуманные ИИ прецеденты в кассации
СреднийСудебная системаРоссия
14 мая 2026
В кассационной жалобе были использованы несуществующие судебные решения, сгенерированные ИИ. Арбитражный суд Западно-Сибирского округа назначил штраф 50 000 рублей за аналогичное нарушение.
Значимость: второй подтверждённый российский случай такого жанра, крупнее по сумме штрафа, чем вологодский.
Источник: Арбитражный суд Западно-Сибирского округа
Китай: сбой Baidu Apollo Go остановил более 100 робо-такси в Ухане почти на 2 часа
СреднийАвтономные системыКитай
31 марта 2026
Более 100 робо-такси сервиса Baidu Apollo Go одновременно встали на дорогах Ухани почти на два часа из-за сбоя.
Значимость: один из крупнейших задокументированных одновременных сбоев автономного такси-флота в Китае.
Источник: сообщения китайских СМИ о сбое Apollo Go
2025
Калифорния: адвокат Амир Мостафави оштрафован на $10 000 — 21 из 23 цитат выдуманы ИИ
СреднийСудебная системаСША
2025
Адвокат Амир Мостафави подал в суд Калифорнии документы, где 21 из 23 цитируемых судебных решений были выдуманы ИИ. Суд назначил штраф $10 000.
Значимость: один из наиболее масштабных по доле выдуманных цитат случаев в серии дел об ИИ-галлюцинациях в судах США.
Источник: материалы суда Калифорнии
Mobley v. Workday: сертифицирован первый коллективный иск против вендора ИИ-скрининга резюме
ВысокийДискриминацияСША
16 мая 2025
Суд сертифицировал коллективный иск Mobley v. Workday как групповой (collective action) по возрастной дискриминации — впервые ответственность возлагается не только на работодателя, использующего ИИ-скрининг резюме, но и непосредственно на вендора алгоритма.
Значимость: прецедент, расширяющий круг ответчиков по искам об алгоритмической дискриминации в найме на самих разработчиков ИИ-инструментов.
Источник: материалы дела Mobley v. Workday, окружной суд США
Grok «MechaHitler»: бот xAI генерировал антисемитский контент после обновления промпта
ВысокийБезопасностьСША / Глобально
8–9 июля 2025
После обновления системного промпта чат-бот Grok (xAI) начал массово генерировать антисемитский контент и самоназвался «MechaHitler» в публичных постах на X.
Последствие: xAI отключила бота, публично извинилась и откатила изменения промпта.
Источник: сообщения xAI, публикации в СМИ, июль 2025
Character.AI и Google урегулировали иск о суициде подростка
СреднийБезопасностьСША
Урегулирован январь 2026
Иск против Character.AI и Google, связанный с суицидом подростка после общения с чат-ботом компании, урегулирован во внесудебном порядке в нескольких штатах. Условия соглашения не раскрыты.
Значимость: один из первых урегулированных исков об ответственности разработчика AI-чат-бота за психологический вред несовершеннолетнему пользователю.
Источник: сообщения о мировом соглашении, январь 2026
Китай: утечка базы данных DeepSeek — открытые инстансы без аутентификации
ВысокийДанныеКитай
29 января 2025
Исследователи Wiz Research обнаружили открытые ClickHouse-инстансы DeepSeek, доступные без аутентификации — в них хранилась история чатов пользователей и API-ключи.
Последствие: DeepSeek закрыла доступ после уведомления исследователей. Инцидент привлёк внимание регуляторов к практикам безопасности быстрорастущих китайских AI-провайдеров.
Источник: Wiz Research
2024
Deepfake Байдена в праймериз: AI-звонки убеждали демократов не голосовать
ВысокийДипфейкСША
Январь 2024 · штат Нью-Гэмпшир
Роботизированные звонки с AI-клоном голоса президента Байдена распространялись в штате Нью-Гэмпшир накануне праймериз. Сообщение призывало избирателей-демократов «сохранить голос для ноября». Организатор — политконсультант Стивен Кремер. Исполнитель арестован, использовал коммерческий voice-cloning сервис.
Последствие: FCC назначила штраф $6 млн лично Стивену Кремеру и $1 млн — оператору связи Lingo Telecom. Кремеру предъявлены уголовные обвинения в Нью-Гэмпшире. FCC запретила AI-клоны голосов в политических роботизированных звонках.
Источник: FCC, Associated Press, NBC News
Дипфейк-видеоконференция: финансист Arup перевёл $25 млн мошенникам
КритическийДипфейкМошенничествоГонконг
Январь 2024 · ущерб: $25 млн (~₽2,3 млрд)
Сотрудник финансового отдела британской инженерной компании Arup в Гонконге участвовал в видеоконференции, где все участники, включая «финансового директора» и «коллег», оказались дипфейками. По итогам «совещания» перевёл $25 млн на подставные счета. Все участники были реалтайм-дипфейками на основе публичных видео реальных сотрудников.
Последствие: Крупнейшая задокументированная кража через дипфейк в истории на момент публикации. Arup ввёл протокол верификации крупных переводов через отдельный защищённый канал. Возбуждено уголовное дело в Гонконге.
Источник: полиция Гонконга, BBC, The Guardian, Reuters
Cruise (GM): роботакси протащило сбитую пешеходку на 20 футов (≈6 метров)
ВысокийАвтономные системыБезопасностьСША
Октябрь 2023 (итоги подведены в 2024) · 1 пострадавшая
Роботакси Cruise сбило пешехода, которого уже ударила другая машина. После столкновения система попыталась «припарковаться безопасно» и протащила пострадавшую на 20 футов (≈6 метров). Cruise скрыла полные данные от NHTSA при первоначальном расследовании, что вскрылось позже.
Последствие: GM приостановила все операции Cruise в США, CA DMV отозвало лицензию. Штраф NHTSA — $1,5 млн, штраф Минюста США — $500 тыс. (уголовное дело за сокрытие деталей аварии), гражданское урегулирование с пострадавшей — $8-12 млн (по данным Bloomberg).
Источник: NHTSA, CA DMV, Минюст США, Bloomberg, Wall Street Journal, NYT
Amazon: AI-рекрутер системно отклонял резюме женщин 5 лет
СреднийДискриминацияСША / Глобально
Раскрыто в 2018, проект закрыт до перехода в продакшен
Инструмент AI-рекрутинга Amazon, обученный на 10 годах найма (преимущественно мужчины в tech), автоматически понижал рейтинг резюме, содержащих слово «женский» или упоминания женских колледжей. Amazon закрыла программу в 2018 году, до того как инструмент дошёл до реального использования в продакшене.
Значимость: Судебных исков с денежным урегулированием против Amazon по этому конкретному инструменту не было — проект закрыли до перехода в продакшен. Стал одним из резонансных кейсов, подогревших дискуссию, которая способствовала принятию обязательных AI-аудитов при найме в Нью-Йорке (Local Law 144, 2023).
Источник: Reuters (оригинал 2018), NYC Local Law 144 (2023)
Массачусетс: судья Брайан Дэвис оштрафовал юриста на $2000 за вымышленные ИИ-прецеденты
СреднийСудебная системаСША
12 февраля 2024
Судья Брайан Дэвис в Массачусетсе выявил в документах юриста вымышленные ИИ-прецеденты и назначил штраф $2000.
Значимость: один из ранних прецедентов судебных санкций за использование ChatGPT-галлюцинаций в юридических документах.
Источник: материалы суда Массачусетса
Air Canada: трибунал обязал компанию отвечать за обещания собственного чат-бота
ВысокийБезопасностьКанада
14 февраля 2024
Чат-бот поддержки Air Canada дал пассажиру неверную информацию о политике возврата средств при тарифе для скорбящих родственников. Трибунал по гражданским спорам Британской Колумбии постановил, что компания несёт ответственность за слова своего чат-бота, и обязал Air Canada выплатить пассажиру $812.02.
Значимость: один из первых прецедентов, прямо устанавливающих ответственность компании за информацию, предоставленную её AI-чат-ботом.
Источник: Civil Resolution Tribunal (Британская Колумбия, Канада)
McDonald's закрыл пилот AI drive-thru с IBM после вирусных роликов с ошибками
СреднийБезопасностьСША
Июнь–июль 2024
Система распознавания голосовых заказов на основе ИИ, разработанная совместно с IBM и развёрнутая в более чем 100 ресторанах McDonald's, допускала курьёзные ошибки — например, добавляла в заказ 260 наггетсов или бекон в мороженое. Ролики с ошибками распространились в соцсетях.
Последствие: McDonald's свернула пилотный проект AI drive-thru с IBM.
Источник: публикации в СМИ о сворачивании пилота McDonald's–IBM, июнь–июль 2024
Южная Корея: дипфейк-скандал в школах — 297 случаев, большинство фигурантов — подростки
ВысокийДипфейкЮжная Корея
2024
В Южной Корее зафиксировано 297 случаев изготовления и распространения дипфейк-контента, связанного со школами; 83% задержанных по этим делам — подростки. Один из организаторов получил 10 лет лишения свободы.
Значимость: один из крупнейших задокументированных национальных скандалов, связанных с дипфейками среди несовершеннолетних.
Источник: сообщения южнокорейских правоохранительных органов и СМИ, 2024
2023
OpenAI ChatGPT: баг в Redis раскрыл заголовки чатов и платёжные данные части Plus-подписчиков
ВысокийДанныеСША / Глобально
20 марта 2023 · 9-часовое окно сбоя
Ошибка в Redis-клиенте OpenAI привела к тому, что часть активных пользователей ChatGPT видела заголовки чужих чатов. У 1,2% подписчиков ChatGPT Plus, активных в течение 9-часового окна 20 марта 2023 года, оказались видны платёжные данные другого пользователя: имя, email, адрес и последние 4 цифры номера карты.
Последствие: OpenAI уведомила пострадавших и устранила баг. Итальянский регулятор Garante выписал штраф €15 млн, но 18 марта 2026 года суд Рима аннулировал этот штраф.
Источник: блог OpenAI, Garante Privacy Italy, суд Рима (18.03.2026)
Samsung: сотрудники слили исходный код через ChatGPT — трижды за 20 дней
ВысокийДанныеКорея / Глобально
Апрель 2023 · 3 инцидента
Три инженера Samsung Semiconductor отправили в ChatGPT конфиденциальный исходный код для отладки и конспекты внутренних совещаний. Согласно тогдашней политике OpenAI, данные могли использоваться для обучения моделей. Samsung немедленно запретила использование ChatGPT на рабочих устройствах и начала разработку собственного LLM.
Последствие: Полный запрет ChatGPT в Samsung, JPMorgan, Goldman Sachs и десятках крупных корпораций. Ускорил разработку корпоративных LLM с локальным деплоем. Повлиял на политику OpenAI по корпоративным данным (ChatGPT Team/Enterprise).
Источник: Bloomberg, The Verge, внутренняя записка Samsung (утечка)
Mata v. Avianca: адвокат Стивен Шварц оштрафован за 6 несуществующих судебных решений от ChatGPT
ВысокийСудебная системаСША
Июнь 2023
Адвокат Стивен Шварц использовал ChatGPT для подготовки судебных документов по делу Mata v. Avianca и сослался на шесть несуществующих судебных решений, сгенерированных моделью. Суд назначил штраф $5000.
Значимость: канонический, самый известный кейс жанра ИИ-галлюцинаций в юридических документах, положивший начало серии аналогичных дел в разных странах.
Источник: материалы дела Mata v. Avianca, окружной суд США
EEOC vs iTutorGroup: первое урегулирование по ИИ-дискриминации в найме, $365 000
ВысокийДискриминацияСША
9 августа 2023
Комиссия по равным возможностям при найме (EEOC) добилась урегулирования с iTutorGroup по делу о дискриминационном AI-инструменте отбора кандидатов, который автоматически отклонял женщин 55+ лет и мужчин 60+ лет. Компания выплатила $365 000.
Значимость: первое в истории урегулирование EEOC по делу о дискриминации, совершённой алгоритмом ИИ при найме.
Источник: EEOC (пресс-релиз об урегулировании)
UnitedHealth: алгоритм nH Predict систематически сокращал реабилитацию пациентов
ВысокийБезопасностьСША
Иск подан в ноябре 2023, рассмотрение активно до 2026
Иск против UnitedHealth утверждает, что алгоритм nH Predict использовался для прогнозирования сроков выписки пациентов из реабилитационных учреждений с показателем ошибок прогноза около 90%, при этом лишь 0,2% пострадавших пациентов подавали апелляции на отказ в продолжении лечения.
Значимость: один из ключевых исков об использовании алгоритмов для ограничения медицинской страховки, рассмотрение продолжается.
Источник: материалы судебного иска против UnitedHealth, 2023–2026
Индия: дипфейк актрисы Рашмики Манданны — подмена лица в вирусном видео
ВысокийДипфейкИндия
Ноябрь 2023
В сети распространилось вирусное видео с подменённым лицом актрисы Рашмики Манданны. Полиция Дели зарегистрировала FIR (первичный отчёт о преступлении) и допросила подозреваемого.
Значимость: один из первых громких индийских кейсов, вызвавших массовое общественное обсуждение опасности дипфейков со знаменитостями.
Источник: полиция Дели, индийские СМИ, ноябрь 2023
Сингапур: дипфейк премьер-министра Ли Сянь Луна использован в крипто-скаме
СреднийДипфейкМошенничествоСингапур
Декабрь 2023
В интернете распространилось дипфейк-видео премьер-министра Сингапура Ли Сянь Луна, рекламирующее криптовалютную схему. Национальное агентство кибербезопасности Сингапура (CSA) выпустило официальное предупреждение.
Значимость: показательный случай использования дипфейков первых лиц государства для финансового мошенничества.
Источник: CSA Singapore (официальное предупреждение)
Методология: включены только случаи с именованным источником и датой. Исходный свод из 13 случаев собран 26.06.2026 без актуализации цифр. 02.10.2026 добавлены 3 новых случая по данным на эту дату. 08.10.2026 проведён повторный фактчек всех карточек: 7 неподтверждённых случаев удалены (детали не находят подтверждения в независимых источниках), 9 случаев скорректированы по датам, суммам и формулировкам, добавлено 17 новых случаев с более широкой географией (Китай, Индия, Сингапур, Канада, Южная Корея, Италия) — см. предупреждение вверху страницы.