Двенадцать опубликованных корпоративных документов, российские стандарты и измерения того, что происходит с решением человека после ответа модели. С иллюстрацией из проекта Future Hub на машиностроительном предприятии.
Содержание
01
Двенадцать документов: счёт
02
Одиннадцать способов доверия
03
Почему вторая граница дороже
04
Кто отвечает: суд уже ответил
05
Про производство известно мало
06
Иллюстрация: документ за три дня
07
Как строится вторая граница
08
Возражения, которые стоит разобрать
09
С чего начать и когда не нужно
10
Что это за формат
11
Словарь
12
Источники
У правил работы с ИИ две границы. Первая отвечает на вопрос, что можно отдать модели. Вторая — что можно сделать по её ответу. Мы прочитали по первоисточникам двенадцать корпоративных документов, а российские стандарты — по текстам и карточкам: входные правила есть почти везде, перечень решений встречается реже и почти всегда касается решений о людях. Измерения говорят, что вторая граница обходится дороже: рентгенологи со стажем в среднем больше пятнадцати лет теряли почти половину точности при неверной подсказке модели, а объяснения к ответу доверие к нему не снижают. Задокументированных производственных инцидентов в открытых источниках нет — ниже о том, почему это мало что доказывает и что можно построить на месте пустоты.
Правила обращения с данными есть в одиннадцати документах из двенадцати, а перечень решений, которые нельзя принять только по ответу модели, — в семи. Мы читали первоисточники: политики американских университетов, руководство федерального пенсионного агентства США, документы британского медицинского траста и городского совета Лестера, рамку правительства Великобритании и два шаблона юридических фирм.
Из семи документов с перечнем пять говорят только о решениях, касающихся конкретного человека: назначение выплаты или отказ в ней, доступ гражданина к услуге, кадровое решение, вывод об успеваемости студента, диагноз и лечение. Эти пункты продиктованы законодательством о персональных данных, трудовым правом и правилами профессиональной ответственности; где такого требования нет, там нет и пункта. О решениях, касающихся фактов и техники, — можно ли принять на веру норму, расчёт, характеристику, ссылку на стандарт — говорят два документа из двенадцати, и оба общими словами: политика American University в Вашингтоне не допускает, чтобы проверка фактов, подтверждение данных и атрибуция источников решались одной моделью, а рамка правительства Великобритании формулирует, что модель оптимизирована под правдоподобие и единственным источником истины служить не может.
Двенадцать документов: перечень на входе есть, перечень на выходе — реже
11 из 12
документов с правилами про данные
7 из 12
с перечнем решений
2 из 12
о решениях про факты и технику
В шаблоне юридической фирмы Fisher Phillips блок запретов состоит из шести пунктов, из которых про решение один, кадровый; у пенсионного агентства США в разделе запрещённых применений тоже шесть пунктов и один про решение. А в шаблоне фирмы Goosmann Law на месте отраслевого перечня стоит незаполненная квадратная скобка с подсказкой «впишите сюда»: список нужен, и его оставляют составителю.
Выборка при этом смещена в пользу второй границы: свои правила публикуют университеты, госорганы и медицина — те, кого закон обязывает отвечать за автоматизированные решения о людях; опубликованной политики промышленного предприятия мы не нашли. Академический разбор университетских политик 2025 года фиксирует то же смещение.
Одиннадцать способов обеспечения доверия перечисляет ГОСТ Р 59276-2020, и все они технические: представительная обучающая выборка, очистка данных, объяснимые алгоритмы, защита информации о модели, соблюдение допустимой области применения, актуализация модели. Требований к надзору человека за решением, принятым по результату работы системы, в стандарте нет: доверие обеспечивается качеством разработки.
Отраслевой документ, написанный прямо про машиностроение, в российской системе стандартизации мы нашли один — предварительный стандарт ПНСТ 964-2024 о технологиях ИИ в станкоинструментальной промышленности, действующий с января 2025 года. Это каталог вариантов использования: где применить прогнозирование, где автоматизацию. Требований к контролю результата в нём нет — по официальному описанию содержания, полный текст платный.
Кодекс этики в сфере ИИ — октябрь 2021 года, больше восьмисот присоединившихся организаций — отводит отдельный раздел тому, что ответственность за последствия применения систем ИИ всегда несёт человек, но написан он про разработку и эксплуатацию систем; ситуацию, когда сотрудник спросил чат и поверил ответу, кодекс не описывает.
Исключение появилось в июне 2026 года и пришло из финансовой сферы. Методические рекомендации Банка России называют среди последствий риска «неверное управленческое решение, принятое с использованием ИИ», а в пункте 2.5 условие названо прямо: если ИИ работает в автоматическом режиме в критически важных процессах — в платежах, в учётных системах — и организация оценила риски информационной безопасности как высокие, ей рекомендуется предусмотреть проверку результата человеком с возможностью его изменить. В приложении регулятор описывает передачу выходных данных «лицу, принимающему решение в рамках отдельно взятого бизнес-процесса, технологического участка организации». Слово «технологический участок» написал финансовый регулятор. Машиностроению такой формулировки в открытых источниках мы не нашли.
Одиннадцать способов доверия и ни одного про человека
С 82 процентов до 45,5 процента падала точность рентгенологов со стажем в среднем больше пятнадцати лет, когда система подсказывала неверную категорию. Эксперимент опубликован в журнале Radiology в мае 2023 года: 27 врачей читали по пятьдесят маммограмм с подсказкой, ошибочной в двенадцати случаях из сорока; у неопытных врачей точность падала с восьмидесяти процентов до значений ниже двадцати. Автор исследования назвал влияние на самых опытных читателей неожиданным и связал риск с повторяющимся, высоко стандартизированным характером работы. Заводская рутина устроена так же.
Управленческая картинка «модель подсказывает, человек проверяет, вместе получается лучше» на большом материале не подтвердилась. Метаанализ в Nature Human Behaviour за 2024 год свёл 106 исследований и 370 размеров эффекта: в среднем связка человека с моделью работала хуже, чем сильнейший из двоих по отдельности, и потери сосредоточены в задачах принятия решений, тогда как в создании текста связка выигрывала.
Ещё неприятнее устроен вопрос о том, чем это лечится. Работа Buçinca, Malaya и Gajos на выборке из 199 человек (ACM CSCW, 2021) показала, что объяснения, приложенные к ответу модели, избыточного доверия не снимают; по некоторым данным оно от них растёт. Помогают конструкции, которые заставляют остановиться и подумать; самая переносимая из трёх меняет порядок действий: человек сначала фиксирует собственное решение и только потом видит подсказку. Там же измерена цена — самые низкие оценки участники ставили интерфейсам, которые сильнее всего заставляли думать.
Механизм назван в профиле генеративного ИИ NIST AI 600−1 (июль 2024): модель выдаёт ошибочное содержание уверенным тоном, человек верит и действует, а приложенные к ответу логика и ссылки доверие повышают. В тесте открытых инженерных задач EngiBench эксперт набирает 8,74 балла из десяти против примерно 7,0 у сильнейших моделей, и трудность у моделей вызывает перевод словесного описания в постановку задачи; вычисляют они хорошо (препринт, рецензирования не проходил). Ошибка приходит аккуратно оформленной чужой задачей, и калькулятор её не ловит.
Почему вторая граница обходится дороже
Ответственность за достоверность сгенерированного текста несёт лицо, участвующее в деле и использовавшее технологию, — так сформулировал Суд по интеллектуальным правам в определении от 27 августа 2026 года по делу № А71-11377/2025. Сторона построила кассационную жалобу на несуществующей и искажённой судебной практике, и суд наложил на неё штраф за неуважение к суду. В том же определении суд развёл того, кто готовил текст, и того, кто отвечает: штраф в 5000 рублей, максимум для гражданина по статье 119 АПК, наложен на участника дела, а представитель по доверенности, который фактически написал жалобу, его не понёс. Специальной нормы про ИИ суду не понадобилось, хватило общих правил АПК о добросовестности и о риске процессуальных действий; применимость этой логики к вашей ситуации — вопрос к юристу.
За пределами России тот же сюжет разыгран подробнее. Deloitte в 2025 году вернула правительству Австралии часть гонорара за отчёт стоимостью около 440 тысяч австралийских долларов: в нём нашлись несуществующие академические источники и сфабрикованная цитата из решения федерального суда, причём нашёл их посторонний исследователь. В канадском деле Moffatt v. Air Canada (февраль 2024 года) трибунал взыскал с авиакомпании 650,88 канадского доллара в пользу пассажира за несуществующее правило тарифа, которое сообщил её чат-бот: отвечает организация, выпустившая ответ наружу.
Масштаб показывает открытая база AI Hallucination Cases, куда попадают решения судов, установивших опору стороны на выдуманное моделью содержание: за год, с весны 2025-го по весну 2026-го, число таких решений выросло примерно со 130 до почти 1400, а к октябрю 2026 года их стало больше двух тысяч. Это профессия, где проверка ссылки входит в базовую подготовку, а личная ответственность за поданный документ существует давно и никого не защитила.
Кто отвечает: суд уже ответил
Ни одного публичного разбора производственного инцидента, где выдуманная моделью норма, характеристика или расчёт привели бы к измеримым последствиям, мы не нашли ни на русском, ни на английском за два захода. Механизм описан отраслевыми юристами, разборов нет. Объяснение у пустоты простое: такой случай предприятие разбирает внутренним расследованием, и наружу он выходит через суд или через надзор.
Надзор к этому не готов. Ростехнадзор с конца 2025 года обсуждает применение ИИ у себя — информационные системы для документарных проверок, пилот в государственном энергетическом надзоре, — а требований о том, как поднадзорным организациям обращаться с ответами моделей при подготовке расчётов и экспертиз, в открытых источниках нет.
Исследование ГК «Солар» разобрало 12 тысяч обращений сотрудников к ИИ в ста пятидесяти крупных компаниях за первое полугодие 2026 года: 38 процентов обращений содержали конфиденциальную информацию, треть компаний не применяет специальных мер защиты. Что происходило после ответа — сколько ответов ушло в документ и сколько из них были неверными, — не меряет никто. Вход измеряют не потому, что он важнее, а потому, что его видно приборам: утечку ловит система контроля, а доверие к ответу не ловит ничто.
Пустоту заполняют цифры без источника: самое цитируемое число по теме — «47 процентов руководителей приняли крупное деловое решение по выдуманному моделью содержанию» — первоисточника не имеет, и мы его не используем. Масштаб применения при этом известен: по опросу Банка России среди 14,7 тысячи нефинансовых предприятий (май 2026 года) генеративный ИИ применяет каждое седьмое из них, в обрабатывающей промышленности — от 12 до 14 процентов в зависимости от группы товаров. По опросу «Работа.ру», «СберПодбора» и «Нетологии» среди более чем 250 работодателей (июль 2026 года) 71 процент компаний оставляет сотрудникам решать самим, как пользоваться такими инструментами.
Про производство известно мало, и это не успокаивает
Пять страниц и девять разделов — таким получился документ с правилами работы с ИИ, который мы написали для машиностроительного предприятия перед четырёхчасовым занятием для его руководителей летом 2026 года. Разослать памятку заранее попросил заказчик; мы записали эту просьбу отдельной строкой в приложение к договору, и за три дня до занятия документ ушёл заказчику для печати, раньше, чем прозвучало первое слово программы.
Первой границе отведены пять разделов из девяти. Классификация данных по трём уровням: открытые — можно, внутренние — после обезличивания, коммерческая тайна, персональные данные и техническая документация — запрещены. Перечень «можно и нельзя» с примерами запросов. Отраслевая надстройка из шести пунктов, которой нет в универсальных памятках, среди них чертежи и конструкторская документация, характеристики изделий, сведения о дефектах и отказах конкретных изделий в эксплуатации, данные эксплуатирующих организаций. Проверочный вопрос вместо длинного списка: если этот текст увидит посторонний, создаст ли это проблему компании, клиенту или сотруднику. И пять правил для команды — все пять о том, что уходит в чат.
Второй границе отведено три раздела. Названы шесть областей, где решение нельзя принять только по ответу модели: промышленная безопасность, технические решения по изделиям, кадровые и дисциплинарные вопросы, юридическая экспертиза документов, финансовые расчёты и согласования, оценка рисков для безопасности предприятия. Отдельный раздел говорит, что проверять: числовые данные — по первоисточнику, наличие и актуальность нормативного документа — отдельно, технические характеристики без проверки не использовать. Замыкает этот раздел формула: любая информация от модели считается черновиком. Ответственность вынесена отдельно: «нейросеть ошиблась» не снимает её с сотрудника.
Первая граница разложена на перечни, уровни и примеры; вторая названа областями и принципом. Так устроено большинство документов, которые мы прочитали для этой статьи, и наш оказался устроен так же. Причина в природе предмета: текст перед отправкой виден любому средству контроля, а след решения по ответу — только тому, кто знает, как это решение принимается. Программа занятия проводит ту же границу: демонстрации в приложении к договору были заложены на обезличенных задачах, а то, что открывается только внутренними данными, вынесено в разбор контуров доступа.
Пришли мы при этом не на пустое место. Накануне занятия участники прислали вопросы, которые звучали так, будто их авторы цитируют внутренний документ предприятия: массовый контур для всех сотрудников, журналы обращений под контролем службы информационной безопасности, частное облако, векторная база документации, интеграция с учётной и конструкторской системами. По программе дня, которую составило само предприятие, после нашей части шли блоки его служб ИТ, ИБ и внутренних проектов. Свой технический проект у предприятия уже шёл, и все эти вопросы, включая вопрос одного из руководителей об ответственности за утечку, касались первой границы. О том, что можно решить по ответу модели, в них не спрашивали.
Иллюстрация: документ, который ушёл на предприятие за три дня до занятия
Восемь конструкций мы собрали из уже написанных документов и измерений; лестницу уровней под виды работ достроили сами. Предприятию остаётся выбрать две-три под свой предмет. Первая и самая дешёвая — изменение порядка действий: человек фиксирует собственную оценку до того, как открывает чат, и расхождение с ответом модели отмечает отдельно. В эксперименте Buçinca доверие снижали конструкции, заставляющие остановиться и подумать; изменение порядка — самая переносимая из трёх. Призыв проверять к ним не относится: он не меняет последовательности действий.
Вторая — уровни решений. Классическая инженерная модель уровней автоматизации (Parasuraman, Sheridan, Wickens, 2000) делит работу на четыре шага: сбор информации, её анализ, выбор решения и исполнение. Вторая граница живёт на третьем шаге. В практическом виде это четыре уровня по виду работ: справка для себя, черновик документа, расчёт, идущий в дело, и документ за подписью.
Третья — журнал, в котором есть графа «как использован вывод». Руководство штата Нью-Йорк NYS-G25−002, обновлённое в июне 2026 года, рекомендует хранить записи девяносто дней и отслеживать, кто обращался, что подавалось на вход и как использован полученный ответ. Последняя графа встретилась нам один раз на всю выборку, и она же превращает разговоры о доверии в наблюдаемую величину.
Дальше — конструкции для случаев, где полный запрет остановил бы работу. Полномочие отменить: в том же документе штата Нью-Йорк записано, что у пользователя должно быть право изменить или отменить решение системы, и это пункт должностной инструкции. Соблюдение самого руководства ведомствам не вменено в обязанность: даже самый проработанный из найденных образцов второй границы остаётся рекомендацией. Порог выхода наружу: человек проверяет ответ прежде, чем тот покинет организацию. Вторая пара глаз: статья 14 регламента ЕС, которая для высокорисковых систем применяется с декабря 2027 года, требует, чтобы результат биометрической идентификации подтверждали двое компетентных сотрудников — прямой аналог второй подписи в заводских регламентах. Обратимость: кодекс этики Банка России для финансового рынка допускает решение с применением ИИ, если по запросу его пересматривает сотрудник. Восьмая конструкция — подтверждение оператором, процитированное выше.
Как строится вторая граница
Процедура второй границы — это порядок, в котором человек сначала записывает своё решение, и графа, в которой видно, что он сделал с ответом модели.
«Надзор человека — ритуал, который легитимирует плохие системы». Самое сильное из возражений, и оно доказательное: Бен Грин разобрал 41 политику человеческого надзора за государственными алгоритмами и показал, что надзорную функцию люди не выполняют и что сами такие политики дают ложное чувство защищённости. Удар приходится по формулировке «человек проверяет» и достигает цели. Отсюда отказ от декларативной формы: требование Грина, чтобы формы надзора подтверждались измерениями, выполняют изменение порядка действий и журнал с графой об использовании вывода; строчка «проверяйте достоверность» не выполняет.
«Ответственность и так на подписывающем». Юридически верно: российское определение 2026 года исходит именно из этого. Практическая ценность у возражения меньше, потому что ответственность распределяется после ущерба, а порядок действий меняется до подписи. Контрольный довод: рентгенологи со стажем в среднем больше пятнадцати лет несут полную ответственность за заключение, и это не удержало их точность от падения с 82 до 45,5 процента. Предвзятость автоматизации работает иначе: человек не замечает места, где надо было проверить.
«Регламентация убьёт использование». Довод усилился в 2026 году: пакет упрощения, известный как Digital Omnibus, принят и с 27 июля 2026 года действует как регламент ЕС 2026/1744. Требования к высокорисковым системам отодвинуты: до 2 декабря 2027 года для систем из перечня приложения III, до 2 августа 2028 года для систем в составе продукции из приложения I. Отложена тяжёлая часть: требования к самим системам, техническая документация, обязанности поставщиков и пользователей. Обязанность по грамотности персонала смягчили, но сохранили: компании должны принимать меры, которые поддерживают её развитие, а гарантировать конкретный уровень не обязаны. Ответственность подписывающего никто не отменял. Перечень из десяти строк и система менеджмента по ISO/IEC 42 001 — два разных разговора, и смешивать их выгодно тому, кто не хочет вести ни одного.
«Вторую границу заменяет компетентность». Основания серьёзные: метаанализ показывает, что знак эффекта зависит от того, кто сильнее в задаче, а европейский регулятор для широкой аудитории пользователей ограничился требованием грамотности и в 2026 году смягчил даже его. Компетентность действительно снижает эффект: у самых опытных рентгенологов потеря заметно меньше, чем у новичков, — 37 процентных пунктов против почти шестидесяти. Но эффект не исчезает. К этому добавляется деквалификация: в наблюдательном исследовании в Lancet Gastroenterology & Hepatology частота выявления аденом на колоноскопиях без ИИ-поддержки снизилась с 28,4 до 22,4 процента после периода работы с системой. Навык, которым перестают пользоваться, слабеет; правило переживает конкретного человека.
Возражения, которые стоит разобрать
Шесть шагов укладываются в неделю работы одного человека и не требуют бюджета.
1. Составьте перечень решений своей предметной области. Десять строк вида «нельзя сослаться на пункт стандарта, который назвала модель», «нельзя внести её значение в спецификацию», «нельзя принять её расчёт в расчётно-пояснительную записку». Образец жанра — американское пенсионное агентство: там это строка в списке запрещённых применений. 2. Разметьте виды работ по тем же четырём уровням — от справки для себя до документа за подписью. 3. Поменяйте порядок в одном месте. Там, где решение записывается в форму, добавьте поле для собственной оценки до обращения к модели. 4. Заведите графу «как использован вывод» в том журнале, который у вас уже есть, — заявок, изменений, согласований. 5. Назначьте вторую подпись на два-три вида решений из первого перечня и опишите, что проверяет второй подписывающий. 6. Договоритесь, где правило живёт. Правило работает там, где принимается решение, и жить оно должно строкой в шаблоне документа.
Если модель применяют для черновиков писем и поиска формулировок, а решения по нормам, расчётам и допускам принимаются по проверенным источникам и уже разложены на согласования, второй перечень ничего не добавит: он у вас есть, просто написан в других документах. И одно предупреждение: правило, которое заставляет думать, непопулярно по построению — в эксперименте самые действенные конструкции участники оценивали хуже всех. Если его вводит служба безопасности как меру контроля, работа уйдёт в тень вместе с ним. Шанс прижиться есть у правила, введённого как профессиональный порядок инженера.
С чего начать и когда этого не нужно
Четырёхчасовое занятие для руководителей — это разговор о границах и ответственности; работе с инструментом на нём не учат. За четыре часа зал видит, что модель умеет и где ошибается, и разбирает применение по своим функциям; документ с правилами предприятие получает до занятия. Перечень решений и порядок проверки пишет сама компания: для этого нужно знать, как у неё устроены согласования.
Говорить о границах стоит до закрытого контура. Когда модель переезжает на серверы предприятия, первая граница сдвигается: внутренние данные, которые вчера нельзя было отправлять наружу, становятся рабочим материалом, и перечень на входе приходится писать заново. Вторая граница остаётся на месте, только ответ, собранный из собственных регламентов и снабжённый ссылками на них, внушает больше доверия по тому самому механизму, который описан в профиле NIST. Управлять этим сдвигом сможет руководитель, который заранее договорился с коллегами о словах и знает, где границы проходили и почему. Как это было устроено на машиностроительном предприятии, у которого свой технический проект уже шёл, — в кейсе ниже.
Что это за формат
Словарь
Правило о том, что можно передавать в ИИ-сервис: классификация данных, перечень запрещённого, проверочный вопрос перед вводом. Проверяется техническими средствами, поэтому её пишут и измеряют чаще всего.
Правило о том, какие решения нельзя принять только на основании ответа модели. Описывает порядок принятия решения и потому требует знания того, как в компании устроены согласования.
Склонность принимать ответ машины за проверенный и не искать в нём ошибку. Регламент ЕС требует, чтобы человек, поставленный на надзор, знал за собой эту склонность; в измерениях она проявляется и у экспертов.
Термин NIST для уверенно поданного ошибочного ответа модели. Следствие устройства генеративных моделей: они приближают статистику обучающих данных, поэтому правдоподобие получается раньше точности.
Приём, при котором человек фиксирует собственное решение до того, как увидит подсказку модели. Одна из трёх конструкций, снизивших избыточное доверие в эксперименте Buçinca, и самая переносимая на производство.
Проверяемое условие готовности, по которому результат принимает другой человек, не читая переписку с агентом. Для процесса проверяется устойчивость повторных прогонов; одного удачного мало.
Запись, в которой кроме автора обращения и содержания запроса фиксируется, что было сделано с полученным ответом. Превращает доверие к модели в наблюдаемую величину.
Разметка видов работ по тому, как далеко может зайти ответ модели: справка для себя, черновик документа, расчёт, идущий в дело, документ за подписью. Уровень назначается на вид работ.
ПНСТ 964-2024 «Технологии искусственного интеллекта в станкоинструментальной промышленности. Варианты использования» — карточка Института стандартизации, действует с 01.01.2025. https://www.gostinfo.ru/catalog/Details/?id=7627749
Методические рекомендации Банка России по обеспечению информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке, 16 июня 2026 (текст документа). https://www.cbr.ru/Crosscut/LawActs/File/12204
Регламент (ЕС) 2024/1689, статья 14 «Human oversight»; для высокорисковых систем применяется с 2 декабря 2027 года (приложение III) или с 2 августа 2028 года (приложение I) в редакции Регламента (ЕС) 2026/1744. https://artificialintelligenceact.eu/article/14/
Регламент (ЕС) 2024/1689, статья 4 «AI literacy», действует с 2 февраля 2025 года, в редакции Регламента (ЕС) 2026/1744 — с 27 июля 2026 года. https://artificialintelligenceact.eu/article/4/
Automation Bias in Mammography: The Impact of Artificial Intelligence BI-RADS Suggestions on Reader Performance — T. Dratsch и соавт., Radiology, 2 мая 2023. https://pubmed.ncbi.nlm.nih.gov/37129490/
When combinations of humans and AI are useful: a systematic review and meta-analysis — M. Vaccaro, A. Almaatouq, T. Malone, Nature Human Behaviour, 2024. https://www.nature.com/articles/s41562-024-02024-1
Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy — K. Budzyń и соавт., The Lancet Gastroenterology & Hepatology, 12 августа 2025. https://pubmed.ncbi.nlm.nih.gov/40816301/
EngiBench: A Benchmark for Evaluating Large Language Models on Engineering Problem Solving — препринт arXiv:2509.17677. https://arxiv.org/abs/2509.17677
The flaws of policies requiring human oversight of government algorithms — B. Green, Computer Law & Security Review, 2022 (препринт). https://arxiv.org/pdf/2109.05067
A model for types and levels of human interaction with automation — R. Parasuraman, T. B. Sheridan, C. D. Wickens, IEEE Transactions on Systems, Man, and Cybernetics — Part A, 2000, т. 30, № 3, с. 286–297 (печатная публикация).
AI Hallucination Cases — открытая база судебных решений, D. Charlotin; прочитана 4 октября 2026 года, 2145 решений (счёт по дате решения, записи добавляются задним числом). https://www.damiencharlotin.com/hallucinations/
ПНСТ 964-2024 «Технологии искусственного интеллекта в станкоинструментальной промышленности. Варианты использования» — карточка Института стандартизации, действует с 01.01.2025. https://www.gostinfo.ru/catalog/Details /?id=7627749
Методические рекомендации Банка России по обеспечению информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке, 16 июня 2026 (текст документа). https://www.cbr.ru/Crosscut/LawActs/ File/12204
Регламент (ЕС) 2024/1689, статья 14 «Human oversight»; для высокорисковых систем применяется с 2 декабря 2027 года (приложение III) или с 2 августа 2028 года (приложение I) в редакции Регламента (ЕС) 2026/1744. https://artificialintelligenceact.eu/ article/14/
Регламент (ЕС) 2024/1689, статья 4 «AI literacy», действует с 2 февраля 2025 года, в редакции Регламента (ЕС) 2026/1744 — с 27 июля 2026 года. https://artificialintelligenceact.eu/article /4/
Automation Bias in Mammography: The Impact of Artificial Intelligence BI-RADS Suggestions on Reader Performance — T. Dratsch и соавт., Radiology, 2 мая 2023. https://pubmed.ncbi.nlm.nih.gov/ 37129490/
When combinations of humans and AI are useful: a systematic review and meta-analysis — M. Vaccaro, A. Almaatouq, T. Malone, Nature Human Behaviour, 2024. https://www.nature.com/articles/s41562-024-02024-1
Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy — K. Budzyń и соавт., The Lancet Gastroenterology & Hepatology, 12 августа 2025. https://pubmed.ncbi.nlm.nih.gov/ 40816301/
EngiBench: A Benchmark for Evaluating Large Language Models on Engineering Problem Solving — препринт arXiv:2509.17677. https://arxiv.org/abs/2509.17677
The flaws of policies requiring human oversight of government algorithms — B. Green, Computer Law & Security Review, 2022 (препринт). https://arxiv.org/pdf/2109.05067
A model for types and levels of human interaction with automation — R. Parasuraman, T. B. Sheridan, C. D. Wickens, IEEE Transactions on Systems, Man, and Cybernetics — Part A, 2000, т. 30, № 3, с. 286–297 (печатная публикация).
AI Hallucination Cases — открытая база судебных решений, D. Charlotin; прочитана 4 октября 2026 года, 2145 решений (счёт по дате решения, записи добавляются задним числом). https://www.damiencharlotin.com/ hallucinations/
Короткая версия истории: как предприятие, у которого уже шёл свой проект по ИИ, выравнивало руководителей перед ним и что осталось у команды после занятия.
Расскажите про команду и задачу
Future Hub собирает корпоративное обучение под задачи бизнеса — от нейросетей до построения отделов. Начнём с замера уровня.
Свяжитесь с нами
Оставьте контакты — подберём эксперта и программу под задачу, бесплатно