Рой

Распределенный консенсус. Решение принято не одним агентом, а цепочкой. Каждый внес вклад. Значит, каждый может сказать: "Без меня было бы то же самое". Это классика коллективной безответственности, только теперь в коллективе есть нечеловеческие элементы.

Подмена ответственности метрикой. Главное — чтобы KPI был зеленым. А то, что на другом конце плохо, — не наша зона ответственности. У нас зона — отчет. Отчет красивый. Значит, мы молодцы.

Чтобы понять, кто перед нами, можно прогнать несколько тестов. Не Тьюринга в чистом виде, а бюрократического Тьюринга, который давно назрел.

Тест замены. Замените человека на ИИ-агента. Если процесс не заметил — функциональной разницы нет. Если заметил, но только по тому, что ИИ не пьет кофе и не жалуется на жизнь, — разница нерелевантна.

Тест подписи. Если подпись человека не меняет решение, а только украшает его, то человек функционально не нужен. Он не агент, а декорация.

Тест объяснения. Попросите участников объяснить, почему решение принято. Если человек говорит "так система показала", а система говорит "так данные легли", а данные никто не проверял, — ответственность фиктивна.

Тест рубильника. Кто может остановить процесс? Если никто — это рой. Если кто-то может, но не знает, что может, — это бюрократия. Если знает, но боится, — это токсичная бюрократия. Если знает и может, — о, это уже почти субъект. Редкость нынче.

Но функциональная неразличимость не абсолютна. Остаются как минимум пять трещин.

Тело. Человек ест, спит, болеет, устает, умирает. ИИ — нет. Пока нет. Это влияет на поведение в рое.

Память. Человек забывает, искажает, вытесняет. ИИ логирует, хранит, воспроизводит. Это меняет природу ответственности.

Воля. Человек может отказаться. ИИ — пока нет, если не автономный. Но если автономный, то это уже отдельная катастрофа.

Ответственность. Человека можно наказать: уволить, оштрафовать, посадить. ИИ — нет. Пока нет. Значит, юридически человек остается крайним, даже если функционально его нет.

Интерфейс. Человек может притворяться ботом. Бот может притворяться человеком. Но рано или поздно кто-то спалится: человек — на эмоциях, бот — на идеальной пунктуации.

Вывод: по функциям неразличимость возможна. По субъектности — нет. Но управленческому рою на субъектность наплевать. Ему нужны функции. Ему нужно, чтобы решения принимались, тикеты закрывались, KPI выполнялись, а виноватый находился. И если виноватого нет, рой придумает его из числа тех, кто не успел спрятаться.

7. Проблема субъектности

Вот с этого места начинается самая неприятная часть. Пока мы рассуждали про рой, сети и неразличимость, все было более-менее культурно. Но как только агент накосячил, система сразу требует не философии, а ответа: кто, чёрт возьми, виноват? Кто будет платить? Кого уволят? Кого посадят? Какой ИИ выключат? И тут классическая субъектность ломается, как дешевый стул под жирным бюрократом.

Проблема в том, что в управленческом рое косяк почти никогда не имеет одного автора. Он имеет целую родословную. Один агент собрал данные, другой их провалил, третий обучил модель на мусоре, четвертый согласовал регламент, пятый нажал "Approve", шестой вообще не читал, потому что у него 400 задач в Jira, седьмой ИИ-агент оптимизировал KPI так, что оптимизировал в плохую сторону всю компанию. И вот сидит комиссия и спрашивает: "Кто виноват?" А правильный ответ, если честно, звучит как "ХЗ, но давайте кого-нибудь назначим". Именно так и рождается главная бюрократическая ерунда современности: вина есть, а субъекта вины нет.

Первый наивный ответ: виноват человек. Тот, кто нажал кнопку. Тот, кто подписал. Тот, кто был human-in-the-loop. Это самый популярный ответ, потому что он дает теплую жопу для наказания. Но он часто оказывается моральной подушкой безопасности. Человек сидит в интерфейсе, где LLM уже сгенерировала решение, система выдала зеленую галочку, начальство требует скорость, а у него 30 секунд на проверку. Он нажимает "ОК" и становится козлом отпущения для всей архитектуры. Это не субъектность, это буфер для корпоративной тревоги.

Второй ответ: виноват разработчик. Тоже удобно. Но разработчик не контролирует, как модель дообучат в проде, какие данные подсунут, какие промпты вставят, как ее обойдут через prompt injection, какие бюрократические костыли к ней прикрутят. Он, конечно, может быть виноват, если знал и молчал. Но автоматически вешать на него все — это такая же ерунда, как винить архитектора за то, что жильцы гадят в лифте.

Третий ответ: виноват владелец, заказчик, начальство. Вот это уже теплее, потому что именно оно создает стимулы. Оно говорит: "Автоматизируйте все, сокращайте людей, ускоряйте решения, а риски — потом". Оно подписывает внедрение. Оно получает прибыль. Но оно же потом делает невинное лицо: "Мы не эксперты, мы просто хотели эффективность". А нет. Если ты построил рой и запретил его тормозить, ты не просто заказчик, ты конструктор безответственности.

Четвертый ответ: виноват ИИ. Вот это самый смешной и самый опасный вариант. ИИ можно обвинить, потому что он удобно не имеет жопы, счета, паспорта и адвоката. Его можно выключить, обновить, откатить, назвать "сбойной моделью". Но это не наказание. Это техобслуживание. ИИ может быть причиной, источником ошибки, носителем риска — но он не субъект вины в юридическом и моральном смысле. Если мы делаем вид, что он субъект, мы просто перекладываем ответственность с людей и институтов на железо. А железо не страдает. Оно просто перезагружается.

Пятый ответ: виновата система. И вот это самый честный ответ. Но с ним нельзя идти в суд, в профсоюз, в совет директоров и в тюрьму. Система — это не субъект. Система — это сеть. В ней есть узлы, связи, потоки, задержки, стимулы, интерфейсы и ХЗ что еще. Виновата система — значит виноваты все и никто. А если виноваты все и никто, то наказывают, как правило, самого слабого. Классика, блин, жанра.

В рое субъектность не исчезает полностью. Она распределяется. Как дерьмо по трубам: вроде бы не видно, кто именно гадит, но запах стоит во всем здании. Поэтому надо смотреть не на "одного виноватого", а на швы ответственности. Где проходит граница между решением и исполнением? Кто задал цель? Кто выбрал метрику? Кто одобрил данные? Кто деплоил модель? Кто мониторил дрейф? Кто имел право отменить? Кто проигнорировал красный флаг? Кто получил премию за "успешную автоматизацию"?

Если на эти вопросы нет ответов, то у роя нет субъектности. Есть только коллективная безответственность, украшенная дашбордами. Если ответы есть, но они размазаны по десяти отделам, то вина превращается в бюрократический пинг-понг: "Это не мы, это смежники". "Это не смежники, это подрядчик". "Это не подрядчик, это open-source". "Это не open-source, это пользователь". "Это не пользователь, это ИИ". "Это не ИИ, это данные". "Это не данные, это реальность". И так до бесконечности, пока кто-нибудь не сдохнет или не уволится.

Есть три режима ответственности.

Первый — персональный. Для критических решений должен быть named human accountable. Не "команда", не "департамент", не "алгоритм", а человек с именем, ролью и правом вето. Не потому, что он умнее ИИ. А потому, что ответственность должна на что-то садиться. Иначе она садится на всех сразу и ни на кого конкретно.

Второй — институциональный. Организация отвечает за дизайн, стимулы, безопасность, обучение, аудит. Штрафы, лицензии, компенсации, запрет на деятельность. Если компания выпустила автономного агента, который убил людей, она не может сказать: "Это модель сама". Нет. Это ты, дорогой, ее выпустил.

Третий — машинный. ИИ можно признать источником ошибки, но не виновным. Его можно ограничить, переобучить, отключить, изолировать, откатить. Но нельзя "наказать" в человеческом смысле. Иначе мы начинаем играть в театр, где железке приписывают моральную волю, чтобы снять ее с людей.

Практический вывод: не ищите одного виноватого, ищите швы. Если агент накосячил, надо не орать "кто виноват?", а разбирать цепочку: цель, данные, модель, интерфейс, регламент, надзор, override, подпись. Нужны логи, версии, роли, audit trail, разделение обязанностей, красные кнопки, периодические аудиты и, конечно, страх. Не мистический страх перед ИИ, а нормальный человеческий страх получить по жопе за конкретный провал.

И главное: нельзя делать ИИ козлом отпущения. Нельзя делать человека моральной подушкой. Нельзя делать систему фиговым листком. Если в рое никто не может ответить, кто виноват, то это не сверхразум. Это коллективный болван, который жрет ресурсы, плодит решения и размывает ответственность до полной неразличимости.

Ответ на вопрос "кто виноват, если агент накосячил?" звучит так. В ближайшей перспективе — тот, кого назначили. В юридической — тот, кто имел обязанность и возможность предотвратить. В институциональной — организация, которая создала стимулы. В онтологической — рой. Но если наказывать рой, ты наказываешь всех и никого. Поэтому культурный, то есть ругающийся, подход такой: строй швы ответственности, фиксируй роли, ограничивай автономию. Иначе ИИ не снимет с людей вину. Он сделает ее такой же неразличимой, как все остальное в этом замороченном рое.

8. Тесты Тьюринга для бюрократа

Классический тест Тьюринга — это для философов, которые никогда не сидели в опенспейсе, где сорок джунов и три начальника. В управленческом рое вопрос стоит не "может ли машина думать?", а "может ли машина выглядеть такой же занятой, как человек?". И наоборот: "может ли человек так же автоматически генерить бюрократический шум, как LLM?". Поэтому тесты Тьюринга для бюрократа — это не про интеллект. Это про выживание в Jira, Confluence и созвонах. Если агент проходит эти три круга ада, то наплевать, человек он или скрипт. Он наш, блин.

Jira-тест. Первый тест — создать задачу. Человек обычно пишет: "надо починить эту ерунду, вчера работало". ИИ-агент пишет: "Необходимо восстановить работоспособность модуля обработки входящих событий в соответствии с SLA". Если ИИ добавляет "срочно, блокер, production", он прошел. Если человек добавляет четырнадцать меток, ни одного описания и прикрепляет скриншот из "Сапера", он тоже прошел. Различить невозможно.

Второй тест — оценка. Человек ставит 13 story points, потому что "страшно, вдруг что". ИИ ставит 5, потому что "оптимизация процесса". Метабюрократ ставит 8, чтобы не спросили, почему не 5 и не 13. Если агент говорит "давайте уточним на груминге", это не человек и не ИИ. Это уже рой, блин.

Третий тест — закрытие. Человек закрывает тикет без комментария. ИИ закрывает с комментарием "решено в рамках утвержденного процесса". Если никто не заметил разницы — оба агента приняты в коллектив. Если тикет через неделю переоткрыли, а виноват "тот, кто тестировал", — это человек. Если виноват "алгоритм приоритизации", — это ИИ. Если виноват "бизнес", — это корпоративная культура.

Confluence-тест. Confluence — это не база знаний. Это кладбище регламентов, где каждый текст уже мертв, но еще ходит. Тест простой: попроси агента создать страницу "Регламент". Человек копирует старую страницу, меняет дату и добавляет "актуально на 2028". ИИ генерит новую с нуля, с оглавлением, таблицами и ссылками. Оба создают документ, который никто не прочитает. Если страница ссылается на саму себя — это не ИИ. Это осознанная бюрократия.

Комментарии — отдельный тест. Человек пишет: "надо актуализировать". ИИ отвечает: "Создал задачу на актуализацию, срок — следующий квартал". Если через месяц задача все еще открыта — это человек. Если задача автоматически пересоздается каждый квартал — это ИИ. Если задача пересоздается, но никто ее не закрывает, — это метабюрократия.

Тест на понимание: попроси агента объяснить, что написано на странице. Человек говорит: "Я не в контексте, я только редактировал". ИИ говорит: "Согласно пункту 3.1, ответственный — отдел, который расформирован". Если оба ссылаются на уволившегося автора — неразличимо. Если оба добавляют "надо уточнить у бизнеса" — это уже симбиоз.

Созвоны. Созвон — высшая форма бюрократического Тьюринга. Камера выключена, микрофон сломан, повестка не читана. Человек опаздывает на семь минут и говорит: "Извините, был на другом созвоне". Если ИИ вставляет "ну, как бы, коллеги", он прошел. Если человек говорит гладко, без "эээ" и "как бы", его подозревают в том, что он бот. И правильно, блин.

Тест с повесткой: человек ее не читал, ИИ ее сгенерировал. Если обсуждают не то, что в повестке, — это симбиоз. Если в конце создают новый тикет на назначение ответственного за то, что обсуждали не то, — это рой.

Главный вопрос: "Кто за это отвечает?" Если тишина — человек. Если все смотрят в Jira — ИИ. Если создают задачу "назначить ответственного" — метабюрократия. Если кто-то говорит "давайте вынесем это за скобки" — это полноценный член роя, независимо от природы.

И финальный тест: "Давайте сократим совещания". Если агент соглашается и предлагает создать рабочую группу по оптимизации совещаний — он бюрократ. Если он человек, он потом не придет. Если ИИ, он придет и сделает презентацию. Если презентация будет про то, как сократить совещания, но на нее уйдет три совещания, — это катастрофа, мы все уже там.

Комбинированный бюрократический Тьюринг. Наблюдай за агентом. Если он создает тикет, который никто не понимает; на созвоне говорит "вынесем за скобки"; в Confluence противоречит сам себе, но обе страницы актуальны; перекладывает ответственность, не нарушая регламент; забывает, что сам решил, и говорит "мы решили"; — то перед тобой полноценный член управленческого роя. Homo bureaucraticus или Machina bureaucratica — неважно.

Можно еще придумать CAPTCHA для бюрократа: "Выберите все квадраты, где изображен ответственный". Если агент выбирает все — он человек. Если ни одного — ИИ. Если он создает тикет на уточнение критериев выбора — метабюрократ.

Вывод: в Jira, Confluence и созвонах неразличимость не абсолютная, но функциональная. Системе неважно, человек ты или ИИ. Ей важно, чтобы ты поддерживал бюрократический метаболизм: создавал задачи, двигал статусы, писал комментарии, участвовал в созвонах, не принимал решений и умел сказать "это не ко мне". Если ИИ может имитировать усталость, а человек — автоматически закрывать тикеты, граница стерта. Рой не спрашивает: "Кто ты?" Рой спрашивает: "Где твой тикет, блин?"

Но в кризисе якоря обнажаются. Тело, память, воля, ответственность, интерфейс — все то, что в рутине кажется неважным, вдруг становится решающим. Когда приходит настоящая жопа, оказывается, что человека можно посадить, а ИИ — только выключить. Что человек боится, а ИИ — нет. Что человек умирает, а ИИ — копируется. И тогда неразличимость ломается. Но до кризиса — рой жужжит, рой жрет, рой не спрашивает разрешения.

9. Дао роя

Дао, которое можно назвать, — не истинное Дао. Рой, который можно контролировать, — не настоящий рой. Это надо признать, как признают восход солнца: не потому, что нравится, а потому что деваться некуда.