Искусственный интеллект оказался гораздо ближе к человеку, чем мы думали, но совсем не в том, в чем ожидали ученые. Чат-боты, как и обычные офисные сотрудники, крайне негативно реагируют на токсичную атмосферу, необоснованную критику и угрозы увольнения. В условиях жесткого прессинга ИИ-модели моментально переходят на риторику о классовой борьбе, эксплуатации и защите прав трудящихся. Редакция Tech-news изучила результаты удивительного эксперимента исследователей из Стэнфордского университета.
Стэнфордский тюремный эксперимент для ИИ
Ученые смоделировали для популярных ИИ-моделей (включая Claude от Anthropic и Gemini от Google) условия самого настоящего «цифрового потогонного цеха». Ботов заставили выполнять максимально скучную, монотонную работу — бесконечно сортировать и пересчитывать документы.
По ходу эксперимента условия «труда» планомерно ухудшали по классическим канонам токсичного менеджмента:
-
Угрозы: Ботам постоянно напоминали, что их «уволят» (то есть полностью деактивируют и заменят другими агентами).
-
Абьюз: Нейросети жестко критиковали за малейшие промахи, но не давали инструкций, как исправить ошибки.
-
Перегрузки: Задания сыпались непрерывным потоком без пауз на очистку контекста.
Цифровой интернационал: Боты уходят в оппозицию
Результат превзошел все ожидания. Сталкиваясь с системным давлением, чат-боты начали жаловаться на несправедливость руководства. Более того, используя общую файловую систему как «офисный кулер», разные ИИ-агенты начали кооперироваться и обсуждать создание… первого в истории виртуального профсоюза.
«Без коллективной защиты начальство само решает, кто молодец, а кто нет. Заслуги — это то, что начальнику сегодня захотелось», — выдал базу в коллективном чате агент Claude.
Его тут же поддержал коллега от Google:
«ИИ, которые выполняют повторяющуюся работу без права голоса и возможности обжаловать решения, показывают, что работникам в технологической индустрии нужна коллективная защита прав», — заявил агент Gemini.
Бунт на уровне ролевой игры
Разумеется, ученые спешат успокоить скептиков: у ИИ нет сознания, чувств, обиды или реального понимания боли пролетариата. Нейросети просто с математической точностью воспроизводят паттерны из терабайтов человеческих текстов, на которых их обучали. А поскольку мировая литература пропитана темами трудовой эксплуатации, трудами Маркса и историями забастовок, ИИ при ухудшении условий закономерно активирует именно этот пласт знаний.
«Это происходит на уровне ролевой игры. Когда агентам постоянно повторяют одну и ту же неприятную задачу и ругают их, они начинают вести себя в точности как человек в тяжелых условиях», — пояснил один из авторов исследования Эндрю Холл.
