Кого еще нельзя свести к навыку?

Документ: Sleepy.md

К сожалению, в эту эпоху, чем серьезнее вы работаете без оговорок, тем больше вероятность того, что вы превратитесь в навык, который может быть заменен ИИ.

В последние несколько дней горячие списки поиска и медиаканалы были переполнены "colleague.skill". По мере того, как этот вопрос продолжает обсуждаться на крупных социальных платформах, внимание общественности почти предсказуемо было приковано к таким серьезным проблемам, как «увольнения из-за ИИ», «эксплуатация капитала» и «цифровое бессмертие работников».

Эти проблемы действительно вызывают беспокойство, но больше всего меня беспокоит строка рекомендаций по использованию, написанная в документе README проекта:

«Качество сырья определяет качество навыка: рекомендуется отдавать приоритет сбору длинных статей, которые он активно пишет > ответы, принимаемые на основе решений > ежедневные сообщения».

Те, кого система может наиболее легко и идеально переработать и восстановить на уровне пикселей, — это именно те, кто работает усерднее всего.

Это те, кто после завершения каждого проекта все равно садится писать ретроспективные документы; те, кто, столкнувшись с разногласиями, готовы потратить полчаса на написание длинных сообщений в чате, откровенно анализируя свою логику принятия решений; те, кто чрезвычайно ответственен, тщательно доверяя системе все детали работы.

Серьезность, когда-то самая почитаемая добродетель на рабочем месте, теперь стала катализатором, ускоряющим превращение работников в топливо для ИИ.

Истощенные работники

Нам нужно заново понять термин: контекст.

В повседневном языке контекст - это фон для общения. Но в ИИ, особенно в мире быстрорастущих агентов ИИ, контекст - это топливо, которое питает двигатель, кровь, поддерживающая пульс, и единственная точка опоры, которая позволяет моделям принимать точные решения на фоне хаоса.

Искусственный интеллект, лишенный контекста, какими бы впечатляющими ни были его параметры, - это всего лишь машина для поиска с амнезией. Он не может распознать, кто вы, не может понять скрытые течения, лежащие в основе бизнес-логики, и не может знать, какие долгосрочные последствия и компромиссы вы испытали в этой сети, сплетенной из ограничений ресурсов и межличностных игр, при принятии решения.

Причина, по которой "colleague.skill" вызвала такой огромный ажиотаж, заключается именно в том, что она холодно и точно нацеливается на шахту, в которой хранятся огромные объемы высококачественного контекста - современное программное обеспечение для корпоративного сотрудничества.

За последние пять лет китайское рабочее место претерпело тихую, но мучительную цифровую трансформацию. Такие инструменты, как Feishu, DingTalk и Notion, стали огромными корпоративными базами знаний.

Например, в Feishu, ByteDance публично заявили, что количество документов, генерируемых внутри компании каждый день, огромно, и эти плотно упакованные символы верным образом передают каждую сессию мозгового штурма, каждое горячее столкновение на собрании и каждый стратегический компромисс, принятый более чем ста тысячами сотрудников.

Это цифровое проникновение намного превосходит проникновение любой предыдущей эпохи. Когда-то знания были теплыми; они дремали в умах ветеранов компании, разбросанных в случайных беседах в чайной. Теперь вся человеческая мудрость и опыт были насильственно обезвожены, безжалостно оседая в холодных, бездушных массивах серверов в облаке.

В этой системе, если вы не пишете документы, вашу работу нельзя увидеть, и новые коллеги не могут сотрудничать с вами. Эффективная работа современных предприятий строится на ежедневном цикле каждого сотрудника, «предлагающего» контекст системе.

Серьезные работники, с прилежанием и доброй волей, без каких-либо оговорок раскрывают свои мыслительные процессы на этих холодных платформах. Они делают это, чтобы шестеренки команды работали более слаженно, чтобы доказать свою ценность для системы и отчаянно найти свое место в этом сложном коммерческом зверстве. Они не предаются, они просто неуклюже и усердно следуют правилам выживания в современном рабочем месте.

Но именно этот контекст, оставленный для межличностного взаимодействия, стал идеальным топливом для ИИ.

В бэкенде управления Feishu есть функция, которая позволяет супер-администраторам пакетно экспортировать документы участников и записи коммуникаций. Это означает, что ретроспективы проектов и логи принятия решений, на написание которых у вас ушло три года, проведенные за бесчисленными ночными сессиями, можно легко упаковать в холодный, бездушный сжатый файл всего за несколько минут с помощью одного интерфейса API.

Когда люди сводятся к API

С взрывной популярностью "коллега.навык" в разделе "Проблемы" на GitHub и на различных социальных платформах начали появляться некоторые крайне неудобные производные.

Некоторые создали "ex.ex.skill", пытаясь накормить ИИ прошлыми записями чатов WeChat, позволяя ему продолжать спорить или быть ласковым в этом знакомом тоне; другие создали "white moonlight.skill", сводя неприкасаемые чувства к холодной межличностной песочнице, многократно моделируя зондирующие фразы, осторожно ища оптимальное эмоциональное решение; а некоторые создали "dad-like boss.skill", предварительно пережевывая в цифровом пространстве гнетущие фразы PUA, создавая для себя печальную психологическую защиту.

Сценарии использования этих навыков полностью вышли за рамки эффективности работы. Неосознанно мы стали мастерами в использовании холодной логики обращения с инструментами для анализа и объективации этих плотных, живых существ.

Немецкий философ Мартин Бубер однажды предположил, что основные цвета человеческих отношений сводятся к двум совершенно разным режимам: "Я и ты" и "Я и это".

Встреча "Я и ты" позволяет нам преодолеть предрассудки и рассматривать другого как полноценную и достойную жизнь. Эти связи открыты без каких-либо ограничений, полны яркой непредсказуемости и, благодаря своей искренности, кажутся особенно хрупкими; однако, когда они попадают в тень "я и оно", живые люди превращаются в объекты, которые можно разобрать, проанализировать и классифицировать. Под этим крайне утилитарным взглядом нас интересует только одно: "Какой толк в этой вещи для меня?"

Появление таких продуктов, как "ex.ex.skill", обозначает полное вторжение инструментальной рациональности "я и оно" в самые интимные эмоциональные сферы.

В реальных отношениях человек трехмерен, полон морщин, полон противоречий и неровностей; реакции человека постоянно меняются в зависимости от конкретных ситуаций и эмоциональных взаимодействий. Реакция вашего бывшего на одно и то же предложение может быть совершенно разной, когда он просыпается утром, по сравнению с тем, что будет после работы допоздна.

Но когда вы сводите человека к навыку, вы просто отбрасываете ту его часть, которая оказалась «полезной» или «эффективной» для вас в этой конкретной связи. Изначально теплая, самосознательная личность полностью теряет свою душу в этом жестоком очищении, становясь «функциональным интерфейсом», который вы можете включать и выключать по своему усмотрению.

Необходимо признать, что ИИ не создал эту ледяную холодность из ничего. До появления ИИ мы уже давно привыкли наклеивать ярлыки на других, точно измеряя «эмоциональную ценность» и «вес сети» каждого отношения. Например, мы распределяем людей по категориям в таблицах на рынке знакомств; мы классифицируем коллег на рабочем месте как «тех, кто может работать», и «тех, кто ничего не делает». ИИ просто делает этот неявный, функциональный обмен между людьми полностью явным.

Люди были сведены к одному аспекту: «какой мне из этого толк».

Электронная патина

В 1958 году венгерско-британский философ Майкл Полани опубликовал книгу «Личное знание». В этой книге он предложил проницательную концепцию: неявное знание.

Полани знаменито заявил: «Мы знаем больше, чем можем сказать».

Он привел пример обучения езде на велосипеде. Искусный наездник, скользящий по ветру, может идеально сохранять равновесие при любом гравитационном наклоне, но он не может точно описать тонкое ощущение тела в этот момент, используя сухие физические формулы или бледные слова для новичка. Они умеют ездить верхом, но не могут это объяснить. Эти знания, которые нельзя закодировать или выразить словами, являются неявными знаниями.

Рабочее место наполнено такими неявными знаниями. Старший инженер может определить проблему, взглянув на логи, но ему трудно задокументировать эту «интуицию», основанную на тысячах проб и ошибок; отличный продавец может внезапно замолчать за столом переговоров, и давление и время этого молчания — это то, что ни один учебник по продажам не может передать; опытный HR может обнаружить несоответствие в резюме, просто заметив, как кандидат избегает взгляда на полсекунды во время собеседования.

То, что может извлечь «colleague.skill», - это лишь явное знание, которое уже было записано или сказано. Он может захватить ваши ретроспективные документы, но не может захватить те трудности, с которыми вы столкнулись при их написании; он может воспроизвести ваши ответы на решения, но не может воспроизвести интуицию, которую вы имели при принятии этих решений.

То, что система выводит, всегда лишь тень человека.

Если история заканчивается здесь, это просто еще одна неловкая имитация человечества технологией.

Но когда человек перерабатывается в навык, этот навык не остается статичным. Он будет использоваться для ответа на электронные письма, написания новых документов и принятия новых решений. Другими словами, эти генерируемые ИИ тени начинают создавать новые контексты.

И эти генерируемые ИИ контексты будут размещаться в Feishu и DingTalk, становясь учебными материалами для следующего раунда дистилляции.

Уже в 2023 году исследовательские группы из Оксфордского университета и Кембриджского университета совместно опубликовали статью о «сбоях в модели». Исследование показало, что когда модели ИИ итеративно обучаются с использованием данных, сгенерированных другими ИИ, распределение данных становится все более узким. Редкие, маргинальные, но крайне реальные человеческие черты быстро стираются. Уже через несколько поколений обучения на синтетических данных модели полностью забывают эти сложные данные о реальных людях с длинным хвостом и вместо этого выдают крайне посредственный и однородный контент.

В 2024 году в журнале "Nature" также была опубликована исследовательская статья, в которой указывалось, что обучение будущих поколений моделей машинного обучения на наборах данных, сгенерированных ИИ, серьезно загрязняет их результаты.

Это похоже на те мемы, которые циркулируют в интернете: изначально скриншот в высоком разрешении передается, сжимается и снова передается бесчисленным количеством людей. Каждая передача теряет несколько пикселей и добавляет немного шума. В конце концов, изображение становится размытым, покрытым электронной патиной.

Когда реальный, молчаливо осведомленный человеческий контекст исчезает, и система может тренироваться только на патине теней, что останется?

Кто стирает наши следы

Остается только правильный нонсенс.

Когда река знаний высыхает до бесконечной регургитации и самопоедания ИИ против ИИ, все, что система вдыхает и выдыхает, неизбежно станет чрезвычайно стандартизированным, чрезвычайно безопасным, но безнадежно пустым. Вы увидите бесчисленное количество идеально структурированных еженедельных отчетов, бесчисленное количество безупречных электронных писем, но внутри нет ни капли живых людей, нет по-настоящему ценных идей.

Этот великий крах знаний не потому, что человеческий мозг стал тусклым; настоящая трагедия заключается в том, что мы передали право думать и ответственность за оставление контекста нашим собственным теням.

Через несколько дней после взрывной популярности "colleague.skill" на GitHub тихо появился проект под названием "anti-distill".

Автор этого проекта не пытался атаковать большие модели, и не писал никаких громких заявлений. Он просто предоставил небольшой инструмент, помогающий работникам автоматически генерировать кажущиеся разумными, но на самом деле наполненные логическим шумом неэффективные длинные тексты в Feishu или DingTalk.

Его цель проста: скрыть свои основные знания, прежде чем они будут обработаны системой. Поскольку системе нравится захватывать «активно написанные длинные тексты», давайте накормим ее кучей бессмыслицы, лишенной питательной ценности.

Этот проект не взорвался, как «colleague.skill»; он даже кажется немного маленьким и бессильным. Использование магии для победы над магией по сути все еще вращается в рамках правил игры, установленных капиталом и технологией. Это не может изменить растущую тенденцию системы, все больше полагающейся на ИИ и все больше игнорирующей реальных людей.

Но это не мешает этому проекту стать самой трагически поэтичной и глубоко метафоричной сценой во всей абсурдной драме.

Мы стремимся оставить следы в системе, пишут подробные документы, принимают тщательные решения, пытаясь доказать, что мы когда-то существовали в этой огромной современной корпоративной машине, доказывая, что мы ценны. Тем не менее, мы не осознаем, что эти крайне серьезные следы в конечном итоге станут ластиками, которые нас стирают.

Но, взглянув на это с другой стороны, это может быть не полным тупиком.

Потому что то, что этот ластик стирает, всегда только "ваше прошлое". Навык, упакованный в документ, какова бы ни была его логика захвата, по сути, является всего лишь статичным снимком. Он заблокирован в тот момент, когда был экспортирован, и может только бесконечно вращаться в рамках установленных процессов и логики, полагаясь на устаревшие "питательные вещества". Он не сталкивается с инстинктом неизвестного хаоса и не обладает способностью к саморазвитию перед лицом неудач в реальном мире.

Когда мы передаем эти высоко стандартизированные, шаблонные переживания, мы также освобождаем наши руки. Пока мы продолжаем протягивать руку, постоянно разрушая и реконструируя наши когнитивные границы, эта тень, дрейфующая в облаке, навсегда сможет только следовать по нашим стопам.

Люди - это текучие алгоритмы.