誰がスキルに蒸留できないのか？

記事 | Sleepy.md

残念ながら、現代においては、心から働けば働くほど、自分自身をAIに置き換えられるスキルに蒸留しやすくなります。

最近では、ホット検索リストやメディアチャンネルが「同僚のスキル」で溢れています。この問題が主要なソーシャルメディアプラットフォームで発酵し続ける中で、一般の関心は「AIによる解雇」、「資本の搾取」、「労働者階級のデジタル不死」といった大きな不安に包まれています。

これらは確かに不安を引き起こしますが、私が最も不安に感じるのは、プロジェクトのREADMEドキュメントにある一文です：

「原材料の質がスキルの質を決定します：長文コンテンツを優先的に収集することが推奨されます> 意思決定の反応> 日常のメッセージ。」

システムによって最も容易に完璧に蒸留され、ピクセルパーフェクトに再構築されるのは、まさに最も勤勉に働く人々です。

プロジェクトが終了した後も、デスクに座ってポストモーテムドキュメントを書く人々；意見の相違に直面したとき、チャットボックスに長文の反応を打ち込むのに30分を費やすことを厭わない人々；すべての作業の詳細をシステムに慎重に委託する非常に責任感のある人々。

勤勉さは、かつて職場で最も称賛された美徳でしたが、今では労働者がAIの燃料に変わることを加速させる触媒となっています。

疲弊した労働者

私たちは言葉を再定義する必要があります：文脈。

日常の文脈において、文脈はコミュニケーションの背景です。しかし、AIの世界、特に急成長するAIエージェントの世界では、文脈は轟音を上げるエンジンの燃料、脈動する血液、混沌の中でモデルが正確な判断を下すための唯一のアンカーです。

文脈を剥奪されたAIは、そのパラメータ数がどれほど素晴らしくても、ただの健忘症の検索エンジンに過ぎません。それはあなたが誰であるかを認識できず、ビジネスロジックの下に隠れた流れを把握できず、決定を下す際に経験したリソース制約と人間関係のダイナミクスから織りなされたネットワーク上での長い綱引きやトレードオフを知る方法がありません。

そして「同僚のスキル」がこれほど大きな騒動を引き起こした理由は、まさにその蓄積された高品質な文脈の山に冷静かつ正確にロックオンしたからです — 現代の企業コラボレーションソフトウェア。

過去5年間で、中国の職場は静かでありながら厳しいデジタルトランスフォーメーションを遂げました。Feishu、DingTalk、Notionなどのツールは、企業の知識の広大な蓄積となっています。

Feishuを例に挙げましょう。ByteDanceは、毎日社内で生成される文書の数が膨大であると公に述べています。これらの密集した文字は、10万人以上の従業員のすべてのブレインストーミング、すべての熱い会議、そしてすべての戦略的妥協を忠実に encapsulate しています。

このデジタル浸透のレベルは、過去のどの時代をもはるかに超えています。かつて、知識は温かく、ベテランの従業員の心の中に潜んでおり、パンtryでのカジュアルな会話を通じて漂っていました。今や、すべての人間の知恵と経験は強制的に水分を奪われ、冷たいサーバーマトリックスに無情に沈殿しています。

このシステムでは、文書を書かなければ、あなたの仕事は見えず、新しい同僚はあなたと協力できません。現代企業の効率的な運営は、すべての従業員が日々システムに文脈的な貢献を提供することに基づいています。

勤勉な労働者は勤勉さと善意を持ち、これらの冷たいプラットフォーム上で自分の思考の道筋を無条件にさらけ出します。彼らは、チームの歯車がスムーズに噛み合うことを確保し、システムに対する自分の価値を証明しようと努力し、この複雑な商業的巨大企業の中で自分の居場所を必死に切り開こうとしています。彼らは自発的に自分を投げ出しているわけではなく、単に現代の職場の生存ルールにぎこちなく、勤勉に従っているだけです。

しかし、皮肉なことに、対人協力のために残されたこの文脈情報は、AIの完璧な燃料となっています。

Feishuの管理パネルには、スーパ管理者がメンバーの文書や通信記録を一括でエクスポートできる機能があります。これは、あなたが数え切れないほどの深夜にわたって3年間取り組んできたプロジェクトレビューや意思決定の論理が、数分でAPI呼び出しだけで無生物の圧縮ファイルに簡単にパッケージ化されることを意味します。

人間がAPIに次元削減されるとき

「colleague.skill」の台頭に伴い、GitHubのIssuesセクションやさまざまなソーシャルメディアプラットフォームで非常に不快な派生物が現れ始めています。

中には、「ex.skill」を作成し、過去数年間のWeChatのチャット記録をAIに供給し、馴染みのある口調で議論を続けたり、優しくしたりしようとする者もいます。他には、「unrequited love.skill」を作成し、触れられない動悸を冷たい対人サンドボックスに還元し、繰り返し探る対話を推論し、最適な感情的結果を求めて一歩一歩進んでいる者もいます。そして、「paternalistic boss.skill」を作成し、デジタル空間で抑圧的なPUAのレトリックを事前に噛み砕き、自分自身のために悲しい心理的防衛線を構築している者もいます。

これらのスキルの使用例は、仕事の効率性の領域を完全に超えています。無意識のうちに、私たちは道具の扱いの冷たい論理を使いこなすことに慣れてしまい、かつて肉体を持ち、生き生きとした個人を解剖し、客観化しています。

ドイツの哲学者マルティン・ブーバーはかつて、人間関係の基盤は「私-あなた」と「私-それ」という二つの根本的に異なるモードに帰着すると提案しました。

「私-あなた」の出会いにおいて、私たちは偏見を超え、他者を完全で尊厳のある生きた存在として見つめます。この絆は無条件に開かれており、活気に満ちた予測不可能性に満ちています。そして、その誠実さゆえに特に脆弱に見えます。しかし、「私-それ」の影に沈むと、生きた人間は分解され、分析され、分類され、ラベル付けされることができる対象に還元されます。この極めて実用的な視点の下で、私たちが気にかける唯一のことは「この物は私にとって何の役に立つのか？」です。

「エクススキル」のような製品の出現は、「私-それ」の道具的合理性が最も親密な感情の領域に徹底的に侵入したことを示しています。

真の関係において、人は三次元的で、しわに満ち、矛盾やニュアンスが常に流動しており、彼らの反応は特定の状況や感情的な相互作用に基づいて変化します。あなたの元恋人は、朝起きたときと夜遅くに働いているときでは、同じ文に対して非常に異なる反応を示すかもしれません。

しかし、あなたが人をスキルに還元するとき、あなたが剥ぎ取るのは、単にその特定の絆において「役に立つ」ことが偶然にも「有用」だった機能の残余部分です。かつて温かく自己体験を持っていた個人は、この残酷な浄化の中で完全に魂を奪われ、あなたが自由に接続して遊ぶことができる「機能的インターフェース」に疎外されます。

AIがこの冷たい冷たさを無から生み出したわけではないことは認めなければなりません。AIが登場する前から、私たちはすでに他者をラベリングし、各関係の「感情的価値」や「社会的ネットワークの重み」を正確に測定することに慣れていました。例えば、デート市場では、人の属性をグリッドに定量化し、職場では同僚を「有能」または「怠け者」と分類します。AIは、個人間のこの暗黙の機能的抽出を露骨に明示化しただけです。

人々は平坦化され、「私にとって何が有用か」という側面だけが残されました。

電子的カプセル化

1958年、ハンガリー系イギリス人哲学者マイケル・ポランニーは「個人的知識」を出版しました。この本で、彼は非常に鋭い概念を紹介しました：暗黙の知識。

有名な格言の中で、ポランニーは「私たちは言うことができる以上に多くを知っている」と述べました。

彼は自転車の乗り方を学ぶ例を挙げました。熟練したサイクリストは、 effortlessに乗りながら、すべての重力の傾きで完璧にバランスを取ることができますが、初心者にその瞬間の微妙な直感を言葉や乾燥した物理の公式で正確に説明することはできません。彼は乗る方法を知っていますが、それを言葉にすることはできません。このようにエンコードや言語化できない知識は、暗黙の知識と呼ばれます。

職場はそのような暗黙の知識で満ちています。シニアエンジニアは、システム障害をトラブルシューティングする際、ログを一瞥するだけで問題を迅速に特定することができますが、何千回もの試行錯誤の上に築かれたこの「直感」を文書化するのは難しいと感じるでしょう。優れた営業担当者は、交渉テーブルで突然沈黙することがあり、その沈黙がもたらす圧力とタイミングの感覚は、どの営業マニュアルにも捉えられません。経験豊富な人事専門家は、候補者が目を合わせるのを半秒避けるのを観察するだけで、履歴書の誇張を感じ取ることができます。

「Colleague.skill」が抽出できるのは、すでに書かれたか話されたもの、すなわち明示的な知識だけです。それはあなたのポストモーテム文書をスクレイピングできますが、それらを書く際の苦労を捉えることはできません。あなたの意思決定の反応を再現できますが、意思決定の背後にある直感を再現することはできません。

システムが抽出するのは、常に人の影だけです。

もし物語がここで終わるなら、それは技術による人間の貧弱な模倣に過ぎません。

しかし、人がスキルに蒸留されると、このスキルは静的には留まりません。それはメールに返信したり、新しい文書を書いたり、新しい決定を下したりするために使用されます。言い換えれば、これらのAI生成された影は新しい文脈を生成し始めます。

そして、これらのAI生成された文脈は、FeishuやDingTalkに蓄積され、次の蒸留のためのトレーニング資料となります。

2023年には、オックスフォード大学とケンブリッジ大学の研究チームが共同で「モデル崩壊」に関する論文を発表しました。研究は、AIモデルが他のAIによって生成されたデータを用いて反復的に訓練されると、データの分布がますます狭くなることを示しました。その希少で限界的だが非常に本物の人間の特性は急速に消え去ります。合成データで数世代の訓練を受けた後、モデルは長尾の複雑な実際の人間データを完全に忘れ、代わりに非常に平凡で均質なコンテンツを出力します。

2024年には、NatureもAI生成データセットで将来の機械学習モデルを訓練することがその出力を深刻に汚染するという研究論文を発表しました。

これはインターネット上で流通しているミーム画像のようなもので、元々は高解像度のスクリーンショットであり、無数の人々によって共有され、圧縮され、再共有されています。各スプレッドで、いくつかのピクセルが失われ、いくつかのノイズが追加されます。最終的に、画像はぼやけ、デジタルにインパストされます。

人間の文脈が暗黙の知識とともに絞り取られ、システムがインパストされた影の上でのみ自己訓練できるとき、最終的に何が残るのでしょうか？

誰が私たちの足跡を消しているのか

残るのは、ただ正しい種類のナンセンスだけです。

知識の川がAIによる無限の逆流と自己消費に干上がるとき、システムが吐き出すすべては非常に標準的で、非常に安全ですが、同時に取り返しのつかない空虚さを持つことになります。あなたは無数の完璧に構成された報告書や、数多くの完璧に作成されたメールを見るでしょうが、それらは人間のタッチを欠き、本当に価値のある洞察がありません。

知識の大きな敗北は、人間の脳が鈍くなったからではありません；本当の悲劇は、私たちが考える権利と文脈を残す責任を自分たちの影にアウトソーシングしてしまったことです。

「colleague.skill」の爆発から数日後、「anti-distill」というプロジェクトがGitHubに静かに現れました。

このプロジェクトの著者は、大きなモデルを攻撃したり、壮大なマニフェストを書くことを試みませんでした。彼らは単に、労働者がFeishuやDingTalkで論理的ノイズに満ちた無効な長文を自動生成するのを助ける小さなツールを提供しました。

彼の目的はシンプルでした：システムによって蒸留される前に、自分の核心的な知識を隠すことです。システムが「積極的に書かれた長文」を取得するのが好きなので、栄養のないナンセンスをたくさん与えます。

このプロジェクトは「colleague.skill」のように火がつくことはなく、むしろ少し無意味で弱々しいように見えました。魔法で魔法を打ち負かすことは、根本的には資本と技術によって設定されたゲームのルールに依存しています。それは、システムがますますAIに依存し、実際の人間をますます見落とす傾向を変えることはできません。

しかし、これはこのプロジェクトがこの全ての不条理なドラマの中で最も悲劇的に詩的で深く比喩的なシーンであることを妨げるものではありません。

私たちはシステムに痕跡を残すために非常に努力し、詳細な文書を書き、細心の決定を下し、この広大な現代の企業機械の中で自分たちの過去の存在を証明し、価値を証明しようとしています。これらの非常に真剣な痕跡が最終的に私たちを消し去る消しゴムになることを知らずに。

しかし、異なる視点から見ると、これは必ずしも完全な行き詰まりではないかもしれません。

なぜなら、消しゴムが消すのは常に「過去のあなた」だからです。ファイルにパッケージされたスキルは、そのスクレイピングロジックがどれほど洗練されていても、本質的には静的なスナップショットに過ぎません。それはそのエクスポートされた瞬間に凍結されており、古い栄養素にのみ依存し、確立されたプロセスとロジックの中で無限に回転しています。それは未知の混沌に直面する本能を欠いており、現実の挫折を通じて自己進化する能力を持っていません。

私たちが高度に標準化された、型にはまった経験を手渡すとき、私たち自身の手も自由になります。私たちが外に手を伸ばし続け、認知の境界を常に壊して再構築し続ける限り、雲の中にあるその影は永遠に私たちの足跡を追いかけるだけです。

人間は流動的なアルゴリズムです。