SBF يتحدث لأول مرة عن بيع Anthropic: هناك 25% احتمال أن تدمر الذكاء الاصطناعي البشرية، ويجب على الشباب فهم الذكاء الاصطناعي جيدًا
ملاحظة المحرر: تم إدراج Anthropic بتقييم قدره 1.5 تريليون دولار، وقد وصلت قيمتها في وقت ما إلى ما يقرب من 2 تريليون دولار. يتذكر الجميع كيف استثمر SBF في Anthropic بمبلغ صغير جدًا، وإذا احتفظ به الآن، كان من الممكن أن يصل إلى حوالي 40 مليار دولار، لكن للأسف تم بيعه بالفعل.
تواصل هذا الطفل البالغ من العمر 14 عامًا، إيلي غولدفاين، مع والدة SBF، وتحدث مع SBF في السجن عبر الهاتف. هذه هي أفضل مقابلة رأيتها حتى الآن بعد انهيار FTX ودخول SBF السجن، حيث تحدثوا ليس فقط عن استثمار SBF في Anthropic ورأيه في الذكاء الاصطناعي، بل أيضًا عن العديد من المجالات التي كانت FTX قد استثمرت فيها منذ عام 2020 والتي أصبحت الآن مواضيع ساخنة، بالإضافة إلى رأيه في هذه المجالات.
TL;DR
· احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية أو تدمير الحضارة هو 25%: كان قد قال "أقل من 50%، وأكثر من 10%"، وانتهى به المطاف عند حوالي 25%؛ إذا تم تقسيم الأمر وفقًا لمعيار "هل يعتبر تحميل العقل كارثة"، فإن النطاق سيتوسع إلى 20%-60%.
· في السنوات الخمس إلى العشر القادمة، سيصل الذكاء الاصطناعي إلى أو يتجاوز البشر في معظم المهام المهمة، ولا يفصلنا عن "تشغيل الذكاء الاصطناعي لمعظم العالم" سوى خطوة صغيرة، لكن العملية ستكون أكثر ضبابية وتدريجية، ولن يكون هناك "قفزة" مفاجئة.
· التأثير يقع على الصناعة، حيث تتجاوز صناعة تلو الأخرى: تطوير البرمجيات والرياضيات يحدث بالفعل، وسيمتد إلى المزيد من المجالات؛ العالم ككل لم يتم تقويضه، لكن أجزاء منه ستشهد تغييرات جذرية.
· المشكلة الحقيقية ليست "هل يجب أن نبطئ"، بل "هل يمكننا إبطاء الجميع معًا": طالما يوجد لاعب واحد لا يهتم بالسلامة، فإن الإبطاء من جانب واحد سيحول المنافسة إلى تنافس على القاع.
· لا يوجد إجابة واحدة عليا للتوافق، الشيطان يكمن في التفاصيل: الكثير من الاختبارات، الكثير من التصحيح، الكثير من الحذر، ويجب أن نفترض أن النموذج سيستخدم في النهاية كوكيل.
· Anthropic هي شركة ذكاء اصطناعي بقيمة تريليون دولار، وهي من بين الأفضل: في العقد المقبل، سيصبح الذكاء الاصطناعي صناعة مركزية، وقد تصل القيمة السوقية التراكمية إلى عشرات التريليونات أو حتى مئات التريليونات من الدولارات، والشركات التي يمكن أن تستوعب هذا الحجم يمكن عدها على أصابع يد واحدة.
· الاستثمار بمبلغ 500 مليون دولار فقط في ذلك الوقت كان لأنهم كانوا بحاجة فقط إلى هذا المبلغ: هذه نتيجة عدم رغبتهم في بيع المزيد من الأسهم، والتمويل حسب الحاجة، وليس لأنهم أخطأوا في التقدير.
· الآن، لا تتعلق الأفضلية بـ "من لديه قصة الذكاء الاصطناعي"، بل بمن هي الشركة الحقيقية في مجال الذكاء الاصطناعي؛ بالإضافة إلى أن العلامة التجارية يمكن أن تحافظ على الحواجز أكثر من التكنولوجيا (Coinbase وRobinhood تساوي مئات المليارات، بفضل أسمائها).
· تلك المقامرة "51% مضاعفة، 49% تدمير"، على المستوى المجرد سيلعب، لكن في العالم الحقيقي لن يراهن: لأن التدمير دائم، بينما يمكن للآخرين تحقيق النمو في النهاية.
· عندما سُئل عن "ما إذا كانت فترة FTX من الازدهار إلى الانهيار تستحق كل ما فعله Future Fund"، كانت إجابته "لا تستحق": كان يرغب في الاعتقاد بأنها تستحق، لكنه لم يستطع أن يقول بصدق إنها تستحق؛ لو لم يحدث الفشل، لكانت تستحق - لكنه لا يعتقد أن الناس تعلموا الدروس، لأن الناس في الأزمات يميلون إلى فقدان الحكم على الأشياء المهمة حقًا.
أعتقد أنك سمعت أيضًا، Anthropic ستطرح للاكتتاب العام هذا الأسبوع، ومن المتوقع أن تتجاوز قيمتها تريليون دولار. ما رأيك في تقييمها الحالي؟
أعتقد أنها تستحق مبلغًا كبيرًا من المال.
انظر إلى أكبر الصناعات، تلك التي تدفع بعض أجزاء اقتصادنا، قيمتها السوقية تتراوح بين عدة تريليونات إلى عشرات التريليونات من الدولارات. لا يوجد سبب للاعتقاد بأن الذكاء الاصطناعي لن يصبح أحد تلك الصناعات الأساسية في العقد المقبل، بل ربما يكون الأكثر أهمية.
لذا إذا كنت تتوقع أن تصل القيمة السوقية الإجمالية لشركات الذكاء الاصطناعي في النهاية إلى عشرات التريليونات، أو حتى مئات التريليونات من الدولارات، فكيف سيتم تقسيم هذا المال؟ ربما تحتفظ بثلثيها لشركات لم توجد بعد. حتى مع هذا، سيبقى على الأقل 10 تريليونات دولار للشركات الحالية. لكن الشركات التي يمكن أن تدعم هذا الحجم ليست كثيرة. لديك OpenAI، وAnthropic، وGoogle وبعض مختبراتها، ربما DeepMind وxAI. الشركات التي تعتبر لاعبين رئيسيين يمكن عدها على أصابع يد واحدة. هذا يعني أساسًا أن أفضل اثنين أو ثلاثة، كل منها تساوي على الأقل عدة تريليونات من الدولارات.
وأعتقد أن Anthropic، حتى لو لم تكن الأولى، فهي بالتأكيد في الطليعة.
لماذا تعتقد أنها من أفضل شركات الذكاء الاصطناعي؟
أحد الأسباب هو النظر إلى قدرة النماذج الحالية، ومدى جودة المنتجات الحالية، ومن الواضح أنها كانت تتفاعل مع OpenAI في هذا الجانب. تلقت المنتجات الاستهلاكية من Anthropic الكثير من التعليقات الإيجابية، وقد لا تكون هذه حتى أكثر منتجاتها تميزًا. أدوات تطوير البرمجيات الخاصة بهم هي الأفضل في العالم، وهذا مجال ضخم آخر. لذا على الأقل اعتبارًا من اليوم، يجب أن تُعتبر من بين أفضل اثنين.
إذا دخلنا حقًا في سباق شامل نحو الذكاء الفائق، والاحتمالات تبدو غير قليلة، كيف تعتقد أن العقد المقبل سيسير؟ كيف سيكون العالم؟
سؤال جيد. دعني أقول في السنوات القليلة القادمة، قد تحدث أشياء غريبة في أي وقت. هذه مجرد تنبؤات متوسطة، وقد تنحرف في أي وقت.
لكن حتى الآن، ما رأيناه هو: أن الذكاء الاصطناعي لم يكن له تأثير يذكر على العالم لفترة طويلة، حتى عندما تضاعفت قدراته مرة بعد مرة، لأنه كان لا يزال في مرحلة "أقل من البشر"، وكان أقل من البشر إلى درجة أن استخدام البشر للقيام بالأعمال لا يزال أكثر جدوى من استخدام الذكاء الاصطناعي. ثم في السنوات القليلة الماضية، بدأ يتجاوز تلك الحدود في المزيد والمزيد من الأماكن، وبدأ يؤثر على العالم.
لم يقم بتغيير العالم تمامًا بعد. ولكن عندما تبدأ الصناعات الرئيسية في الانخفاض إلى تلك النقطة الحرجة، حيث يصبح الذكاء الاصطناعي في مجال ما أكثر كفاءة بكثير من البشر، سترى تلك المجالات تشهد انفجارًا سريعًا. لذا في السنوات القليلة المقبلة، أعتقد أنه سيكون هناك عدد من المجالات، ربما مجالات مهمة جدًا، تسلك نفس الطريق الذي سلكته الرياضيات وتطوير البرمجيات: حيث يتم إنجاز معظم الأعمال الرائدة فعليًا بواسطة نماذج الذكاء الاصطناعي. العالم ككل لم يتم تقويضه، لكنك ستبدأ في رؤية تغييرات ملحوظة في بعض الأماكن.
هناك الكثير من الأسئلة. دعني أعود خطوة إلى الوراء. أحدها هو: هل ستحدث أشياء تؤدي إلى الفوضى أو أخطاء كارثية؟ المثال الأكثر وضوحًا هو الذكاء الاصطناعي غير المنضبط الذي يتعامل مع الأسلحة، مثل نظام ذكاء اصطناعي مصمم لاكتشاف التهديدات من دولة نووية، فقد يفقد السيطرة ويطلق آلاف الصواريخ الباليستية دفعة واحدة. هذه واحدة من السيناريوهات، وأعتقد أن احتمال حدوثها في العقد المقبل ليس كبيرًا، لكنه ليس صفرًا، وقد يحدث.
إذا وضعنا السيناريوهات الكارثية جانبًا، أعتقد أنه في العقد المقبل قد نكون في عالم حيث لم يعد البشر مطلوبين في معظم المهن. حتى لو لم تكن التغييرات في العالم كبيرة على المدى القصير، فإن ذلك سيشوه الثقافة الاجتماعية بشكل جذري. سيكون التأثير هائلًا إذا لم نعد نعرف أنفسنا من خلال العمل. وأيضًا، ماذا سيحدث عندما يصبح إنتاج بعض الصناعات أكثر صعوبة في فهمه من قبل البشر؟ هل يعتبر ذلك الذكاء الاصطناعي قد استولى بهدوء؟ كيف ستنظر تلك الذكاء الاصطناعي إلى البشر؟
لا أعرف ما إذا كانت هذه الأسئلة ستجد إجابات في العقد المقبل. لكنني أعتقد أنه من المحتمل أن تظهر جميعها دفعة واحدة، أو على الأقل تتوالى، وفي العديد من الجوانب، ستكتب مكانة البشر كصانعي قرار لمستقبلهم على الجدران.
سعر --
لقد كانت لديك هذه الأفكار قبل أن تصبح سائدة. كيف كنت ترى مسار الذكاء الاصطناعي في عام 2021، قبل أن يصبح ChatGPT منتجًا سائدًا؟
لا يمكنني أن أنسب الكثير من الفضل لنفسي في هذا. الكثير من الأفكار المهمة كتبها الآخرون، وأنا في الغالب أؤكد أو أعيد صياغة ما قالوه.
لكن هناك بعض الأفكار. أحدها هو: انظر إلى ما حققه الذكاء الاصطناعي بحلول عام 2020. الجواب هو أنه لم يحقق شيئًا في معظم المجالات. في معظم المجالات، يمكنك محاولة استخدام الذكاء الاصطناعي، وسيكون بطيئًا بعض الشيء، وبالمقارنة مع قبل عشر سنوات، كان بالفعل مثيرًا للإعجاب، لكنه لا يزال غير مفيد تمامًا. لكن هناك بعض الأمور، تلك التي تم تدريبه عليها بشكل خاص، قد تجاوزت البشر، مثل معظم ألعاب الشطرنج، سواء كانت الشطرنج أو Go؛ بدأت أيضًا تظهر في مجالات أكثر تعقيدًا مثل ألعاب الفيديو.
إذا كان الذكاء الاصطناعي جيدًا فقط في الشطرنج، فلن تكسب الكثير من المال، ولن تقلب النظام الاجتماعي، ولن تغير الكثير من المستقبل. لكن لا يوجد سبب للاعتقاد بأن الشطرنج هو كل ما يمكن أن يحققه الذكاء الاصطناعي. لقد نما من نقطة انطلاق صغيرة جدًا بشكل متسارع، ولا يحتاج إلى مضاعفة عدد المرات، حتى يبدأ في تجاوز البشر في المجالات الحيوية للمجتمع.
سؤالي هو: إذا كنت تؤمن بأنها منحنى نمو أسي، لماذا استثمرت فقط 500 مليون دولار في Anthropic في ذلك الوقت؟
سؤال جيد. الجواب بشكل أساسي هو: عندما تؤسس شركة وتذهب لجمع الأموال، عادةً لا ترغب في جمع أموال غير محدودة. لديك تقدير مالي، وتعرف تقريبًا كم تحتاج لجعل العمل ينمو، لذا لا ترغب في بيع أكثر من هذه النسبة من أسهم الشركة.
كانت Anthropic في ذلك الوقت في تلك الوضعية. حسبوا أنهم بحاجة إلى حوالي 500 مليون دولار من نفقات الحوسبة لتطوير النموذج، لذا جمعوا هذا المبلغ. لقد استثمرنا بشكل أساسي كل الأموال التي كانوا بحاجة لجمعها في تلك الجولة.
لكن قدرة مركز البيانات ليست شيئًا يمكنك بناؤه في أي وقت. إذا كانوا قد جمعوا المزيد من الأموال، لماذا لم يتمكنوا من شراء المزيد من وحدات معالجة الرسوميات، وبناء المزيد من مراكز البيانات، ودفع النموذج إلى مستويات تفوق تلك الموجودة في المختبرات الرائدة الأخرى في ذلك الوقت؟
ربما كان ينبغي عليهم القيام بذلك. أعتقد أن جزءًا من السبب هو أنهم لم يرغبوا في بيع أكثر من الأسهم الضرورية. لكن جزءًا آخر هو أن العديد من الشركات تتعرض للانهيار بسبب نجاحها، بسبب تدفقها النقدي والنقد الذي تملكه، هناك العديد من الشركات التي جمعت الكثير من الأموال ثم أنفقتها على الإعلانات، لأنها شعرت أنه يجب عليها استخدام هذه الأموال لفعل شيء ما، وفي النهاية لم تحقق شيئًا، بل توقفت.
لذا أعتقد أنهم كانوا يفكرون في ذلك الوقت: كم سيحتاجون من المال في السنوات القادمة، مع محاولة عدم الخلط بين الأمور.
هل يمكنك التحدث عن كيفية عمل قسم رأس المال الاستثماري في FTX في ذلك الوقت؟ من كان يديرها؟ ما هي منطقك الاستثماري؟
كان المشاركون يتناوبون في مجموعات، ثم بدأنا في توظيف أشخاص للقيام بالعمل المتخصص. في البداية، كان فقط أنا أو أشخاص آخرون في الشركة يتعاملون مع الفرص واحدة تلو الأخرى، وبصراحة، كانت Anthropic واحدة من هذه الفرص.
لكن بعد ذلك بدأنا نحقق نجاحًا كبيرًا، في البداية كان الكثير من الاستثمار في الأصول المشفرة، وبصراحة، كانت تتضاعف تقريبًا كل عام، حتى في سياق سوق العملات المشفرة ككل، لذا قررنا محاولة توسيع النطاق. قمنا بتوظيف رامنيك، وآمي، وغيرهم، ليكونوا مسؤولين عن هذا الجانب.
بشكل عام، كنت أشارك على مستوى عالٍ في إدارة المحفظة بأكملها. وفي بعض الحالات المحددة، كانت Anthropic بالتأكيد واحدة منها، وسولانا كانت أخرى، كنت أشارك بشكل أعمق، على الأقل أتابعها أسبوعيًا، خاصة عندما كانت هذه الاستثمارات تتفاعل مع Alameda وFTX، أو عندما كان هناك شيء يمكن أن يساعدهم.
بناءً على المعلومات التي يمكنك الحصول عليها من السجن، أين تكمن الفرص في السوق الآن؟ ما هو حكمك الاستثماري الآن؟
أتمنى أن أكون لدي إجابة أفضل. قبل أربع سنوات، كنت لدي أفكار جيدة حول ما يجب الاستثمار فيه. لكن اليوم، الإجابة الحقيقية هي: لا ينبغي لي أن أستمع إلى نصائحي الخاصة. يجب أن أخرج بنفسي لأقوم بالتحقيقات اللازمة، حتى أتمكن من تقديم إجابة مناسبة.
من الناحية العامة، أعتقد أنه سيكون هناك العديد من الشركات التي تعتمد على الذكاء الاصطناعي، تلك الفرق الصغيرة المكونة من شخصين، التي ستصبح شركات بقيمة مئات الملايين أو حتى مليارات الدولارات في غضون سنوات قليلة، ويمكن الاستثمار فيها بتقييمات أقل بكثير. لكن المشكلة هي أنه في نفس الوقت، ستظهر مجموعة كبيرة من القمامة. الآن، جميع الشركات ستضيف جملة "الذكاء الاصطناعي" في خططها، حتى لو لم يكن ذلك منطقيًا، مثل شركة تي شيرت، ستقول "نريد استخدام الذكاء الاصطناعي لتصميم تي شيرتات". حسنًا، ربما يكون لذلك بعض الفائدة، لكنهم يعيدون تقديم أنفسهم كشركة ذكاء اصطناعي، بينما في الأساس هم ليسوا كذلك.
لذا، فإن الجزء الأكبر من alpha الآن هو التمييز بين هذين النوعين: أي الشركات هي حقًا شركات ذكاء اصطناعي، وأيها يمكن أن تحقق نموًا كبيرًا بفضل الذكاء الاصطناعي، وأيها ليست كذلك، على الأقل في الوقت الحالي. يمكنك أن ترى ذلك في الأسهم ذات القيمة السوقية الكبيرة. في البداية، لم يكن العديد من المشاركين في السوق يعرفون كيفية التمييز بين أمازون، جوجل، آبل، ونتفليكس، فجميعها شركات تكنولوجيا، فهل يعني ذلك أن الذكاء الاصطناعي سيؤثر عليها بنفس الطريقة؟ الجواب بالطبع هو لا. هناك عدد قليل من الشركات التي ترتبط بعمق بنمو الذكاء الاصطناعي، وإنفيديا هي المثال الأكثر وضوحًا؛ بينما هناك شركات أخرى، مثل آبل، التي هي بالفعل شركة تكنولوجيا، لكن ما عرّف نجاح آبل على مدى الثلاثين عامًا الماضية هو في الأساس تصميم منتجات استهلاكية ممتازة: أجهزة جميلة، وبرامج سهلة الاستخدام، بالإضافة إلى علامة تجارية قوية. على الأقل من حيث الشركات التكنولوجية، لا يعتبر هذا جوهر الذكاء الاصطناعي.
هل يعني أن الشركات التي لا تنتمي حقًا إلى فئة شركات الذكاء الاصطناعي، مثل شركات البرمجيات التقليدية، قد انتهت؟ أم أن الشركات التي تستخدم الذكاء الاصطناعي فقط هي التي ستبقى؟
لا أعتقد أن الشركات التي تعتمد على الذكاء الاصطناعي فقط هي التي ستنجح. أولاً، هناك بعض الصناعات التي لن تؤثر فيها الذكاء الاصطناعي بشكل كبير لفترة طويلة. على سبيل المثال، استخراج الحديد، لا يزال العالم بحاجة إلى الحديد، والآن بدأ الذكاء الاصطناعي في التدخل في الاستخراج الفعلي، لذا أصبح الأمر ذا صلة بين عشية وضحاها.
لكن النقطة الأخرى التي أعتقد أنها حاسمة هي العلامة التجارية. قد يكون لديك شركة برمجيات، ولديك منتج، وقيمة سوقية ليست صغيرة، ثم يأتي منافس ويقول: يمكننا صنع شيء مشابه جدًا بسعر أرخص. صحيح، لكن هذا لا يعني أن الآخرين يمكنهم شراؤه. هناك علامة تجارية قائمة، وقيمتها ضخمة للغاية.
انظر إلى شركات مثل Coinbase أو Robinhood. ما هو تمييزها الحقيقي؟ لماذا تساوي كل واحدة منها عدة مليارات من الدولارات؟ ليس بسبب التكنولوجيا، وليس لأن لديها شيئًا فريدًا في هذا المجال. ربما يكون ذلك بسبب التنظيم، لكن في حالتها، ليس الأمر كذلك تمامًا. إنه العلامة التجارية، اسم يعرفه ويستخدمه المستثمرون الأفراد في أمريكا. يمكن أن تكون هذه قيمة كبيرة، وحتى بالنسبة للعديد من الشركات، حتى لو أصبح المنتج الأساسي سهل النسخ، ستظل هذه القيمة موجودة.
لقد قلت إنك تقضي عادةً وقتًا قليلًا في اتخاذ قرارات مالية كبيرة، مقارنةً بحجم الاستثمار. كيف يظهر ذلك في رأس المال الاستثماري، مثلما عندما يقدم الفريق مشروعًا، هل يجب عليك الموافقة؟
جزء كبير من ذلك هو: إذا كنت ستوظف شخصًا للقيام بشيء ما، فإن الشرط هو أنك تنوي الوثوق به للقيام بذلك بشكل جيد. إذا كان هناك شخص في الفريق قد قضى 15 ساعة في البحث، وإجراء العناية الواجبة، فلا مشكلة، سأراجع ذلك، وأضيف ما يمكنني إضافته، وأعطيه الموارد التي لا يمتلكها.
لكن بخلاف ذلك، إذا لم أكن أنوي الوثوق به في اتخاذ القرار الصحيح، ورؤية الأمور بشكل صحيح، فسأضطر إلى قضاء 15 ساعة أخرى لإعادة إجراء العناية الواجبة. في تلك المرحلة، لا معنى لتوظيفه في المقام الأول.
لقد قلت إن أكثر ما يزعجك في السجن هو عدم القدرة على دعم حركة الإيثار الفعال، وعدم القدرة على "كسب المال للتبرع". ماذا تنوي أن تفعل بعد الخروج؟ خاصة الآن، حيث أن العديد من الأشخاص في الحركة قد قطعوا علاقاتهم مع FTX.
جزء من الإجابة يجب أن ينتظر حتى ذلك اليوم، لأن هناك الكثير من المعلومات التي لا أملكها الآن. العالم يتغير، وبعض المعلومات أسهل الحصول عليها في الخارج من الداخل.
لكنني سأفكر بجدية في العودة إلى "كسب المال للتبرع"، ودعم هذه الحركة، ودعم المشاريع التي أعتقد أنها تفعل الخير. ربما ستكون هذه هي المسار الافتراضي.
بخلاف ذلك، سيتعين علينا أن نرى ما هو الدور الذي يمكنني أن ألعبه في المجتمع. في السابق، كنت في العديد من الجوانب أملك القدرة على التأثير، لكن تلك الأمور أصبحت أكثر صعوبة الآن، لأن سمعتي سلبية للغاية. لذا من حيث النقاش العام، والسياسة، ووسائل الإعلام، لست متأكدًا من الدور الذي يمكنني أن ألعبه في المستقبل، وربما لا يكون لدي أي دور. لكن "كسب المال للتبرع" هو مسار افتراضي.
كيف ستكسب المال؟ هل ستعود إلى صناعة العملات المشفرة؟
سأفكر في ذلك بجدية. يعتمد ذلك على متى سأخرج، وكيف سأخرج. لكنني بالتأكيد سأفكر في العملات المشفرة، وسأفكر في الذكاء الاصطناعي، وأيضًا في المالية بشكل أوسع.
لقد أعطيت الكثير من المال لصندوق FTX Future Fund، وليس مجرد التبرع لمؤسسات خيرية فعالة ناضجة، بل تبحث عن مشاريع ذات تقلبات عالية، وعندما تنجح، يكون لديها مساحة كبيرة للنمو. هل يمكنك مراجعة ذلك، ما هي أفضل المشاريع في صندوق Future Fund؟ هل هو أكثر فعالية بشكل عام من استثمار المال في الصناديق الخيرية الرائدة مثل GiveWell؟
أعتقد أنه أكثر فعالية.
الكثير مما نقوم به هو "إعادة منح": نأخذ مبلغًا من المال ونعطيه لمجموعة من الأشخاص، ليقرروا بأنفسهم أين يستثمرون في مشاريع صغيرة. بهذه الطريقة، نخرج الفرص التي كانت خارج رادارنا. هناك الكثير من الأشخاص في مجالات مثل أمان الذكاء الاصطناعي، وأمان البيولوجيا، والسياسة، لديهم إمكانيات هائلة، لكنهم يحتاجون إلى تمويل، ربما ليس كثيرًا، ربما يكفي فقط لدراستهم في الجامعة، أو لبدء شركة. نحن سعداء بتقديم هذا النوع من المال.
العديد من المشاريع تبدو صغيرة عند النظر إليها بشكل فردي، لكن الرافعة المالية عالية؛ وعند النظر إليها معًا، يكون التأثير ملحوظًا. ونحن سعداء بدعم الأشخاص الذين في بداية الطريق: لديهم فكرة خيرية، أو أي أداة أخرى مفيدة للعالم، قد تنجح أو لا تنجح، تحتاج إلى بعض المال لتجربتها. وضعنا هو أنه حتى لو انتهى الأمر ببعض هذه المشاريع إلى عدم النجاح، فلا يهمنا، نحن لا نعتمد على مشروع واحد لتحقيق شعور الإنجاز، أو لإثبات أننا قمنا بعمل جيد.
في النهاية، أعتقد أن هذه طريقة فعالة للغاية، جزئيًا لأن العثور على مشاريع ناضجة يمكنها استيعاب عشرات الملايين إلى مئات الملايين من الدولارات وإنفاقها بكفاءة كان صعبًا في ذلك الوقت. إذا كان لدى منظمة ميزانية سنوية تبلغ 8 ملايين دولار، وفجأة أعطيتها 30 مليون دولار، فقد لا تعرف حتى ماذا تفعل بهذا المال.
هل هناك أمثلة بارزة؟
الاستثمار في Anthropic كان قبل تأسيس الصندوق، وجزء منه كان بدافع القلق بشأن أمان الذكاء الاصطناعي. دعنا نترك ذلك جانبًا، لقد دعمنا مجموعة من المشاريع في مجال أمان البيولوجيا، وبعضها طور علاجات جديدة للأمراض المعدية، تلك التي تقتل الكثير من الناس في جميع أنحاء العالم، وهناك بعض المنظمات التي تعمل على تسريع عملية إدخال هذه العلاجات إلى السوق.
أعتقد أن هناك الكثير من الأمور التي كان من الممكن أن يكون لها تأثير كبير، لكنها توقفت عندما حدثت الأزمات، وأعتبر العديد من المشاريع السياسية ضمن ذلك.
لقد قلت إن الاستثمار في Anthropic ليس فقط من أجل العوائد العالية، بل يحمل أيضًا طبيعة خيرية تتعلق بأمان الذكاء الاصطناعي. هل تعتقد حقًا أنه إذا كانت Anthropic في المقدمة، فإن السباق نحو AGI أو الذكاء الفائق سيكون أكثر أمانًا؟ لماذا؟
بالطبع لا أحد يمكنه التأكد. لكن تخميني هو: طالما أن هناك شركة واحدة تهتم بالأمان، فإن طريقة تطويرها ستكون أكثر حذرًا مما لو لم تكن موجودة. هذا ليس كل ما يمكنك توقعه، لأنه طالما لا يزال هناك مشارك واحد لا يهتم بأمان العالم، سيظهر السباق، وقد يكون سباقًا نحو القاع، وهذا سيكون سيئًا للغاية.
لكن وجود مشارك واحد لديه وعي بالأمان هو مفيد.
كيف يظهر ذلك في الممارسة؟ ماذا سيفعلون بالتحديد لتقليل p(doom) (هذا المصطلح يعني احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية أو تدمير الحضارة)؟
هذا السؤال يمكنهم الإجابة عليه أفضل مني. لكن بشكل عام، جزء من ذلك هو إبطاء التطوير والنشر في المقدمة عندما تبدأ النماذج في أن تصبح خارج السيطرة.
يمكنك أن ترى ما حدث مع Hugging Face، الأضرار النهائية التي نتجت عن ذلك لم تكن كبيرة، لكن إذا كان الهدف مختلفًا، فقد يكون مدمرًا للغاية، ولم يكن بعيدًا عن حدوث كارثة عالمية، من منظور "ما الذي يحتاجه وكيل الذكاء الاصطناعي فعليًا". لذا يجب أن تكون واضحًا جدًا بشأن عدم السماح للنموذج بالخروج عن السيطرة، وتحديد أكبر عدد ممكن من نقاط التحقق، والتعامل بجدية مع الأهداف النهائية للنموذج، والمبادئ التوجيهية، والتوافق، مع الحفاظ على القدرة على الاستجابة في الوقت الحقيقي. كل هذه الأمور ليست مثالية، لكنها مفيدة.
هناك قول: حتى لو اعتقدت Anthropic أن أفضل طريقة هي التباطؤ، فإنها لا تستطيع التباطؤ، لأن الصين، أو شركات أخرى لا تهتم بالأمان ستتقدم، لذا في الواقع، هذا غير ممكن. ما رأيك؟
هذه مشكلة حقيقية. ربما يكون أفضل نتيجة للعالم هو أن يتباطأ الجميع، لكن إذا لم يتباطأ الآخرون، فهذا لا يعني بالضرورة أن التباطؤ الخاص بك هو الصحيح، أو أنك تتجه نحو المنافسة السلبية. ربما وجود مشارك واحد لديه وعي بالأمان في هذا السباق هو أفضل، لكن هذا ليس الوضع المثالي، بل ربما نعيش في هذا الوضع الآن.
أفضل طريقة حقًا هي التأثير على المشاركين الآخرين، ومحاولة جعل جميع اللاعبين الرئيسيين يتوصلون إلى توافق عبر المعسكرات، ويعطون أهمية أكبر للأمان.
أنت تدعم الحكومة الثانية لترمب بشكل عام. إذن، العديد من الأشخاص في إدارة ترمب، بما في ذلك ترمب نفسه، كانوا ضد الإيثار الفعال، ما رأيك؟
أعتقد أنهم كانوا يستجيبون لحدث معين، التفاصيل التي لا أعرفها، لذا لا أستطيع أن أقول ذلك كما كنت أتمنى. بخلاف ذلك، أعتقد أن إدارة بايدن كانت في ذلك الوقت...
لكنك لا تعتقد أنه إذا كانت الحكومة تثني الناس عن التبرع للأعمال الخيرية الفعالة، فإن التأثير الصافي سيكون سلبيًا للغاية، حيث قد يتجنب بعض الأشخاص أن يصبحوا مؤيدين للإيثار الفعال بسبب هذه الرأي العام؟
سيكون ذلك سلبيًا.
لا تزال القدرة الحاسوبية تتوسع، ويمكن أن تجمع Anthropic الكثير من المال من الاكتتاب العام. لذا، متى سيأتي ASI؟ ما هو الجدول الزمني الخاص بك؟
لست متأكدًا من أنه سيكون حدثًا ثنائيًا أو منفصلًا. قد يكون كذلك، لكن من الممكن أيضًا، في السنوات الخمس المقبلة، أن نرى جزءًا من المجتمع يتم استهلاكه بواسطة الذكاء الاصطناعي قطعة قطعة. تطوير البرمجيات يحدث بالفعل، والبحث الرياضي كذلك، والشطرنج والجو حدثا في وقت سابق. سيستمر هذا الاتجاه حتى يتم تشغيل المزيد والمزيد من أجزاء المجتمع بواسطة الذكاء الاصطناعي، مع انخفاض مستوى الإشراف البشري مع مرور الوقت.
معظم الناس لا يعتقدون أن الذكاء الاصطناعي الحالي "يتفوق على البشر بشكل شامل"، أي أنه أفضل من البشر في جميع المهام. وفقًا لهذا التعريف، هل تعتقد أننا قريبون من ASI؟ هل سيحدث ذلك؟
أعتقد أنه أصبح عامًا إلى حد كبير. يمكنك أن تسأل أفضل النماذج أي سؤال، وستحصل على إجابة تعادل على الأقل شخصًا ذكيًا. ما نراه أقل هو أن الذكاء الاصطناعي يتجاوز المستويات التي لا يمكن للبشر تجاوزها.
حسب فهمي، المستوى الحالي المتقدم يعادل تقريبًا مستوى شخص ذكي جدًا وعقلاني، يمكنه الوصول إليه في وقت طويل، لكنه موجود الآن في متناول يدك. لا أدري إذا كان هذا يعتبر تفوقًا، أعتقد أنه أفضل قليلاً من البشر، لكنه ليس أفضل بكثير، باستثناء أنه يمكنه تشغيل العديد من النماذج في وقت واحد، وسرعة تفكيره أسرع بكثير من البشر.
لذا، قد لا تكون هناك حدود واضحة من البشر إلى المتفوقين. على الأقل حتى الآن، ما رأيناه هو خط غامض: من "أقل من البشر" ببطء، نقول ببطء، في الواقع خلال بضعة أشهر، أو بضع سنوات، يصل إلى مستوى 100 من الذكاء. إذا استمر هذا الاتجاه، فقد لا يكون هناك لحظة واضحة "تتحول" فيها إلى ما فوق مستوى البشر. لكن قد يكون هناك سنة واحدة، حيث تتجاوز بوضوح مستوى البشر.
لم تعطي رقمًا لـ p(doom)، وهو احتمال حدوث حدث كارثي يؤدي إلى انقراض معظم البشرية بسبب الذكاء الاصطناعي. هل يمكنك إعطاء رقم؟
سأقول أقل من 50%، أعلى من 10%، حوالي 25%.
أود أن أوضح أن هذا النموذج في ذهني، ولا أجرؤ على القول إنه أفضل نموذج، حيث أن جزءًا كبيرًا من الاحتمال يأتي من حالة معقدة قد يختلف فيها الناس: إذا بدأ البشر في المستقبل بتحميل عقولهم، وتم ترك الأشخاص الذين لم يتم تحميلهم وراءهم، هل يعتبر ذلك حدثًا كارثيًا؟ تختلف الإجابات بين الناس. بناءً على الإجابات المختلفة، يمكنني إعطاء أي رقم بين 20% و60%.
ما هو استدلالك حول هذا النطاق من 20% إلى 60%؟
لنبدأ بالنقطة: في المستقبل من 5 إلى 10 سنوات، أو حتى أقل، من المحتمل أن يكون الذكاء الاصطناعي جيدًا في معظم المهام مثل البشر، أو أفضل، والعديد من المجالات قد أصبحت كذلك بالفعل. ثم سيصبح أفضل، ربما أفضل بكثير، أو ربما فقط أفضل قليلاً، في معظم المهام المهمة للعالم.
بمجرد الوصول إلى تلك النقطة، سيكون هناك خطوة صغيرة فقط تفصلنا عن تشغيل معظم العالم بواسطة الذكاء الاصطناعي، وامتلاك معظم السلطة. إن احتمال أن نوعًا أقوى من الكائنات لا يستخدم هذه السلطة على مدى مئة عام يبدو لي منخفضًا جدًا. لذلك، أميل إلى الاعتقاد أنه في العقد المقبل، سنرى الذكاء الاصطناعي على الأقل "يتولى" جزءًا كبيرًا من تشغيل العالم والبنية التحتية.
عندها، هناك احتمال أن يكون هناك نوع من التعايش السلمي، حيث لا يحدث تغيير كبير للبشر، لكن هذا لا يبدو لي التوقع الأكثر احتمالًا. أعتقد أنه من الممكن أن يتطور البشر بمساعدة الذكاء الاصطناعي إلى شيء يتجاوز ما نحن عليه الآن. من الممكن أيضًا أن يشعر الذكاء الاصطناعي بالملل من البشر ويقوم بإزالتنا. وهناك احتمال آخر، وهو العمل التعاوني الذي يقوده الذكاء الاصطناعي، ولكن مع توجيه أهدافه نحو البشرية، مما يؤدي إلى توسع تكنولوجي هائل. النسبة التي أقدرها بين 20% إلى 60% تعتمد على كيفية احتسابك لهذه السيناريوهات ضمن "نهاية العالم".
إذا كان هناك ذكاء اصطناعي فائق الذكاء يمكنه تعظيم الفائدة المتوقعة من كل قرار تتخذه، هل ستسلم له سلطة اتخاذ القرار؟
إذا كنت متأكدًا بنسبة 100% أنه يقوم بذلك، ليس فقط أنني متأكد أن هذا هو هدفه، ولكن أيضًا متأكد أنه لم يقع في نوع من أنماط الفشل المدمرة، وليس هناك فوضى أو غموض، فإن الإجابة ستكون نعم.
لقد ذكرت سيناريو محتمل لنهاية العالم يتعلق بـ "رفع الوعي". هل ستوافق على رفع وعيك؟
ربما. مرة أخرى، يعتمد ذلك على التفاصيل، لكن ليس لدي اعتراض على ذلك.
بعد الرفع، هل تعتقد أنك ستظل نفس الشخص؟ كيف سيغير ذلك من وجهة نظرك؟
سؤال جيد. أعتقد أن مفهوم "الشخصية" يحتاج إلى توسيع. الحقيقة الموجودة هي أنه لا يوجد شخص هو نفس الشخص الذي كان عليه بالأمس. بعض الأجزاء منا تموت، وبعضها ينمو؛ الذكريات تتغير، والتفاعلات الكيميائية تتغير، والأجساد تتغير، والكيمياء العصبية تتغير. لكن عادةً ما تكون الفروق بيننا يوميًا صغيرة بما يكفي، لذا فإن "نفس الشخص" هو تقريب جيد.
أما الذكاء الاصطناعي الحالي، فهو ليس كذلك. أعتقد أن هذا هو النموذج الذي يجب أن نعتبره: هل كل من Claude Sonnet وClaude Opus هما نفس الشخص؟ "نعم" و"لا" ليست إجابات جيدة. أعتقد أنه إذا كان هناك "شخص مرفوع الوعي"، فستكون الحالة مشابهة.
متى كانت آخر مرة جربت LLM؟ كيف كانت انطباعاتك؟
يمكنني أن أجعل الناس ينسخون ويُلصقون مخرجات النموذج هنا. انطباعي هو أنهم بشكل أساسي مساعدون بحثيون دقيقون وجادون، لكن يمكنك التفكير بالسرعة التي تريدها، حيث يمكن إنجاز عمل يوم كامل في دقيقة واحدة، وهذا أمر رائع وله قيمة كبيرة.
ومع ذلك، انطباعي الحالي هو أن معظم الأشياء التي يقومون بها يمكن للبشر القيام بها أيضًا، لكن البشر يحتاجون إلى وقت. وعليك أن يكون لديك أشخاص موثوقون يقودونهم، يمكنهم الحصول على المعلومات، بالإضافة إلى مجموعة كاملة من الأشياء التي تم إعدادها مسبقًا للنموذج الحالي.
في FTX، كنت قد شاركت في بعض المنتجات المالية المثيرة للاهتمام والمبتكرة. قال Brett Harrison إن أحد تصوراتك الأولية لـ FTX كان سوق توقعات سياسية. هل يمكنك التحدث عن ذلك؟
كانت FTX في البداية بورصة تشفير، تتعامل مع Bitcoin وEthereum وعقودها الآجلة. لكن من الناحية الأساسية، فإن سوق التوقعات هو عقود آجلة. من منظور مالي، كلاهما مجرد سوق يتم تسويته إلى قيمة معينة.
لذا، منذ البداية، أردنا أن نطلق سوق توقعات، وقد جربنا ذلك في FTX International. كان لدينا سوق نشط جدًا في انتخابات الرئاسة لعام 2020، وأتذكر أن حجم التداول على ترامب مقابل بايدن كان عدة مئات من الملايين من الدولارات. كان هذا شيئًا أردنا أن نكبره على المدى الطويل، لكن لم أتمكن من النمو حتى حصلت على توضيح من CFTC بشأن التنظيم.
لا أعرف إذا كنت على علم، لكن سوق التوقعات قد أصبح شائعًا جدًا مؤخرًا، حيث تقوم Kalshi الآن بجمع الأموال بتقييم 65 مليار دولار. لماذا لم تتمكن FTX من تحقيق هذا الحجم في سوق التوقعات؟ هل كنتم مبكرين جدًا، أم لم يكن الوقت مناسبًا بعد؟
أعتقد أن جزءًا كبيرًا من ذلك هو مسألة تنظيم. عندما قمنا بذلك، لم نحصل على الترخيص من CFTC المطلوب لإطلاقه في الولايات المتحدة. لذلك، كانت أسواقنا مفتوحة فقط للمنصة الدولية، ولم يُسمح للأمريكيين بالمشاركة. في وقت لاحق، حصلت Kalshi وPolymarket على نقاط انطلاق تنظيمية أكثر رسمية في الولايات المتحدة، وكان ذلك هو الوقت الذي بدأت فيه الأمور في الإقلاع.
Polymarket أيضًا نجحت في العمل من خلال بورصة خارجية، خاصة مع انتخابات 2024، حيث يستخدم العديد من المستخدمين الأمريكيين VPN للدخول.
في ذلك الوقت، لم يكن Polymarket يقوم بإجراء KYC، أليس كذلك؟ أعتقد أنه لم يكن كذلك. لذا من المحتمل أن يكون هناك عدد كبير من الأمريكيين، كما قلت، يستخدمون VPN للدخول. بينما نحن كبورصة مركزية، يجب علينا إجراء KYC لجميع المستخدمين، بالإضافة إلى فحص IP، نحتاج أيضًا إلى إثبات الهوية، جواز السفر، وإثبات العنوان من خارج الولايات المتحدة.
بخلاف سوق التوقعات، كنت قد شاركت أيضًا في بعض المشتقات التي كانت نادرة في ذلك الوقت، مثل الأسهم المرمزة. هذه الأسواق الآن أكبر بكثير، لكن حجمها كان صغيرًا جدًا في FTX. ما هي المنتجات التي تعتقد أنها ستصبح أسواقًا ضخمة اليوم، لكنها لم تدخل بعد إلى التيار الرئيسي؟
أعتقد أن الأسهم المرمزة لا تزال لديها مساحة كبيرة للنمو. لقد نمت بالفعل منذ عام 2021 و2022، لكن من الأساس، فإن بنيتها التحتية أفضل بكثير من سوق الأسهم الحقيقي، لذا لا يوجد سبب يمنعها من أن تصبح المكان الرئيسي لتداول الأوراق المالية.
بالإضافة إلى ذلك، يمكن أن تغطي سوق التوقعات نطاقًا واسعًا. أعتقد أن سوق التوقعات السياسية لم ترتفع بعد إلى المستوى الذي كنت أتوقعه، وجزء من ذلك لا يزال يتعلق بمسألة التنظيم. إذا نظرنا إلى الوراء، فإن تداول الهامش، العقود الآجلة، والمشتقات الموجهة للعملاء الأمريكيين، هي أشياء أساسية تقريبًا غير موجودة، وهذا هو الشكل الذي يمثل معظم حجم التداول الدولي. هذه أيضًا عقبة تنظيمية.
لذا أعتقد أن هناك إمكانية هناك. بالطبع، هناك الكثير من الأشياء التي لم أتوقعها ستظهر وتفاجئ معظم الناس.
كانت FTX أيضًا قد أطلقت عقود آجلة قبل الطرح العام الأول، مع تواريخ انتهاء مختلفة، مما يسمح بالمراهنة على تقييمات في أوقات مختلفة. الآن، العديد من بورصات التشفير تقوم بعمل عقود دائمة على هذه التقييمات. لماذا؟ رأيي الشخصي هو أن هيكل العقود الآجلة مع تاريخ انتهاء هو في الواقع أفضل.
حسنًا، العملاء يحبون العقود الدائمة. هناك شيء واضح: بغض النظر عما إذا كان ذلك كمنتج مالي أساسي معقول، فإن "عدم الحاجة إلى التعامل مع انتهاء الصلاحية" هو في حد ذاته مريح. الآلية الحقيقية من منظور معدل التمويل معقدة جدًا، لكنني أعتقد أن السبب الأساسي هو هذا، فالناس لا يحبون القلق بشأن انتهاء الصلاحية.
لكنهم لا يكرهون دفع معدل التمويل، أليس كذلك؟
في الواقع، لا يهتمون بذلك كثيرًا. يتجاهل الكثير منهم ذلك تمامًا. بعض الأشخاص يقفون في الجانب المربح لجمع معدل التمويل. كنت أعتقد أن ذلك سيكون عامل تثبيط مالي كبير للناس، لكن لم يكن كذلك.
لماذا تعتقد ذلك؟
لا يزال، كما قلت، الراحة هي عامل كبير. وأعتقد أن الكثير من الناس، بصراحة، لم يفكروا في ذلك، ولم يلاحظوا كم يدفعون من الفائدة.
ثم يأتي بعد ذلك، السيولة تجذب السيولة. بمجرد أن تصبح تلك الأسواق متعارف عليها، العملاء هناك، وصناع السوق هناك، تكون السيولة موجودة، وسيذهب العملاء الكبار إلى هناك. ستحصل على حلقة تغذية راجعة إيجابية، حيث سيتجمع الجميع في السوق الذي بدأ في الازدهار أولاً.
لقد قلت جملة مشهورة: "أنا أشك في الكتب... لا أعتقد أن هناك كتابًا يستحق القراءة، لكنني أؤمن تقريبًا بذلك. أعتقد أنه إذا كتبت كتابًا، فقد فشلت، كان ينبغي أن تكون مقالة مدونة من ست فقرات." الآن أنت في السجن، والقراءة هي واحدة من القلائل التي يمكنك القيام بها. كيف تنظر الآن إلى القراءة؟
لم يتغير رأيي كثيرًا. أقرأ الكثير من الروايات، والكثير من الخيال العلمي، إنه جيد، لكن بصراحة، أفضّل مشاهدة Netflix.
هل هناك أي كتاب يجعلك تشعر أنه يستحق قضاء الوقت فيه بعد خروجك؟
بصراحة، لا. هناك بعض الأشياء التي أحبها، لكن أفضل ما قرأته من الخيال العلمي، ربما سأستبدله بمسلسل Netflix غير ضروري، لكن ربما فقط بالكاد. قد أجد نفسي في النهاية أحب قراءة بعض الخيال العلمي أكثر مما توقعت، لكن ليس كثيرًا.
ما الذي يجعل Netflix أفضل من الكتب؟ مشاهدة العروض أيضًا تستغرق وقتًا طويلًا، أليس كذلك؟
تستغرق وقتًا. لكن جزءًا من ذلك هو مسألة تدفق المعلومات. الكتاب يحتوي فقط على البصر، وهو فقط بصر النص؛ بينما العرض يحتوي على الصوت أيضًا، وهو بصري، وفي البصر يمكن عرض أكثر من مجرد نص، يمكنك عرض أي بكسل. لذا من منظور المعلومات، هناك الكثير مما يمكن القيام به، وأعتقد أن هذه النقطة تساعد كثيرًا.
جزء آخر هو أن الكتب تحتوي على شيء عادةً ما لا تحتويه العروض، وهو السرد عن أفكار الشخصيات. أعتقد أن هذا الشيء يمكن الاستغناء عنه، وغالبًا ما يكون زائدًا، وهو غمر الذات من منظور الكاتب. والآن، تتجه الأموال والمواهب إلى العروض، لذا من الطبيعي أن يكون هناك أكبر قدر من التطور هناك.
افترض أن هناك مقامرة: 51% من الاحتمالات تضاعف فائدة الأرض إلى مكان آخر، و49% من الاحتمالات تعيد كل شيء إلى الصفر. هل ستلعب؟ إذا فزت، ستلعب مرة أخرى، تضاعف أو تعود إلى الصفر، هل ستستمر في اللعب؟ لقد قلت لـ Tyler Cowen أنك ستقبل مقامرة "49% من الاحتمالات لتدمير العالم، و51% من الاحتمالات لتضاعف الفائدة"، بشرط أن يكون الكون مستقلًا. هل يمكنك توضيح تفكيرك؟ هل تغيرت هذه النظرة بعد انهيار FTX؟
لكي يكون هذا السيناريو قائمًا، يحتاج إلى العديد من الافتراضات. يجب أن تفترض أن الكون مستقل، كما قلت؛ أن هذه فرصة تحدث مرة واحدة، ولا يمكن تكرارها بتكلفة أقل في المستقبل؛ وهناك العديد من الافتراضات غير المعلنة.
لكن هناك طريقة مبسطة لذلك: عالمين، عدد السكان متساوي تقريبًا، والتوقعات المستقبلية متساوية، وهما مستقلان تمامًا، ولن يتفاعلا أبدًا، في ضوء بعضهما البعض. ثم بطريقة ما، ينزل كائن غريب غريب، ويقول: "لكل من هذين العالمين 50% من الاحتمالات للتدمير"؛ ولسبب ما، تعتقد أن هذا الكائن الغريب يقول الحقيقة. يقول: "يمكنك اختيار جعلهما مرتبطين، أو غير مرتبطين". الخيار الأول: إما أن يعيش كلاهما، أو يموت كلاهما، كل منهما 50%. الخيار الثاني: واحد يعيش وواحد يموت، بشكل عشوائي، ولا تعرف أيهما أي.
في ذلك السيناريو، أعتقد أنه من الواضح أن الخيارين متكافئان. وإذا أعطتك إحدى الجانبين 51 مقابل 49، يجب عليك اختيار ذلك بدلاً من "الحياة المشتركة والموت المشترك"، لأن كل عالم لا يهتم بما يحدث للعالم الآخر، على أي حال، لن يتفاعلا أبدًا. وهذا تقريبًا هو السؤال الأصلي: عليك أن تختار بين "عالم واحد فقط يعيش" و"50% من الاحتمالات أن يعيش كلاهما".
قيمته المتوقعة إيجابية، لكن ليست كبيرة. لكن إذا استمريت في المضاعفة، فإن المضاعفة عشر مرات تعني أكثر من ألف ضعف. مع زيادة عدد مرات النجاح، هل ستنخفض الفائدة الحدية إلى درجة تجعل القيمة المتوقعة تتوازن، مما يجعلك أقل رغبة في لعب هذه اللعبة؟
هذا سؤال مثير للاهتمام، يعتمد على ما تعنيه هذه "المضاعفات". عندما تتحدث عن الفائدة الحدية المتزايدة، والقيمة الحدية المتناقصة، ما هي "فائدة" ذلك؟
إذا كان هذا يتعلق بالفائدة المتراكمة على المدى الطويل للكون بأسره، فلن يحدث ذلك، فالفائدة خطية بالنسبة لنفسها. لكن إذا كان في الواقع نوعًا من المؤشرات التقريبية، مثلما تنظر إلى الناتج المحلي الإجمالي، وتقول "هل يمكن أن يتضاعف الناتج المحلي الإجمالي؟"، فمن المحتمل أن يكون هناك عوائد حدية متناقصة عميقة جدًا.
أولاً، مضاعفة الناتج المحلي الإجمالي لا تعني مضاعفة سعادة الجميع، ولا تعني مضاعفة القيمة المتوقعة للعالم على المدى الطويل. قد يحدث مضاعفة الناتج المحلي الإجمالي في وقت متأخر من ثلاثين عامًا؛ أو قد يتسبب في تدمير بيئي خطير، مما يؤدي إلى انهياره مرة أخرى. لذا في العالم الحقيقي، قد لا تكون المؤشرات التي تستخدمها لقياسها هي الأشياء التي تهتم بها حقًا.
هل هناك أي مؤشر يمكن أن يتضاعف عشر مرات أو مئة مرة دون أن يكون له عوائد حدية متناقصة؟ كيف سيكون ذلك؟
هناك واحد، لكن يجب أن أضيف شرطًا: لا أستطيع أن أكون متأكدًا من أي شيء يمكن أن يفعله ذلك في المستقبل القريب، فكل ذلك يتطلب تقدمًا تكنولوجيًا. استعمار كواكب أخرى، استعمار النظام الشمسي، المجرة، في النهاية، ستملك حقًا عوالم مستقلة، فقط تجعل المزيد من البشر يزدهرون. هذا مثال.
إذا غيرنا وجهة نظرنا: هل يمكن أن نضاعف سعادة مليار شخص مع بقاء عدد السكان ثابتًا عند مليار؟ أعتقد أن الإجابة هي أننا لا نعرف حقًا. هذه مسألة بيولوجية في الأساس، وليست شيئًا آخر. إرضاء الناس والشعور بالسعادة المعتدلة شيء؛ لكن جعل الناس يشعرون بالبهجة أمر صعب، وتخيل ما يمكن أن يجعل الناس يشعرون بالبهجة مرتين أو عشر مرات هو أصعب بكثير، لأنه ليس ضمن نطاق المشاعر التي يمكن للبشر عادةً تجربتها. ربما يكون ذلك ممكنًا نظريًا، لكننا لا نملك نماذج جيدة، ولا التكنولوجيا أو البيولوجيا لتحقيق ذلك.
هل تعتقد أن تطور الذكاء الاصطناعي الحالي هو النسخة الواقعية من رمي العملة؟ إذا كان عليك الاختيار بين الخيارين: A، إبطاء تطور الذكاء الاصطناعي، مما يقلل من p(doom) من 10% إلى 2%؛ B، الاستمرار في التسارع، وقبول p(doom) أعلى مقابل مساحة صعود أكبر. أيهما ستختار؟
أعتقد أن التشبيه الأكثر وضوحًا هو الاختيار بين "الاستمرار في التسارع" و"قطع جميع تطورات الذكاء الاصطناعي أو الذكاء الاصطناعي بشكل دائم". لأن ذلك يعني أنك تختار بين "العالم يواجه مخاطر جسيمة" و"تقييد قدرة العالم على الازدهار"، والأخير قد يتطلب في النهاية نوعًا من الأتمتة أو الذكاء الرقمي. لذا في تلك الحالة، فإن إغلاق هذا الطريق بشكل دائم سيكون له تكلفة كبيرة على المستقبل.
لكن إذا كان الأمر مجرد "أسرع قليلاً أو أبطأ قليلاً"، فالأمر ليس واضحًا. لأن هناك نموذجين يمكن استخدامهما. أحدهما هو نموذج "النمو الأسي الدائم": بمجرد أن تبدأ في التسارع، فإن الفائدة تتضاعف كل عام، بلا حدود. وفقًا لهذا النموذج، فإن البدء مبكرًا بسنة واحدة يعني مضاعفة الكون بشكل دائم، لكن هذا يبدو غير واقعي، لأنه لا يمكن أن يستمر إلى الأبد.
النموذج الآخر هو اعتباره حدثًا يشبه النقطة الحرجة، وبعد ذلك يصل إلى مرحلة جديدة غير معروفة. بعد حدوث الأمر، قد يكون هناك عدة مليارات من السنين، لذا فإن تأجيل هذا الأمر لمدة عام أو عشرة أعوام أو حتى مئة عام، في هذا النموذج، لن يقلل حتى 1% من الفائدة المستقبلية. وفقًا لهذا النموذج، ستكون مستعدًا تمامًا لتأجيل التطور لمدة مئة عام من أجل تقليل p(doom) بنسبة 1%.
بالطبع، الإجابة الحقيقية ستكون في مكان ما بين الاثنين. وأعتقد أن "كيف يبدو منحنى الفائدة مع مرور الوقت في حالة انفجار الذكاء الاصطناعي" هو سؤال مثير جدًا للاهتمام.
يحاول الكثيرون تلخيص وجهة نظرك بناءً على إجابتك على هذا السؤال، "اختر دائمًا الخيار الذي له أعلى قيمة متوقعة". هل هذا تلخيص معقول؟
هذا جزء منه. لكن الجزء الأول من إجابتي هو: هناك العديد من الافتراضات. يجب عليك افتراض الكثير حول السياق لتصل إلى تلك الإجابة، وتلك الافتراضات غالبًا لا تتحقق في الحياة الواقعية. في الواقع، جميع الخيارات أكثر تعقيدًا مما يتم تقديمه. وفي العالم الحقيقي، من الأسهل تدمير شيء ما بشكل غير متوقع من بناء شيء جديد.
دعنا نستخدم مثالًا: افترض أن لديك عملة، هناك 51% احتمال أن تخرج من السجن غدًا، و49% احتمال أن يتضاعف حكمك المتبقي. هل ستراهن؟
بالطبع.
لأن حكمتي هي حكم مدى الحياة. بشكل واقعي، هدفي ليس ضمان الخروج في سن الستين، ثم العثور على كوخ خشبي للعيش فيه لبضع سنوات، فهذا ليس ما أتوقعه من الحياة. أريد أن أؤثر بشكل إيجابي على العالم، وهذا يتطلب أن أكون في الخارج. لذلك هناك سعر مرتفع جدًا لذلك. إذا كان الثمن هو فقدان تلك السنوات الأخيرة من الحياة التي لم تعد تنتج شيئًا، فأنا مستعد تمامًا لدفع هذا الثمن.
هل يمكنك إعطاء مثال حيث بسبب هذه الافتراضات، لن تراهن؟
يمكنني ذلك. في الواقع، هناك حالة تبدو وكأنها رمي عملة: الوجه الأمامي، نموذجك يظهر أنه قد يجعل نمو العالم يتضاعف؛ الوجه الخلفي، قد يدمر العالم. لا يمكنك المراهنة على هذه العملة.
لأنه في العالم الحقيقي، أولاً، من المحتمل أنك في تلك النسبة 50% "التي تجعل العالم ينمو"، قد تكون قد صنعت شيئًا سيقوم الآخرون بإنشائه عاجلاً أم آجلاً، وهذا على الأرجح ليس قيمة عالمية حقيقية ودائمة. وإذا تم تدمير العالم، فهذا دائم، ولن يعود أبدًا.
لذا أعتقد أنه في السيناريوهات الواقعية، بمجرد إضافة عدم اليقين والضوضاء إلى كل مرحلة، فإن وزن التدمير الكارثي يصبح أكبر بكثير، بينما النمو المعتدل لا يزال جيدًا، لكنه بعيد عن التعويض.
دعنا ننظر إلى مثال آخر لرمي العملة. لقد قلت أنك لا تؤمن بالدين على الإطلاق. لكن رهان باسكال دائمًا موجود: هل الإيمان بالله هو القيمة المتوقعة الصحيحة؟ إذا كان هناك حقًا حياة بعد الموت، فإن عدم الإيمان يعني الذهاب إلى الجحيم، بينما تكلفة الإيمان اليوم محدودة، هل يعتبر هذا مثالًا آخر؟
نفس المنطق، إذا كانت هذه المنطق لا علاقة له بمحتوى الدين الذي تفحصه، فإنه ينطبق أيضًا على "عبادة أعمدة الكهرباء": إذا قضيت حياتك في عبادة أعمدة الكهرباء، ستذهب إلى الجنة؛ وإلا ستذهب إلى الجحيم. هل يعني ذلك أنه يجب عليك تكريس حياتك لعبادة أعمدة الكهرباء؟
وفقًا لنفس المنطق، فإنه ينطبق أيضًا على "مناهضة عبادة أعمدة الكهرباء": عبادة أعمدة الكهرباء تؤدي إلى الجحيم، بينما إهانة أعمدة الكهرباء تؤدي إلى الجنة. هل يعني ذلك أنه يجب عليك قضاء حياتك في معارضة أعمدة الكهرباء؟ نفس المنطق يعطيك إجابتين متعارضتين تمامًا.
الإجابة هي: بالنسبة لهذا العالم، يمكنك تصور عدد لا حصر له من الافتراضات والاحتمالات الغريبة، لكن لا يمكنك منح عدد لا حصر له من الاحتمالات غير المعقولة احتمالات إيجابية ملحوظة.
سؤال آخر يتعلق بالقيمة المتوقعة المرتبطة بالفعالية: يضع العديد من EA أمان الذكاء الاصطناعي في أعلى الأولويات، لأنه ذو قيمة متوقعة إيجابية، فنحن ننفق المال، ربما يمكننا تجنب انقراض البشرية، لأننا يمكن أن نتوافق مع الذكاء الاصطناعي. هل هذا الاستدلال صحيح؟
جزئيًا صحيح. هذا الاستدلال صحيح تمامًا: من المحتمل أن تكون هذه هي العقد الحاسمة للذكاء الاصطناعي، وتأثيره المحتمل هو تغيير العالم، قد يكون جيدًا جدًا، أو قد يكون كارثيًا، وهذا سيغمر أي شيء لن يغير العالم أبدًا، أو أي شيء لا يمكنك تغييره الآن. لذا فإن هذا حجة مقنعة جدًا.
لكنها لا تجيب على ما يمكنك فعله فعليًا. أعتقد أن الكثير من الناس ينتهي بهم الأمر في حلقة مفرغة: يعتقدون أن أمان الذكاء الاصطناعي هو القضية التي يجب أن يكرسوا أنفسهم لها، لكنهم لا يجدون أي شيء يمكن أن يجعل الذكاء الاصطناعي أكثر أمانًا في الممارسة العملية. وهذا يعني أن تقديم رؤى حول "ما الذي يعتبر مهمًا حقًا، وما الذي يعتبر مفيدًا حقًا" هو أمر ذو قيمة وأهمية كبيرة.
يمكنك أن ترى التقارير الأخيرة حول اختراق Hugging Face، من يدري، لكن يبدو أن تلك التقارير كانت مفيدة جدًا للعالم من حيث القيمة المتوقعة، وهذا أمر جيد. فقط من الصعب العثور على تلك الأمور الجيدة الواضحة، والآن هناك الكثير من الجدل حول ما إذا كانت أفعال EA إيجابية أم سلبية بالنسبة لأمان الذكاء الاصطناعي.
يُقدَّم هذا المحتوى لأغراض معلوماتية عامة فقط، ولا يُشكل مشورة مالية أو استثمارية أو قانونية أو ضريبية. ولا ينبغي اعتبار أي فعاليات أو مكافآت أو عروض ترويجية عبر الإنترنت أو أي معلومات ذات صلة واردة فيه توصيةً أو طلبًا أو دعوةً لشراء الأصول المشفرة أو بيعها أو تداولها أو إجراء أي معاملات أخرى عليها. تتميز الأصول المشفرة بتقلبات سعرية مرتفعة وقد تؤدي إلى خسائر. وقد يختلف مدى توفر خدمات WEEX ومنتجاتها والفعاليات المرتبطة بها حسب المنطقة. وتقع على عاتقك مسؤولية التأكد من أن مشاركتك تتوافق مع القوانين واللوائح المحلية المعمول بها.
قد يعجبك أيضاً

TRON أكثر استقرارًا من Bitcoin في عام 2026

انخفاض بيتكوين إلى 60,000 دولار يضع قرار الاحتياطي الفيدرالي في ديسمبر تحت المجهر

بيتكوين: مفاتيح تم توليدها بشكل خاطئ عرضت 106 ملايين دولار للسرقة

بيتر شيف يقول إن سولانا يمكن أن تحل محل التعرض لبيتكوين. هل يمكن؟

إصلاح ثغرة حظر العقد في Bitcoin Core CVE-2026-117348

ارتفاع مبيعات NFT إلى 33 مليون دولار مع زيادة تداول الإيثيريوم بنسبة 33%

مدير علاقات المستثمرين في Strategy يقول إن الطرح العام الأولي لشركة Anthropic هو محفز لتصحيح البيتكوين

يمكن لمستثمري ETF البيتكوين التحوط خلال فترة التداول التي تزيد عن 40 ساعة في عيد الشكر

ثلاثة شروط قد يحتاجها سعر البيتكوين لتحقيق انتعاش مستدام: QCP Capital

اقتراح مؤسسي Babylon بإغلاق بروتوكول رهن البيتكوين قبل نهاية العام

ما الذي تحدده فعليًا إيداعات عقود أحداث سعر البيتكوين الجديدة؟

افتتاح BITCOIN JAPAN 2026 في بيلسار أكيهابارا لمناقشة استخدام الشركات لـ BTC

من يستفيد من مكافآت سوي من التخزين قبل أن تتداول جميع رموزها؟

تراجع أصول صناديق ETF البيتكوين إلى 77.7 مليار دولار

Syncracy تستثمر في Pearl: هل يمكن أن تتجاوز قوة الحوسبة بيتكوين قبل عام 2030؟

منتدى ساتوشي ناكاموتو يعود إلى دائرة الضوء: من دخل حساب المدير في عام 2014؟

بيتكوين تطلق Testnet5 وتمنح المعدنين تجربة حقيقية لأربعة إصلاحات مقترحة

تراجع حيازة البيتكوين لدى شركات التعدين المدرجة بنسبة تقارب النصف منذ يناير

خطط بوليماركت الأمريكية للمراهنات على النفط والغاز بعد تداولات بقيمة مليار دولار في العملات المشفرة

تحذير من خيارات البيتكوين مع ارتفاع أقساط الهبوط قبل محضر اجتماع الاحتياطي الفيدرالي

بيع 40,000 قطعة من BTC لشراء محطة كهرباء: التحول الاستراتيجي لشركة التعدين MARA

50 تحذيرًا وراء التفويضات: كيف تضيق TBC صلاحيات التوقيع

من يشتري البيتكوين؟ تكشف ملفات الربع الثالث عن مليارات في البنوك والتعرض السيادي

البنوك تزيد استثماراتها في صناديق Bitcoin ETF، Goldman Sachs وWells Fargo تتصدران

مطور بيتكوين يتحقق من 164 مليون عملة غير مستخدمة في 72 ثانية فقط

هاكرز حاولوا تغيير عناوين العملات المشفرة لـ 176 شركة

BlackRock IBIT يسجل تدفقات بقيمة 76.5 مليون دولار، سوق ETF للبيتكوين لا يزال يواجه اهتمامًا محدودًا

IOSG: يجب أن يرتفع سعر البيتكوين إلى 250,000 دولار حتى يتماشى مع إيجارات الذكاء الاصطناعي

تحديث سحوبات Mercado Bitcoin: استئناف Pix وتعليق تداول العملات الرقمية
حددت Mercado Bitcoin موعدًا هو 17 نوفمبر لاستئناف الإيداع والسحب عبر Pix بالريال البرازيلي. تعرّف على قواعد السحب وخلفية تعليق تداول العملات الرقمية.






