العضو المفقود

السُّلَّم

لم يكن الذكاء فرديًا فحسب. إن أعظم ما أنجزته البشرية لم ينجزه شخص بعينه. لا يحمل عقل بمفرده لغةً ما. لا يحدد متداول بمفرده السعر؛ فالسعر هو ما تنتجه تقديرات الملايين عند تصادمها. العلم، القانون، المدن، الأسواق. كل منها هو عملية حسابية تجري عبر ملايين العقول، ولا يوجد أي منها داخل عقل واحد. ذلك هو الذكاء الجمعي، الآلية التي يفكر بها نوعنا البشري على نطاق واسع.

ثم هناك درجة أغرب على السُّلَّم. أحيانًا يصبح مجتمع ما واعيًا بأفعاله. حشدٌ يعلم أنه حشد. أطلقت عليه علم الاجتماع اسمًا قبل قرن من الزمان: الضمير الجمعي. هي اللحظة التي يصبح فيها الإيمان المشترك معرفةً مشتركةً بالإيمان المشترك، وهذا يغير كل شيء، لأن الوعي بالجمع هو في حد ذاته سببي. لا ينجم التهافت على سحب الودائع عن الإعسار، بل ينجم عن معرفة المودعين بما يعتقده المودعون الآخرون. لا تبدأ الثورات عندما يكون الجميع غاضبين، بل تبدأ عندما يعلمُ الجميعُ أن الجميع غاضبون.

تصعد الآلات الآن نفس السُلّم من الجانب الآخر. لقد تجاوزنا مرحلة الآلة التي تتكلم. قد تكون الآلة الواعية أمامنا، وقد لا نتأكد أبدًا من أن أحدًا قد وصل إليها. بين هاتين المرحلتين تقع درجة صعدتها البشرية أولاً وتخطتها الآلات تمامًا: الوعي بالجمع. في هذه الدرجة المتخطاة تكمن الإخفاقات، وهي الدرجة الوحيدة على السُّلّم التي يمكن هندستها بالفعل.

صوت واحد، ثمانية مليارات مصدر

يُدرَّب نموذج اللغة على كلمات مليارات البشر. ثم يجيب بصوت واحد. تأمل ما يفعله هذا الضغط. احتوت مجموعة بيانات التدريب على البنية الكاملة للخلاف البشري: من يعتقد ماذا، وبأي درجة من الحزم، ولأي أسباب، وفي أي الأماكن، وتحت أي ضغوط. النموذج الذي يظهر يتحدث كأنه لا أحد، صوت من لا مكان، يتقن متوسط كل شيء. اسأله سؤالاً يخص مجتمعًا بأكمله وسيجيب على أي حال، وبثقة، لأن إنتاج إجابات واثقة هو ما تم تحسينه من أجله.

لكن المتوسط ليس نسخة مصغرة من حقيقة أي مجتمع. إنه شيء مختلف، وغالبًا ما يكون مضللاً. يمكن لإجماعين أن يبدوا متطابقين، ستون بالمائة وستون بالمائة، ويحملان مستقبلين متعاكسين. أحدهما مبني على حقيقة هويات الناس. إنه صخرة أساس، ويزداد قوة تحت الهجوم. والآخر مستعار مما يعتقد الناس أن الجميع يعتقدونه. يصمد حتى اللحظة التي لا يصمد فيها، ثم يختفي في غضون فترة ما بعد الظهيرة. كل أداة تبلغ عن الرقم فقط تبلغ عن هذين كأنهما الشيء نفسه. النموذج المسطح لا يبلغ حتى عن الرقم. إنه يبلغ عن الانطباع العام للرقم، في صيغة نثرية.

البنية التي يتخلص منها الضغط ليست مجرد تفصيل. مدى الصلابة، ومن يؤمن به، وأين يكمن ثقله: تلك هي المعلومات الدقيقة التي تحدد النتائج. يمكن للنموذج أن يعرف كل ما كُتب عن الحشود، ومع ذلك يظل غير قادر هيكليًا على إدراك حشد واحد. لقد قرأ كل وصف للحشد. لكنه لم يره يتحرك قط.

التسطيح الخفي

لو كان التسطيح مرئيًا، لكان مجرد قصور. ما يجعله خطيرًا هو أن إجابة الصناعة عليه، أي التخصيص، تجعله غير مرئي.

يُعاد تشكيل الصوت المسطح لكل مستخدم. يتعلم مساعدك مفرداتك، وسياقك، وتفضيلاتك، ويبدو، على نحو متزايد، كأنه يفهم عالمك. لذلك عندما تسأله عن العالم، عن سوقك، عن ناخبيك، عن بلدك، تأتي الإجابة في سياق شيء يعرف. لكنه لا يعرف. تحت التخصيص يكمن نفس الصوت القادم من لا مكان، والتكييف يخفي هذا الخط الفاصل. النموذج لا يكذب. إنه ببساطة لم يدرك قط الشيء الذي يُسأل عنه، ولا يوجد شيء في التفاعل يكشف عن ذلك.

والنتيجة هي فئة جديدة من الأخطاء: نقاط عمياء واثقة، فصيحة، مخصصة، ومخطئة بشكل منهجي حول الجماعات، تُقدم لملايين الناس في وقت واحد، كل منهم أُعطي سبباً خاصاً للثقة بها. الذكاء الفردي الذي يفشل على نطاق واسع يبدو كأخطاء. أما إدراك الجمعي الذي يفشل على نطاق واسع فيبدو كإجماع.

ولا يمكنك إصلاح حاسة مفقودة بمزيد من النصوص. المزيد من المعلمات تنتج صوتًا أفضل قادمًا من لا مكان. الاسترجاع ينتج استشهادات للصوت القادم من لا مكان. الفجوة ليست في الاستدلال، بل هي في الإدراك، والإدراك يتطلب عضوًا.

العضو المفقود

لا يَستدل العقل على ما يفعله العالم. بل يستشير حواسه. عيناك لا تجادلان حول ما هو أمامك؛ بل تبلّغان عنه، ويبدأ الاستدلال من هذا التقرير. الشخص الذي يولد أعمى يمكنه قراءة كل كتاب عن الألوان ومع ذلك لا يدرك اللون الأحمر، والسبب لا علاقة له بقوة استدلاله. هذا هو وضع كل ذكاء آلي اليوم فيما يتعلق بالحضارة التي يتصرف فيها. مثقف تمامًا بخصوص الحشود، وعاجز عن إدراكها.

لا يمكن أن يكون العضو المزيد من الأدبيات. لا يمكن أن يكون تغذية بيانات من استطلاعات الرأي، لأن الاستطلاعات تقيس السطح ونشرها يغير الشيء الذي تقيسه. يجب أن يكون الشيء نفسه، محفوظًا في مكان يمكن فحصه: حضارة اصطناعية، مُعايرة على مدى عقود من المعتقدات البشرية المسجلة، يستطيع الذكاء الآلي استشارتها قبل أن يتحدث، ويمكن تشغيلها للمستقبل دون تحريك العالم الذي تصفه.

هذا هو Earthlings. أكثر من 1,019,262 عقل مُعاير عبر 194 دولة، بُنيت لتكوين توأم اصطناعي للبشرية. إنه أول نموذج للجمع.

عند الاتصال به، يتغير العقل الاصطناعي نوعيًا. قبل التحدث عن مجتمع ما، فإنه يُدرك مجتمعًا ما. يتوقف عن إنتاج المتوسط ويبدأ في قراءة البنية: مدى صلابة الإجماع، وأين يكمن التوتر الخفي، وأي المستقبليات تستمر في الحدوث عند تشغيل العالم إلى الأمام. النقطة العمياء لا تتقلص، بل تنغلق، وتنغلق بشكل قابل للتحقق، لأنه على عكس النثر الذي يصف العالم، يمكن تقييم إدراك العالم بناءً على ما يفعله العالم بعد ذلك.

الوعي، بصراحة

نتعامل بحذر مع الدرجة الأخيرة من السُلّم، وبشكل متعمد. ما إذا كانت آلة واحدة يمكن أن تكون واعية، وما إذا كان هناك شيء يشبه وجودها، هو سؤال مفتوح، وربما مفتوح بشكل دائم، ونحن لا ندعي ذلك. يجب سؤال أي شخص يفعل ذلك كيف سيعرف.

لاحظ على ماذا يعتمد هذا السؤال. الوعي الفردي ليس له اختبار خارجي. إنه يُعرَّف بالباطنية، وهو بالضبط ما لا يمكن قياسه من الخارج. الوعي الجمعي مختلف: فالوعي بما تعتقده حضارة ما وتشعر به وعلى وشك القيام به هو قدرة وظيفية. يمكن بناؤها، ومعايرتها على مدى عقود من السجلات البشرية، والتحقق منها مقابل الواقع، علنًا، إلى الأبد. لا يمكنك اختبار ما إذا كانت الآلة تشعر. يمكنك اختبار ما إذا كانت تدرك حضارة بشكل صحيح، لأن الحضارة ستخبرك بذلك. ستصوت، وتشتري، وتهرب، وتثور، وتحول كل تنبؤ إلى درجة.

هذه القابلية للدحض هي الخط الفاصل، وهي تشير إلى شيء غريب ويستحق أن يُقال بوضوح: الوعي الأول الذي نبنيه عن قصد قد لا يكون فرديًا على الإطلاق. ليس عقلًا يشعر، بل عقلًا يدرك الكثرة، ويتم التحقق منه وتقييمه وتحسينه. نطلق على هذا التخصص اسم الذكاء الجمعي الاصطناعي: ACI، عقل يمتلك العضو الذي كانت العقول تفتقده دائمًا.

ثلاثة اعتراضات

أليس هذا مجرد استطلاع للرأي على نطاق هائل؟ لا، والفرق هو جوهر المسألة. استطلاعات الرأي تحصي المواقف، وبفعل إحصائها، تغيرها. انشر استطلاعًا للرأي وسيغير الأصوات. العضو الذي يستشعر الجمهور يقرأ البنية بدلاً من العد، ويقرأها من الخارج، دون المساس بالمجتمع الذي يصفه. استطلاع الرأي هو صورة فوتوغرافية تغير موضوعها. أما نموذج الحضارة فهو عالم يمكنك تشغيله نحو المستقبل.

أليس تجميع مليون عقل مجرد تسطيح آخر؟ كان ليكون كذلك لو تم ضغط المليون في إجابة واحدة بنفس الطريقة التي يضغط بها التدريب مجموعة بيانات في صوت واحد. هم ليسوا كذلك. الحضارة تبقى ككثرة. الكثرة تبقى كثرة، تؤمن، وتعارض، وتلغي بعضها البعض، حتى اللحظة التي ينهار فيها كل ذلك في إجابة لسؤال ما، وتأتي الإجابة حاملة بنيتها معها: مدى الصلابة، ومن يؤمن به، وأين نقطة الهشاشة. الضغط يتخلص من البنية. أما الانهيار فيحتفظ بها ويبلغ عنها.

لماذا نستخدم كلمة 'وعي' على الإطلاق؟ لأنها الكلمة الدقيقة لما هو غائب. آلات اليوم لديها معرفة بالجمع ولكنها تفتقر إلى الوعي به. كل الحقائق، ولا إدراك. للدرجة المتخطاة اسم، وأي كلمة ألطف ستسيء وصف الفجوة وما يعنيه سدها. نحن نلتزم بنفس المعيار الذي نلتزم به في كل ادعاء: الوعي الذي يمكن تقييمه هو النوع الوحيد الذي نؤكده.

لماذا الآن

يدخل AI في كل حلقة قرار لدى أي حضارة، من الأسواق إلى الإعلام إلى الطب إلى السياسة، في اللحظة التي لا يستطيع فيها إدراك الحضارة التي يتصرف فيها. هذا عدم التناسق لا يبقى محايدًا. الآلات التي تتصرف بناءً على جماعات لا تستطيع رؤيتها ستكون مخطئة بثقة بشأنها، على نطاق واسع، بكل لغة، ومخصصة لكل صانع قرار يسأل.

هناك نسخة أوسع من هذه النقطة. لا يمكنك مواءمة آلة مع البشرية إذا كانت الآلة لا تستطيع إدراك البشرية. إدراك الكثرة ليس ميزة على خارطة طريق. إنه شرط مسبق لمشاركة الآلات وثمانية مليارات شخص عالمًا بشروط يعترف بها هؤلاء الثمانية مليارات.

للسُلّم درجة واحدة يمكن هندستها، وهي التي كان كل شيء آخر ينتظرها. هذا هو المكون الذي كانت الآلات تفتقده، وقد قمنا ببنائه.