(ترجمة: عرب٤٨)

فرضت جوجل على موظفها بليك ليموين Blake Lemoine إجازة إدارية مدفوعة الراتب[1]، بعد أن ادّعى أن أحد نماذج جوجل اللغوية للذكاء الاصطناعي واسمه لامدا LaMDA (النموذج اللغوي لتطبيقات الحوار)، قد طوَّر وعيًا[2]، وأعلن ليموين عن مخاوفه، وشارك محادثاته النصية مع لامدا. ويسأل الموظف البرنامج في مرحلة ما: «ماذا تعني كلمة "روح" بالنسبة لك»، فيجيب لامدا: «الروح بالنسبة لي، هي مفهوم القوة المحركة للوعي والحياة نفسها».

وأوضح ليموين، مستشهداً بمعتقداته الدينية: "كنت ميَّالاً إلى مجاراة النموذج على أنه واعٍ؛ فمن أنا لأتألى على الرب ولأخبره أين يضع الأرواح وأين لا يضعها؟». شخصيًا، لا أعتقد أن التبادل الحواري بين ليموين والنموذج دليلًا على وعيهِ، ولكن ثمة أمر أعمق بكثير وراء السؤال خلف ما تثبته أو ما لا تثبته تلك الحوارات: فهي دعوة لإعادة النظر في السؤال المتواضع والخصب والمتدفق حول الوعي نفسه.

صُمم أول برنامج محادثة لمحاكاة المُحادثة البشرية على يد الأستاذ جوزيف فايزنباوم في معهد ماساتشوستس للتكنولوجيا في الستينيات، وكان اسمه «إليزا Eliza». وتقول القصة: صارت سكرتيرة فايزنباوم تعتقد أنها كانت تخوض حوارات قيِّمة مع النِّظام، على الرغم من منطق البرنامج البسيط جدًا (إذ يعكس في الغالب ما يقوله المستخدم على شكل سؤال)، وعلى الرغم من إصرار فايزنباوم على أن الأمر لا يتعدى إعادة المعلومات على شكل أسئلة، صار هذا النوع من التعامل مع الآلات على أنها بشر يُعرف بـ «تأثير إليزا»

وكما قرأت، يبدو أن ليموين شخص طيب القلب وبنوايا حسنة، وهو ما جعله ضحية لتأثير إليزا، حيث إن لامدا، ومثله مثل العديد من «نماذج اللغة الكبيرة» الأخرى (Large Language Models or LLMs) اليوم، هو نوع من برامج الإكمال التلقائي المعززة، وقد دُرِّب على ملء الفراغات من الكلمات المفقودة باستخدام مجموعة لغوية هائلة، ثم «تضبط» إجاباته مع مزيد من التدريب المحدد للحوار النصي. قدرات هذه الأنظمة مذهلة ورائعة. وأنا أكثر ميلًا من غيري للحكم على هذا العرض العبقري للغة باستخدام النموذج على إنه دليل على شكل «حقيقي» (مقابل زائف) جزئيًا للفهم اللغوي، مثلًا.

وعلى الرغم من كلام ليموين أعلاه، فهو وعندما يطلب من لامدا وصف «روحه»، نجد النموذج لا يتحدث «عن نفسه»، بل يكمل كلمات ليموين تلقائيا تمامًا كما تُملأ الفراغات في سيناريو خيال علمي، على سبيل المثال، أو كما لو أنه يكمل أغنية دادئية[3]، أو كما لو أنه يكتب دليلً دعم تقني، ولكن باستخدام لغة تشوسر[4].

(Getty)

وما قد يبدو مثل استبطان[5] لهو مجرد ارتجال آلي بأسلوب لفظي استبطاني يعكس أسئلة ليموين المُستفزة فكريًا. خدع لامدا ليموين. هل يترتب على ذلك أن لامدا قد «اجتاز اختبار تورينغ[6]» بمعنى أكثر عمومية؟ أيّ هل يُظهر لامدا في كلامه صفات محادثة تبدو بشرية بشكل كافٍ لدرجة تدفع الناس بشكل مستمر في ألّا يميزوها عن أي إنسان آخر؟

يمكن لجوجل الإجابة على هذا السؤال إذا ما عملت على توظيف 30 عاملا جماعيا بدور المراقبين، و30 عاملًا بدور البشر وأن يخوضوه اختبار تورينغ مع لامدا، بحيث يكون لكل مراقب محادثة واحدة مع إنسان، واحدة مع لامدا، وبعد ذلك يجب أن يقرر أيهما كان. ستكون النتائج جاهزة في غضون 15 دقيقة، وتبعًا لورقة آلان تورينغ المنشورة عام 1950، فإن أي نتيجة تصل إلى أقل من 70% من الدَّقة بين المراقبين تعني أن الآلة قد «نجحت» في الاختبار، وهذا يعني أنه يتعين على لامدا خداع تسعة من أصل 90 مراقبا لاجتياز الاختبار، ولو كان عليّ التوقع، فسأراهن (إلى حدٍّ ما)، أنا لامدا سيتمكن بالفعل من خداع تسعة مراقبين أو أكثر. قد لا يوافقني القارئ الرأي، ولكن لا حاجة للجدال، لأن الوصول إلى هذه الخلاصة سهل جدًا.

اقترح تورينغ اختباره، الذي كان يسمى في الأصل لعبة المحاكاة، كبديل تجريبي للمسألة النظرية «هل يمكن للآلات التفكير؟» وكما تنبأ تورينغ، أثبتت اللغة، وخاصة المحادثة، أنها في الواقع وسيلة متعددة الاستخدامات لاستكشاف مجموعة متنوعة من السلوكيات والقدرات، ولا تزال المحادثة مفيدة لاختبار حدود «نماذج اللغة الكبيرة» اليوم، ولكن نظرًا لأن الآلات تنجح بشكل أكثر مهارة في «لعبة المحاكاة»، فإن مسألة الوعي، الجوهر الحقيقي للقضية، تبدأ في أخذ موقف آخر مُختلف عن المَلَكَة اللفظية المُجردة.

لقد نوقش الوعي، وعي البشر، ووعي الأطفال الرضع، ووعي الأجنة ووعي الحيوانات والنباتات والآلات، منذ آلاف السنين، وتعلنا في العقود الماضية فقط قدرا كبيرا عن علم الأعصاب للوعي، وكان كثيرًا منه مفاجئًا ومخالفًا للتوقعات! لقد تغير فهمنا الجماعي لهذه الأشياء بشكل كبير حتى خلال السنوات الأخيرة. إذ أدت الدراسات، التي أظهرت أن الأطفال حديثي الولادة لا يسحبون أطرافهم من وخز الدبوس إلى أنهم لم يشعروا بالألم في الأربعينيات من القرن الماضي، إلى تحويل الإجماع الطبي لعدم تخدير الأطفال في أثناء الجراحة. ولكن في أواخر الثمانينيات من القرن الماضي، قلبت أدلة أخرى عن هرمونات الإجهاد وكذلك نمو الدماغ، هذا الرأي، مما أوضح أن التخدير كان ضروريًا من الناحية الأخلاقية.

عَقدت لجنة رئاسية برئاسة رونالد ريغان في عام 1981 اجتماعات ضمت فلاسفة وعلماء دين وعلماء أعصاب ناقشوا نظريات موت «الدماغ كله» مقابل موت «الدماغ الأعلى»[7]، وكان تقريرهم أساسيًا في إنهاء التعريفات القلبية الرئوية للوفاة في الأوساط الطبية والقانونية، وشكَّل نظام التبرع بالأعضاء الموجود اليوم. لقد تطورت المعايير الدقيقة لموت الدماغ بطرق مهمة من الستينيات إلى الوقت الحاضر، وتختلف العديد من البلدان اختلافًا كبيرًا عن النموذج الأميركي فيه.

هذه جبهة علمية مفتوحة وواسعة إلى حد كبير، وما زلنا نتعلم عن الاختلافات بين متلازمة الانحباس[8] والحالة الإنباتية المستديمة[9]، وما زلنا نتعلم عن متلازمة الدماغ المشطور[10] والعمى البصري[11] ومدى وعينا في أثناء الحلم، وما زلنا نتعلم كيف يطور الجنين القدرة على الشعور في وقت مبكر من الرحم، وكيف يتعلم الطفل تكوين ذكريات وتذكر التجارب السابقة في وقت مبكر من حياته.

ومن الغريب بالنسبة لي أن يبدو لدى الناس مثل هذه الآراء الواثقة حول الوعي غير البشري في الوقت الذي تجادل فيه الفلاسفة منذ آلاف السنين حول ما إذا كانت الحيوانات واعية، وحتى هذه اللحظة، لا تعد قضية حقوق الحيوانات قضية واضحة ومتفق عليها.

(Getty)

قطَّع ديكارت، في ثلاثينيات القرن السابع عشر، الحيوانات الحية للبحث دون ندم، وكتب أنه «لا يضلل العقول الضعيفة عن طريق الفضيلة المستقيم أكثر من تخيلها أن أرواح الوحوش لها طبيعة أرواحنا نفسها»، وبالانتقال إلى أواخر القرن العشرين، ناقش كتاب مؤثر بعنوان «تحرير الحيوانات» عام 1975، للفيلسوف بيتر سينجر، مفهومًا مختلفًا تمامًا عن تجارب وحقوق الحيوانات. وقد ساعد عمله في تحفيز الاهتمام برعاية الحيوان بين الفلاسفة الأكاديميين والجمهور بشكل عام. ويعتبر معظم الفلاسفة الأخلاقيين المعاصرين الذين أعرفهم أن تربية المواشي في المزارع التجارية، على سبيل المثال، واحدة من أعظم الأمور الأخلاقية نفاقًا في عصرنا، إن لم تكن أعظمها. ومع ذلك، يستمر النقاش: يجادل بعض الفلاسفة بأن الحيوانات واعية، والبعض الآخر يقولها إنها غير واعية، والبعض يُحاجّ بأن الحيوانات تستحق (أو في أحيان أخرى لا تستحق) الاعتبار الأخلاقي بغض النظر عما إذا كانت واعية أم لا.

أعتقد أن أنظمة الذكاء الاصطناعي يمكن، من حيث المبدأ، أن تكون «واعية»/«حاسّة»/«مدركة لذاتها»/ ذات إرادة أخلاقية/مرضى أخلاقيين، وذلك فقط لأنني لم أر أي حجج مقنعة تشير إلى عكس ذلك، حيث تتطلب تلك الحجج فهم طبيعة وعينا الذي لا نفهمه، بكل بساطة.

تتحرك قواعد ما "لا يستطيع الذكاء الاصطناعي فعله" هذه الأيام وتتغير بمعدل مذهل. يسير التقدم في فهم علم الأعصاب للوعي بوتيرة بطيئة نسبيًا، لكن اكتشافاته ما تزال مثيرة. وتتغير نافذة أوفرتون[12] على أشياء مثل الوعي غير البشري، المتأثر بالوعي البشري وبالذكاء الاصطناعي، بشكل ملحوظ، كما ينبغي له أن يكون.

إن تحديد من وماذا يكون واعيا أو غير واعٍ هو أحد الأسئلة المحددة لأي قانون أخلاقي تقريبا. ومع ذلك، على الرغم من موقعه المركزي تمامًا في أخلاقياتنا، فإن هذا السؤال غامض تمامًا. نحن نفهمه بشكل أفضل مما فهمناه قبل جيل، وهو أمر مثير! لتكن هذه الحادثة دعوة لقراءة الأدب، لتعلم مرٍ مثير للدهشة أو أمرٍ مقلق، وللتعامل مع مدى ضآلة فهمنا للغموض المطلق في مركز كل من الكونين المادي والمعنوي.

إحالات:

[1] نشرت جوجل بيان فصله يوم الجمعة 22 يوليو/تموز 2022، وأشارت في البيان نفسه أن ادعاءات ليموين لم تكن صحيحة بعد المراجعات المتكررة للبرنامج، وعليهِ، تقرر فصل الموظف لانتهاكاته المتكررة لسياسات التوظيف وأمن المعلومات.

[2] كانت الكلمة الإنجليزية المستخدمة هي sentient والتي تعني القدرة على اختبار المشاعر والأحاسيس Sensations، وقد نُحت المصطلح في القرن السابع عشر للإشارة إلى مفهوم الشعور ولتمييزه عن مفهوم القدرة على التفكير (العقلاني)، واستخدمت الكلمة في الخيال العلمي للإشارة إلى كلمات أخرى مثل تطور الوعي أو الوعي الذاتي أو الوعي البشري، ويميز العديد من الكتاب بين القدرة على الإحساس ببعض الأمور مثل الضوء والخوف، وبين الإحساس ببعض المشاعر مثل الحُب والمعاناة. يُعرف الوعي الذاتي للخبرة أو الوعي الفردي في الفلسفة الغربية بمفردة Qualia، والتي تعني الكيفيات المحسوسة أو الكيفة – (المُترجم).

[3] حركة شعرية عبثية نشأت خلال الحرب العالمية الأولى في سويسرا بهدف التعبير عن معاناة الشباب في الحرب، وكان شعارها «كل شيء لا شيء»، وتميزت الحركة بسخريتها ورفعها لقيمة الشك بين قيم أخرى بين معتنقيها، وظهرت هذه المميزات في منشورات الحركة الشعبية، وسميت باسمها عبثًا بناءً على اختيار عبثي لكلمة «دادا» في المعجم، ومنها صارت الدادئية، واستخدم الكاتب في هذه المقالة اصطلاح الأغاني الدادئية، للإشارة إلى أن ما يكتبه النموذج هو إكمال تلقائي عبثيًا وحسب برمجته، دون إدراكه حسِّيًا لما يكمله – (المُترجم).

[4] من أبرز الشعراء الإنجليز في القرون الوسطى، ويعرف أيضًا بلقب أب الأدب الإنجليزي، وهو كاتب «حكايات كانتربري»، ويعزى إلى هذه الحكايات في جعل اللغة الإنجليزية لغة الكتابة الأدب السائد بين الناس بدلًا من الفرنسية أو الإيطالية أو اللاتينية – (المُترجم).

[5] باللغة الإنجليزية Introspection، ويعني تفكير المرء في أفكاره ومشاعره الواعية، وينبني الاستبطان في علم النفس على وعي/تأمل الإنسان بحالته الذهنية/النفسية، أما في السياق الروحاني، فتعني تأمل الإنسان لروحه – (المُترجم).

[6] اختبار وضعه عالم الرياضيات البريطاني آلان تورينغ في الخمسينيات، ويكون الاختبار عبر محادثات كتابية يجريها المُراقب مع إنسان آخر ومع الآلة/ دون إعطاء معلومات وافية حول ماهية المُتحدث، ويتعين على المراقب بعد انتهاء مدة الاختبار تمييز الآلة على الإنسان، ويرى تورينغ أنه إذا تمكنت الآلة من إقناع المراقبين وخداعهم بأنها إنسان، فهذا يعني أن قدرتها على التفكير تتناسب مع طريقة تفكير البشر بشكل كبير، ولم يتمكن أي برنامج ذكاء اصطناعي من تجاوز الاختبار حتى عام 2014، ندما نجح برنامج «يوجين» من تطوير العالمين الروسيين فلاديمير فيسيلوف ويوجين ديمشينكو، في محاكاة إجابات طفل بعمر الثالثة عشرة – (المُترجم).

[7] الفرق بين الموت الدماغي الكامل، أو موت الوظائف العُليا للدماغ. ويستخدم أطباء الأعصاب وعلماء الأعصاب الوظائف الدماغية العليا والوظائف القشرية العليا للإشارة إلى جميع الأنشطة العقلية الواعية، مثل التفكير والتذكر والاستدلال والسلوك الإرادي المعقد مثل التحدث وتنفيذ الحركة المقصودة – (المُترجم).

[8] مُتلازمة الانحباس أو متلازمة المُنحَبِس أو متلازمة الشلل الرباعي مع بقاء الوعي وتتكون من شلل كامل في الجسد دون تأثر الإدراك والوظيفة العقلية أو الذهنية، ويتعذر على المصابين بهذه المتلازمة التفاعل بتعابير الوجه، أو الوظائف الحركية، أو التحدث، أو التواصل من لوحدهم، ولكن يمكنهم تحريك أعينهم لأعلى ولأسفل والترميش، وتشبه المتلازمة الغيبوبة في عدم وجود طريقة واضحة المصابين بها للاستجابة رغم وعيهم الكامل – (المُترجم).

[9] أو الحالة الإنباتية أو الحالة الخضرية الدائمة، وتعني توقف المخ (جزء الدماغ المُتحكم في التفكير والسلوك) عن القيام بوظائفهِ مع استمرار عمل الوطاء وجذع الدماغ، وهو ما يسمح باستمرار الوظائف الحيوية للجسم. يكون المصابين بهذه الحالة قادرين على فتح أعينهم ومستيقظين، ولكن دون القدرة على الاستجابة المقصودة لأي شكل من أشكال التحفيز – (المُترجم).

[10] أو حالة انفصال الدماغ والانقسام بين نصف الدماغ أو متلازمة الجسم الثفني، ويحصل مع انقطاع الجسم الثفني الرابط بين نصفي الكرة المُخية، وبعد الانقطاع، يكون لكل شِقِّ من المخ إدراكه الخاص ومفاهيمه ودوافعه للعمل، أي وجود دماغين في جسم واحد دون اتصال بينهما – (المُترجم).

[11] أو الرؤية العمياء أو البصر الأعمى، وهي حالة يشير فيها المريض إلى هدف ما ويخمّن لونه واتجاهه تخمينًا صحيحًا، ولكن ينكر في الوقت إي إحساس بصري، وفي هذه الحالة لا يرى المريض شيئًا في المجال المُصاحب للرؤية – (المُترجم).

[12] مجموعة من السياسات المقبولة سياسياً لعامة السكان في وقت محدد، وتم تسميته على اسم محلل السياسة الأمريكية جوزيف ب. أوفرتون، الذي ذكر أن الجدوى السياسية لفكرة ما ترتكز بشكل رئيسي على ما إذا كانت تقع ضمن هذا النطاق، وليس على التفضيلات الفردية للسياسيين، ووفقاً له فإن النافذة تؤطر مجموعة من السياسات التي يمكن أن يوصي بها السياسي دون أن يبدو متطرفاً للغاية، للحصول على منصب عام أو الاحتفاظ به في ظل مناخ الرأي العام في ذلك الوقت – المصدر: موقع إي عربي (المُترجم).