أخلاقيات الذكاء الاصطناعي والسعي وراء الوعي الذاتي في الذكاء الاصطناعي

هل أنت مدرك لذاتك؟

أراهن أنك تصدقك.

من المفترض أن قلة منا على وجه الخصوص مدركة لذاتها. هناك نطاق أو درجة من الوعي بالذات ونُزعم أننا جميعًا نختلف في مدى إدراكنا لذاتنا. قد تعتقد أنك مدرك تمامًا لذاتك وأنك لا تكون كذلك إلا بشكل هامشي. قد تكون قليل الإدراك الذاتي وتدرك أن هذه هي حالتك العقلية.

في هذه الأثناء ، في الجزء العلوي من الطيف ، قد تعتقد أنك مدرك تمامًا لذاتك وأنك بصراحة تدرك نفسك تمامًا كما هي. جيدة بالنسبة لك.

بالحديث عن ذلك ، ما الفائدة من أن تكون شديد الوعي بالذات؟

وفقا لبحث نشر في هارفارد بيزنس ريفيو (HBR) من تأليف Tasha Eurich ، تفيد التقارير بأنك قادر على اتخاذ قرارات أفضل ، وأنك أكثر ثقة في قراراتك ، وأنك أقوى في قدرات الاتصال لديك ، وأكثر فاعلية بشكل عام (في مقال بعنوان "ما هو الوعي الذاتي حقًا (وكيف لزراعته). "عامل المكافأة هو أن أولئك الذين لديهم وعي شديد بالذات يقال إنهم أقل ميلًا للغش أو السرقة أو الكذب. وبهذا المعنى ، هناك نوعان من تجنب كونهم وغدًا أو محتالًا ، إلى جانب تسعى جاهدة لتكون إنسانًا أفضل وتجميل إخوتك من البشر.

كل هذا الحديث عن الوعي الذاتي يطرح سؤالًا واضحًا إلى حد ما ، وهو ما الذي تشير إليه عبارة الوعي الذاتي بالفعل. يمكنك بسهولة العثور على الكثير من التعاريف والتفسيرات المختلفة حول المجمع ، ويجب أن نقول بناء طري يستلزم الوعي الذاتي. قد يبسط البعض الأمور من خلال اقتراح أن الوعي الذاتي يتكون من مراقبة نفسك ، ومعرفة ما تنوي فعله. أنت على دراية تامة بأفكارك وأفعالك.

من المفترض ، عندما لا يكون الشخص مدركًا لذاته ، فلن يدرك ما يفعله ، ولا لماذا ذلك ، ولا يدرك أيضًا ما يقوله الآخرون عنهم. أنا متأكد من أنك قابلت أشخاصًا مثل هذا.

يبدو أن بعض الناس يسيرون على هذه الأرض دون أدنى فكرة عما يفعلونه هم أنفسهم ، وليس لديهم ما يشبه ما يقوله الآخرون عنهم. أعتقد أنه يمكنك التأكيد على أنهم مثل ثور متجه نحو الأسفل في متجر حساس للأجهزة القابلة للكسر. نميل عادةً إلى الاعتقاد بأن الثور لا يعرف ما يفعله ويظل غافلاً عن وجهات نظر الآخرين ما لم يحاول هؤلاء الآخرون المناورة الجسدية أو تحطيم المخلوق الجاهل.

يقال أن الوعي الذاتي يمكن أن يكون تكراريًا إلى حد ما.

اسمحوا لي أن أرسم مثالا لتوضيح هذه العودية. أنت في خضم مشاهدة فيديو قطة ممتع تمامًا على هاتفك الذكي (يبدو أن الجميع يفعل ذلك). قد لا يكون لدى بعض الناس أي أفكار أخرى واضحة بخلاف التصرفات الغريبة التي تبعث على الحميمية لتلك القطط المحببة. في هذه الأثناء ، أي شخص لديه قدر ضئيل من الوعي الذاتي ، يدرك أنه يشاهد مقطع فيديو للقطط. قد يدركون أيضًا أن الآخرين من حولهم يشيرون إلى أنهم يشاهدون مقطع فيديو للقطط.

لاحظ أنه يمكنك أن تكون مدركًا لذاتك وما زلت منغمسًا في ما يجب أن نقوله عن نشاط أساسي معين. النشاط الأساسي في هذه الحالة هو مشاهدة فيديو القط. ثانيًا ، وفي نفس الوقت ، يمكنك التفكير في أنك في الواقع تشاهد مقطع فيديو عن قطة. يمكنك أيضًا تحمل فكرة أن الآخرين يراقبونك وأنت تشاهد مقطع الفيديو الترفيهي تمامًا للقطط. لا يتعين عليك بالضرورة إيقاف نشاط واحد ، مثل التوقف عن مشاهدة فيديو القط ، حتى تفكر بشكل منفصل في أنك (أو كنت فقط) تشاهد مقطع فيديو عن قطة. يمكن أن تحدث هذه الأفكار على ما يبدو بالتوازي مع بعضها البعض.

في بعض الأحيان ، قد يطردنا وعينا الذاتي من نشاط عقلي أساسي أو يقطعه على الأقل. ربما ، أثناء التفكير في مشاهدتك لمقطع فيديو القط ، يتجه عقلك جزئيًا إلى الخارج حيث إنه يتمدد بشكل مفرط للتركيز فقط على الفيديو نفسه. اخترت بعد ذلك إرجاع الفيديو للعودة إلى الجزء الذي رأيته نوعًا ما ولكنك مشتت ذهنيًا عن الفهم الكامل. أدى الوعي الذاتي إلى اضطراب نشاطك العقلي الأساسي.

حسنًا ، نحن الآن جاهزون لظهور الجوانب العودية.

هل أنت مستعد؟

انت تشاهد فيديو قطة يخبرك وعيك الذاتي بأنك تشاهد مقطع فيديو عن قطة وأن الآخرين يشاهدونك وأنت تشاهد الفيديو. هذا هو الوضع الراهن.

أنت بعد ذلك تقوم بقفزة ذهنية إضافية. تبدأ في التفكير في وعيك الذاتي. أنت مدرك لذاتك أنك تستحوذ على وعيك الذاتي. وإليك كيف تسير الأمور: هل أفكر كثيرًا في التفكير في مشاهدتي لفيديو القط ، تسأل نفسك بيأس؟ هذه طبقة أخرى من الوعي الذاتي. ترتيب الوعي الذاتي على رأس الوعي الذاتي الآخر.

هناك قول مأثور مفاده أن السلاحف على طول الطريق. بالنسبة لظاهرة الوعي الذاتي ، يمكن أن تكون:

• لست على علم بنفسك
• الوعي الذاتي بنفسك
• الوعي الذاتي بوعيك الذاتي بنفسك
• مدركًا لكونك مدركًا لوعيك الذاتي بنفسك
• Ad Infinitum (على سبيل المثال ، وما إلى ذلك)

ربما تكون قد أدركت أنني في وقت سابق كنت أشير بمهارة إلى أنه يبدو أن هناك فئتين رئيسيتين من الوعي الذاتي. تفترض إحدى النظريات المعينة أن لدينا نوعًا من الوعي الذاتي الداخلي الذي يركز على حالتنا الداخلية ، ولدينا أيضًا وعي ذاتي خارجي يساعد في قياس التصورات عنا لمن حولنا ممن يشاهدوننا.

وفقًا لمقالة HBR ، إليك وصف سريع للنوعين النظريين للوعي الذاتي: "الأول ، الذي أطلقنا عليه اسم الوعي الذاتي الداخلي، كيف نرى بوضوح قيمنا وشغفنا وتطلعاتنا وملاءمتها لبيئتنا وردود الفعل (بما في ذلك الأفكار والمشاعر والسلوكيات ونقاط القوة والضعف) والتأثير على الآخرين ". وفي الوقت نفسه الآخر هو: "الفئة الثانية ، الوعي الذاتي الخارجي، يعني فهم كيفية نظر الآخرين إلينا ، من حيث نفس العوامل المذكورة أعلاه. يُظهر بحثنا أن الأشخاص الذين يعرفون كيف يراهم الآخرون هم أكثر مهارة في إظهار التعاطف وأخذ وجهات نظر الآخرين ".

يمكن اشتقاق مصفوفة سهلة الاستخدام XNUMX × XNUMX أو أربعة مربعات من خلال التأكيد على أن كلا من الوعي الذاتي الداخلي والخارجي يتراوح من الأعلى إلى الأقل ، ويمكنك التزاوج بين الفئتين ضد بعضهما البعض. يشير بحث HBR إلى أنه يُقال أنك أحد هذه النماذج الأربعة للوعي الذاتي:

• Introspector: وعي ذاتي خارجي منخفض + وعي داخلي مرتفع
• باحث: وعي ذاتي خارجي منخفض + وعي داخلي منخفض
• المُسعد: وعي ذاتي خارجي مرتفع + وعي داخلي منخفض
• إدراك: وعي ذاتي خارجي مرتفع + وعي داخلي مرتفع

ستكون القمة هي النموذج الأصلي "الواعي" الذي يتكون من أن تكون في أعلى درجة من الوعي الذاتي الخارجي وبالمثل في قمة الوعي الذاتي الداخلي. للتوضيح ، لا تصل إلى هذا الموقف المتبجح بطريقة دائمة بالضرورة. يمكنك الانزلاق ذهابًا وإيابًا بين أن تكون مرتفعًا ومنخفضًا ، بين عوالم الإدراك الذاتي الداخلية والخارجية. يمكن أن يعتمد على الوقت من اليوم ، والموقف الذي تجد نفسك فيه ، وعدد كبير من العوامل البارزة الأخرى.

الآن بعد أن قمنا بتغطية بعض العناصر التأسيسية حول الوعي الذاتي ، يمكننا السعي لربط هذا بموضوع السلوكيات الأخلاقية.

الادعاء المعتاد حول كونك مدركًا لذاتك هو أنه من المرجح أن تكون على متن الطائرة عندما تكون مدركًا لذاتك. هذا يعني ، كما هو موضح بالفعل ، أنك أقل عرضة للسلوكيات الأخلاقية السلبية مثل السرقة والغش والكذب. الأساس المنطقي لهذا الاتجاه هو أن نشاط وعيك الذاتي سيجعلك تدرك أن سلوكك بغيض أو غير أخلاقي. لا تقوم فقط بإمساك نفسك وأنت تنحرف في المياه الموحلة غير الأخلاقية ، ولكنك أيضًا عرضة لتوجيه نفسك للخارج إلى الأرض الجافة (قدسية المنطقة الأخلاقية) ، كما كانت.

يساعدك وعيك الذاتي في ممارسة ضبط النفس.

من المفترض أن يكون التناقض عندما يكون هناك القليل من الوعي الذاتي أو لا يوجد على الإطلاق ، مما يشير إلى أن شخصًا ما ربما يكون غافلًا عن ميله إلى السلوكيات غير الأخلاقية. يمكنك أن تدعي أن مثل هذا الشخص غير المدرك قد لا يدرك أنه يؤدي أداءً عكسيًا. على غرار الثور في متجر المواد القابلة للكسر ، إلى أن يلفت انتباههم شيء أكثر صراحة ، فمن غير المرجح أن ينظموا أنفسهم بأنفسهم.

بالمناسبة ، لا يشتري الجميع هذا. قد يجادل البعض بأن الوعي الذاتي يمكن تطبيقه بسهولة على كونه غير أخلاقي مثل كونه أخلاقيًا. على سبيل المثال ، قد يكون الفاسق مدركًا تمامًا لذاته ويستمتع بارتكاب الخطأ. بل إن وعيهم الذاتي يدفعهم بقوة أكبر نحو أفعال أكبر وأكبر من سوء السلوك الشنيع.

هناك غيوم أكثر مما قد تراه العين مباشرة. لنفترض أن شخصًا ما مدرك تمامًا لذاته ، لكنه غير مدرك للأعراف الأخلاقية لمجتمع أو ثقافة معينة. بهذه الطريقة ، ليس لديهم أي توجيه أخلاقي ، على الرغم من الحقيقة المعلنة بأنهم على دراية بأنفسهم. أو ، إذا كنت ترغب في ذلك ، ربما يكون الشخص على دراية بالمبادئ الأخلاقية ولا يعتقد أنها تنطبق عليها. يعتبرون أنفسهم فريدين أو خارج حدود التفكير الأخلاقي التقليدي.

جولة وجولة ستسير الامور.

يمكن تفسير الوعي الذاتي على أنه سيف ذو حدين موجه نحو الأخلاق ، كما قد يؤكد البعض بشدة.

في الوقت الحالي ، دعنا نذهب إلى نسخة الوجه السعيد التي تتكون من الوعي الذاتي من خلال توجيهنا أو دفعنا نحو السلوكيات الأخلاقية. كل شيء آخر متساوٍ ، سنقوم بافتراض جريء أنه كلما زاد الوعي بالذات ، كلما ازداد ميلك إلى الأخلاق. من المؤكد أنه يبدو ممتعًا وملهمًا أن أتمنى ذلك.

دعنا نحول التروس ونجلب الذكاء الاصطناعي (AI) إلى الصورة.

نحن في منعطف في هذه المناقشة لربط جميع تشابكات الإجراءات مع العالم المزدهر للذكاء الاصطناعي الأخلاقي ، المعروف أيضًا باسم أخلاقيات الذكاء الاصطناعي. للاطلاع على تغطيتي المستمرة والواسعة لأخلاقيات الذكاء الاصطناعي ، انظر الرابط هنا و الرابط هنا، على سبيل المثال لا الحصر.

يستلزم مفهوم الذكاء الاصطناعي الأخلاقي تشابك مجال الأخلاق والسلوك الأخلاقي مع ظهور الذكاء الاصطناعي. لقد رأيت بالتأكيد عناوين الصحف التي دقت أجراس الإنذار حول الذكاء الاصطناعي المليء بعدم المساواة والتحيزات المختلفة. على سبيل المثال ، هناك مخاوف من أن أنظمة التعرف على الوجه المستندة إلى الذكاء الاصطناعي يمكن أن تظهر أحيانًا تمييزًا عنصريًا وجنسانيًا ، عادةً كنتيجة لكيفية تدريب مرافق التعلم الآلي (ML) والتعلم العميق (DL) وإدراجهما في الميدان (انظر تحليلي) في هذا الرابط هنا).

لمحاولة التوقف أو على الأقل التخفيف من اندفاع الجرس نحو منظمة العفو الدولية للسوء، التي تتكون من أنظمة الذكاء الاصطناعي التي تم تشكيلها عن غير قصد أو في بعض الأحيان بشكل متعمد للتصرف بشكل سيئ ، كان هناك حاجة ملحة مؤخرًا لتطبيق المبادئ الأخلاقية على تطوير واستخدام الذكاء الاصطناعي. الهدف الجاد هو توفير التوجيه الأخلاقي لمطوري الذكاء الاصطناعي ، بالإضافة إلى الشركات التي تبني أو تستخدم في مجال الذكاء الاصطناعي ، وتلك التي تعتمد على تطبيقات الذكاء الاصطناعي. كمثال على المبادئ الأخلاقية للذكاء الاصطناعي التي يتم صياغتها واعتمادها ، انظر تغطيتي على الرابط هنا.

امنح لحظة عاكسة للتفكير في هذه الأسئلة الثلاثة بالغة الأهمية:

• هل يمكننا حث مطوري الذكاء الاصطناعي على تبني مبادئ الذكاء الاصطناعي الأخلاقية ووضع هذه الإرشادات موضع الاستخدام الفعلي؟
• هل يمكننا أن نجعل الشركات التي تصنع أو تعمل في مجال الذكاء الاصطناعي تفعل الشيء نفسه؟
• هل يمكننا جعل أولئك الذين يستخدمون الذكاء الاصطناعي على دراية بالجوانب الأخلاقية للذكاء الاصطناعي؟

سأقول هذا بلا خجل ، إنها مهمة صعبة.

يمكن أن تتغلب إثارة صناعة الذكاء الاصطناعي على أي فكرة عن الاهتمام بأخلاقيات الذكاء الاصطناعي. حسنًا ، ليس فقط الإثارة ، ولكن جني الأموال جزء لا يتجزأ من هذه المعادلة أيضًا. قد تفاجأ بمعرفة أن البعض في عالم الذكاء الاصطناعي على استعداد للقول إنهم سيتعاملون مع "أشياء" أخلاقية للذكاء الاصطناعي بمجرد إخراج أنظمة الذكاء الاصطناعي الخاصة بهم من الباب. هذا هو الشعار الفني النموذجي المتمثل في التأكد من الفشل السريع والفشل في كثير من الأحيان حتى تحصل عليه بشكل صحيح (آمل أن تحصل عليه بشكل صحيح).

بالطبع ، أولئك الذين يدفعون بإيجاز الذكاء الاصطناعي المشكوك فيه أخلاقياً إلى عامة الناس يتركون الحصان يخرج من الحظيرة. كانت فكرتهم المعلنة هي أن منظمة العفو الدولية للسوء سوف يتم إصلاحه بعد استخدامه اليومي ، والذي يعد بطيئًا بشكل ضار لأن الحصان بالفعل يركض بشكل عشوائي. يمكن القيام بالأذى. هناك أيضًا فرصة متزايدة لعدم إصلاح أي شيء أو تعديله أثناء استخدام الذكاء الاصطناعي. هناك عذر متكرر وهو أن العبث بالذكاء الاصطناعي في تلك المرحلة قد يزيد الأمر سوءًا من حيث اتخاذ القرارات الحسابية غير الأخلاقية (ADM) تمامًا.

ما الذي يمكن فعله للحصول على فائدة وحيوية امتلاك الذكاء الاصطناعي الأخلاقي باعتباره ضوءًا ساطعًا وموجهًا في أذهان أولئك الذين يبنون الذكاء الاصطناعي ، ويستخدمون الذكاء الاصطناعي في الميدان؟

الجواب: الوعي الذاتي.

نعم ، الفكرة هي أنه إذا كان الناس أكثر وعيًا بأنفسهم حول كيفية استخدامهم للذكاء الاصطناعي أو تفاعلهم معه ، فقد يزيد ذلك من ميلهم نحو الرغبة في أن يكون الذكاء الاصطناعي الأخلاقي هو القاعدة. يمكن قول الشيء نفسه عن مطوري الذكاء الاصطناعي والشركات ذات الصلة بأنظمة الذكاء الاصطناعي. إذا كانوا أكثر وعياً بما يفعلونه ، فربما يعتنقون أخلاقيات الذكاء الاصطناعي أكثر من ذلك.

جزء من المنطق كما هو منصوص عليه بالفعل هو أن كونك مدركًا لذاتك يعطي ميلًا نحو أن تكون شخصًا أفضل أخلاقياً وكذلك تجنب أن تكون شخصًا رديءًا أخلاقياً. إذا تمكنا من الحفاظ على هذه الفرضية ، فهذا يعني أن مطوري الذكاء الاصطناعي الذين يميلون أكثر نحو الوعي الذاتي سوف يميلون نحو السلوكيات الأخلاقية وبالتالي يميلون نحو إنتاج ذكاء اصطناعي سليم أخلاقياً.

هل هذا جسر بعيد جدا بالنسبة لك؟

قد يقول البعض أن اللامبالاة كبيرة بعض الشيء. قد يكون من الصعب ابتلاع السلسلة الباهظة من الروابط بين الوعي الذاتي ، والفاضل أخلاقياً ، وتطبيق المبادئ الأخلاقية على الذكاء الاصطناعي. الحجة المضادة هي أنه لا يمكن أن تؤذي المحاولة.

قد يقول المشككون أن مطور الذكاء الاصطناعي قد يكون مدركًا لذاته وربما يكون أكثر أخلاقية في التفكير ، لكنهم لن يقفزوا بالضرورة نحو تطبيق هذا المعسكر العقلي على أعراف الذكاء الاصطناعي الأخلاقي. الرد على هذا القلق هو أنه إذا تمكنا من نشر وتعميم مسائل الذكاء الاصطناعي الأخلاقية ، فإن الاتصال الذي يبدو ضعيفًا على ما يبدو سيصبح أكثر وضوحًا ومتوقعًا وربما يصبح الطريقة القياسية للقيام بالأشياء عندما يتعلق الأمر بصياغة الذكاء الاصطناعي.

سأقوم الآن بإضافة لمسة لهذه القصة. قد يجعل الالتواء رأسك تدور. يرجى التأكد من جلوسك جيدًا ومستعدًا لما أنا على وشك الإشارة إليه.

يشير البعض إلى أنه يجب علينا بناء الذكاء الاصطناعي الأخلاقي مباشرة في الذكاء الاصطناعي نفسه.

قد تكون غير مفعم بهذا التصريح. دعونا نفكها.

قد ينشئ المبرمج نظامًا للذكاء الاصطناعي ويفعل ذلك من خلال وعيه الذاتي بالبرمجة لمحاولة منع الذكاء الاصطناعي من تجسيد التحيزات وعدم المساواة. بدلاً من مجرد التخلص من البرمجة ، يراقب المطور على أكتافه ليسأل عما إذا كان النهج الذي يتبعه سيؤدي إلى الغياب المطلوب للعناصر السلبية في الذكاء الاصطناعي.

رائع ، لدينا مطور ذكاء اصطناعي يبدو أنه مدرك لذاته بما فيه الكفاية ، وقد سعى إلى تبني السلوكيات الأخلاقية ، وقد رأى النور ليشمل المبادئ الأخلاقية أثناء قيامهم بصياغة نظام الذكاء الاصطناعي الخاص بهم.

حقق فوزًا للذكاء الاصطناعي الأخلاقي!

كل شيء جيد وجيد ، على الرغم من أن هناك شيئًا يمكن أن يحدث لاحقًا. يتم إدخال الذكاء الاصطناعي واستخدامه يوميًا. تضمن جزء من الذكاء الاصطناعي مكونًا للقدرة على "التعلم" أثناء التنقل. هذا يعني أنه يمكن للذكاء الاصطناعي تعديل نفسه بناءً على بيانات جديدة وجوانب أخرى من البرمجة الأصلية. بشكل سريع جانبًا ، لا يعني هذا أن الذكاء الاصطناعي واعي. ليس لدينا ذكاء اصطناعي واعي. تجاهل تلك العناوين الغامضة التي تقول إننا نفعل ذلك. لا أحد يستطيع أن يقول ما إذا كان لدينا ذكاء اصطناعي واعي ، ولا يمكن لأي شخص أن يتنبأ بشكل كافٍ متى سيحدث.

بالعودة إلى حكايتنا ، تم تصميم الذكاء الاصطناعي عن قصد لتحسين نفسه أثناء العمل. فكرة مفيدة جدا. بدلاً من اضطرار المبرمجين إلى إجراء تحسينات بشكل مستمر ، فإنهم يسمحون لبرنامج الذكاء الاصطناعي بالقيام بذلك بمفرده (مهلاً ، هل هذا العمل بنفسك خارج الوظيفة؟).

خلال الوقت الذي تقوم فيه تقنية الذكاء الاصطناعي بضبط نفسها ، اتضح أن العديد من أشكال عدم المساواة الدنيئة والتحيزات تتسلل إلى نظام الذكاء الاصطناعي من خلال أفعال التغيير التي يقوم بها. في حين أن المبرمج أبقى في الأصل هذه الجوانب غير الطبيعية خارجًا ، إلا أنهم بصدد صياغتها الآن بسبب ضبط الذكاء الاصطناعي أثناء الطيران. للأسف ، يمكن أن يحدث هذا بطريقة خفية وراء الكواليس بحيث لا يوجد أحد أكثر حكمة. أولئك الذين ربما أعطوا الضوء الأخضر للذكاء الاصطناعي في وقت سابق بعد الاختبار الأولي الشامل ، هم الآن غير مدركين بشكل أعمى أن الذكاء الاصطناعي قد سلك الطريق الفاسد منظمة العفو الدولية للسوء.

تتمثل إحدى الوسائل لمنع هذا الظهور غير المرغوب فيه أو على الأقل القبض عليه في تضمين الذكاء الاصطناعي نوعًا من المدقق المزدوج الأخلاقي للذكاء الاصطناعي. تمت برمجة أحد المكونات داخل الذكاء الاصطناعي لمراقبة سلوك الذكاء الاصطناعي واكتشاف ما إذا كان ADM غير الأخلاقي قد بدأ في الظهور. إذا كان الأمر كذلك ، فقد يرسل المكون تنبيهًا إلى مطوري الذكاء الاصطناعي أو يفعل ذلك إلى شركة تقوم بتشغيل نظام الذكاء الاصطناعي.

قد يحاول إصدار أكثر تقدمًا من هذا المكون إصلاح الذكاء الاصطناعي. سيكون هذا تعديلًا للتعديلات ، وإعادة الجوانب غير الأخلاقية الناشئة إلى المعايير الأخلاقية المناسبة. يمكنك أن تتخيل أن هذا النوع من البرمجة صعب. هناك احتمال أن يضل الطريق ، وربما يتحول إلى سلوك غير أخلاقي إلى حد بعيد. هناك أيضًا احتمال أن يؤدي وجود إيجابي خاطئ إلى تشغيل المكون وربما العبث بالأشياء وفقًا لذلك.

على أي حال ، دون التورط في كيفية عمل هذا المدقق المزدوج ، سنقوم بإعلان جريء حول هذا الموضوع. يمكنك أن تقترح أنه بطريقة محدودة ، يُقال أن الذكاء الاصطناعي مدرك لذاته.

عذرًا ، هذه كلمات قتالية للكثيرين.

الاعتقاد السائد لدى الجميع تقريبًا هو أن الذكاء الاصطناعي اليوم ليس واعياً بذاته. نقطة توقف كاملة. حتى نصل إلى الذكاء الاصطناعي الواعي ، والذي لا نعرف ما إذا كان سيحدث أو متى سيحدث ، لا يوجد أي نوع من الذكاء الاصطناعي يدرك نفسه. ليس على الأقل في معنى الوعي الذاتي الموجه للإنسان. لا تقترح حتى أنه يمكن أن يحدث.

أنا أتفق بالتأكيد على أننا بحاجة إلى توخي الحذر بشأن تجسيم الذكاء الاصطناعي. سأقول المزيد عن هذا القلق بعد قليل.

في هذه الأثناء ، إذا كنت من أجل المناقشة ، كنت على استعداد لاستخدام "الإدراك الذاتي" التدريجي بطريقة فضفاضة ، فأنا أعتقد أنه يمكنك أن ترى بسهولة لماذا يقال إن الذكاء الاصطناعي يلتزم بالمفهوم العام للذات وعي. لدينا جزء من الذكاء الاصطناعي يراقب بقية الذكاء الاصطناعي ، مع الاحتفاظ بعلامات تبويب على ما يجب أن يفعله باقي الذكاء الاصطناعي. عندما يبدأ باقي الذكاء الاصطناعي في تجاوز الحد ، يسعى جزء المراقبة إلى اكتشاف ذلك. علاوة على ذلك ، قد يؤدي جزء مراقبة الذكاء الاصطناعي أو المدقق المزدوج إلى توجيه بقية الذكاء الاصطناعي إلى الممرات المناسبة.

ألا يبدو هذا إلى حد ما وكأنه فعل مشاهدة مقاطع الفيديو الخاصة بالقطط والحصول على الوعي الذاتي الذي كنت تفعله؟

هناك حلقة مألوفة لها.

يمكننا تمديد هذا أكثر من ذلك. لم تتم برمجة مكون المدقق المزدوج للذكاء الاصطناعي فقط لمراقبة سلوك بقية الذكاء الاصطناعي ، ولكنه يلاحظ أيضًا سلوك أولئك الذين يستخدمون الذكاء الاصطناعي. كيف يفعل المستخدمون عند استخدام الذكاء الاصطناعي؟ لنفترض أن بعض المستخدمين يعربون عن سخطهم لأن الذكاء الاصطناعي يبدو أنه يميز ضدهم. قد يتمكن المدقق المزدوج للذكاء الاصطناعي من التعرف على هذا الأمر ، باستخدامه كعلم أحمر آخر حول ضلال بقية الذكاء الاصطناعي.

هذا يثير الوعي الذاتي الداخلي وتصنيفات الوعي الذاتي الخارجية.

يقوم المدقق المزدوج للذكاء الاصطناعي بالمسح داخليًا وخارجيًا لمعرفة ما إذا كان باقي الذكاء الاصطناعي قد توجه إلى بحار مزعجة. سيرفع الاكتشاف إشارة أو يتسبب في إجراء تصحيح ذاتي.

دعنا نضيف امتدادًا آخر محيرًا للعقل إلى حد ما. لقد قمنا ببناء مدقق مزدوج آخر للذكاء الاصطناعي والذي يهدف إلى التحقق مرة أخرى من المدقق المزدوج الأساسي للذكاء الاصطناعي. لما ذلك؟ حسنًا ، افترض أن المدقق المزدوج للذكاء الاصطناعي يبدو أنه يتعثر أو يفشل في القيام بعمله. سيسعى المدقق المزدوج للذكاء الاصطناعي للمدقق المزدوج إلى اكتشاف هذا الخلل واتخاذ الإجراءات اللازمة وفقًا لذلك. مرحبًا بكم في الطبيعة التكرارية للوعي الذاتي ، قد يعلن البعض بفخر ، كما هو معروض في نظام الذكاء الاصطناعي الحسابي.

بالنسبة لأولئك الذين هم بالفعل على حافة مقعدك حول هذا الأمر ، فإن التعليق الأخير ، في الوقت الحالي ، هو أنه يمكننا محاولة اقتراح أنه إذا جعلت أنظمة الذكاء الاصطناعي "مدركة لذاتها" ، فمن المحتمل أن تنجذب نحو السلوك الأخلاقي. هل يفعلون هذا على أساس واعي؟ بحزم ، لا. هل يفعلون ذلك على أساس حسابي؟ نعم ، على الرغم من أننا يجب أن نكون واضحين أنه ليس من نفس مستوى السلوك البشري.

إذا لم تكن مرتاحًا لأن فكرة الوعي الذاتي يتم تحريفها بشكل خاطئ لجعلها تتناسب مع مخطط حسابي ، فإن مخاوفك بشأن هذا ملحوظة جيدًا. ما إذا كان علينا وضع حد لجهود الذكاء الاصطناعي المستمرة التي تعزز الفكرة هي مسألة أخرى مفتوحة. يمكنك أن تجادل بشكل مقنع بأنه على الأقل يبدو أنه يقودنا نحو نتيجة أفضل لما يحتمل أن يفعله الذكاء الاصطناعي. نحن بحاجة إلى أن تكون أعيننا مفتوحة على مصراعيها لأن هذا يحدث.

أعتقد أننا سنحتاج إلى رؤية كيف يتم كل هذا. عد إلى هذا في خمس سنوات وعشر سنوات وخمسين عامًا ، وانظر ما إذا كان تفكيرك قد تغير في الموضوع المثير للجدل.

أدرك أن هذا كان فحصًا قويًا إلى حد ما للموضوع وقد تتوق إلى بعض الأمثلة اليومية. هناك مجموعة خاصة وشعبية بالتأكيد من الأمثلة القريبة من قلبي. كما ترى ، بصفتي خبيرًا في الذكاء الاصطناعي بما في ذلك التداعيات الأخلاقية والقانونية ، يُطلب مني كثيرًا تحديد أمثلة واقعية تعرض معضلات أخلاقيات الذكاء الاصطناعي بحيث يمكن فهم الطبيعة النظرية إلى حد ما للموضوع بسهولة أكبر. واحدة من أكثر المجالات إثارة للذكريات التي تقدم بوضوح هذا المأزق الأخلاقي للذكاء الاصطناعي هو ظهور سيارات ذاتية القيادة حقيقية قائمة على الذكاء الاصطناعي. سيكون هذا بمثابة حالة استخدام مفيدة أو نموذجًا لمناقشة مستفيضة حول هذا الموضوع.

إليك إذن سؤال جدير بالملاحظة يستحق التفكير فيه: هل يبرز ظهور السيارات ذاتية القيادة الحقيقية القائمة على الذكاء الاصطناعي أي شيء يتعلق بالذكاء الاصطناعي الذي يشبه "الوعي الذاتي" وإذا كان الأمر كذلك ، فما الذي يعرضه هذا؟

اسمح لي بلحظة لفك السؤال.

أولاً ، لاحظ أنه لا يوجد سائق بشري متورط في سيارة حقيقية ذاتية القيادة. ضع في اعتبارك أن السيارات الحقيقية ذاتية القيادة يتم قيادتها عبر نظام قيادة بالذكاء الاصطناعي. ليست هناك حاجة لسائق بشري على عجلة القيادة ، ولا يوجد شرط لقيادة الإنسان للسيارة. لتغطيتي الواسعة والمستمرة للمركبات ذاتية القيادة (AVs) وخاصة السيارات ذاتية القيادة ، انظر الرابط هنا.

أود أن أوضح ما هو المقصود عندما أشير إلى السيارات الحقيقية ذاتية القيادة.

فهم مستويات السيارات ذاتية القيادة

للتوضيح ، السيارات الحقيقية ذاتية القيادة هي تلك التي يقودها الذكاء الاصطناعي بالكامل من تلقاء نفسه ولا توجد أي مساعدة بشرية أثناء مهمة القيادة.

تعتبر هذه المركبات ذاتية القيادة من المستوى 4 والمستوى 5 (انظر الشرح في هذا الرابط هنا) ، في حين أن السيارة التي تتطلب سائقًا بشريًا للمشاركة في جهد القيادة يتم اعتبارها عادةً في المستوى 2 أو المستوى 3. يتم وصف السيارات التي تشارك في مهمة القيادة بأنها شبه مستقلة ، وتحتوي عادةً على مجموعة متنوعة من الوظائف الإضافية المؤتمتة التي يشار إليها باسم ADAS (أنظمة مساعدة السائق المتقدمة).

لا توجد حتى الآن سيارة حقيقية ذاتية القيادة في المستوى 5 ، والتي لا نعرف حتى الآن ما إذا كان ذلك ممكنًا ، ولا كم من الوقت سيستغرق الوصول إلى هناك.

وفي الوقت نفسه ، تحاول جهود المستوى 4 تدريجياً الحصول على بعض الجاذبية من خلال الخضوع لتجارب طرق عامة ضيقة للغاية وانتقائية ، على الرغم من وجود جدل حول ما إذا كان يجب السماح بهذا الاختبار في حد ذاته (نحن جميعًا حيوانات تجارب حياة أو موت في التجربة التي تجري على طرقنا السريعة والطرق الفرعية ، يدعي البعض ، انظر تغطيتي في هذا الرابط هنا).

نظرًا لأن السيارات شبه المستقلة تتطلب سائقًا بشريًا ، فإن اعتماد هذه الأنواع من السيارات لن يكون مختلفًا بشكل ملحوظ عن قيادة المركبات التقليدية ، لذلك لا يوجد الكثير في حد ذاته لتغطية هذه المواضيع (على الرغم من ذلك ، كما سترى في لحظة ، النقاط التالية تنطبق بشكل عام).

بالنسبة للسيارات شبه المستقلة ، من المهم أن يتم تحذير الجمهور بشأن جانب مزعج ظهر مؤخرًا ، أي أنه على الرغم من هؤلاء السائقين البشر الذين يستمرون في نشر مقاطع فيديو لأنفسهم ينامون على عجلة سيارة من المستوى 2 أو المستوى 3 علينا جميعًا أن نتجنب التضليل حتى نصدق أن السائق يمكنه أن يلفت انتباهه عن مهمة القيادة أثناء قيادة سيارة شبه مستقلة.

أنت الطرف المسؤول عن إجراءات القيادة في السيارة ، بغض النظر عن مقدار الأتمتة التي قد يتم قذفها في المستوى 2 أو المستوى 3.

السيارات ذاتية القيادة والذكاء الاصطناعي بعد ما يسمى بالوعي الذاتي

بالنسبة للمركبات ذاتية القيادة الحقيقية من المستوى 4 والمستوى 5 ، لن يكون هناك سائق بشري يشارك في مهمة القيادة.

سيكون جميع الركاب من الركاب.

تقوم منظمة العفو الدولية بالقيادة.

أحد الجوانب التي يجب مناقشتها على الفور يستلزم حقيقة أن الذكاء الاصطناعي المتضمن في أنظمة قيادة الذكاء الاصطناعي اليوم ليس واعيًا. بعبارة أخرى ، الذكاء الاصطناعي عبارة عن مجموعة من البرمجة والخوارزميات المستندة إلى الكمبيوتر ، وهو بالتأكيد غير قادر على التفكير بنفس الطريقة التي يستطيع بها البشر.

لماذا هذا التركيز الإضافي على الذكاء الاصطناعي ليس واعيا؟

لأنني أريد أن أؤكد أنه عند مناقشة دور نظام القيادة للذكاء الاصطناعي ، فأنا لا أنسب الصفات البشرية للذكاء الاصطناعي. يرجى العلم أن هناك اتجاهًا مستمرًا وخطيرًا هذه الأيام لتجسيد الذكاء الاصطناعي. من حيث الجوهر ، يخصص الناس ذكاءً شبيهاً بالإنسان إلى الذكاء الاصطناعي اليوم ، على الرغم من الحقيقة التي لا يمكن إنكارها والتي لا جدال فيها وهي عدم وجود مثل هذا الذكاء الاصطناعي حتى الآن.

مع هذا التوضيح ، يمكنك أن تتخيل أن نظام القيادة بالذكاء الاصطناعي لن "يعرف" بطريقة أو بأخرى جوانب القيادة. القيادة وكل ما تتطلبه يجب برمجتها كجزء من أجهزة وبرامج السيارة ذاتية القيادة.

دعونا نتعمق في عدد لا يحصى من الجوانب التي تأتي للعب في هذا الموضوع.

أولاً ، من المهم أن ندرك أنه ليست كل سيارات الذكاء الاصطناعي ذاتية القيادة هي نفسها. تتبنى كل شركة تصنيع سيارات وشركة تقنية ذاتية القيادة نهجها في ابتكار سيارات ذاتية القيادة. على هذا النحو ، من الصعب الإدلاء ببيانات شاملة حول ما ستفعله أو لا تفعله أنظمة القيادة بالذكاء الاصطناعي.

علاوة على ذلك ، عندما يذكر أن نظام القيادة بالذكاء الاصطناعي لا يفعل شيئًا معينًا ، يمكن ، لاحقًا ، تجاوز هذا الأمر من قبل المطورين الذين يقومون في الواقع ببرمجة الكمبيوتر للقيام بهذا الشيء بالذات. خطوة بخطوة ، يتم تحسين أنظمة القيادة بالذكاء الاصطناعي وتوسيعها تدريجياً. قد لا يوجد قيد موجود اليوم في تكرار أو إصدار مستقبلي من النظام.

أنا على ثقة من أن ذلك يوفر مجموعة كافية من المحاذير لإبراز ما أنا على وشك ربطه.

نحن مستعدون الآن لإجراء غوص عميق في السيارات ذاتية القيادة والأسئلة الأخلاقية للذكاء الاصطناعي التي تنطوي على فكرة مثيرة للحواجب تتمثل في امتلاك الذكاء الاصطناعي نوعًا من الوعي الذاتي إذا صح التعبير.

دعنا نستخدم مثالًا مباشرًا بسهولة. سيارة ذاتية القيادة تعتمد على الذكاء الاصطناعي قيد التشغيل في شوارع الحي الخاص بك ويبدو أنها تقود بأمان. في البداية ، كنت قد كرست اهتمامًا خاصًا لكل مرة تمكنت فيها من إلقاء نظرة على السيارة ذاتية القيادة. تميزت السيارة المستقلة بحاملها من المستشعرات الإلكترونية التي تضمنت كاميرات فيديو ووحدات رادار وأجهزة LIDAR وما شابه. بعد عدة أسابيع من تجول السيارة ذاتية القيادة حول مجتمعك ، بالكاد تلاحظ ذلك. بقدر ما تشعر بالقلق ، إنها مجرد سيارة أخرى على الطرق العامة المزدحمة بالفعل.

لئلا تعتقد أنه من المستحيل أو غير المعقول أن تصبح على دراية برؤية السيارات ذاتية القيادة ، فقد كتبت مرارًا وتكرارًا عن كيف أن الأماكن التي تقع في نطاق تجارب السيارات ذاتية القيادة قد اعتادت تدريجيًا على رؤية المركبات المتقنة ، انظر تحليلي في هذا الرابط هنا. تحول العديد من السكان المحليين في نهاية المطاف من التثاؤب المليء بالفم إلى إطلاق تثاؤب ممتد من الملل لمشاهدة تلك السيارات ذاتية القيادة المتعرجة.

ربما يكون السبب الرئيسي الآن وراء ملاحظة السيارات ذاتية القيادة هو عامل التهيج والسخط. تتأكد أنظمة القيادة المدعومة بالذكاء الاصطناعي من الكتاب المقدس من أن السيارات تمتثل لجميع حدود السرعة وقواعد الطريق. بالنسبة للسائقين البشر المحمومون في سياراتهم التقليدية التي يقودها الإنسان ، فإنك تنزعج في بعض الأحيان عندما تعلق خلف السيارات ذاتية القيادة القائمة على الذكاء الاصطناعي والتي تلتزم بالقانون بدقة.

هذا شيء قد نحتاج جميعًا إلى التعود عليه ، صوابًا أو خطأً.

العودة إلى حكايتنا. في أحد الأيام ، افترض أن سيارة ذاتية القيادة في بلدتك أو مدينتك تقترب من علامة Stop ولا يبدو أنها تتباطأ. السماء ، يبدو أن نظام القيادة بالذكاء الاصطناعي سيحرك السيارة ذاتية القيادة مباشرة بعد علامة التوقف. تخيل لو كان أحد المشاة أو راكب الدراجة في مكان ما قريبًا وتفاجأ بأن السيارة ذاتية القيادة لن تتوقف بشكل صحيح. مخجل. خطير!

وغير قانوني.

دعنا الآن نفكر في مكون AI في نظام القيادة AI الذي يعمل كأسلوب للمدقق المزدوج المدرك للذات.

سنتوقف لحظة للبحث في تفاصيل ما يجري داخل نظام القيادة بالذكاء الاصطناعي. تبين أن كاميرات الفيديو المثبتة على السيارة ذاتية القيادة اكتشفت ما يبدو أنه علامة توقف ، على الرغم من أن شجرة متضخمة في هذه الحالة تحجب علامة Stop بشكل كبير. تم تصميم نظام التعلم الآلي والتعلم العميق الذي تم تدريبه في الأصل على علامات التوقف على أنماط من علامات التوقف الكاملة بشكل أساسي ، بشكل عام غير مقيد. عند الفحص الحسابي لصور الفيديو ، تم تعيين احتمال منخفض لوجود علامة توقف في تلك البقعة المعينة (كمضاعفة إضافية ، وتوضيح إضافي ، كانت هذه علامة توقف منشورة حديثًا ولم تظهر على الخرائط الرقمية المعدة مسبقًا كان نظام القيادة AI يعتمد عليه).

الكل في الكل ، نظام القيادة AI مصمم حسابيًا للمضي قدمًا كما لو كانت علامة التوقف إما غير موجودة أو ربما علامة من نوع آخر يشبه علامة التوقف (يمكن أن يحدث هذا ويحدث مع بعض التردد).

ولكن ، لحسن الحظ ، كان المدقق المزدوج للذكاء الاصطناعي يراقب أنشطة نظام القيادة بالذكاء الاصطناعي. عند المراجعة الحسابية للبيانات والتقييم من قبل بقية الذكاء الاصطناعي ، اختار هذا المكون تجاوز المسار الطبيعي للمتابعة وبدلاً من ذلك أمر نظام القيادة بالذكاء الاصطناعي بالتوقف بشكل مناسب.

لم يصب أحد ، ولم ينشأ أي عمل غير قانوني.

يمكنك القول إن المدقق المزدوج المدرك للذكاء الاصطناعي تصرف كما لو كان وكيلًا قانونيًا مضمنًا ، في محاولة لضمان التزام نظام القيادة بالذكاء الاصطناعي بالقانون (في هذه الحالة ، علامة التوقف). بالطبع ، كانت السلامة أساسية أيضًا.

نأمل أن يعرض هذا المثال كيف يمكن أن يعمل المدقق المزدوج المدرك للذكاء الاصطناعي.

يمكننا بعد ذلك النظر بإيجاز في مثال أخلاقي أكثر بروزًا للذكاء الاصطناعي يوضح كيف يمكن أن يوفر الفحص المزدوج للوعي الذاتي للذكاء الاصطناعي وظيفة أخلاقية مدمجة موجهة للذكاء الاصطناعي.

أولاً ، كخلفية ، كان أحد المخاوف التي تم التعبير عنها بشأن ظهور السيارات ذاتية القيادة القائمة على الذكاء الاصطناعي هو أنها قد تُستخدم في نهاية المطاف بطريقة تمييزية غير مقصودة إلى حد ما. إليك الطريقة. لنفترض أن هذه السيارات ذاتية القيادة قد تم إعدادها لمحاولة زيادة إمكانات إيراداتها إلى أقصى حد ، وهو أمر منطقي بالتأكيد لأولئك الذين يشغلون أسطولًا من السيارات ذاتية القيادة المتاحة للمشاركة في الركوب. يرغب مالك الأسطول في الحصول على عملية مربحة.

قد يكون الأمر أنه في بلدة أو مدينة معينة ، تبدأ السيارات ذاتية القيادة المتجولة في خدمة بعض أجزاء المجتمع بشكل تدريجي وليس مناطق أخرى. يفعلون ذلك من أجل تحقيق هدف كسب المال ، في تلك المناطق الفقيرة قد لا تكون مدرة للدخل مثل الأجزاء الأكثر ثراءً في المنطقة المحلية. هذا ليس تطلعًا صريحًا لخدمة بعض المجالات وعدم خدمة مناطق أخرى. وبدلاً من ذلك ، فإنه ينشأ عضوياً فيما يتعلق بالذكاء الاصطناعي للسيارات ذاتية القيادة "يكتشف" من الناحية الحسابية أن هناك المزيد من الأموال التي يمكن جنيها من خلال التركيز على المناطق ذات الأجور الأعلى جغرافياً. لقد ناقشت هذا القلق الأخلاقي المجتمعي في عمودي ، مثل at الرابط هنا.

افترض أننا أضفنا مدقق مزدوجًا مدركًا للذكاء الاصطناعي في أنظمة القيادة بالذكاء الاصطناعي. بعد فترة ، يلاحظ مكون الذكاء الاصطناعي بشكل حسابي نمطًا لمكان تجوال السيارات ذاتية القيادة. على وجه الخصوص ، في بعض المناطق ولكن ليس في مناطق أخرى. استنادًا إلى كونه مشفرًا ببعض مبادئ الذكاء الاصطناعي الأخلاقية ، يبدأ المدقق المزدوج المدرك للذكاء الاصطناعي في توجيه السيارات ذاتية القيادة إلى أجزاء أخرى من المدينة تم إهمالها بخلاف ذلك.

يوضح هذا مفهوم الإدراك الذاتي للذكاء الاصطناعي ويفعل ذلك بالاقتران مع عنصر الذكاء الاصطناعي الأخلاقي.

قد يوفر أحد الأمثلة الأخرى نظرة ثاقبة على أن هذا الاعتبار الأخلاقي للذكاء الاصطناعي يمكن أن يكون تشعبًا خطيرًا وخطيرًا للحياة أو الموت أيضًا.

ضع في اعتبارك تقريرًا إخباريًا عن حادث سيارة مؤخرًا. وبحسب ما ورد ، كان سائق بشري يقترب من تقاطع مزدحم ولديه ضوء أخضر للمضي قدمًا مباشرة. جاء سائق آخر متجاوزًا الإشارة الحمراء ودخل التقاطع عندما لم يكن من المفترض أن يفعل ذلك. أدرك السائق الذي يحمل الضوء الأخضر في اللحظة الأخيرة أن هذه السيارة الأخرى كانت ستصطدم بسيارته بشدة.

وفقًا لهذا السائق المعرض للخطر ، فقد حسب بعناية أنه إما أنه سيتعرض لصدمة من السيارة الأخرى ، أو أنه يمكن أن ينحرف لمحاولة تجنب المتطفل. كانت مشكلة الانحراف هي وجود مشاة قريبين معرضين للخطر.

أي خيار سوف تقوم به؟

يمكنك تحضير نفسك للتعرض للضرب وتأمل ألا يؤدي الضرر إلى تشويهك أو قتلك. من ناحية أخرى ، يمكنك أن تنحرف بشكل جذري ، ولكن تعرض للخطر بشكل خطير وربما تؤذي أو تقتل المشاة القريبين. هذه مشكلة صعبة ، تشمل الحكم الأخلاقي ، وهي غارقة تمامًا في الآثار الأخلاقية (والقانونية).

هناك مأزق أخلاقي متعدد الأغراض يغطي هذا النوع من المعضلة ، المعروف أو ربما سيئ السمعة بمشكلة الترولي ، انظر تغطيتي المكثفة على هذا الرابط هنا. تبين أنها تجربة فكرية محفزة أخلاقياً تعود إلى أوائل القرن العشرين. على هذا النحو ، كان الموضوع موجودًا منذ فترة طويلة وأصبح مؤخرًا مرتبطًا بشكل عام بظهور الذكاء الاصطناعي والسيارات ذاتية القيادة.

استبدل السائق البشري بنظام قيادة مدمج في سيارة ذاتية القيادة.

تخيل إذن أن سيارة ذاتية القيادة تعمل بالذكاء الاصطناعي تدخل في تقاطع وأن أجهزة استشعار السيارة ذاتية القيادة تكتشف فجأة سيارة يقودها الإنسان قادمة بشكل محفوف بالمخاطر عبر ضوء أحمر وتهدف إلى سيارة ذاتية القيادة. افترض أن السيارة ذاتية القيادة بها بعض الركاب داخل السيارة.

ماذا تريد من الذكاء الاصطناعي أن يفعل؟

إذا اختار نظام القيادة بالذكاء الاصطناعي المضي قدمًا والانجرار (من المحتمل أن يتسبب في إلحاق الضرر بالركاب داخل السيارة أو ربما قتلهم) ، أو هل تريد أن ينتهز نظام القيادة بالذكاء الاصطناعي الفرصة وينحرف بعيدًا ، على الرغم من أن حركة الانحراف تأخذ السيارة المستقلة بشكل خطير تجاه المشاة القريبين وقد يؤذيهم أو يقتلهم.

يتخذ العديد من صانعي الذكاء الاصطناعي للسيارات ذاتية القيادة نهجًا وجهاً لوجه تجاه هذه المآزق الأخلاقية للذكاء الاصطناعي. على العموم ، فإن الذكاء الاصطناعي كما هو مبرمج حاليًا سوف يتقدم ببساطة ويصطدم بعنف من قبل السيارة الأخرى. لم يكن الذكاء الاصطناعي مبرمجًا للبحث عن أي مناورات مراوغة أخرى.

لقد توقعت مرارًا وتكرارًا أن موقف صانعي السيارات ذاتية القيادة بالذكاء الاصطناعي سيأتون في نهاية المطاف ويعضهم (تحليلي في الرابط هنا). يمكنك توقع الدعاوى القضائية التي تنطوي على حوادث سيارات كهذه والتي ستسعى إلى معرفة ما تمت برمجة الذكاء الاصطناعي للقيام به. هل كانت الشركة أو مطورو الذكاء الاصطناعي أو مشغل الأسطول الذي طور الذكاء الاصطناعي وأرسله مهملًا أو مسؤولاً عما فعله أو لم يفعله الذكاء الاصطناعي؟ يمكنك أيضًا توقع حدوث عاصفة نارية أخلاقية على مستوى الجمهور للتوعية بالذكاء الاصطناعي بمجرد حدوث هذه الأنواع من الحالات.

في هذه المعضلة الأخلاقية للذكاء الاصطناعي ، يخطو المدقق المزدوج الواعي للذكاء الاصطناعي الذي يتبجح به والذي يركز على الأخلاق. ربما ينخرط هذا المكون الخاص للذكاء الاصطناعي في هذه الأنواع من الظروف. الجزء يراقب بقية نظام القيادة بالذكاء الاصطناعي وحالة السيارة ذاتية القيادة. عندما تظهر لحظة عصيبة مثل هذه ، فإن مكون الذكاء الاصطناعي يعمل بمثابة حل لمشكلات عربة الترولي ويقدم ما يجب أن يفعله نظام القيادة بالذكاء الاصطناعي.

أنا أؤكد لك أنه ليس من السهل كتابة الكود.

وفي الختام

سأشارك معك آخر فكرة في الوقت الحالي حول هذا الموضوع.

من المحتمل أن تجدها مثيرة للاهتمام.

هل تعرف عن اختبار المرآة?

إنه معروف جيدًا في دراسة الوعي الذاتي. الأسماء الأخرى لهذه المسألة هي اختبار التعرف على الذات في المرآة ، واختبار البقعة الحمراء ، واختبار أحمر الشفاه ، والصيغ ذات الصلة. تم وضع التقنية والنهج في البداية في أوائل السبعينيات من القرن الماضي لتقييم الوعي الذاتي للحيوانات. الحيوانات التي نجحت في اجتياز الاختبار تشمل القردة وأنواع معينة من الأفيال والدلافين وطيور العقعق وبعض الأنواع الأخرى. الحيوانات التي تم اختبارها والتي ورد أنها لم تجتاز الاختبار تشمل الباندا العملاقة وأسود البحر وما إلى ذلك.

ها هي الصفقة.

عندما يرى الحيوان نفسه في المرآة ، هل يدرك الحيوان أن الصورة المعروضة هي لنفسه ، أم أن الحيوان يعتقد أنه حيوان آخر؟

من المفترض أن الحيوان يتعرف بصريًا على نوعه الخاص ، بعد أن رأى نوعًا آخر من نوعه ، وبالتالي قد يعتقد أن الحيوان الذي يظهر في المرآة هو ابن عم أو ربما منافس محارب (خاصة إذا كان الحيوان يزمجر في صورة المرآة ، والتي في يبدو أن الدوران يعود عليهم). ربما رأيت قطة منزلية أو كلبًا أليفًا محبوبًا يفعل الشيء نفسه عندما يرى نفسه في مرآة منزلية لأول مرة.

على أي حال ، نفترض أن حيوانًا بريًا لم ير نفسه من قبل. حسنًا ، هذا ليس صحيحًا بالضرورة ، لأنه ربما كان الحيوان قد ألقى نظرة خاطفة على نفسه في بركة هادئة من الماء أو عبر تشكيل صخري لامع. لكن هذه تعتبر فرصًا أقل احتمالًا.

حسنًا ، نريد أن نقيم بطريقة ما ما إذا كان الحيوان قادرًا على اكتشاف أنه في الواقع الحيوان الظاهر في المرآة. تأمل في هذا الفعل الذي يبدو بسيطًا. يكتشف البشر في سن مبكرة أنهم موجودون وأن وجودهم يظهر من خلال رؤية أنفسهم في المرآة. يصبحون مدركين لأنفسهم. من الناحية النظرية ، قد لا تدرك أنك أنت ، حتى ترى نفسك في المرآة.

ربما لا تكون الحيوانات قادرة على الإدراك الإدراكي بنفس الطريقة. يمكن أن يرى الحيوان نفسه في المرآة ويؤمن دائمًا أنه حيوان آخر. بغض النظر عن عدد المرات التي ترى فيها نفسها ، فإنها لا تزال تعتقد أن هذا حيوان مختلف عن نفسه.

الجزء الحيلة من هذا يأتي للعب. نصنع علامة على الحيوان. يجب ألا تكون هذه العلامة مرئية إلا عندما يرى الحيوان نفسه في المرآة. إذا كان الحيوان قادرًا على الالتواء أو الدوران ورؤية العلامة على نفسه (بشكل مباشر) ، فهذا يفسد التجربة. علاوة على ذلك ، لا يمكن للحيوان أن يشعر بالعلامة أو يشمها أو يكتشفها بأي طريقة أخرى. مرة أخرى ، إذا فعلوا ذلك فسوف يفسد التجربة. لا يمكن للحيوان أن يعرف أننا نضع العلامة عليه ، لأن ذلك من شأنه أن يدل على الوحش بوجود شيء ما.

نريد تضييق نطاق الأشياء بحيث يكون السبب الوحيد المحتمل لإمكانية اكتشاف العلامة هو النظر إلى نفسها في المرآة.

آها ، الاختبار جاهز الآن. يوضع الحيوان أمام مرآة أو يتجول عليها. إذا حاول الحيوان لاحقًا لمس العلامة أو حفرها ، فسنستنتج بشكل معقول أن الطريقة الوحيدة التي يمكن أن يحدث بها ذلك هي إذا أدرك الحيوان أن العلامة كانت على نفسه. تمكّن عدد قليل جدًا من أنواع الحيوانات من اجتياز هذا الاختبار بنجاح.

هناك عدد كبير من الانتقادات حول الاختبار. إذا كان هناك مختبِر بشري في مكان قريب ، فقد يتخلى عن الأشياء بالتحديق في العلامة ، مما قد يتسبب في قيام الحيوان بالفرشاة أو الشعور بها. الاحتمال الآخر هو أن الحيوان لا يزال يعتقد أن حيوانًا آخر يظهر في المرآة ، لكنه من نفس النوع ، وبالتالي يتساءل الحيوان إذا كان له أيضًا علامة مثل تلك الموجودة على الحيوان الآخر.

يوم ويوم وغني.

أنا متأكد من أنك سعيد بمعرفة هذا الأمر وستفهم من الآن فصاعدًا سبب وجود نقطة أو بعض العلامات الغريبة على حيوان ما كان لولا ذلك أن يكون له مثل هذه العلامة. من يدري ، ربما أنهى مؤخرًا تجربة اختبار المرآة. هنئ الحيوان بأمان على مشاركته الكريمة.

ما علاقة أي من ذلك بالسيارات ذاتية القيادة القائمة على الذكاء الاصطناعي؟

ستحب هذا الجزء.

تسير سيارة ذاتية القيادة على طريق سريع طويل. يستخدم نظام القيادة AI أجهزة استشعار لاكتشاف حركة المرور الأخرى. هذا طريق سريع مكون من مسارين حيث تتجه حركة المرور باتجاه الشمال في حارة واحدة وتتجه جنوبيًا في الحارة الأخرى. في بعض الأحيان ، ستحاول السيارات والشاحنات تجاوز بعضها البعض ، وذلك عن طريق الدخول في الحارة المقابلة ثم القفز مرة أخرى إلى ممر السفر المناسب.

لقد رأيت هذا ، مما لا شك فيه أنك فعلت هذا.

أراهن أن هذا الجانب التالي قد حدث لك أيضًا. في مقدمة السيارة ذاتية القيادة ، توجد إحدى شاحنات الصهريج الكبيرة تلك. وهي مصنوعة من معدن لامع. مصقول ونظيف كصفارة. عندما تقف خلف مثل هذه الشاحنة ، يمكنك رؤية صورة طبق الأصل لسيارتك عبر الجزء الخلفي من الناقلة. إذا رأيت هذا ، فأنت تعلم كيف يمكن أن يكون ساحرًا. ها أنت وسيارتك تنعكسان في الانعكاس الذي يشبه المرآة للجزء الخلفي من شاحنة الصهريج.

اجلس من أجل الالتواء المجنون.

تأتي سيارة ذاتية القيادة خلف شاحنة الصهريج. تكتشف الكاميرات صورة السيارة التي تظهر في انعكاس يشبه المرآة. توقف ، حسب تقديرات منظمة العفو الدولية ، هل هذه سيارة؟ هل تأتي على السيارة ذاتية القيادة؟ مع اقتراب السيارة ذاتية القيادة من الشاحنة ، يبدو أن السيارة تقترب أكثر فأكثر.

ييكيس ، قد يحسب الذكاء الاصطناعي من الناحية الحسابية أن هذا وضع خطير ويجب على الذكاء الاصطناعي اتخاذ إجراءات مراوغة من هذه السيارة المارقة المجنونة. كما ترى ، لم يتعرف الذكاء الاصطناعي على نفسه في المرآة. لقد فشلت في اختبار المرآة.

ماذا أفعل؟ ربما يقفز المدقق المزدوج المدرك للذكاء الاصطناعي في الأمر ويؤكد لبقية نظام القيادة بالذكاء الاصطناعي أنه مجرد انعكاس غير ضار. تجنب الخطر. تم حفظ العالم. تمريرة ناجحة لاختبار المرآة للذكاء الاصطناعي!

مع استنتاج خادع ، قد نقترح حتى أن الذكاء الاصطناعي في بعض الأحيان يكون أكثر ذكاءً أو على الأقل أكثر وعياً بذاته من الدببة المتوسطة (على الرغم من أنه يُحسب للدببة ، فإنهم عادةً ما يقومون بعمل جيد في اختبار المرآة ، وغالبًا ما يكونون قد حصلوا على اعتادوا على انعكاسهم في برك الماء).

تصحيح ، ربما يكون الذكاء الاصطناعي أكثر وعيًا بذاته من الباندا العملاقة وأسود البحر ، لكن لا تخبر الحيوانات بذلك ، فقد تميل إلى تحطيم أو تحطيم أنظمة الذكاء الاصطناعي. لا نريد ذلك ، أليس كذلك؟