الإنسان والآلة تحديات الذكاء الاصطناعي (تقرير مجلس الأخلاقيات الألماني)

مقدمة المترجم

    في عصر تتسارع فيه وتيرة التحولات التكنولوجية بشكل غير مسبوق، لم تعد التقنيات الرقمية والذكاء الاصطناعي مجرد أدوات مساعدة تؤدي مهام محددة، بل تحولت إلى قوى تحويلية تعيد تشكيل نسيج الحياة الإنسانية بمعناه الشامل. إن فكرة الآلات التي تضاهي القدرات البشرية أو تتجاوزها في مجالات الإدراك، والتعلم، والفعل، والتي تعود جذورها إلى الأساطير اليونانية القديمة، قد تجسدت اليوم في واقع ملموس يغزو كل زاوية من زوايا حياتنا العامة والخاصة. من خوارزميات التوصية التي توجه خياراتنا الاستهلاكية والثقافية، إلى أنظمة الذكاء الاصطناعي التي تساهم في تشخيص الأمراض المعقدة، وإدارة البنى التحتية الحيوية، وحتى التنبؤ بالسلوك البشري في إطار العدالة الجنائية، أصبحنا نعيش في ظل نظام بيئي اجتماعي تقني تتشابك فيه البيانات، والشبكات، والخوارزميات لتشكل واقعنا اليومي.

    في خضم هذا التسارع التكنولوجي المذهل، برزت الحاجة الملحة إلى وقفة تأملية وأخلاقية عميقة، لا تهدف فقط إلى فهم الآليات التقنية المعقدة للذكاء الاصطناعي، بل إلى استكشاف التداعيات الوجودية والفلسفية والاجتماعية لهذه التقنيات على الإنسان ككائن عاقل، حر، ومسؤول. ومن هذا المنطلق، يأتي تقرير الإنسان والآلة تحديات الذكاء الاصطناعي الصادر عن مجلس الأخلاقيات الألماني في مارس عام ٢٠٢٣، ليشكل وثيقة مرجعية بالغة الأهمية. هذا التقرير، الذي يعد امتداداً طبيعياً لمواقف سابقة هامة للمجلس مثل البيانات الضخمة والصحة والروبوتات من أجل رعاية جيدة، ويأتي استجابة لطلب رئيس البوندستاج الألماني، لا يكتفي بطرح الأسئلة القانونية أو التنظيمية السطحية، بل يغوص في أعماق الإشكاليات الأنثروبولوجية والأخلاقية التي تفرضها العلاقات المتجددة بين الإنسان والآلة.

    تتمحور الإشكالية المركزية التي ينطلق منها هذا التقرير حول سؤال جوهري وحاسم وهو ما هي الآثار المترتبة على تفويض المهام والوظائف، التي كانت حصراً على البشر، إلى الآلات والأنظمة الخوارزمية؟ وهل سيؤدي هذا التفويض، الذي يتراوح درجاته بين المساعدة البسيطة والاستبدال الكامل، إلى توسيع القدرة على التأليف وخيارات العمل المتاحة للإنسان، أم أنه سيؤدي إلى تقليصها، وتآكل حريته، وتبديد مسؤوليته الأخلاقية؟ إن الإجابة عن هذا السؤال تتطلب تفكيكاً دقيقاً للمفاهيم التي نعتقد أنها تجعلنا بشراً، مثل العقل، والعمل، والحرية، والمسؤولية.

    يؤكد التقرير، من منطلق فلسفي وإنساني، على وجود فرق نوعي وجوهري بين الإنسان والآلة. فالذكاء الاصطناعي، بمختلف أشكاله الحالية الضعيفة، الضيقة، أو حتى الواسعة، يفتقر إلى العقل العملي والعقل النظري بمعناهما الإنساني المتجسد. فالعقل البشري ليس مجرد معالج للمعلومات أو محرك للاستنتاجات المنطقية، بل هو عقل متجسد يرتبط ارتباطاً وثيقاً بالجسد، والتجربة الحياتية، والوعي الظاهراتي، والانتماء إلى بيئة اجتماعية وثقافية. إن القدرة على التعاطف، وإصدار الأحكام الأخلاقية في ظل ظروف معقدة وغامضة، واستشعار المعنى، ومواجهة المعضلات الوجودية، هي سمات انبثقت من تفاعل الكائن البشري مع عالمه الحسي والاجتماعي، ولا يمكن اختزالها في نماذج رياضية أو خوارزميات تعلم آلي، مهما بلغت درجة تعقيدها. وبالتالي، فإن المقاربة الوظيفية أو السلوكية التي تساوي بين المحاكاة الخارجية للسلوك البشري والوجود الفعلي للوعي أو النية لدى الآلة، هي مقاربة قاصرة تتجاهل البعد الأنثروبولوجي العميق للإنسان.

    ولتحليل هذه التفاعلات المعقدة، يعتمد التقرير مصفوفة تحليلية دقيقة تقوم على ثلاثة محاور رئيسية تصف طبيعة العلاقة بين الإنسان والتكنولوجيا وهي التوسيع، والتقليل، والاستبدال. فمن ناحية، يمكن للذكاء الاصطناعي أن يوسع من قدرات الإنسان، بأن يمنحه أدوات تشخيصية فائقة الدقة، أو أنظمة تعليمية مخصصة، أو منصات للتواصل العالمي. ولكن في المقابل، يحمل هذا التفويض التكنولوجي مخاطر جوهرية تؤدي إلى تقليل الخيارات البشرية، من خلال خلق أشكال جديدة من الاعتمادية التكنولوجية، وفرض ضغوط للتكيف مع المنطق الآلي، وإغلاق خيارات كانت متاحة سابقاً. كما يبرز خطر تحيز الأتمتة، حيث يميل البشر إلى الثقة العمياء في مخرجات الخوارزميات، مما يؤدي إلى تفويض غير واعٍ للمسؤولية، وتآكل تدريجي للمهارات البشرية والقدرات النقدية. أما الاستبدال الكامل للإنسان بالآلة، فيرسمه التقرير كخط أحمر أخلاقي في المجالات التي تتطلب حضوراً إنسانياً، وتعاطفاً، ومواجهة شخصية، مثل الرعاية الطبية النفسية، والتربية، والقرارات المصيرية في القضاء والإدارة.

    ولتجسيد هذه الإشكاليات بشكل عملي، ينتقل التقرير من التنظير الفلسفي إلى التطبيق الميداني، من خلال تسليط الضوء على أربعة قطاعات حيوية تشهد اختراقاً متسارعاً للذكاء الاصطناعي، وتتميز كل منها بتحديات أخلاقية فريدة.

    أولاً قطاع الطب. يمثل الذكاء الاصطناعي هنا أملاً كبيراً في ثورة تشخيصية وعلاجية، من خلال تحليل الصور الطبية، واكتشاف الأنماط الخفية في البيانات الجينومية، وتسريع تطوير الأدوية. ومع ذلك، يحذر التقرير من المخاطر المصاحبة لهذا التفويض، مثل خطر فقدان الأطباء للمهارات السريرية والتشخيصية الدقيقة بسبب الاعتماد المفرط على الآلة، وتآكل العلاقة العلاجية القائمة على الثقة والحوار بين الطبيب والمريض. كما يثير التقرير مخاوف جدية حول استخدام تطبيقات الذكاء الاصطناعي في العلاج النفسي، حيث لا يمكن للآلة أن تحل محل العلاقة الإنسانية القائمة على التعاطف الحقيقي والمشاركة الوجدانية، والتي تشكل جوهر العملية العلاجية.

    ثانياً قطاع التعليم. يطرح التقرير رؤية تربوية تؤكد أن التعليم ليس مجرد عملية تراكم معرفي قابلة للأتمتة، بل هو عملية تكوين للشخصية وتنمية للقدرة على الحكم المستقل والمسؤول. وفي حين يمكن لأنظمة التدريس الذكية أن توفر تعليماً مخصصاً يتناسب مع سرعة كل متعلم، إلا أن التقرير يحذر بشدة من الممارسات التكنولوجية الغازية مثل تحليلات الفصل الدراسي ومراقبة الانتباه والعواطف عبر الكاميرات وأجهزة الاستشعار. إن اختزال العملية التعليمية في بيانات قابلة للقياس الكمي، ومراقبة التلاميذ بشكل مستمر، لا ينتهك خصوصيتهم واستقلاليتهم فحسب، بل يخلق تأثيرات تبريد تكبل حريتهم في الاستكشاف والخطأ، وهو ما يتناقض جوهرياً مع الهدف الأسمى للتعليم.

    ثالثاً الاتصال العام وتشكيل الرأي. يشكل هذا القطاع الساحة التي تتجلى فيها التأثيرات المجتمعية الواسعة للخوارزميات. فقد تحولت منصات التواصل الاجتماعي، التي تديرها حفنة من الشركات الاحتكارية، إلى بنى تحتية اجتماعية تتحكم في تدفق المعلومات. إن خوارزميات التوصية، التي تعمل وفق منطق اقتصادي يهدف إلى تعظيم الاقتصاد الانتباهي من خلال استغلال الميول العاطفية للمستخدمين، تساهم في انتشار الأخبار الكاذبة، ونظريات المؤامرة، وخطاب الكراهية. كما تؤدي إلى خلق فقاعات التصفية وغرف الصدى، مما يعزز الاستقطاب السياسي ويهدد جودة الخطاب العام، وهو ما يمس جوهر العملية الديمقراطية التي تعتمد على تبادل الحجج العقلانية في فضاء عام حر ومفتوح.

    رابعاً الإدارة العامة. يمثل دخول الذكاء الاصطناعي إلى الإدارة العامة تحدياً مباشراً لمبادئ العدالة والمساواة. ففي مجال الخدمات الاجتماعية، يمكن لأنظمة اتخاذ القرار الآلي أن تساعد في توجيه الموارد، لكنها تحمل خطراً جسيماً في تكريس التمييز الخوارزمي، حيث تقوم باختزال الحالات الإنسانية المعقدة في فئات إحصائية جامدة، مما يحرم الأفراد من حقهم في أن يُنظر إليهم كحالات فردية تستحق الإنصات والحوار. وكذلك في مجال الشرطة التنبؤية، يثير التقرير تساؤلات حول مخاطر المراقبة الشاملة، وانتهاك الخصوصية، وتحويل المواطنين إلى مجرد ملفات بيانات تُحدد سلفاً احتمالية انحرافهم، مما يتعارض مع مبدأ قرينة البراءة وكرامة الإنسان.

    وعبر هذه القطاعات الأربعة، يستخلص التقرير عشرة مواضيع شاملة تتجاوز الحدود القطاعية، وتشكل جوهر التوصيات الأخلاقية والتنظيمية. من بين هذه المواضيع خطر الطبقة الإحصائية التي تهدد الفرد بتحويله إلى مجرد رقم في مجموعة بيانات، وقضية فقدان الكفاءات والمهارات البشرية بسبب التفويض التكنولوجي، والتوازن الدقيق بين حماية الخصوصية ومخاطر المراقبة وتأثيراتها المثبطة للحرية، وأهمية سيادة البيانات وتوظيفها للصالح العام بدلاً من الاستغلال التجاري البحت، وضرورة بناء بنى تحتية رقمية مرنة ومستقلة تقلل من الاعتمادية العمياء على احتكارات التكنولوجيا، ومخاطر تبعيات المسار وإساءة الاستخدام، وأخيراً، التحديات المتعلقة بالشفافية، والمساءلة، ومكافحة التحيز والتمييز.

    إن ما يميز هذا التقرير هو رفضه القاطع للنزعة الاختزالية التي تنظر إلى الإنسان على أنه آلة بيولوجية أو مجرد مجموعة من البيانات القابلة للمعالجة الخوارزمية. إنه دفاع شجاع عن الخصوصية الإنسانية، وعن مفهوم المسؤولية التي لا يمكن أن تتحملها الآلة، بل تبقى دائماً عاتقاً على كاهل البشر، سواء كانوا مطورين، أو مستخدمين، أو صناع قرار. إن التقرير يدعو إلى مقاربة إنسانية رقمية تضع الإنسان في مركز المعادلة التكنولوجية، بحيث تكون التكنولوجيا دائماً في خدمة توسيع آفاق الحرية الإنسانية، وتعزيز الكرامة، ودعم القدرة على التأليف، وليس العكس.

    هذه المقدمة، إذن، تمهد للقارئ رحلة فكرية معمقة داخل نص الإنسان والآلة، حيث تتداخل الخيوط التقنية بالفلسفية، والسياسية بالأخلاقية. إنها دعوة مفتوحة للتفكير النقدي في المستقبل الذي نختاره لأنفسنا، وتذكير بأن التقدم التكنولوجي، مهما بلغت سرعته وقوته، يجب أن يخضع دائماً للبوصلة الأخلاقية التي ترسمها القيم الإنسانية الراسخة، لضمان بقاء الإنسان سيداً لأدواته، وليس عبداً لها. وفي الصفحات التالية من النص الأصلي، نستعرض تفاصيل هذا الرأي الثري، بدءاً من الأسس التقنية والفلسفية، مروراً بالتحليلات القطاعية، وانتهاءً بالمواضيع الشاملة والتوصيات التي يضعها مجلس الأخلاقيات الألماني كخريطة طريق لمواجهة تحديات الذكاء الاصطناعي في القرن الحادي والعشرين، مع التأكيد الدائم على أن الهدف الأسمى هو حماية كرامة الإنسان وتعزيز قدرته على الفعل الحر والمسؤول في عالم يزداد تشابكاً بين الواقع المادي والفضاء الرقمي.

    إن تعمقنا في هذه المقدمة يسلط الضوء على ضرورة إعادة تعريف العلاقة بين الإنسان والآلة ليس كعلاقة سيادة وخضوع، بل كشراكة خاضعة لمعايير أخلاقية صارمة. فالآلة، مهما بلغت درجة تطورها، تبقى أداة من صنع الإنسان، ويجب أن تظل خاضعة لإرادته وقيمه. إن التفويض الأعمى للسلطة للأنظمة الخوارزمية ليس تقدماً، بل هو تنازل عن جوهر الإنسانية الذي يتمثل في القدرة على التفكير النقدي، واتخاذ القرارات الأخلاقية، وتحمل عواقبها. لذلك، فإن التوصيات التي يطرحها التقرير ليست مجرد إرشادات تقنية، بل هي مبادئ توجيهية للحفاظ على النسيج الاجتماعي والأخلاقي لمجتمعاتنا في وجه التحديات غير المسبوقة التي يفرضها العصر الرقمي.

   علاوة على ذلك، يؤكد التقرير على أهمية الشفافية والمساءلة في تطوير ونشر أنظمة الذكاء الاصطناعي. فلا يمكن قبول أنظمة تعمل كصناديق سوداء، خاصة عندما تتخذ قرارات تؤثر بشكل مباشر على حياة الناس وحقوقهم الأساسية. يجب أن يكون هناك فهم واضح لكيفية عمل هذه الأنظمة، وما هي البيانات التي تعتمد عليها، وما هي التحيزات المحتملة التي قد تحملها. هذا يتطلب جهداً مشتركاً من المطورين، والمنظمين، والمجتمع المدني، لضمان أن تكون أنظمة الذكاء الاصطناعي خادمة للمصلحة العامة، وخاضعة للمساءلة الديمقراطية.

إن هذه المقدمة تمثل مدخلاً شاملاً لفهم الأبعاد المتعددة لتقرير مجلس الأخلاقيات الألماني، وتدعو إلى حوار مجتمعي واسع ومستمر حول مستقبل الذكاء الاصطناعي. إن التحدي لا يكمن فقط في تطوير تقنيات أكثر ذكاءً، بل في تطوير حكمة جماعية تمكننا من استخدام هذه التقنيات بطريقة تعزز إنسانيتنا، ولا تنتقص منها. إن المستقبل الذي نبنيه اليوم سيعتمد بشكل حاسم على الخيارات الأخلاقية التي نتخذها الآن، ومدى التزامنا بوضع الإنسان وقيمه في قلب عملية التحول الرقمي.

المترجم

مقدمة

١) لقد وجدت التقنيات الرقمية والذكاء الاصطناعي طريقهما إلى كل زاوية تقريباً من زوايا الحياة المعاصرة سواء العامة أو الخاصة وعند النظر في الآثار الاجتماعية الأوسع لهذه التطورات من منظور أخلاقي لا يكفي فهم التقنيات المعنية بل يجب أيضاً مراعاة الطرق التي يتفاعل بها الناس معها سواء كانوا يستخدمونها مباشرة أو يتأثرون باستخدامها ويتمثل أحد الأسئلة الجوهرية في النظر في آثار تفويض المهام التي كانت مقتصرة سابقاً على البشر إلى الآلات هل سيؤدي استخدام الذكاء الاصطناعي إلى زيادة أم تقليص قدرة الإنسان على التأليف وخيارات العمل

٢) وفي سعيه للإجابة عن هذا السؤال يواصل مجلس الأخلاقيات الألماني استكشاف مجموعة من المواضيع التي تناولها سابقاً في آرائه البيانات الضخمة والصحة سيادة البيانات كتشكيل للحرية المعلوماتية ٢٠١٧ والروبوتات من أجل رعاية جيدة ٢٠٢٠ كما يستجيب هذا الرأي لطلب من رئيس البوندستاج الألماني في أكتوبر ٢٠٢٠ لصياغة دراسة متعددة التخصصات حول القضايا الأخلاقية التي تفرضها العلاقات بين الإنسان والآلة

٣) ينقسم الرأي إلى ثلاثة أقسام يتناول الأول الجوانب التقنية والفلسفية الأساسية للموضوع ويتبع القسم الثاني بأمثلة ملموسة حيث يحلل أخلاقيات الذكاء الاصطناعي كما تظهر في أربعة مجالات مختارة الطب والتعليم المدرسي والاتصال العام وتشكيل الرأي والإدارة العامة ويحدد القسم الأخير عشرة مواضيع شاملة ذات صلة بكل من هذه المجالات الأربعة بما في ذلك التوصيات العامة

الجزء الأول الأسس التقنية والفلسفية

التطورات الرئيسية والأسس التقنية للذكاء الاصطناعي

٤) يمكن إرجاع فكرة الآلات التي تضاهي قدراتها أو حتى تتجاوز قدراتنا في المساعي الإنسانية المحددة مثل الإدراك أو التعلم أو الفعل إلى الأساطير اليونانية قبل آلاف السنين من اختراع أنظمة البرمجيات ومع ذلك لم يصبح ذكاء الآلة حقيقة ملموسة إلا مع تطوير أول الحواسيب في القرن العشرين وفي عام ١٩٥٠ صاغ عالم الرياضيات آلان تورينغ معياراً لتحديد الذكاء الاصطناعي فيما عُرف لاحقاً باسم اختبار تورينغ والذي بموجبه يُقال إن ذكاء الآلة موجود عندما لا يتمكن المراقب البشري من التمييز بين سلوك الآلة وسلوك الشخص

٥) عملت الأبحاث المبكرة في مجال الذكاء الاصطناعي على أساس أنه يمكن وصف التعلم البشري أو الذكاء البشري بدقة كافية لتمكين الآلة من محاكاته وتشمل الأمثلة على مواضيع البحث المبكرة التي لا تزال تحتفظ بأهميتها اليوم التعرف على الأنماط ومعالجة اللغة والقدرة على التجريد والإبداع وحل المشكلات بمرونة وسرعان ما أدت التحسينات في أجهزة الحاسوب ولغات البرمجة إلى ظهور شعور كبير بالتفاؤل بشأن إمكانات ذكاء الآلة وشهدت العقود التالية موجات متتالية من الحماس تلتها فترات ركود للذكاء الاصطناعي حيث ساد خيبة الأمل بسبب النقص الملحوظ في النتائج العملية وتم تقليص التمويل

٦) تميزت أبحاث الذكاء الاصطناعي في أواخر القرن العشرين باستمرار التقدم في عدة جبهات رئيسية وظهور طرق معالجة البيانات المتوازية والإنترنت والمشاركة المتزايدة من قبل المنظمات البحثية والجيش والصناعة كما نشأ خطاب نقدي بالتزامن مع هذه التطورات حيث ترسخت أخلاقيات الحاسوب كتخصص مستقل أثارت شكوكاً فلسفية متزايدة حول ما إذا كانت الرؤية المحددة التي طرحها بعض الباحثين لظهور ذكاء اصطناعي عام أو قوي يمكن أن تصبح حقيقة واقعة أو ينبغي لها ذلك

٧) أدى ظهور ثلاثة اتجاهات حول مطلع الألفية إلى منح الذكاء الاصطناعي ديناميكية مستمرة حتى يومنا هذا أولاً الارتفاع الكبير في قوة معالجة الحواسيب وتصغير حجمها ثانياً الشبكات المترابطة بشكل متزايد بين الأنظمة الرقمية وثالثاً الإمكانيات الجديدة لجمع البيانات وتحليلها المرتبطة بذلك

٨) وكانت النتيجة إدخال الحواسيب في العديد من جوانب الحياة اليومية بما في ذلك الأشياء الشائعة التي لا حصر لها مثل الهواتف المحمولة والساعات والأجهزة المنزلية التي أصبحت الآن ذكية أي متصلة بالشبكة ومجهزة بأجهزة استشعار وقد أدت هذه الأجهزة وشبكات البيانات التي تربطها بدورها إلى توليد نظم بيئية للبيانات الاجتماعية والتقنية تقدم صورة رقمية دقيقة وشاملة بشكل متزايد لحركاتنا وأفعالنا وخصائصنا وتفضيلاتنا ولا تتيح التمثيلات الرقمية من هذا النوع تحليل البيانات فحسب بل يمكنها أيضاً التأثير على السلوك البشري مباشرة حيث يتلقى الأشخاص معلومات أو إجراءات موصى بها بناءً عليها

٩) طوال الوقت تعمل البيانات والبيانات الوصفية المصاحبة لها والتي يمكن أن تختلف بشكل كبير في النوع والجودة كأساس لهذه الأنواع من العمليات والتفاعلات الرقمية ولا تعتمد جودة مجموعة بيانات معينة ببساطة على مدى دقة البيانات أو اكتمالها أو حداثتها أو تفصيلها بل تعتمد أيضاً على العلاقة بين السياق الذي أُخذت منه البيانات أصلاً والسياق الذي ستُستخدم فيه ويمكن أن تكون البيانات أكثر أو أقل ملاءمة لسؤال معين أو مهمة محددة وقد يؤدي الفشل في معالجة مخاوف الجودة أو الملاءمة في الوقت المناسب وبشكل كافٍ إلى حدوث أخطاء وتحيزات وتحليلات مضللة

١٠) تلعب الأجهزة والبنية التحتية المتاحة لإدارة البيانات واستخدامها أيضاً دوراً حاسماً في مدى جودة أداء التطبيقات المعتمدة على البيانات وفي الوقت الحالي تشمل هذه الخدمات التي يمكن الوصول إليها عبر الإنترنت الحوسبة السحابية والمدعومة بمرافق واسعة النطاق متخصصة في تخزين و/أو تحليل البيانات بالإضافة إلى خيارات قوية بشكل متزايد لمعالجة البيانات محلياً جزئياً على الأقل على الأجهزة التي تجمعها الحوسبة الطرفية

١١) في قلب أي شكل من أشكال معالجة البيانات توجد الخوارزميات وهي تعليمات المعالجة التي تحدد كيفية التعامل مع البيانات المدخلة حتى يتم الوصول إلى قيمة المخرجات المطلوبة وذلك عادة باستخدام قواعد واضحة ومحددة خطوة بخطوة ومن الأهمية بمكان في أبحاث الذكاء الاصطناعي الحالية التحليلات الإحصائية التي تتعرف على الأنماط في البيانات وتحدد الروابط بين الخصائص الفردية مما يسمح بإجراء تنبؤات حول مجموعات بيانات مماثلة أو تطورات مستقبلية وإذا كان الهدف هو إثبات علاقة سببية بين الخصائص فعادة ما يكون من الضروري إجراء مزيد من التحليل والتحقيق لتقديم تفسير يكون في آن واحد معقولاً وقابلاً للتحقق تجريبياً عن طريق التجارب على سبيل المثال

١٢) غالباً ما تحتوي التحليلات الإحصائية على غموض لا يمكن حله بالكامل علاوة على ذلك فإن تقليل مصادر أخطاء معينة قد يضخم مصادر أخرى وهذا يعني أن أهم الأخطاء التي يجب مراعاتها في التحليل الإحصائي ستعتمد دائماً على السؤال أو الغرض المحدد المطروح وأنه في كثير من الحالات لن يكون الأمر مجرد مسألة تكنولوجيا أو أساليب بل مسألة أخلاق أيضاً

١٣) غالباً ما تُجمع الطرق والخوارزميات المستخدمة في الذكاء الاصطناعي تحت شعار تعلم الآلة وتتميز بقدرتها على استخدام البيانات لتحسين مجموعة واسعة من الوظائف بما في ذلك تحديد الأنماط وبناء النماذج وللقيام بذلك تمر الخوارزمية بمرحلة تدريب أولية تقوم خلالها أولاً ببناء نموذج للتعرف على الأنماط ثم تحسينه تدريجياً من خلال تحليل مجموعات بيانات التدريب بشكل متكرر

١٤) يشمل تعلم الآلة مجموعة من النهج ففي التعلم الموجَّه تكون العلاقة بين بيانات الإدخال والمخرجات المطلوبة ثابتة بالفعل في مجموعة بيانات التدريب ومن الأمثلة على ذلك مجموعة تحتوي على صور لبشرة صحية وحالات سرطان الجلد مع تسمية لكل صورة تحدد الفئة التي يجب تعيينها إليها أما في التعلم غير الموجَّه فتقوم الخوارزمية بالبحث عن الأنماط في البيانات بنفسها دون أن تكون بيانات التدريب موسومة مسبقاً وفي التعلم التعزيزي تقوم الخوارزمية بتحسين نشاطها لتحقيق أهداف معينة وتتلقى تغذية راجعة بعد كل دورة من مرحلة التدريب حول ما إذا كانت المحاولة الأخيرة قد قرّبت النظام من هدفه أو أبعدته عنه

١٥) التعلم العميق هو فرع من فروع تعلم الآلة مناسب بشكل خاص للتعامل مع كميات أكبر من البيانات وكان محركاً مهماً للعديد من تطبيقات الذكاء الاصطناعي في السنوات الأخيرة ويعتمد هذا النهج على الشبكات العصبية التي تستند بشكل فضفاض إلى الهياكل الترابطية في الدماغ

١٦) وكقاعدة عامة فإن الاستراتيجيات التي تستنتجها الخوارزمية في النهاية للتعامل مع مهمة محددة في التدريب ليست مفهومة تماماً حتى للموظفين المدربين الذين لديهم وصول كامل إلى كود الخوارزمية الصندوق الأسود وعلى الرغم من وجود إمكانيات لجعل العمليات الخوارزمية شفافة أو قابلة للتفسير أو التوضيح بما يكفي لفئة مستهدفة معينة الذكاء الاصطناعي القابل للتفسير فإن اختيارها وتطبيقها يشكل تحدياً تقنياً

١٧) أدت الآثار المشتركة للتطورات في أجهزة وبرامج الحاسوب والشبكات وإنتاج البيانات إلى توليد عالم من الاستخدامات المحتملة للذكاء الاصطناعي فأصبحت أنظمة الذكاء الاصطناعي قادرة الآن على هزيمة البشر في ألعاب استراتيجية صعبة مثل الشطرنج أو جو مو زيرو كما تنتج نصوصاً معقدة لا يمكن في كثير من الأحيان التعرف على أصلها المولد بالحاسوب تشات جي بي تي

١٨) في هذا الرأي ينظر مجلس الأخلاقيات الألماني في أربعة مجالات نشاط أحدث فيها الذكاء الاصطناعي تغييرات واسعة النطاق بالفعل أو قد يحدث ذلك في المستقبل القريب ففي الطب على سبيل المثال يبشر تعلم الآلة بتحسين التشخيص والتوصيات الفردية للرعاية الوقائية والعلاج وفي الوقت نفسه يشهد التعليم المدرسي ظهور مجموعة واسعة من الأساليب المدعومة بالذكاء الاصطناعي لنقل المعرفة والمهارات بشكل أكثر فعالية ويمر جزء كبير من المعلومات المتبادلة في مجال الاتصال العام وتشكيل الرأي بالفعل عبر منصات رقمية أو وسائل تواصل اجتماعي تعتمد على الخوارزميات وأخيراً تؤثر الأنظمة الخوارزمية المستخدمة للمساعدة في اتخاذ القرارات والتنبؤات في الإدارة العامة على حياة الكثيرين على سبيل المثال في تقييم أو مراقبة الأفراد في قطاع الرعاية الاجتماعية أو الشرطة

١٩) بدأت معالم التنظيم التشريعي تتشكل استجابة للتحديات التي تفرضها هذه التحولات على التفاعل البشري ويتكون هذا من ناحية من وفرة من المبادئ التوجيهية التي تتراوح بين مدونات السلوك للشركات الفردية وتوجيهات الجمعيات المهنية وآليات على المستوى الوطني أو الدولي ومن ناحية أخرى يستمر الإطار القانوني في التطور على سبيل المثال قوانين الإعلام التي تم إقرارها في ألمانيا وغالباً ما تكون التطورات الاجتماعية والتقنية في مجال الذكاء الاصطناعي مدفوعة بشركات تكنولوجيا المعلومات ذات الحضور الدولي النشط مما يعطي أهمية أكبر للتنظيم عبر الوطني ومن الأمثلة على ذلك في الاتحاد الأوروبي اللائحة العامة لحماية البيانات ومشروع قانون الذكاء الاصطناعي المقترح

٢٠) ومع أخذ هذه التطورات في الاعتبار لا يركز مجلس الأخلاقيات الألماني على المشهد القانوني في هذا الرأي وبدلاً من ذلك فإنه ينظر في الآثار التي قد تترتب على التغييرات في العالم الرقمي للتعايش البشري من خلال الاستفسار الفلسفي في المصطلحات الأنثروبولوجية الأساسية التي تكمن في قلب مفهومنا الذاتي كبشر وبناءً على ذلك يطور نهجاً للعلاقات بين الإنسان والتكنولوجيا يكون فيه من الضروري فهم كيف يؤثر تفويض الأنشطة البشرية إلى الآلات والأنظمة الخوارزمية على المفاهيم الأنثروبولوجية المركزية وعلى وجه الخصوص يوسع أو يقلص من قدرة الإنسان على التأليف

المفاهيم المركزية والأسس الفلسفية

٢١) تغير معنى مصطلح الذكاء الاصطناعي على مر السنين حيث اختلف داخل وبين المهن والتخصصات المختلفة وضمن التعريف يوجد تمييز مهم بين الذكاء الضعيف والقوي حيث يشير الأخير إلى شكل يكون إما قابلاً للمقارنة مع القدرة البشرية أو حتى متفوقاً عليها والذكاء الخاص مقابل العام والذكاء الضيق مقابل الواسع هما زوجان مفاهيميان آخران يسعيان لوصف أشكال أو درجات من الذكاء الاصطناعي تقترب من الذكاء البشري

٢٢) إن الت distinctions بين الذكاء الاصطناعي الخاص أو الضيق أو الضعيف من جهة والذكاء الاصطناعي العام أو الواسع أو القوي من جهة أخرى لا تقتصر على وصف قطبين متعارضين بل يكمن وراء كل منهما وخاصة التمييز بين الذكاء الاصطناعي الضعيف والقوي فهم خاص للذكاء وإجابة مختلفة على سؤال جوهري هل الاختلافات الموجودة بين الذكاء البشري والاصطناعي نوعية وجوهرية أم أنها مجرد مسألة درجات يمكن من حيث المبدأ التغلب عليها

٢٣) يكمن أحد العوامل المهمة في هذا السياق في الاتساع النسبي أو الضيق لما يستطيع الذكاء الاصطناعي القيام به فتؤدي معظم تطبيقات الذكاء الاصطناعي مهامها ضمن معايير أو مجالات محددة بوضوح وضيق وهناك أيضاً مسألة ما إذا كان الذكاء مرتبطاً بشروط عقلية معينة تقوم بأكثر من مجرد محاكاة الفهم وبالتالي يطرح السؤال عما إذا كان بإمكان الآلات أن تمتلك الذكاء يوماً ما بشكل عام أو قوي أو ما إذا كانت الخصائص الخاصة بالبشر تشكل شروطاً مسبقة ضرورية بدلاً من ذلك

٢٤) تختلف الردود وفقاً للنموذج الأنثروبولوجي النظري المستخدم فرأي معظم السلوكيين على سبيل المثال يرى أن الروبوت الشبيه بالبشر والذي يتمتع بنطاق حركة لا تشوبه شائبة وتعابير وجه وإيماءات مشابهة لتلك الخاصة بالبشر يمثل مثالاً على الذكاء الاصطناعي الواسع أو حتى القوي بشرط أن يكون قادراً على محاكاة القدرات المعرفية البشرية بإخلاص بينما تعترض نماذج نظرية أخرى على وجود شكل من أشكال الذكاء الاصطناعي القوي حيث إن المحاكاة المثالية لن تضمن قدرة الروبوت على إظهار حالات عقلية أو إبداء البصيرة والحكم أو الوصول إلى مشاعر مثل الأمل أو الخوف

٢٥) يعمل هذا الرأي انطلاقاً من فرضية أنه بينما يكون الفرق بين الذكاء الاصطناعي الضيق والواسع ذا طبيعة كمية أو تدريجية فإن ظهور الذكاء الاصطناعي القوي سيشير إلى قفزة نوعية ويشير الذكاء الاصطناعي الضيق إلى التطبيقات التي تحاكي القدرات البشرية في مجال معين لتنفيذ مهام محددة بينما يوسع الذكاء الاصطناعي الواسع نطاق التطبيقات المحتملة للذكاء الاصطناعي خارج المجالات الفردية ويشير مصطلح الذكاء الاصطناعي القوي إلى نوع من الذكاء الاصطناعي يتجاوز حتى المحاكاة المثالية للإدراك البشري ليظهر حالات عقلية وقدرة على البصيرة والمشاعر

٢٦) توفر مفاهيم الذكاء البشري أساساً مهماً للمناقشات المحيطة بالإمكانات الحالية والمستقبلية للذكاء الاصطناعي ومن المنظور النفسي ينبغي النظر إلى الذكاء على أنه بنية افتراضية ورغم إمكانية وصفه لفظياً أي بالإشارة إلى مفاهيم مثل الفهم والحكم والاستنتاج والعمل الموجه نحو الهدف والتفكير العقلاني أو الانخراط الفعال مع البيئة المحيطة فإنه ليس قابلاً للملاحظة مباشرة وتوفر اختبارات الذكاء شكلاً واحداً من أشكال التطبيق العملي حيث تزود البشر بسياق لإظهار سلوك يمكن اعتباره بعد ذلك أكثر أو أقل ذكاءً وفقاً لتعريف نظري مسبق

٢٧) لا يمكن الإجابة بشكل قاطع تجريبياً عما إذا كان الذكاء قدرة واحدة موحدة أو comprises قدرات متعددة قد تعمل بشكل مستقل ومن المواضيع الخلافية الأخرى ذات الصلة بالذكاء الاصطناعي الرابط بين الذكاء والإبداع ويكمن التمييز الرئيسي هنا بين التفكير المتقارب الذي يسير عن طريق الاستنتاج المنطقي للوصول إلى حل واحد أو مثالي والتفكير المتباعد وهو سمة مميزة للإبداع قادر على إيجاد حلول بديلة متعددة لمجموعة معينة من المتطلبات

٢٨) توسع مفهوم الذكاء باطراد في السنوات الأخيرة ليشمل الآن مصطلحات مثل الذكاء الاجتماعي أو العاطفي وفي الوقت نفسه تبلور مجال بحثي حول مصطلحات الإدراك المجسد والمدمج والفعل والممتد وينظر هذا المجال في الدور الذي يلعبه الجسم والبيئة في الذكاء والقدرة المعرفية من خلال عدسات الفلسفة وعلم النفس والروبوتات وقد دفع هذا التوسع المفاهيمي إلى طرح أسئلة جوهرية حول كيفية تطبيق مفهوم الذكاء على المصنوعات التقنية ولذلك ينبغي اعتبار كلمة الذكاء كما وردت في مصطلح الذكاء الاصطناعي بمثابة استعارة تحتاج قوتها الوصفية والتفسيرية إلى مزيد من التوضيح

٢٩) قبل فترة طويلة من شيوع مصطلح الذكاء استُخدم مصطلح العقل لوصف قدرة البشر الخاصة على توجيه أنفسهم في العالم وتحمل مسؤولية أفعالهم مما يضفي بنية متماسكة على حياتهم في هذه العملية ويُعد الذكاء شرطاً مسبقاً مهماً للعقل وإن لم يكن شرطاً كافياً بحد ذاته

٣٠) العقل مصطلح شديد التعقيد يضم مجموعة متعددة الأبعاد من العلاقات بين طرق التفكير والتأمل والعمل المتشابكة في نسيج اجتماعي وثقافي معقد والتي تهدف في مجملها إلى إدراك الواقع بأكبر قدر ممكن من الفعالية ويكمن التمييز الأساسي في هذه الحالة بين العقل النظري الذي يسعى لاكتساب المعرفة للوصول إلى أحكام تجريبية أو قبْلية صحيحة والعقل العملي الذي يسعى لمسار عمل متماسك ومسؤول يسمح للشخص بعيش حياة مُرضية

٣١) وخاصة في حالة العقل النظري يبدو أن عدداً من أوجه التشابه مع طرق عمل أنظمة الذكاء الاصطناعي تظهر نفسها فقدرات معالجة المعلومات والتعلم واستنتاج الاستنتاجات المنطقية واتباع القواعد باستمرار وإقامة روابط ذات مغزى بين المعلومات المخزنة تحتل مكانة مركزية في كليهما ومع ذلك تظهر اختلافات جوهرية عند التدقيق فلا يقتصر الأمر على اختلاف طريقة عمل الذاكرة البشرية في نواحٍ متعددة عن جهاز التخزين في الحاسوب بل إنه لا يوجد بديل تقني لممارسة الحكم البشري وأنظمة الذكاء الاصطناعي الموجودة حالياً على الأقل لا تمتلك الفهم التفسيري أو القصدية أو الإشارة إلى واقع يتجاوز اللغة اللازمة للقيام بذلك

٣٢) وهذا أوضح في حالة العقل العملي الذي يكون أكثر تعقيداً إذ لا يهدف فقط إلى أحكام عملية فردية مؤسسة جيداً بل إلى مسار العمل الأكثر ملاءمة ومسؤولية على المدى الطويل لمنح أفعال الشخص شكلاً متماسكاً والسماح له بعيش حياة مُرضية ويتطلب القيام بذلك مكونات فردية متعددة وما إذا كانت المصنوعات التقنية ستكون قادرة على محاكاتها هو موضوع نقاش محتدم

٣٣) من بين هذه المكونات أولاً فهم المصطلحات المهمة في المفردات الأخلاقية البشرية لتعيين الجوانب والقيم والمواقف ذات الصلة الأخلاقية ثانياً القدرة على التمييز والشعور بالتعاطف ثالثاً القدرة على وزن الجوانب والقيم المتضاربة رابعاً اعتماد نهج تأملي تجاه القواعد ذات الدرجات والنطاقات المختلفة خامساً القدرة على استيعاب المهام والظروف المعقدة بشكل حدسي سادساً القدرة على التمييز سابعاً القدرة على تبرير الأحكام الأخلاقية والإجراءات الناتجة عنها وثامناً التحكم في العواطف والدوافع بحيث يمكن ترجمة الأحكام العملية التي تم التوصل إليها في حالة معينة إلى فعل

٣٤) وفي حين أن التداخل الجزئي ممكن تماماً بين نطاق قدرات أنظمة الذكاء الاصطناعي الحديثة والظاهرة المعقدة للعقل البشري فمن الأهمية بمكان أن نضع في الاعتبار أن القدرات المذكورة أعلاه لا توجد بشكل مستقل عن بعضها البعض بل يجب تصورها على أنها تشكل شبكة غنية من التفاعلات والتغذية الراجعة المتبادلة والعلاقات المشروطة فهي تشكل جزءاً لا يتجزأ من الطبيعة البشرية بكل تعقيداتها والتي يجب فهمها ككيان جسدي روحي غير قابل للتجزئة ويجب دائماً النظر إلى العقل البشري على أنه عقل مجسد ولا يمكن النظر إلى العقل العملي من منظور فردي بحت فكل فرد ينتمي إلى بيئة اجتماعية وثقافية لها تأثير دائم على تنشئته الاجتماعية مما يعني أنه يجب أيضاً أخذ العوامل الثقافية فوق الفردية في الاعتبار عند تفسير العقل العملي

٣٥) يرتبط أي فهم كافٍ للمسألة وخاصة فيما يتعلق باستخدام العقل العملي ارتباطاً وثيقاً بفهمنا الأساسي لأنفسنا كأفراد قادرين على الفعل ولا ينبغي اعتبار كل نشاط بشري له تأثير على البيئة المحيطة فعلاً بحد ذاته بل فقط تلك الأنشطة الهادفة والمتعمدة والمتحكم فيها وافتراض أن الآلات لا تعمل بشكل هادف أي ليس لديها نوايا خاصة بها يجعل من المتناقض نسبة الأفعال إليها بهذا المعنى الضيق

٣٦) ومع ذلك فمنذ مطلع الألفية تساءل الخطاب المحيط بالذكاء الاصطناعي بشكل متزايد عما إذا كانت هناك سياقات يمكن فيها القول إن الآلات تتصرف بالفعل بمعنى أوسع خارج التعريف الضيق المذكور أعلاه في حالة تفويض القرارات بالكامل لأنظمة البرمجيات على سبيل المثال ويرتبط بهذا السؤال نقاش حول ما إذا كان وإلى أي مدى يمكن اعتبار الأنظمة ذاتية الحكم المتزايدة أي تلك التي تعمل دون تدخل بشري مسؤولة لاحقاً بصفتها فاعلين عن أفعالها فيما يتعلق بمسائل المسؤولية القانونية على سبيل المثال

٣٧) وحتى لو نفذت الآلات عمليات معقدة تغير العالم وأظهرت قدرتها على التعامل بمرونة مع التحديات الكبرى التي تواجه البشرية فإنها لا تحقق تلك التغييرات عمداً وهذا يعني كذلك أنه لا يمكن تحميلها مسؤوليتها أخلاقياً أو قانونياً وفي ضوء هذه الخلفية يبدو من المعقول حجز مصطلح الفعل بالمعنى المقيد للبشر وذلك لتجنب تضخيم مفهوم الفاعل وللسماح بوضع حدود مفاهيمية

٣٨) يلعب مفهوم الوكالة أو التأليف دوراً حاسماً في هذا السياق حيث يشير إلى التجربة الإنسانية العالمية المتمثلة في اعتبار الذات والآخرين منشئين لأحداث أو ظروف معينة ويمكن اعتبار القدرة على تأليف أفعالنا أساساً للاستقلالية أو لحقيقة أننا كبشر قادرون على توجيه أفعالنا بموجب مبادئ وضعناها بأنفسنا

٣٩) قد تثبت الظروف والنتائج المحيطة بفعل معين أنها ذات عواقب عند تقييمه من منظور أخلاقي أو قانوني فبالإضافة إلى أي نتائج مقصودة قد يجلب فعل معين أيضاً نتائج غير مقصودة ولكنها لا تزال ملحوظة للفاعل وهذا بدوره له تداعيات على مفهوم الإهمال والذي يعد قضية مهمة في مجال الذكاء الاصطناعي وحتى لو كان الأفراد هم من يتصرفون بشكل أساسي فإن هذا لا يستبعد مفهوم الفعل الجماعي حيث تصرف عدة أشخاص بطريقة منسقة منذ البداية

٤٠) يمكن للتكنولوجيا أيضاً أن تمارس تأثيراً كبيراً على كيفية تصرف البشر أو تجربتهم للفعل فقد أدى التشبع المستمر لبيئتنا المعيشية بالآلات التي تتميز بتكنولوجيا معلومات قوية بشكل متزايد إلى سيناريوهات اجتماعية وتقنية هجينة حيث يتشابك البشر والآلات بشكل وثيق ويتفاعلون بطرق معقدة علاوة على ذلك أصبحت العديد من الأنظمة قادرة الآن على تقليد أنشطة بشرية معينة بفعالية كبيرة بحيث تمر محاكاتها على أنها أفعال بشرية متعمدة وهذا يجعل من الحكمة الالتزام بتعريف ضيق للفعل مرتبط بالمعيار المركزي للقصدية

٤١) تعد القصدية معياراً مهماً بنفس القدر لتعيين المسؤولية ضمن التفاعلات بين الإنسان والآلة التي تتكشف عبر شبكات اجتماعية وتقنية معقدة بشكل متزايد ويمكن فهم مفهوم المسؤولية من حيث علاقة خماسية من المسؤول الفاعل المسؤول تجاه من الطرف المتأثر أمام من السلطة عن ماذا موضوع المسؤولية وتحت أي قاعدة

٤٢) ينبغي للمحادثات حول المسؤولية عندما يتعلق الأمر بالتقدم العلمي والتقني أن تضع في الاعتبار أن تقييم العواقب العملية للتطورات الجديدة يحدث غالباً تحت درجة عالية من عدم اليقين التي لا يمكن القضاء عليها بالكامل ولذلك يجب أن يأخذ إسناد المسؤولية في الاعتبار بُعد التصرف في ظل عدم اليقين

٤٣) لا يمكن تحمل المسؤولية الأخلاقية إلا من قبل الأشخاص الطبيعيين الذين يمتلكون القدرة على الفعل أي القادرين على التأثير وبالتالي إحداث تغييرات في بيئتهم بطريقة نشطة وهادفة ومتحكم فيها ولو انطبق الشيء نفسه على الآلات لكانت أيضاً قادرة على تحمل المسؤولية وفي تلك الحالة سيتعين منحهم صفة الشخصية على الرغم من أن هذا لن يكون مناسباً لا في الوقت الحالي ولا في المستقبل المنظور نظراً للتطورات النوعية المتوقعة لأنظمة الآلات ولذلك لا يمكن تحمل المسؤولية مباشرة من قبل الأنظمة الآلية بل فقط من قبل البشر الواقفين خلف هذه الأنظمة في أدوار مختلفة وعند الاقتضاء في سياق المسؤولية المؤسسية

٤٤) غالباً ما يكون من الصعب تحديد من يتحمل بالضبط أي درجة من المسؤولية في كل حالة وتصبح الروابط متعددة الأوجه للمسؤولية التي تربط الأفراد والمؤسسات والدولة أكثر تعقيداً عندما تكون تفاعلاتهم مدعومة أو مسهلة جزئياً على الأقل بواسطة أنظمة خوارزمية قد تكون عملياتها في بعض الأحيان بعيدة كل البعد عن الشفافية أو تبدو ذاتية الحكم وفي ضوء هذه الخلفية من الضروري تكوين مسؤولية متعددة الفاعلين بشكل مناسب

٤٥) يمثل الفعل والعقل والمسؤولية اهتمامات مركزية في الفلسفة الإنسانية فالإنسان مجهز بالوكالة وبالتالي بالتأليف على حياته الخاصة وتمنحه حريته مسؤولية تشكيل أفعاله وتعتبر الحرية والمسؤولية جانبين يعتمدان على بعضهما البعض للتأليف البشري ويرتبط التأليف بدوره بالقدرة على التعقل

٤٦) تقع ظاهرة التأثر بالأسباب في مركز هذه الثلاثية من العقل والحرية والمسؤولية فالأسباب العملية تدعو للأفعال بينما الأسباب النظرية تدعو للقناعات وكقاعدة عامة يجب وزن أسباب فعل شيء ما مقابل أسباب تركه ضد بعضها البعض وتؤدي الأسباب المتضاربة إلى عملية مداولة يجب بعد ذلك تنظيمها منهجياً من حيث النظرية الأخلاقية

٤٧) تتميز الحياة البشرية بالمواقف الانفعالية والمشاعر الأخلاقية التي تصاحبها أسباب معيارية وتدخل الحرية حيز التنفيذ إلى الحد الذي نضع فيه هذه المواقف والمشاعر جانباً عندما نعلم أن شخصاً ما لم يكن حراً في أفعاله وهذه الممارسة المتمثلة في إسناد الحرية والمسؤولية ضرورية لتأسيس الحكم الأخلاقي فقواعد الأخلاق والقانون لا أساس لها دون افتراض شعور بالمسؤولية تجاه الجنس البشري وبالتالي قدرته على الحرية والتعقل

٤٨) تقدم علوم الأعصاب تحدياً واحداً لهذا المنظور الإنساني فالدراسات التجريبية التي تظهر على سبيل المثال أن المركز الحركي في الدماغ يبدأ في الاستعداد للحركة قبل أن يقرر الشخص بوعي التحرك تُستشهد بها أحياناً كدليل على أن الحرية وبالتالي المسؤولية البشرية غير موجودة وفي الواقع فإن هذه النتائج مفتوحة لتفسيرات مختلفة وليست طريقة مناسبة لدحض الحرية والمسؤولية البشرية

٤٩) يستمد نقد ثانٍ للفلسفة الإنسانية إلهامه من النقاشات حول الذكاء الاصطناعي فهو يتأرجح بين ما بعد الإنسانية من جهة والذي يضع هدف تجاوز القيود البشرية وفتح آفاق جديدة للإمكانات البشرية من خلال التكافل بين الإنسان والآلة والنموذج الآلي الذي يختزل النفس البشرية في نموذج نظام خوارزمي من جهة أخرى وهذا العنصر الأخير ذو صلة خاصة بهذا الرأي لأنه يمارس تأثيراً كبيراً على كيفية تصور التفاعلات بين الناس والآلات وكذلك تأثيرها اللاحق على الفهم الذاتي للإنسان

٥٠) تنظر النماذج الآلية إلى البشر مادياً على أنهم آلات أو تفسر الآلات alternativamente على أنها حية وتمتلك حالات عقلية وتعمل على نفس المستوى مع البشر ويميل النز السائد في خطابات الذكاء الاصطناعي إلى مساواة عدم التمييز الخارجي بين الأداء البشري والآلي بافتراض ذكاء وقدرة على التفكير لمثل هذه الآلات نتيجة لبعض الافتراضات النظرية المسبقة وخاصة ذات الطبيعة السلوكية والوظيفية

٥١) تسعى السلوكية إلى تفسير السلوك البشري على أساس مخططات التحفيز والاستجابة التي يمكن وصفها بدقة كبيرة وبالتالي تحويل علم النفس إلى علم دقيق وفي القيام بذلك يتم تجاهل الحياة الداخلية للكائنات الحية تماماً وتستند الوظيفية إلى افتراض أنه يمكن فهم الحالات العقلية تماماً من حيث وظيفتها وأنه يمكن ويجب تنحية الأسئلة المتعلقة بطريقة وجودها لصالح وصف دقيق لوظيفتها كما يبدو أن القابلية للتحقيق المتعدد وهي الأطروحة القائلة بأن أحداثاً أو خصائص أو حالات عقلية معينة يمكن أن تنشأ من خلال أحداث أو خصائص أو حالات فيزيائية مختلفة تماماً تجعل من الممكن نسب الحالات العقلية إلى الحواسيب على الرغم من أنها لا تمتلك أي هياكل بيولوجية

٥٢) تشير انتقادات الوظيفية إلى الوعي الظاهراتي والذي بموجبه تعتمد الحالات العقلية للكائن اعتماداً جوهرياً على صفات الإحساس التي لا تكشف عن نفسها من خلال السلوك الخارجي وحده ويفرض هذا النوع من الوعي قيوداً معينة على إمكانية الحكم على جودة تجربة كائن حي آخر أو حالاته العقلية ويجعل تشبيه الوظيفية بين الإنسان والحاسوب يبدو كاختزال مشكوك فيه

٥٣) تأتي حجة أخرى ضد الوظيفية من تجربة الغرفة الصينية الفكرية للفيلسوف جون سيرل حيث يرد شخص على سلسلة من الأسئلة باللغة الصينية من غرفة مغلقة باستخدام مجموعة دقيقة من التعليمات وليس هذا الشخص هو من يعرف اللغة الصينية ولا حاسوب الترجمة بل أولئك الذين أنشأوا التعليمات أو الخوارزمية للإجابة على الأسئلة

٥٤) تسلط الحجج المضادة لنماذج الآلة الوظيفية الضوء على أهمية تجربة الحياة العامة للعقل فالعقل البشري هو عقل مجسد والجسم هو نقطة الانطلاق ومكون أساسي لأي إدراك أو إحساس فضلاً عن كونه شرطاً مسبقاً لعيش وجود إنساني في العالم وتطوير علاقات مع الآخرين وهذا يعني أن ظهور وتنفيذ قدراتنا المعرفية مرتبط بعالمنا الحسي وجسديتنا ووجودنا ككائنات اجتماعية وثقافية

٥٥) وهذا يحد أيضاً من المدى الذي يمكن فيه إضفاء الطابع الرسمي على العقل البشري ومحاكاته فاكتساب الخبرة البشرية يرتبط دائماً بعملية تفسيرية ويفترض شكلاً من أشكال المشاركة أو الانخراط وهنا أيضاً يلعب الجسم دوراً مهماً فهو يسمح بالفعل الذي لن يكون ممكناً بمجرد التخطيط والحساب الواعيين وهذا بدوره يثبت سبب استحالة محاكاة التفكير بحد ذاته مما يشير إلى حد أقصى لتطوير الذكاء الاصطناعي

٥٦) بناءً على الاعتبارات المذكورة أعلاه يمكن تلخيص أن الذكاء البشري مرتبط ارتباطاً لا ينفصم بالأبعاد المتعددة لعالم الحياة البشري فهو يعمل موجهاً بالأسباب ويعبر عن القيم والمعايير المقبولة ومن المشكوك فيه ما إذا كان هذا النوع من الممارسة الموجّه بالأسباب والمشروط بأبعاد متعددة والمضمن في سياق اجتماعي ثقافي والمتماسك في ذاته يمكن تصوره يوماً ما حتى بالنسبة لأنظمة الآلات المعقدة

العلاقات بين الإنسان والتكنولوجيا

٥٧) يطور البشر التكنولوجيا ويصممونها ويستخدمونها كوسيلة لغاية ومع ذلك فإن تفويض المهام البشرية إلى الآلات بطريقة شاملة أكثر أو أقل وصولاً إلى استبدال الفاعلين البشريين تماماً يؤثر لاحقاً على خيارات العمل ومجموعات المهارات والتأليف وتحمل المسؤولية لدى البشر إما بتوسيعها أو تقليصها وتعمل المصطلحات الثلاثة التوسع والتقليص والاستبدال كمصفوفة تحليلية في هذا الرأي

٥٨) وفقاً لنظرية البنائية الاجتماعية يتبع تصميم التكنولوجيا غايات يضعها البشر عادة وتشكلها الأولويات respective للمجتمع ومن ناحية أخرى ترى الحتمية التكنولوجية الديناميكيات الداخلية كعامل محدد وخاصة تلك التي تحددها العلاقات الاقتصادية والتي تجادل بأن البشر والمجتمعات يجب أن يخضعوا لها ويتكيفوا معها في النهاية وفي الواقع كلا العمليتين جاريتان في وقت واحد وتستند العلاقة بين البشر والتكنولوجيا إلى ديناميكية من الإبداع المشترك يمكن وصفها أيضاً بالتطور المشترك فالسياقات الاجتماعية والمعايير المعيارية من جهة والتكنولوجيا من جهة أخرى تتطور جنباً إلى جنب من خلال التفاعل المتبادل

٥٩) وبشكل عام يمكن للتكنولوجيا أن تصبح نوعاً من الطبيعة الثانية حيث تحدد الشروط الأساسية ومعايير النجاح لاستمرار الحياة البشرية وتشكل نظرتنا للعالم وطرق حل المشكلات وهكذا غالباً ما تكون التكنولوجيا الجديدة نفسها نتاج تعامل البشر مع العالم وربطهم به من خلال نوع أو آخر من التكنولوجيا كما أن العلاقة المعقدة بشكل متزايد بين البشر والتكنولوجيا أو البشر والآلات تغير أيضاً كيفية إدراك تلك العلاقات ففي الأنظمة الموجهة بالذكاء الاصطناعي أصبحت الفروق الواضحة سابقاً بين البشر والتكنولوجيا أقل وضوحاً الآن وفي كلامنا اليومي أيضاً تقدم تجسيم التقنيات الرقمية بشكل كبير على سبيل المثال في نسب قدرات مثل التفكير والتعلم واتخاذ القرارات أو إظهار العاطفة إلى الذكاء الاصطناعي والروبوتات

٦٠) تتغير أيضاً علاقات الذات بالموضوع بين البشر والتكنولوجيا ففي الأنظمة الشبكية سيلعب الناس أحياناً دور الذات ولكن في أحيان أخرى دور الموضوع وفي الحالات التي تُعطى فيها أنظمة البرمجيات سلطة اتخاذ قرارات بشأن الناس على سبيل المثال عند تخصيص الخدمات الاجتماعية يصبح الناس موضوعات قرارات النظام بينما يتصرف النظام وكأنه الذات

٦١) تسعى مناهج مختلفة إلى وصف هذه التطورات من حيث التفاعلات متعددة المستويات بين الإنسان والتكنولوجيا

٦٢) في كل من هذه المناهج لا تزال المسؤولية تقع على عاتق الناس ومع ذلك يمكن أن يكون لاستخدام أنظمة الذكاء الاصطناعي عواقب إشكالية أخلاقياً تؤثر لاحقاً على أفعال الناس ولذلك فإن الفعل البشري ليس مستقلاً تماماً ولا محدداً تماماً اجتماعياً أو تقنياً بل هو واقع بشكل متزايد في سياق اجتماعي تقني

٦٣) في كثير من الحالات يكون للذكاء الاصطناعي آثار إيجابية بوضوح بمعنى توسيع إمكانيات التأليف البشري ومع ذلك ومع انتشار التكنولوجيا والابتكارات في المجتمع واستخدامها وترابطها بشكل متزايد في روتيننا اليومي يمكنها أيضاً أن تقلص فرص الازدهار البشري ويمكن أن يؤدي استخدام التقنيات الرقمية إلى خلق أشكال من التبعية أو ضغط التكيف مما يغلق خيارات أخرى كانت راسخة سابقاً في هذه العملية

٦٤) قد يحدث هذا بشكل خفي وغير واعٍ جزئياً نتيجة لتحولات سلوكية دون أي نية من جانب الفاعلين المعنيين أما جعل الاستبدال هو الهدف النهائي عند تعيين مهام كان ينجزها البشر سابقاً إلى أنظمة تكنولوجية فيحدث عمداً وفي حد ذاته يعبر هذا النوع من النقل بالفعل عن تصور واحد حول التأليف البشري والسؤال الأخلاقي الرئيسي هو ما إذا وكيف سيؤثر ذلك على إمكانيات الأشخاص الآخرين وخاصة أولئك المتأثرين مباشرة بقرار الآلة وهذا يجعل من الضروري جعل نقل النشاط البشري إلى أنظمة الذكاء الاصطناعي شفافاً أيضاً للأشخاص المتأثرين به والنظر في لمن ينطوي تطبيق معين على فرص أو مخاطر وتوسعات أو تخفيضات في التأليف وهذا يتضمن أسئلة العدالة الاجتماعية والسلطة

٦٥) تستحق الآثار النفسية المتعلقة بأنظمة الذكاء الاصطناعي أيضاً الاعتبار وخاصة انحياز الأتمتة فغالباً ما يثق الناس في النتائج التي تولدها الخوارزميات أو عمليات اتخاذ القرار الآلية بسهولة أكبر من تلك التي يتخذها البشر مما يؤدي إلى تفويض المسؤولية بشكل غير واعٍ على الأقل إلى الأولى بصفتها فاعلين شبه فعليين وحتى في المواقف التي تفرض قيوداً معيارية صارمة على نظام الذكاء الاصطناعي وتحد من دوره في دعم اتخاذ القرار يمكن لانحياز الأتمتة أن يقود النظام تدريجياً لتولي دور اتخاذ القرارات فعلياً مما يؤدي إلى تآكل التأليف والمسؤولية البشرية في هذه العملية

الجزء الثاني تطبيقات مختارة وتوصيات خاصة بالقطاعات

الطب

٦٦) نظام الرعاية الصحية هو أحد المجالات التي تُستخدم فيها المنتجات الرقمية المدعومة بالذكاء الاصطناعي بشكل متزايد ويتطلب تحليل الفرص والمخاطر المصاحبة تمايزاً ثلاثياً على الأقل أولاً يجب التمييز بين مجموعات مختلفة من الفاعلين لكل منها أدوار ومسؤوليات مختلفة فيما يتعلق باستخدام الذكاء الاصطناعي ثانياً يشمل قطاع الرعاية الصحية مجالات تطبيق متنوعة لمنتجات الذكاء الاصطناعي من البحث إلى رعاية المرضى الفعلية وأخيراً هناك درجات متفاوتة من استبدال النشاط البشري

٦٧) يتطلب تطوير مكونات الذكاء الاصطناعي المناسبة للممارسة الطبية بالفعل تعاوناً وثيقاً متعدد التخصصات بين الخبراء ومعايير جودة عالية لبيانات التدريب وذلك لتقليل أشكال التحيز التي يمكن تجنبها في النتائج منذ البداية ويجب تصميم أنظمة الذكاء الاصطناعي لتشمل فحوصات المعقولية أثناء مرحلة الاستخدام لتجنب انحياز الأتمتة ويجب وضع تدابير كافية للاختبار والتصديق والمراجعة لضمان اختبار جميع أنظمة الذكاء الاصطناعي بشكل كافٍ قبل استخدامها وأن وظائفها الأساسية يمكن تفسيرها وفهمها من قبل أي شخص قد يستخدمها لاحقاً على الأقل في حالة الأنظمة التي تقترح قرارات قد تكون لها عواقب وخيمة على الناس

٦٨) يبشر الذكاء الاصطناعي بمزايا متنوعة لمجال البحث الطبي بشرط أن يظل المشاركون في الدراسة وبياناتهم محميين ويمكن للذكاء الاصطناعي أن يلعب دوراً تحضيرياً أو تكميلياً قيماً من خلال البحث في الأدبيات وقواعد البيانات الكبيرة أو اكتشاف ارتباطات جديدة بين ظواهر معينة ثم تقديم تنبؤات دقيقة على هذا الأساس حول كيفية انتشار فيروس على سبيل المثال أو بنية جزيء معقد

٦٩) تُستخدم أدوات الذكاء الاصطناعي أيضاً بشكل متزايد في الرعاية الطبية للتشخيص والعلاج على سبيل المثال لسرطان الثدي أو البروستاتا وفي هذه الحالة تقوم أنظمة دعم القرار بنمذجة وأتمتة عمليات اتخاذ القرار من خلال تحليل معايير مختلفة في تشخيصات المختبر ومعالجة الصور والمراجعة التلقائية لسجلات المرضى وقواعد البيانات العلمية وقد فتحت التحسينات في التعرف على الصور المدعوم بالذكاء الاصطناعي تحديداً آفاقاً جديدة للكشف المبكر وتحديد الموقع ووصف التغيرات المرضية ويُعد استخدام الروبوتات الجراحية مثالاً واحداً على الذكاء الاصطناعي في العلاج الطبي

٧٠) يمكن أن يؤدي تعيين أنشطة الطبيب للتكنولوجيا على نطاق صغير إلى متوسط إلى الكشف المبكر عن الأورام وتوفير نطاق أوسع من خيارات العلاج وهذا يزيد من احتمالية نجاح العلاج علاوة على ذلك تمنح التكنولوجيا الطاقم الطبي استراحة من المهام الروتينية الرتيبة والمزيد من الوقت للتفاعل مع مرضاهم ومع ذلك لا تأتي هذه الفرص بدون مخاطر فمن المرجح أن يفقد المتخصصون الطبيون عدداً من المهارات إذا استمر تفويض مهام معينة إلى أنظمة تكنولوجية أو قد يؤدي انحياز الأتمتة بهم إلى إهمال واجب العناية عند استخدام التكنولوجيا المدعومة بالذكاء الاصطناعي

٧١) يتطلب الاستفادة الكاملة مما يقدمه الذكاء الاصطناعي في المواقف السريرية وتقليل المخاطر إبقاء مستويات مختلفة في الأفق في وقت واحد ومن بين أمور أخرى يجب أن تتوفر معدات تقنية شاملة وموحدة قدر الإمكان وتدريب للموظفين وتدابير ضمان جودة مستمرة جنباً إلى جنب مع استراتيجيات لضمان اختبار النتائج المستندة إلى بروتوكولات مدعومة بالذكاء الاصطناعي من حيث المعقولية وأن يتم إيلاء الاعتبار الكامل لوضع المريض الفردي والتواصل معه بسرية وبالمثل تمثل الكمية الكبيرة من البيانات التي تتطلبها غالبية تطبيقات الذكاء الاصطناعي الطبية تحديات سواء من حيث حماية خصوصية أصحاب البيانات أو فيما يتعلق بالتفسير الفردي المقيد أحياناً للوائح حماية البيانات المعمول بها والذي يمكن أن يقف في طريق تحقيق إمكانات الذكاء الاصطناعي في الممارسة السريرية

٧٢) العلاج النفسي هو أحد المجالات الطبية القليلة التي حلت فيها الأنظمة القائمة على الذكاء الاصطناعي في بعض الحالات محل الأطباء أو موظفي الرعاية الصحية الآخرين بشكل كبير أو كامل بحكم الأمر الواقع على الأقل وقد كانت الأدوات قيد التطوير أو الاستخدام في هذا السياق لسنوات معظمها في شكل تطبيقات قائمة على الشاشة تقدم نوعاً من العلاج المدعوم بالخوارزميات وغالباً ما تكون متاحة مجاناً ومن ناحية أخرى قد تعرّف الحواجز المنخفضة وإمكانية الوصول الجاهزة للتطبيقات الأشخاصَ بالعلاج الذين قد يصلهم متأخراً جداً أو لا يصلهم على الإطلاق وفي الوقت نفسه يشكل الافتقار إلى الضمانات الفعالة للحفاظ على الجودة وخصوصية الناس سبباً للقلق وكذلك احتمال تطوير الناس لروابط عاطفية مع تطبيق العلاج وهناك أيضاً نقاش مثير للجدل حول ما إذا كان الاستخدام المتزايد لمثل هذه التطبيقات سيقلص عدد المعالجين المرخصين

٧٣) في ضوء هذه الاعتبارات صاغ مجلس الأخلاقيات الألماني تسع توصيات لاستخدام الذكاء الاصطناعي في القطاع الصحي

توصية الطب ١ يتطلب تطوير واختبار واعتماد منتجات الذكاء الاصطناعي المخصصة للاستخدام الطبي تعاوناً وثيقاً مع السلطات المسؤولة وخاصة مع الجمعيات الطبية المهنية وذلك لتحديد نقاط الضعف في مرحلة مبكرة ووضع معايير جودة عالية

توصية الطب ٢ عند اختيار مجموعات بيانات التدريب والتحقق والاختبار يجب اعتماد تدابير تتجاوز الأحكام القانونية الحالية لضمان مراعاة العوامل ذات الصلة بمجموعة مرضى معينة بشكل كافٍ مثل العمر والجنس والعوامل العرقية ذات الصلة والحالات الموجودة مسبقاً والأمراض المصاحبة ويشمل ذلك المراقبة ومتطلبات توثيق دقيقة وقابلة للتنفيذ بشكل معقول

توصية الطب ٣ عند تصميم منتجات الذكاء الاصطناعي لدعم القرار يجب ضمان عرض النتائج بطريقة تجعل مخاطر انحياز الأتمتة شفافة وتعمل على مواجهتها وتؤكد على الحاجة إلى فحص معقولية تأملي لمسار العمل المقترح من قبل نظام الذكاء الاصطناعي

توصية الطب ٤ عند جمع أو معالجة أو مشاركة البيانات المتعلقة بالصحة يجب مراعاة متطلبات صارمة ومعايير عالية للمعلومات وخصوصية البيانات وحماية الحياة الشخصية للأفراد ويحيل مجلس الأخلاقيات الألماني القراء إلى التوصيات التي وضعها في عام ٢٠١٧ في رأيه حول البيانات الضخمة والصحة والتي تستند إلى مفهوم سيادة البيانات وينطبق هذا المفهوم بالتساوي على الذكاء الاصطناعي في المجال الطبي

توصية الطب ٥ في الحالات التي أثبتت فيها دراسة تجريبية دقيقة تفوق تطبيق الذكاء الاصطناعي على طرق العلاج التقليدية يجب إتاحة الأول لجميع فئات المرضى ذوي الصلة

توصية الطب ٦ يجب دمج تطبيقات الذكاء الاصطناعي التي ثبت تفوقها بسرعة في التدريب السريري للمتخصصين الطبيين وذلك للتحضير لاستخدامها الموسع وتصميم هذا الاستخدام بشكل مسؤول للسماح لأكبر عدد ممكن من المرضى بالاستفادة وإزالة حواجز الوصول الحالية إلى أشكال العلاج الجديدة وهذا بدوره سيتطلب مناهج أو وحدات تدريبية جديدة وذات صلة للتعليم الأساسي والمستمر ويجب بالمثل أن تدمج المهن الصحية الأخرى مثل هذه العناصر في تدريبها لتعزيز كفاءة المستخدم العامة مع تطبيقات الذكاء الاصطناعي في قطاع الرعاية الصحية

توصية الطب ٧ في المواقف التي تجد فيها مكونات الذكاء الاصطناعي استخداماً روتينياً من الأهمية بمكان أن يمتلك المستخدمون السريريون مستوى عالياً من الخبرة المنهجية في تفسير النتائج والالتزام بمتطلبات الدقة الصارمة عند جمع و/أو تمرير البيانات أو اختبار توصيات الآلة من حيث المعقولية ويجب إيلاء اهتمام خاص لخطر تعرض الطاقم الطبي لفقدان المعرفة النظرية أو الخبرة العملية اللمسية وأي مهارات أخرى مرتبطة بها فقدان المهارات ويجب مواجهة ذلك بتدابير فعالة ومستهدفة لمزيد من التدريب

توصية الطب ٨ مع تولي مكونات الذكاء الاصطناعي المزيد والمزيد من الأنشطة الطبية والعلاجية والرعائية لا يكفي ببساطة إبلاغ المرضى مسبقاً بأي ظروف ذات صلة بقرارات علاجهم ويجب أيضاً بذل جهد من خلال التواصل المستهدف للحفاظ على الثقة بين الأطراف المعنية ومكافحة سيناريو يشعر فيه المرضى بشكل متزايد بالتهديد من التحويل إلى مجرد أشياء وكلما زاد استبدال النشاط البشري بالتكنولوجيا من خلال مكونات الذكاء الاصطناعي زادت الحاجة إلى تثقيف ودعم المرضى ويجب ألا يؤدي الاستخدام المتزايد لمكونات الذكاء الاصطناعي في الرعاية الصحية إلى مزيد من التقليل من قيمة الطب القائم على الحوار أو تخفيض عدد الموظفين

توصية الطب ٩ إن الاستبدال الكامل للأطباء بأنظمة الذكاء الاصطناعي من شأنه أن يعرض رفاهية المرضى للخطر ولا يمكن تبريره حتى بالإشارة إلى النقص الحاد في الموظفين الذي تعاني منه عدد من المجالات الطبية حالياً وأكثر من غيرها تتطلب مواقف العلاج المعقدة حصول المرضى على نظير شخصي وقد يتلقى هذا النظير مساعدة متزايدة من التكنولوجيا لكن هذا لا يجعله زائداً عن الحاجة كشخص مسؤول عن تخطيط وتقديم والإشراف على العلاج

التعليم

٧٤) التعليم المدرسي هو مجال ثانٍ تشهد فيه التقنيات الرقمية والأنظمة الخوارزمية استخداماً متزايداً مما يوفر إمكانات لمزيد من التوحيد والتخصيص في عملية التعلم وتتراوح التطبيقات المحتملة من خدمات فردية محددة narrowly إلى سيناريوهات تحل فيها أنظمة التدريس والتعلم المدعومة بالذكاء الاصطناعي محل المعلمين بشكل متقطع أو كامل

٧٥) يعتمد مفهوم التعليم الأساسي في هذا الرأي على قدرة الإنسان على الفعل الحر والعقلاني التي لا يمكن اختزالها في نماذج سلوكية أو وظيفية ويتطلب التعليم من المتعلمين تطوير معرفة توجيهية كشرط أساسي للحكم التأملي والقدرة على اتخاذ القرارات وهي عملية تشمل التعلم الثقافي بالإضافة إلى الجوانب العاطفية والتحفيزية ويجب اعتبار التدريس والتعلم عمليتين ديناميكيتين وتفاعليتين تشملان أشخاصاً آخرين وعند استخدام أدوات مدعومة بالذكاء الاصطناعي في المدارس يجعل هذا من الضروري فحص ما إذا كان تطبيق معين يتوافق مع ويعزز فهم الناس كقادرين على تعريف الذات وتحمل المسؤولية أو يعيقه بدلاً من ذلك

٧٦) نقطة الانطلاق لمعظم تطبيقات الذكاء الاصطناعي في التعليم هي جمع وتحليل كميات كبيرة من البيانات من المتعلمين وأحياناً من طاقم التدريس وهذا بدوره يثير تساؤلات حول الدرجة والمدى الذي يكون فيه جمع البيانات منطقياً وكذلك أنواع الاستخدامات المرغوبة وفي جوهرها يجب استخدام البيانات لتزويد الطلاب بأفضل دعم ممكن في تعلمهم الفردي وفي الوقت نفسه منع إساءة استخدام تلك البيانات لتتبع أو وصم المتعلمين الأفراد

٧٧) توفر البيانات المجمعة بشكل مثالي أساساً لتغذية راجعة فردية حول تعلم الشخص أو تدريسه بالإضافة إلى ردود أو توصيات مناسبة من نظام البرمجيات ومن خلال تحليل سرعة التعلم والأخطاء الشائعة أو نقاط القوة والضعف على سبيل المثال يمكن للبرنامج تعلم التعرف على ملف تعلم معين وتعديل المواد التعليمية وفقاً لذلك وفي حين أن البيانات يمكن أن تدعم الانطباعات الذاتية التي قد يكون لدى المعلم فقد تعمل في حالات معينة على تصحيحها

٧٨) كما في المجال الطبي يمكن أن يؤدي استخدام الذكاء الاصطناعي في المدرسة أيضاً إلى استبدال محدود أو معتدل أو واسع لأنشطة وتفاعلات بشرية معينة ويشكل استخدام نظام برمجيات لوحدة تعليمية محددة بدقة مثالاً واحداً على الاستبدال المحدود وفي الوقت نفسه تستطيع أنظمة التدريس الذكية الأكثر شمولاً وكثافة في البيانات نقل مواد تعليمية أكثر تعقيداً في تخصصات مختلفة بالتعاون مع المتعلمين وهذا يسمح لها بتغطية نطاق أوسع من الجوانب المتعلقة بالتدريس أو في حالات معينة تولي دور المعلم بالكامل

٧٩) هناك أيضاً جهود جارية حالياً لتوظيف الذكاء الاصطناعي في تحليل سلوك الفصل الدراسي تحليلات الفصل الدراسي بهدف توثيق وفهم ديناميكيات مجموعات كاملة من المتعلمين بشكل شامل وتجعل المجموعة الواسعة من البيانات التي تعتمد عليها هذه الطرق للقيام بذلك بما في ذلك معلومات حول سلوك الطلاب والمعلمين منها مثيرة للجدل ويقف احتمال تحسين الأساليب التربوية والتعليمية في مقابل العواقب السلبية التي قد يترتب عليها جمع البيانات على نطاق واسع على الحياة الخاصة للناس واستقلاليتهم

٨٠) أحد الجوانب المثيرة للجدل بشكل خاص في تحليلات الفصل الدراسي يتضمن مراقبة الانتباه أو التعرف على العاطفة في الفصل الدراسي خاصة عندما يستند إلى تحليل بيانات فيديو أو صوتية مأخوذة من الفصل الدراسي نفسه وفي حين أن هذه الجهود قد تكون مرتبطة بهدف تحسين نتائج التعلم إلا أن الشكوك لا تزال قائمة حول ما إذا كانت التكنولوجيا الحالية قادرة في الواقع على قياس الانتباه والعاطفة بدقة وموثوقية كافيتين ودون تحيز منهجي علاوة على ذلك تعتبر المخاطر المذكورة المرتبطة بجمع البيانات اللازمة خطيرة بشكل خاص في هذه الحالة

٨١) بشكل عام تشمل الفرص المرتبطة بالذكاء الاصطناعي في المدارس طرق التعلم المخصصة وتخفيف عبء العمل على المعلمين وإمكانية تحقيق موضوعية وعدالة أكبر عند تقييم التقدم وتحسين الوصول وفرص الإدماج للمتعلمين ذوي الاحتياجات الخاصة وإلى جانب المخاوف المتعلقة بالتحيز أو التعدي على خصوصية الناس واستقلاليتهم تشمل المخاطر المحتملة الأخرى تزايد العزلة والوحدة لدى الطلاب بالإضافة إلى تحولات نوعية في طبيعة التعلم نفسه وقد يؤثر استخدام الذكاء الاصطناعي على سبيل المثال بشكل أساسي على دافعية الطلاب للتعلم أو قدرتهم على حل مهام أكثر تعقيداً

٨٢) وبالتالي ففي حين أن أنظمة التدريس والتعلم المدعومة بالذكاء الاصطناعي قادرة على مساعدة عملية التعلم فإنها لا تستطيع أن تحل محل النقل المباشر من شخص لآخر أو تلبية العناصر الشخصية للتعليم ولا ينبغي التقليل من أهمية المدرسة كمساحة اجتماعية للتفاعل البشري فالتعليم ليس مجرد عملية قابلة للتحسين أو الحساب لتراكم المعرفة وأكثر من أي شيء آخر يتكون في زراعة علاقة بناءة ومسؤولة مع المعرفة المكتسبة وعلى هذا النحو يجب توخي الحذر الخاص لعدم تقليص عمليات التعلم المركزية لتطوير الشخصية البشرية عند تفويض جوانب من التدريس والتعلم إلى الآلات

٨٣) في ضوء هذه الخلفية صاغ مجلس الأخلاقيات الألماني إحدى عشرة توصية لاستخدام الذكاء الاصطناعي في التعليم المدرسي

توصية التعليم ١ الرقمنة ليست غاية في حد ذاتها ولا ينبغي أن يكون متى وكيف يُستخدم الذكاء الاصطناعي موجهاً بالرؤى التكنولوجية بل بالمفاهيم الأساسية للتعليم بما في ذلك الأفكار حول تكوين الشخصية وبالتالي يجب استخدام أي أدوات بطريقة خاضعة للرقابة ضمن العملية التعليمية واعتبارها عنصراً واحداً ضمن العلاقة بين المعلم والطالب

توصية التعليم ٢ في أي وقت يجد فيه الذكاء الاصطناعي استخداماً في الفصل الدراسي من الضروري وزن الفرص بعناية مقابل المخاطر ويجب أن تكون حماية استقلالية وخصوصية كل من المعلمين والطلاب في المقام الأول ويقدم الذكاء الاصطناعي فرصاً خاصة في مجالات الإدماج والمشاركة حيث يجب استخدام إمكاناته لتفكيك الحواجز اللغوية أو المادية على سبيل المثال

توصية التعليم ٣ الأدوات التي تحل محل أو تكمل عناصر فردية للتدريس والتعلم الاستبدال الضيق وتوسع بشكل واضح قدرات أو مهارات أو تفاعلات اجتماعية للأشخاص الذين يستخدمونها مثل بعض أنظمة التدريس الذكية أو روبوتات الحضور عن بعد لمواقف التعلم عن بعد هي من حيث المبدأ أقل إشكالية من تلك التي تحل محل أجزاء أكثر شمولاً أو أوسع من العملية التعليمية وكلما زادت درجة الاستبدال زادت صرامة تقييم مجالات التطبيق والعوامل البيئية والفوائد المحتملة

توصية التعليم ٤ من الضروري إنشاء أنظمة تصديق موحدة تستخدم معايير شفافة للتعلم الناجح بالمعنى الشامل المذكور أعلاه لمساعدة سلطات المدارس والمدارس والمعلمين في اتخاذ قرار لصالح أو ضد استخدام منتج معين للذكاء الاصطناعي وفي هذا السياق يمكن لهذا الرأي تأييد الاقتراح الوارد في تقرير اللجنة العلمية الدائمة للسياسة التعليمية في ألمانيا حول الرقمنة في النظام التعليمي لإنشاء مراكز تعليم رقمي دائمة عبر الولايات الفيدرالية

توصية التعليم ٥ يتطلب تطوير واختبار واعتماد منتجات الذكاء الاصطناعي للاستخدام في التعليم المدرسي تعاوناً وثيقاً بين السلطات ذات الصلة والجمعيات التربوية المهنية ومشاركة أصحاب المصلحة لتحديد نقاط الضعف في مرحلة مبكرة ووضع معايير جودة عالية ويجب مراعاة التحديات المعروفة المرتبطة بتقنيات الذكاء الاصطناعي مثل التحيز أو الميل إلى تجسيم التكنولوجيا أثناء التطوير والتوحيد القياسي

توصية التعليم ٦ يعد تحسين الكفاءة العامة مع تقنيات الذكاء الاصطناعي وخاصة بين المعلمين جانباً أساسياً لضمان استخدامها المسؤول في التعليم وهذا بدوره يعني إنشاء وتأسيس وحدات ومناهج تعليمية مناسبة لدورات التدريب المهني الأساسي والمستمر ويستحق خطر أن يؤدي الذكاء الاصطناعي إلى نهج تربوي أضيق وفقدان مهارات التدريس اعتباراً خاصاً واستباقياً وفي الوقت نفسه يجب تعزيز المهارات الرقمية لدى المتعلمين وأولياء الأمور على حد سواء وتوسيعها لتشمل تلك التي تتضمن الذكاء الاصطناعي

توصية التعليم ٧ يجب من حيث المبدأ إتاحة الأدوات القائمة على الذكاء الاصطناعي للمتعلمين أيضاً للدراسة الذاتية لتعزيز العدالة التشاركية

توصية التعليم ٨ يتطلب إدخال أدوات الذكاء الاصطناعي في البيئات التعليمية تطوير عدد من مجالات البحث المجاورة بما في ذلك البحث في الأسس النظرية والأدلة التجريبية حول آثارها على سبيل المثال على اكتساب المهارات مثل حل المشكلات أو التأثير على نمو الأطفال والمراهقين ولا ينبغي فقط زيادة الاستثمارات في البحث وتطوير المنتجات بل وقبل كل شيء زيادة الاختبار والتقييم العملي في الحياة المدرسية اليومية

توصية التعليم ٩ يثير تطبيق الذكاء الاصطناعي في البيئات التعليمية أيضاً مسألة سيادة البيانات ومن ناحية يعني هذا الالتزام بمتطلبات صارمة لحماية خصوصية الناس عند جمع أو معالجة أو مشاركة البيانات المتعلقة بالتعليم ومع ذلك يجب أن يكون جمع واستخدام البيانات الضخمة بشكل مسؤول وبطريقة موجهة نحو الصالح العام خياراً أيضاً كما هو الحال مع الأساليب التنبؤية التي تدعم التدريس

توصية التعليم ١٠ يتعارض الاستبدال الكامل للمعلمين بأنظمة الذكاء الاصطناعي مع مفهوم التعليم المقدم في هذا الرأي ولا يمكن تبريره بالإشارة إلى النقص الحالي في الموظفين أو سوء تدريب المعلمين في مجالات معينة وفي الوضع المعقد للتعليم المدرسي هناك حاجة إلى نظير شخصي وقد يتلقى هذا النظير مساعدة متزايدة من التكنولوجيا لكن هذا لا يجعله زائداً عن الحاجة كشخص مسؤول عن توفير الدعم التربوي أو تقييم عملية التعلم

توصية التعليم ١١ بشكل عام يشكك أعضاء مجلس الأخلاقيات الألماني في استخدام المراقبة الصوتية والمرئية في الفصل الدراسي سواء بسبب التحديات المعرفية والأخلاقية التي يمثلها أو عند وزن الفوائد والأضرار المحتملة وبشكل خاص لا يبدو تحليل الانتباه والعواطف في الفصل الدراسي عبر المراقبة الصوتية والمرئية باستخدام التقنيات المتاحة حالياً مبرراً ويبقى بعض أعضاء المجلس منفتحين على مراقبة الانتباه والعاطفة في المستقبل بشرط أن يُظهر العلم أن البيانات المجمعة تحسن عملية التعلم بطريقة قابلة للإثبات علمياً وأن أي مراقبة ضرورية لجمع البيانات ليس لها تأثير غير مقبول على خصوصية أو استقلالية المتعلمين والمعلمين تحت المراقبة وفي المقابل يعتبر أعضاء آخرون في المجلس أن الآثار المترتبة على الخصوصية والاستقلالية والعدالة غير مقبولة بشكل عام ويدعون إلى حظر تقنيات مراقبة الانتباه في المدارس

الاتصال العام وتشكيل الرأي

٨٤) تؤثر التحولات في العالم الرقمي أيضاً على مجال الاتصال السياسي فالانتشار السريع للمنصات الرقمية ووسائل التواصل الاجتماعي مع مجموعة أنماط المعلومات والاتصال التي تقدمها خوارزمياتها لا يؤثر فقط على المجالات الاجتماعية الفردية بل يحتمل أن يؤثر أيضاً على أجزاء كبيرة من الاتصال العام وتشكيل الرأي وهذا بدوره له عواقب على هياكل الشرعية الديمقراطية

٨٥) تقدم العديد من هذه المنصات الآن نطاقاً مشابهاً من الخيارات لإنشاء وتوزيع محتوى الوسائط المتعددة والتفاعل مع المستخدمين الآخرين أو الرد على المحتوى الذي ينشرونه والبحث عن مواد أو الاشتراك فيها ولدى المستخدمين أيضاً مجموعة واسعة من الخيارات لإنشاء إعلانات مستهدفة لمحتواهم أو تقديم منتجات أو خدمات مباشرة أو إجراء عمليات شراء ويتم تشغيل كل منصة أو خدمة من هذا النوع تقريباً بواسطة شركات خاصة من الولايات المتحدة أو الصين حيث تدير حفنة قليلة من الشركات أكبر الشبكات الاجتماعية واليوم تعني قوة السوق لهذه الشركات مقترنة بتعدد استخدامات خدماتها وتكاملها الواسع أن المنصات أصبحت تعمل كبنى تحتية اجتماعية وتقنية شاسعة تجري عليها غالبية السلوك عبر الإنترنت وكل ذلك وفقاً لأحكام عدد قليل من الشركات

٨٦) تأتي الثروة من المعلومات وفرص التفاعل التي توفرها وسائل التواصل الاجتماعي مصحوبة بتحديات تقنية بالإضافة إلى إمكانات اقتصادية ساهمت بشكل مشترك في كيفية عمل المنصات حالياً ونماذج الأعمال التي تستند إليها وفي الوقت نفسه تواجه كمية المحتوى المنصات والمستخدمين على حد سواء بمسألة اختيار المعلومات وفي الوقت الحالي تُفوض هذه المهمة حصرياً تقريباً للخوارزميات التي تضمن لاحقاً عرض تسلسل محدد من المحتوى المصمم خصيصاً لكل زائر للمنصة

٨٧) ترتبط المعايير التي تقرر الخوارزميات بناءً عليها المحتوى الذي سيتم عرضه ارتباطاً وثيقاً بالعوامل الاقتصادية وتتبع غالبية المنصات والخدمات نموذج عمل قائم على الإعلانات ويعمل هذا النموذج بشكل أفضل من خلال تحديد اهتمامات المستخدمين الفردية وجعلهم يقضون أكبر قدر ممكن من الوقت على المنصة مع تقديم إعلانات مضبوطة وفقاً لاهتماماتهم الشخصية وهذا يمنح المنصات مصلحة في جمع أكبر قدر ممكن من البيانات حول خلفيات المستخدمين الشخصية واهتماماتهم وأنماط استخدامهم وشبكتهم الاجتماعية ثم استخدام البيانات عند اختيار المحتوى المخصص التنميط

٨٨) إن السماح للخوارزميات بالتحكم في المعلومات الفردية التي يُعرض على المستخدمين وهي عملية مرتبطة ارتباطاً وثيقاً بالاعتبارات الاقتصادية والقائمة على الاهتمام ويتم تعديلها باستمرار بناءً على أنماط الاستخدام يؤدي إلى انتشار المحتوى المثير بشكل خاص أو الذي يثير ردود فعل عاطفية قوية بسرعة واتساع غير متناسبين ومن بين أمور أخرى يسهل ذلك انتشار الأخبار الكاذبة أو المحتوى الذي يتضمن خطاب كراهية أو تشهيراً أو تحريضاً على الكراهية

٨٩) استجابت المنصات لتحديات المحتوى المحتمل أن يكون إشكالياً والمنتشر بسرعة من خلال محاولة ضبطه وفقاً لمعايير مختلفة ضبط المحتوى وهو جهد يعتمد على البشر وكذلك الأنظمة الخوارزمية وتستمد هذه المعايير أساسها من الأطر القانونية بالإضافة إلى قواعد الاتصال الخاصة بالمنصة والتي قد تؤدي حتى إلى حذف أو حظر أو احتواء انتشار محتوى مسموح به قانوناً في الواقع

٩٠) يتم إنجاز الضبط البشري عادة بواسطة موظفين يعملون لدى أطراف ثالثة وقعت عقداً مع منصة معينة وغالباً ما يعمل هؤلاء الموظفون في ظروف غير مستقرة ويتعرضون بانتظام لمواد مؤلمة للغاية مثل عمليات الإعدام وإساءة معاملة الأطفال وتعذيب الحيوانات والانتحار وعلاوة على ذلك غالباً ما يكون لديهم بضع ثوانٍ فقط لاستيعاب الفروق الدقيقة اللغوية والثقافية المعقدة التي يمكن أن تلعب دوراً حاسماً في قبول منشور معين

٩١) وفي المقابل تستطيع الخوارزميات تصفية المواد المسيئة دون اضطرار البشر لمشاهدتها وهي أكثر قدرة على التعامل مع الكمية التي لا تحصى من البيانات والمحتوى المتاح على الإنترنت ومع ذلك فإن الطرق الآلية الموجودة حتى الآن غالباً ما تكون غير قادرة بعد على التقدير الكامل للسياق الثقافي والاجتماعي للمنشور والحكم عليه بعدالة ويؤدي الهيكل الحالي للحوافز القانونية إلى خطر حذف أو جعل محتوى غير متاح بشكل منهجي حتى لو لم ينتهك القواعد الحجب المفرط

٩٢) يمكن توسيع أو تقليص القدرات البشرية على الفعل بطرق مختلفة من خلال الوظائف الموصوفة للمنصات والترابطات الاجتماعية والتقنية التي تتكشف فمن ناحية يمكن أن يجعل تعيين الخوارزميات لتنسيق أو ضبط المواد العملية أسهل وأكثر كفاءة مما يوسع خيارات الناس للعمل من خلال تمكينهم من الوصول إلى المعلومات أو تحقيق أهداف شخصية بشكل أكثر فعالية أو سرعة على سبيل المثال أو منحهم مجالاً أكبر لأنشطة أخرى من خلال تفويض اختيار المحتوى للخوارزميات

٩٣) قد تتقلص القدرة على الفعل والحرية الشخصية من ناحية أخرى في الحالات التي يصعب فيها مقاومة الانجذاب إلى المواد عبر الإنترنت أو وضع حد صحي لاستخدامها ويمكن للسماح للخوارزميات بتنسيق المحتوى أيضاً أن يقلص التأليف البشري من خلال توقع قرارات معينة تتعلق بالأهمية مما يحد من مدى قدرتنا على استنتاج البدائل لأنفسنا في هذه العملية

٩٤) إلى جانب آثارها العامة تؤثر الطرق التي تعمل بها المنصات ووسائل التواصل الاجتماعي أيضاً على جانبين حاسمين لعملية تشكيل الرأي العام جودة المعلومات وجودة الخطاب مع عواقب بعيدة المدى محتملة على العملية السياسية ولا يمكن استخلاص استنتاجات نهائية في الوقت الحالي حول مدى انتشار وقوة الآثار التي نوقشت أدناه ويرجع ذلك جزئياً إلى أن البيانات تكون في بعض الأحيان غير واضحة أو متضاربة ومع ذلك يجدر إلقاء نظرة فاحصة على الآليات الموصوفة أعلاه ولو لمجرد أن العمليات التي تمسها أساسية لديمقراطيتنا

٩٥) فيما يتعلق بجودة المعلومات يجدر أولاً الإشارة إلى تطور إيجابي في العدد المتزايد من المصادر المتاحة وكثيراً ما تقابل ذلك مخاوف بشأن النتائج السلبية التي يمكن أن تترتب على ممارسات التنسيق الخوارزمي الحالية سواء كان ذلك تعزيز انتشار الأخبار الكاذبة أو نظريات المؤامرة أو المساهمة في إنشاء فقاعات التصفية وغرف الصدى أو إعطاء الأولوية للمحتوى الذي يستفز ردود فعل وتفاعلات عاطفية وأخلاقية ضارة

٩٦) لا تزال هناك شكوك حول المدى الفعلي لهذه الظواهر ومع ذلك يبدو من المعقول أن الأخبار الكاذبة وفقاعات التصفية وغرف الصدى بالإضافة إلى النبرة العاطفية والأخلاقية المتزايدة للكثير من المواد المتاحة عبر الإنترنت يمكن أن تؤثر سلباً على جودة المعلومات وفي ظل هذه الظروف تفرض القوة الهائلة للخوارزميات المستخدمة حداً فعلياً على حريتنا في البحث عن معلومات عالية الجودة

٩٧) تتأثر جودة الخطاب أيضاً من منظور أخلاقي وسياسي بالتغييرات في جودة وعرض ونشر المعلومات بوساطة الخوارزميات وهنا أيضاً تظهر تطورات وإمكانيات إيجابية خاصة في النطاق الأوسع بكثير من فرص المشاركة والتواصل المباشر التي توفرها المنصات ووسائل التواصل الاجتماعي ومع ذلك تقابل فرص جودة الخطاب أيضاً تطورات سلبية أكثر وينصب التركيز على ثلاثة مواضيع رئيسية الاستقطاب السياسي للخطاب العام والإعلان السياسي والتلاعب ومجال التوتر المحدد بخطاب خشن بشكل متزايد من جهة والتدخل المفرط في حرية التعبير والرأي من جهة أخرى

٩٨) هناك الكثير من الأدلة على أن السهولة النسبية التي ينتشر بها المحتوى المشحون عاطفياً وأخلاقياً قد غيرت جزئياً نبرة الخطاب بما في ذلك وخاصة عبر القنوات المشاركة بنشاط في تشكيل الخطاب السياسي فعندما غير فيس بوك معاييره لاختيار المواد لمنح توزيع أوسع للمحتوى الذي يولد رد فعل غاضب بشكل خاص قام العديد من فرق الاتصالات السياسية بتعديل نبرة منشوراتهم لتلبية المعيار الجديد

٩٩) تقدم المنصات عبر الإنترنت أيضاً فرصة هائلة لحملات اتصالات قوية بشكل خاص والتي يمكن أن تعمل بشكل غير ملحوظ في البيئة الرقمية اليومية دون أن يدرك المستخدمون ذلك بشكل خاص ويمكن استخدام ثروة البيانات المخزنة في الملفات الشخصية الناتجة عن أنماط استخدام الناس لوضع إعلانات سياسية بدقة متناهية الإعلان المستهدف أو تضليل الناس استراتيجياً أو ثنيهم عن التصويت وفي حين أن معدل النجاح الفعلي لهذا النوع من الاستهداف الدقيق لم يتم بحثه بشكل كافٍ بعد فإن مجرد معرفة أن محاولات تُبذل للتلاعب بالتفضيلات السياسية على أساس خصائص نفسية شخصية للغاية من شأنه أن يضر بالخطاب السياسي ويقوض الثقة في عمليات تشكيل الرأي السياسية

١٠٠) يمكن للحسابات الوهمية المستخدمة لممارسة نفوذ استراتيجي على الخطاب السياسي والتي يعمل بعضها تلقائياً البوتات أن تقوض الثقة أيضاً ويمكن لحملات الاتصال استخدام مثل هذه الملفات الشخصية الوهمية لتعزيز رسائلها بنجاح مما يمنحها قوة إقناع أكبر وبالتالي تشويه الخطاب بطرق إشكالية

١٠١) يصاحب الاتجاه المذكور نحو نبرة لاذعة بشكل متزايد على المنصات وفي وسائل التواصل الاجتماعي قلق من أن الارتفاع في أساليب الاتصال السلبية والعدوانية للغاية بما في ذلك خطاب الكراهية والتهديدات والدعوات إلى العنف يمكن أن يساهم في وحشية الخطاب السياسي وحتى لو لم تتحول حملات التشهير المنتشرة عبر الإنترنت إلى إجراءات متخذة في العالم الحقيقي فقد يكون لها تأثير مخيف على الخطاب على سبيل المثال في الحالات التي تسبب فيها الآراء المعبر عنها الكثير من الانزعاج والخوف لدرجة أن الآخرين يمتنعون عن المشاركة في الخطاب العام مما يقلل من حريتهم وخيارات العمل

١٠٢) من ناحية أخرى تفلت الجهود الرامية إلى التخفيف من المحتوى الإشكالي المحتمل من خلال الضبط من النقد لأنها تثير أسئلتها الخاصة حول النظرية الديمقراطية ويمكن أن يشكل الحذف أو الحجب المفرط للمحتوى تدخلاً في حرية الرأي وحرية الصحافة ويؤدي إلى تأثيرات مخيفة بحد ذاتها في حال امتنع الناس عن نشر المحتوى في المقام الأول خوفاً من حذفه فوراً أو إغلاق حساباتهم مؤقتاً

١٠٣) بشكل عام يمكن للظواهر والتطورات التي تحدث داخل البيئات الاجتماعية والتقنية التي أنشأتها الشبكات الرقمية أن تؤثر بقوة على عمليات الاتصال العام وكذلك تشكيل الرأي السياسي واتخاذ القرار بما في ذلك وربما بشكل خاص في المجتمعات الديمقراطية وفي ضوء هذه الخلفية توصل مجلس الأخلاقيات الألماني إلى عشر توصيات لهذا المجال من تطبيقات الذكاء الاصطناعي

توصية الاتصال ١ تنظيم وسائل التواصل الاجتماعي يجب أن تكون هناك مبادئ توجيهية قانونية واضحة للشكل والمدى المطلوب فيه من وسائل التواصل الاجتماعي والمنصات عبر الإنترنت تقديم معلومات حول كيفية تنسيقها وضبطها للمحتوى وشرح كيفية تنفيذ ذلك بناءً على اللوائح المؤسسية ويجب أن تخضع هذه العملية للتحقق الخارجي والجهود الطوعية البحتة من قبل الفاعلين من القطاع الخاص وخاصة المراجعات غير الملزمة من قبل هيئات إشرافية ذاتية التعيين غير كافية وتوجد بالفعل نهجات تنظيمية لهذا في قانون الخدمات الرقمية للاتحاد الأوروبي لكنها لا تذهب بعيداً بما يكفي بعد

توصية الاتصال ٢ الشفافية فيما يتعلق بممارسات الضبط والتنسيق بدلاً من المبادئ التوجيهية العامة حول الضبط أو الحذف والأرقام غير المفيدة حول عدد عمليات الحذف يجب أن تتمكن الهيئات الخارجية من تتبع الوسائل والظروف والمعايير التي تتخذ وتنفذ بها هذه الأنواع من القرارات والدور الذي لعبته الخوارزميات أو الوسطاء البشريين في العملية علاوة على ذلك يجب الكشف عن الآليات الأساسية لتحديد كيفية تنسيق المحتوى على وسائل التواصل الاجتماعي والمنصات عبر الإنترنت إلى حد يسمح بتحديد التحيز المنهجي والاختلالات المعلوماتية المحتملة الناتجة عنه ومتطلبات الإبلاغ ومبادئ الشفافية المنصوص عليها في معاهدة إعلام الدولة الألمانية وقانون إنفاذ الشبكة وقانون الخدمات الرقمية ليست كافية حالياً لضمان ذلك وينطبق عدد من متطلبات الإبلاغ المنصوص عليها بموجب المواد ١٢ وما يليها من اللائحة العامة لحماية البيانات فقط على المستوى الوطني وغالباً لا تغطي هذه الجوانب الأوسع

توصية الاتصال ٣ وصول الباحثين إلى بيانات المنصات للتحقيق في تأثير المنصات ووسائل التواصل الاجتماعي وتأثيرها على الخطاب العام وأيضاً مواضيع أخرى ذات صلة اجتماعية عالية يجب ضمان عدم حرمان الباحثين المستقلين من الوصول إلى بيانات المنصات ذات الصلة بحجج عامة لأسرار تجارية أو تجارية وسيحتاج إلى إيجاد طرق وصول آمنة تتوافق مع قوانين خصوصية البيانات وتدعم أخلاقيات البحث ويحتوي قانون إنفاذ الشبكة وقانون الخدمات الرقمية بالفعل على لوائح للوصول إلى البيانات رغم أنها محدودة للغاية في نطاقها ويوفر قانون البيانات إطاراً تنظيمياً قابلاً للمقارنة

توصية الاتصال ٤ معالجة مخاوف الأمن وخصوصية البيانات والسرية يجب تكييف متطلبات الإفصاح أو الوصول إلى البيانات مع السياق مع معالجة متطلبات الأمن والحماية من سوء الاستخدام وانتهاكات خصوصية البيانات والملكية الفكرية والأسرار التجارية بشكل كافٍ واعتماداً على السياق يجب التمييز بين أوقات تدقيق ومستويات إفصاح محددة بوضوح أكثر أو أقل

توصية الاتصال ٥ الإعلانات المخصصة والتنميط والاستهداف الدقيق تشكل الإعلانات المخصصة نموذج العمل المركزي لوسائل التواصل الاجتماعي والمنصات عبر الإنترنت ومع ذلك يمكن أن يكون للتنميط والاستهداف الدقيق عواقب سلبية في سياق الاتصال العام وتشكيل الرأي خاصة في حالة الإعلان السياسي ومن أجل منع مثل هذه الآثار السلبية من خلال تنظيم فعال من الضروري أولاً خلق ظروف تمكن من استكشاف وفحص العلاقة بين نماذج العمل وممارسات التنسيق الخوارزمي فيما يتعلق بطرق عملها وآثارها ويعالج الاقتراح الحالي للائحة الاتحاد الأوروبي التي تحكم شفافية الإعلانات السياسية المستهدفة هذه الحاجة وفي الوقت نفسه يكشف هذا أيضاً عن تحديات صياغة قوانين تكون في نفس الوقت فعالة ولا تمس الخطاب السياسي الحر

توصية الاتصال ٦ تحسين تنظيم التسويق عبر الإنترنت وتداول البيانات تجد العديد من الأنماط المختلة في المعلومات والاتصال أصلها في التسويق عبر الإنترنت والذي يشكل بدوره نموذج العمل الأساسي للعديد من أشكال وسائل التواصل الاجتماعي والمنصات عبر الإنترنت ويعمل التسويق عبر الإنترنت من خلال جمع وتحليل ثم بيع مجموعة واسعة من البيانات حول الأشخاص الذين يستخدمون الخدمات والمشكلة ليست التمويل من الإعلانات في حد ذاته بقدر ما هي الطريقة التطفلية التي يتم بها التعامل مع البيانات ومن ناحية يجعل هذا من الضروري البحث عن تأثير نموذج العمل على الخطاب العام بشكل أوثق ومن ناحية أخرى هناك حاجة إلى لوائح قانونية محسنة لحماية الحقوق الأساسية للأفراد بشكل أكثر فعالية مع تقليل أي آثار سلبية منهجية على الخطاب العام وفي عام ٢٠١٧ قدم مجلس الأخلاقيات الألماني بالفعل اقتراحات في هذا الاتجاه تحت مفهوم سيادة البيانات في رأيه حول البيانات الضخمة والصحة وفي حين أن اللوائح الأوروبية مثل قانون الأسواق الرقمية تعالج مشكلة قوة البيانات للمنصات الكبيرة فإنها لا تفعل ذلك بالنظر إلى الآثار المترتبة على الخطاب العام ولو لأسباب تتعلق بالاختصاص التنظيمي

توصية الاتصال ٧ قيود السلطة والرقابة يجب إلزام الشركات التي تتمتع باحتكار فعلي للسلطة في كيفية عرض البيانات أو الحقائق علناً بحماية التعددية والأقليات والحماية من التمييز من خلال متطلبات قانونية ومراقبة مناسبة ويعتقد بعض أعضاء مجلس الأخلاقيات الألماني أنه ينبغي توسيع لوائح قانون الإعلام الحالية لضمان التعددية والحياد والموضوعية لتطبق عموماً على خدمات الأخبار على وسائل التواصل الاجتماعي والمنصات عبر الإنترنت إلى الحد الذي تشبه فيه تلك الخاصة بوسائل الإعلام التقليدية

توصية الاتصال ٨ توسيع استقلالية المستخدم يجب أن تتيح المنصات ووسائل التواصل الاجتماعي أيضاً المحتوى دون تنسيق مخصص بالإضافة إلى ذلك يجب أن يكون لدى المستخدمين نطاق أوسع من الخيارات تحت تصرفهم لاختيار المعايير التي تختار الخوارزميات المحتوى بناءً عليها على المنصات ووسائل التواصل الاجتماعي والترتيب الذي يظهر به ويجب أن يشمل ذلك خياراً يسمح للمستخدمين بعرض مواقف معارضة تتعارض مع التفضيلات التي articuloها حتى الآن ويجب أن تكون خيارات عرض المحتوى المختلفة مرئية ويسهل الوصول إليها

توصية الاتصال ٩ تعزيز علاقة نقدية تجاه المحتوى من أجل الحد من الانتشار الطائش للمحتوى المشكوك فيه يجب على المنصات تطوير وتوظيف نظام واسع من الإشعارات التي تشجع المستخدمين على الانخراط بشكل نقدي مع المواد قبل اتخاذ قرار بمشاركتها أو الرد عليها علناً وقد تكون استفسارات حول ما إذا كان المستخدم قد قرأ نصاً أو شاهد مقطع فيديو قبل مشاركته أو معلومات حول شرعية مصدر معين

توصية الاتصال ١٠ بنية تحتية بديلة للمعلومات والاتصال ينبغي النظر في إنشاء بنية تحتية اتصالات رقمية أوروبية عامة بجانب خدمات وسائل التواصل الاجتماعي الخاصة الحالية والتي لن يكون تشغيلها موجهاً نحو المصالح التجارية مثل جعل الناس يقضون أكبر قدر ممكن من الوقت على المنصة ولن يكون الهدف هنا هو توسيع نطاق البث العام التلفزيون والراديو إلى منصة رقمية أخرى بل توفير بنية تحتية رقمية كبديل للخدمات المدفوعة بالتجارة والاحتكارية القليلة ويمكن إنشاء منظمة في شكل مؤسسة عامة لضمان احتفاظ المنصة الجديدة باستقلال كافٍ عن الدولة

الإدارة العامة

١٠٤) بالنسبة للعديد من الأفراد والمنظمات يشكل مجال الإدارة العامة سواء تمت مواجهته من خلال قطاع المالية العامة أو النظام الضريبي أو متطلبات التسجيل أو الخدمات الاجتماعية أو في مساعدة الجناة ومحاكم الأحداث تجربة مباشرة لسلطة الدولة وتعتبر الإدارة العاملة والشفافة والمعترف بها كشرعية والمتجاوبة مع مواطنيها ضرورية لمجتمع حسن السير وقبول الديمقراطية والدولة وتجمع استراتيجيات الرقمنة في هذا المجال آمالاً في ترشيد وتسريع وتيرة العمل الإداري للدولة وتطوير استراتيجيات أكثر فعالية وتماسكاً لاستخدام البيانات وفي الوقت نفسه توسيع فرص الباحثين والمواطنين لمشاركة خبراتهم ويقابل هذا الطموح الرؤية البائسة لحكومة الخوارزميات حيث تمارس أنظمة البرمجيات المستقلة حكم الدولة على البشر

١٠٥) تجد أنظمة اتخاذ القرار الآلي أنظمة اتخاذ القرار الآلي أو الخوارزمي استخداماً واسع النطاق بشكل متزايد في الإدارة العامة وتشمل الأمثلة تقييم فرص الشخص في سوق العمل أو مراجعة أو تخصيص الخدمات الاجتماعية أو إجراء تنبؤات في عمل الشرطة وأحد مجالات الاهتمام الخاصة في هذا السياق هو مدى تأثير أنظمة الذكاء الاصطناعي على قدرة البشر على الفعل والتأليف البشري ومنح التردد الذي نميل به لقبول توصيات الآلة دون تحفظ انحياز الأتمتة بالفعل برمجيات المساعدة في اتخاذ القرارات الإدارية تأثيراً بعيد المدى

١٠٦) يثير استخدام الذكاء الاصطناعي في الإدارة العامة أسئلة أخرى أيضاً خاصة تلك المتعلقة بالعدالة وتشمل الأمثلة ما إذا كانت وإلى أي مدى الأنظمة المستخدمة تحسن بالفعل التشخيصات والتنبؤات وما إذا كانت معدلات الدقة نفسها موجودة لمجالات تطبيق مختلفة أو مجموعات من الناس وإمكانية وجود تحيز أو تمييز منهجي تحيز خوارزمي وفي الوقت نفسه تستطيع الأنظمة القائمة على البيانات أيضاً الكشف عن المظالم التاريخية أو التحيز البشري مما يسمح بالمعالجة

١٠٧) تشكل النزاعات المعيارية بين الأهداف أو القواعد التي لا يمكن التوفيق بينها بموجب القانون الألماني والذي يستند إلى الواجب الأخلاقي حدوداً أساسية في استخدام أنظمة اتخاذ القرار الآلي ففي النظام القانوني الألماني ليس وزن العواقب وحده هو الذي يحدد ما هو قانوني بل الحقوق غير المشروطة لحماية الشخص هي التي يجب uphold مما يؤدي إلى وضع حدود لتفويض اتخاذ القرارات الأخلاقية والقانونية للخوارزميات

١٠٨) تشكل الخدمات الاجتماعية منطقة إدارية واحدة تتخذ فيها قرارات ذات عواقب بعيدة المدى على المتأثرين بها على سبيل المثال حول ما إذا كان سيتم منح مساعدات حكومية أو اتخاذ إجراء حيث قد يكون هناك خطر على رفاهية الطفل أو تقييم المخاطر التي يشكلها الجناة في خدمات المراقبة وإن الخوارزميات المستخدمة بشكل متزايد لدعم هذه القرارات قادرة في الواقع على توسيع كفاءة المتخصصين مما يساعد الأخصائيين على وضع تقييمات حدسية خلاف ذلك على أساس أكثر متانة مع البيانات أو تصحيحها عند الضرورة والنتيجة قرارات موحدة قائمة على الأدلة وهذا مهم بشكل خاص عند تقييم احتمالية الخطر على سبيل المثال عند الاشتباه في تهديد لرفاهية الطفل أو في خدمة المراقبة

١٠٩) ومع ذلك يمكن للمساعدة المقدمة من الذكاء الاصطناعي في توفير نتائج ذات صلة أن تقلص أيضاً التأليف البشري وقد يحدث هذا في سياق مهني في حالة تبني اقتراح خوارزمية دون التحقق منه أولاً انحياز الأتمتة وقد يتأثر الأشخاص المتأثرون بتلك القرارات سلباً أيضاً إذا كانت التوصيات الخوارزمية ملوثة بالتحيز من خلال حرمانهم بشكل غير مبرر من فرص العمل أو التنمية

١١٠) خاصة عند تحديد حاجة الشخص للمساعدة يخفي استخدام الأنظمة الخوارزمية مخاطر التخلي عن علاقة حوارية والتي يمكن أن تكون حاسمة لكي يختبر الشخص الكفاءة الذاتية وإذا تم إهمال البعد الشخصي في تحديد مستوى حاجة الفرد نتيجة لترقية الخدمات الاجتماعية القائمة على الخوارزميات يمكن أن تتلاشى الآثار الإيجابية حتى للمساعدات المادية بسرعة مع عدم وجود أي تأثير دائم يذكر وعلى سبيل المثال يتنبأ نظام AMAS النمساوي بآفاق الشخص لإعادة الانضمام إلى سوق العمل وقد تعرض للنقد لإعطائه الأولوية لقيم ومعايير وأهداف سياسة مالية مقيدة تتعارض بشكل مباشر مع أهداف نظام رعاية قائم على الناس يركز على حاجة كل فرد للمساعدة

١١١) منع الجريمة هو مجال آخر تُستخدم فيه الخوارزميات بشكل متكرر أكثر فأكثر لتحليلات المخاطر ويعتمد policing التنبؤي على التطبيقات المقابلة للمساعدة في عمل الشرطة الوقائي من خلال التنبؤ بالجرائم المستقبلية والأشخاص المرجح ارتكابهم لها والأماكن التي قد ترتكب فيها بهدف منع الجرائم والنقاش حول الإجراءات المتعلقة بالأفراد مثير للجدل بشكل خاص في هذا السياق فمن ناحية هناك أمل في عمل شرطة أفضل وحماية أكثر فعالية للضحايا المحتملين ومن ناحية أخرى يمكن أن يكون لخطأ أو تحيز خوارزمي في جهود منع الجريمة عواقب وخيمة بشكل خاص على الأشخاص الذين تم تصنيفهم بشكل غير مبرر علاوة على ذلك يمكن أن يكون له تأثير واسع بشكل خاص بسبب تضمينه المنهجي في البرمجيات

١١٢) يشكل ضمان خصوصية البيانات مشكلة إضافية للشرطة التنبؤية وكقاعدة عامة فإن البيانات المستخدمة في عمل الشرطة حساسة بشكل خاص وفيما يتعلق بما يسمى بضوابط الدردشة لمنع ومكافحة الاعتداء الجنسي على الأطفال والتي اقترحت المفوضية الأوروبية لائحة بشأنها في مايو ٢٠٢٢ تُطرح تساؤلات حول ما إذا كانت المراقبة التي لا أساس لها والشاملة للاتصالات الخاصة مبررة أم أنها تشكل تعدياً غير متناسب على الحقوق الأساسية

١١٣) تشمل المخاوف احتمال أن السماح للخوارزميات بتوجيه عمل الشرطة ينطوي على خطر تثبيت صورة آلية للناس تجعل الفرد شيئاً وتختزله في تصنيفات مدفوعة بالبيانات مع إيلاء اهتمام ضئيل للأسباب المجتمعية الشاملة للإجرام

١١٤) بشكل عام يقدم استخدام إجراءات اتخاذ القرار الآلي في الإدارة العامة فرصاً وتحديات جديدة وهذه بدورها تثير أسئلة أخلاقية أعمق بالإضافة إلى أسئلة حول النظرية الديمقراطية على سبيل المثال من حيث مدى قابلية العمل الإداري للفهم والتفسير والثقة ولكن أيضاً في شكل مخاوف بشأن التمييز والتكنوقراطية حيث يختفي الاتصال والمداولة البشرية خلف كميات مجهولة من البيانات وواجهات المستخدم الموحدة

١١٥) إلى الحد الذي تمنح فيه الأنظمة الخوارزمية الوصول إلى كميات كبيرة من البيانات التي يوفر تقييمها المستهدف أساساً أقوى للقرارات يمكن لمثل هذه الأنظمة دعم التأليف البشري وهي من حيث المبدأ مبررة من منظور أخلاقي وفي الوقت نفسه فإن القبول غير النقدي لتوصيات النظام يهدد بتقليص التأليف البشري بما في ذلك سيناريو أسوأ الحالات حيث كل ما يتبقى هو عملية آلية تصل من خلالها الأنظمة التقنية إلى استنتاجات بعيدة المدى وربما وجودية للمعنيين وحيث لم يعد من الممكن تحديد الأخطاء أو التحيزات المنهجية

١١٦) عند استخدام الذكاء الاصطناعي في الإدارة العامة يجعل هذا من الضروري تقييم ووزن التفاصيل بعناية وبالاقتران مع السياق الآثار التي سيكون لتدبير معين على تأليف جميع المعنيين أو المتأثرين به لرؤية النزاعات التي قد تظهر وكيف يمكن أو ينبغي التعامل معها وقد أدى هذا بمجلس الأخلاقيات الألماني إلى تسع توصيات

توصية الإدارة ١ كلما أثر قرار معين بقوة على الوضع القانوني للفرد زادت الحاجة إلى فحص التوحيد القياسي المتزايد والتصنيفات الشاملة للحالات الفردية المرتبطة باتخاذ القرار الآلي أنظمة ADM واستكمالها باعتبارات خاصة بالحالة المطروحة

توصية الإدارة ٢ لاستباق الخطر الواضح لانحياز الأتمتة يجب إنشاء أدوات تقنية وتنظيمية احترازية تجعل من الصعب على المتخصصين قبول التوصيات الخوارزمية دون فحص حتى لأولئك الذين لهم القول الفصل ويجب فحص ما إذا كان عكس الالتزام بتقديم الأسباب ليس الانحراف بل الامتثال هو الذي يجب تبريره قد يكون إجراءً احترازياً مناسباً

توصية الإدارة ٣ التزام مؤسسات الدولة بدعم الحقوق الدستورية يعني أنه يجب وضع معايير عالية لمتطلبات الشفافية والقابلية للفهم عند استخدام وتطوير الأنظمة الخوارزمية وذلك للحماية من التمييز والوفاء بالالتزامات القانونية للمؤسسات بتبرير قراراتها

توصية الإدارة ٤ يجب وضع معايير الجودة لأنظمة البرمجيات مثل الدقة وتجنب الأخطاء وغياب التحيز المستخدمة في الإدارة العامة بطريقة ملزمة وشفافة ومن الضروري أيضاً توثيق أي طرق مستخدمة وفي هذا الصدد يجب أيضاً إخضاع ممارسات الشراء التي تشتري بها سلطات الدولة حالياً أنظمة البرمجيات لتقييم نقدي

توصية الإدارة ٥ أينما تُستخدم الأنظمة الخوارزمية في الإدارة العامة يجب ضمان امتلاك الأشخاص الذين يستخدمون الأنظمة للمهارات اللازمة وإلى جانب معرفة كيفية استخدام الأنظمة ببساطة يشمل ذلك الإلمام بقيودها ومصادر التحيز المحتملة بحيث يمكن تنفيذ الأنظمة بشكل مسؤول

توصية الإدارة ٦ يجب ضمان حقوق الأشخاص المتأثرين في الاطلاع والاعتراض على القرارات بشكل فعال أيضاً عند استخدام الأنظمة الخوارزمية وقد يتطلب هذا إجراءات ومؤسسات فعالة إضافية

توصية الإدارة ٧ في المجالات العامة والسياسية والإدارية يجب رفع الوعي بالمخاطر المحتملة التي تشكلها أنظمة الأتمتة مثل انتهاكات الخصوصية أو أشكال التمييز المنهجي ويشمل ذلك نقاشاً عاماً حول ما إذا كان الحل التقني ضرورياً حتى في سياقات معينة

توصية الإدارة ٨ في مجال الخدمات الاجتماعية يجب ضمان ألا تقوض أنظمة اتخاذ القرار الآلي أو تحل محل المعايير الأساسية للتفاعل الاجتماعي المهني مثل التشخيصات الاجتماعية المشتركة أو تخطيط المساعدة كجزء من تدابير العلاج والدعم ويشمل ذلك بشكل خاص تدابير لمنع التبسيط المفرط لتشكيلات الحالات الفردية والتنبؤات من خلال التصنيف الخشن للحالات و/أو مجموعات المستفيدين الناجم عن أنظمة اتخاذ القرار الآلي ويجب الحرص هنا على ألا يصبح تحديد حاجة الفرد للمساعدة أكثر تعقيداً وألا تتخلى عملية تحديد تلك الاحتياجات كما يتطلب التشريع الاجتماعي تدريجياً عن مصالح خارجية أحادية الجانب في تقليل المخاطر أو خفض التكاليف

توصية الإدارة ٩ تعمل سلطات إدارة الطوارئ ومن بينها الشرطة في مجالات ذات علاقة حساسة بشكل خاص بالحقوق الأساسية وهذا بدوره يؤثر على الدرجة التي يجوز فيها استخدام الأنظمة الخوارزمية في عمل الشرطة التنبؤي ويجب وزن المخاطر مثل التعدي على خصوصية الشخص أو التمييز المحتمل غير المقبول للأشخاص المتأثرين باستخدام أنظمة اتخاذ القرار الآلي بعناية مقابل آفاق تحسين أنظمة الاستجابة للطوارئ الحكومية بشكل كبير وتحقيق توازن بينها ويجب إجراء أي مداولة اجتماعية ضرورية للقيام بذلك على مستوى واسع ويجب أن يأخذ النقاش في الاعتبار صعوبة تحديد العلاقة بين الحرية والأمن ولن يكون منع أي انتهاك للقانون ممكناً بواسطة سيادة القانون

الجزء الثالث مواضيع شاملة وتوصيات عامة

ملخص التحليل السابق

١١٧) حظي مفهوم الذكاء الاصطناعي باهتمام متزايد داخل النقاش العام وفي بعض الأحيان يرتبط بآمال مفرطة وفي أحيان أخرى بمخاوف مفرطة ويرسم مجلس الأخلاقيات الألماني تمييزاً معيارياً أساسياً بين البشر والآلات فلا تمتلك أنظمة البرمجيات عقلاً نظرياً ولا عملياً وهي لا تتصرف أو تقرر لنفسها ولا يمكنها تحمل المسؤولية وحتى في الحالات التي قد تحاكي فيها التعاطف أو الرغبة في التعاون أو القدرة على البصيرة فهي ليست نظراء شخصيين

١١٨) يرتبط العقل البشري دائماً ببيئة اجتماعية مشتركة ملموسة وهذه هي الطريقة الوحيدة لتفسير فعاليته ويتصرف الفرد بعقلانية كجزء من بيئة اجتماعية وثقافية مشتركة وهذا سبب كافٍ لعدم إمكانية نسب العقل النظري أو العملي إلى أنظمة البرمجيات التي يتناولها هذا الرأي

١١٩) بينما يطور الناس التقنيات الرقمية ويستخدمونها كوسيلة لمتابعة غايات بشرية فإن هذه التقنيات تؤثر لاحقاً على خيارات العمل البشري وقد يؤدي هذا إلى فرص جديدة ولكنه يمكن أيضاً أن يستلزم تكيفات غير مرغوب فيها وبالتالي تمارس الآلات تأثيراً قوياً على قدرة البشر على الفعل حتى لو لم تكن هي الفاعلة نفسها ويمكنها توسيع أو تقليص خيارات العمل البشري بشكل كبير

١٢٠) في النهاية يجب أن يهدف تفويض النشاط البشري إلى الآلات إلى توسيع قدرة الإنسان على الفعل والتأليف ومن ناحية أخرى يجب تجنب تقليص أو تشتيت أو التهرب من المسؤولية وتحقيقاً لهذه الغاية يجب إجراء أي نقل للأنشطة البشرية إلى أنظمة الذكاء الاصطناعي بشفافية كافية لجميع المعنيين ليكونوا قادرين على فهم العناصر والمعايير والشروط الرئيسية لقرار معين

١٢١) سيتطلب الوصول إلى تقييم أخلاقي لقيمة وفائدة تفويض الفعل البشري السابق إلى الآلات دائماً النظر في الموقف المطروح مع أخذ وجهات نظر الأطراف المختلفة والأثر طويل المدى لمثل هذه النقلات في الاعتبار وكما هو الحال في كثير من الأحيان تكمن التحديات في التفاصيل وبشكل أدق في تفاصيل التكنولوجيا وسياقها المقصود والمعايير المؤسسية والاجتماعية والتقنية

١٢٢) لتسهيل هذه النظرة الخاصة بالسياق نظر مجلس الأخلاقيات الألماني في هذا الرأي في أمثلة لاستخدام الذكاء الاصطناعي في مجالات الطب والتعليم المدرسي والاتصال العام والإدارة واختار المجلس عن وعي قطاعات تختلف اختلافاً كبيراً من حيث نطاق اختراق الذكاء الاصطناعي حيث تعرض كل منها درجات متفاوتة لاستبدال الذكاء الاصطناعي للأنشطة البشرية السابقة وتتميز جميع القطاعات الأربعة بعلاقات وديناميكيات سلطة غير متكافئة للغاية مما يجعل من المهم أكثر استخدام الذكاء الاصطناعي بطريقة مسؤولة تضع في الاعتبار مصالح ورفاهية الفئات الضعيفة بشكل خاص ويسمح أخذ الاختلافات بين المجالات في الاعتبار لكيفية استخدام كل منها للذكاء الاصطناعي والدرجة التي تم بها تفويض الأنشطة إلى الآلات بإجراء اعتبار أخلاقي دقيق

تطوير المواضيع الشاملة والتوصيات

١٢٣) تكشف التطورات الاجتماعية والتقنية والأبعاد الأخلاقية الموصوفة في المجالات الأربعة عن سلسلة من المواضيع والتحديات الشاملة ذات الصلة بجميع المجالات الأربعة وإن كان ذلك في بعض الأحيان بأشكال مختلفة ولضمان تعامل المجتمع بشكل جيد مع الذكاء الاصطناعي في المستقبل فيما يتعلق بتوسيع قدرة الإنسان على الفعل والتأليف يجب معالجة هذه الأنواع من الأسئلة الشاملة ليس فقط في مجالات فردية بل أيضاً في نهج مترابطة عبر القطاعات

١٢٤) يمثل هذا النوع من التفكير الأفقي والعمودي على حد سواء تحديات خاصة لصنع السياسات والجهود التنظيمية المستقبلية ولذلك ينبغي للمواضيع الشاملة المقدمة أدناه والتي يبلغ كل منها ذروته في توصية أن تكون بمثابة حافز لنقاش أوسع حول الطرق التي يمكن ويجب أن تأخذ بها قرارات السياسات المستقبلية والتكنولوجيا في الاعتبار مثل هذه الأسئلة الأوسع في وقت واحد وإلى جانب الجوانب الخاصة بالقطاع

١٢٥) يعود الموضوع الشامل الأول إلى مفهوم مركزي في هذا الرأي وهو توسيع وتقليص خيارات العمل البشري وأحد القواسم المشتركة عبر القطاعات فيما يتعلق بالتوسع المرغوب فيه لخيارات العمل البشري هو أن الاستبدال الكامل للفاعلين البشريين بأنظمة الذكاء الاصطناعي محظور أينما كانت اللقاءات الشخصية الملموسة شرطاً مسبقاً ضرورياً لتحقيق أهداف الأفعال ومع ذلك هناك أيضاً حاجة إلى النظر بعناية في الاختلافات عند استخدام الذكاء الاصطناعي ضمن مجالات عمل فردية

توصية الموضوع الشامل ١ ستختلف مزايا وعيوب الذكاء الاصطناعي بشكل كبير لمجموعات مختلفة من الناس وكذلك المخاطر التي يتعرض لها المستخدمون الفرديون لفقدان مجموعات مهارات معينة ولذلك يتطلب تخطيط استخدام الذكاء الاصطناعي لمجالات عمل مختلفة نهجاً متمايزاً يوضح بوضوح الأهداف والمسؤوليات في الحالة المعينة بالإضافة إلى تقييم في الوقت المناسب لعواقب الاستخدام في الحياة الواقعية لتكييف الأنظمة بشكل أفضل مع السياق المحدد وتحسينها باستمرار

١٢٦) يتعلق الموضوع الشامل الثاني بتوليد المعرفة بواسطة الذكاء الاصطناعي والتعامل مع التنبؤات المدعومة بالذكاء الاصطناعي والفرضية المركزية في هذا الصدد هي أنه لا ينبغي مساواة الارتباطات وأنماط البيانات بالتفسيرات والتبريرات لأسباب الأحداث بل يجب أيضاً تقييمها نوعياً وتقييمها معيارياً ومع الأساليب الاحتمالية تبقى دائماً شكوك متبقية يجب اتخاذ قرار بشأن مقبوليتها ومن وجهة نظر أخلاقية من الإيجابي أن استخدام الذكاء الاصطناعي قد أدى إلى تحسينات وظيفية كبيرة في كل من المجالات الأربعة التي تم النظر فيها في هذا الرأي مع توقع المزيد في المستقبل ومع ذلك يتم تجاوز خط إشكالي جوهري ومعيارياً عندما تتحول التحسينات الوظيفية في عملية قد تمر دون أن يلاحظها أحد إلى استبدال الكفاءة الأخلاقية والمسؤولية المرتبطة بها

توصية الموضوع الشامل ٢ لتجنب تشتت المسؤولية يجب تصميم استخدام التقنيات الرقمية المدعومة بالذكاء الاصطناعي للمساعدة بدلاً من استبدال اتخاذ القرار البشري ويجب ألا يحدث استخدام الذكاء الاصطناعي على حساب خيارات فعالة للتحكم فيه وخاصة في المجالات التي تتميز بمستويات أكبر من التدخل يجب منح الأشخاص المتأثرين بالقرارات المدعومة خوارزمياً الوصول إلى أساس تلك القرارات وهذا بدوره يتطلب أنه في نهاية أي عملية تقنية يكون هناك شخص مجهز بسلطة اتخاذ القرار وقادر وملزم بتحمل مسؤولية هذا القرار

١٢٧) الموضوع الشامل الثالث هو الخطر الذي يشكله التقسيم الطبقي الإحصائي على الفرد وتستند العديد من تطبيقات الذكاء الاصطناعي إلى ارتباطات يتم اكتشافها عند تحليل كميات كبيرة من البيانات ويمكن استخدامها لتعيين الأفراد لمجموعات ذات مجموعات معينة من الخصائص ويمكن أن يؤدي توليد هذا النوع من المجموعات والتنبؤات التي تسمح للخوارزميات بإجرائها على أساسها إلى تحسين الجودة الشاملة وفعالية التطبيق ومع ذلك يمكن أن يشكل هذا أيضاً مشاكل للأفراد المتأثرين بمثل هذه الاستنتاجات الجماعية خاصة في الحالات التي لا ينطبق فيها التشخيص أو التنبؤ الناتج عليهم

توصية الموضوع الشامل ٣ بصرف النظر عن أي مشاكل محددة وفورية ناشئة عن البرمجيات القائمة على البيانات مثل كيفية حماية خصوصية الناس أو منع التمييز من الضروري النظر بعناية في الآثار طويلة المدى لتعيين الأفراد لفئات إحصائية مسبقة التكوين بالإضافة إلى أي تداعيات على خيارات العمل اللاحقة من حيث توسيع أو تقليص هذه الخيارات على المستويين الفردي والجماعي وعبر قطاعات مختلفة وتظل القرارات الفردية خياراً مهماً أيضاً ويمكن أن تكون التقييمات أو التنبؤات التي يتم إجراؤها باستخدام الذكاء الاصطناعي مساعدة عندما تكون الظروف مناسبة لكنها ليست مناسبة كوسيلة للوصول إلى تقييم نهائي لموقف أو قرار وتلعب العوامل البراغماتية والاستدلالية مثل اختبار النتائج للتسق مع مصادر أدلة مختلفة أو تقديرات النجاح دوراً مهماً في هذا الصدد

١٢٨) يتعلق الموضوع الشامل الرابع بما يعنيه الذكاء الاصطناعي للكفاءات والمهارات البشرية ويمكن أن يكون اكتسابها والحفاظ عليها مهدداً بتفويض الأنشطة البشرية إلى الآلات وكما هو الحال مع التقنيات الأخرى يمكن أن يؤدي استخدام تطبيقات الذكاء الاصطناعي إلى إهمال البشر لقدرات معينة أو فقدانها تماماً مما يخلق اعتماداً على هذه التقنيات ويمثل خطراً جسيماً إذا حدثت خسائر مجموعات المهارات والكفاءات البشرية في مجالات مهمة بشكل خاص بل وحاسمة للمجتمع

توصية الموضوع الشامل ٤ يجب مراقبتها بعناية ما إذا كان وإلى أي مدى يؤدي استخدام الذكاء الاصطناعي إلى خسائر غير مرغوب فيها في مجموعات المهارات البشرية ويجب إما إبقاء مثل هذه الخسائر عند الحد الأدنى أو تعويضها من خلال إنشاء خطة معقولة لتفاعلات الإنسان والتكنولوجيا عند تطوير وتطبيق تقنيات جديدة والاستفادة من أي أطر مؤسسية أو تنظيمية مناسبة واتخاذ تدابير مضادة مستهدفة مثل برامج تدريب محددة ويمكن فقدان مجموعات المهارات إما على المستوى الفردي أو الجماعي مما يجعل من الضروري ضمان ألا تجعل المجتمعات ككل نفسها عرضة بشكل مفرط لفشل تكنولوجي مؤقت عند تفويض المهام للتكنولوجيا وإلى جانب هذه الجوانب المنهجية يجب أيضاً تخفيف أي آثار سلبية على الاستقلالية الفردية أو الإدراك الذاتي

١٢٩) الموضوع الشامل الخامس هو فعل الموازنة بين حماية الخصوصية والاستقلالية من جهة والمخاطر التي تشكلها المراقبة والتأثيرات المخيفة من جهة أخرى ولا تمثل الكميات الكبيرة من البيانات الشخصية التي تعتمد عليها تطبيقات الذكاء الاصطناعي وإمكانية استخدامها للوصول إلى تنبؤات حساسة تعديات على خصوصية الأشخاص الذين يتم جمع بياناتهم فحسب بل تتركهم أيضاً عرضة للتمييز أو التلاعب المحتمل الذي قد ينشأ من معالجة البيانات وفي هذا السياق يصف مصطلح التأثير المخيف كيف يؤثر قلق الناس من مراقبتهم أو تسجيلهم أو تحليلهم على سلوكهم

توصية الموضوع الشامل ٥ يجب إخضاع ظهور وطبيعة وتطور الظواهر الموصوفة لبحث تجريبي شامل ويجب إيجاد تدابير وقائية قانونية وتقنية مناسبة وفعالة الخصوصية بالتصميم مثال واحد لمعالجة قضية المراقبة وأي مخاطر موازية ناشئة عن التأثيرات المخيفة ومنع تتبع وتداول السلوك عبر الإنترنت والبيانات الشخصية بشكل مفرط ويجب أن تظل مصالح أصحاب البيانات في المقدمة ويجب إيلاء اهتمام خاص للفئات الضعيفة نظراً لأن العديد من السياقات التي يُستخدم فيها الذكاء الاصطناعي تتميز بعلاقات سلطة غير متكافئة ويجب الحرص على ضمان ألا يأتي توسيع خيارات العمل لبعض الناس على حساب تقليص خيارات الآخرين وخاصة الفئات المحرومة

١٣٠) يدور الموضوع الشامل السادس حول مفاهيم سيادة البيانات واستخدام البيانات للصالح العام وقد تناول مجلس الأخلاقيات الألماني هذا الموضوع بالفعل في رأي عام ٢٠١٧ حول البيانات الضخمة والصحة والهدف في هذا السياق هو إيجاد طرق للذكاء الاصطناعي لاستخدام البيانات بشكل مفيد لمجموعة متنوعة من المشاريع المهمة دون التعدي في الوقت نفسه بشكل غير لائق على حق مقدمي البيانات في الخصوصية ومن الأسئلة المفتوحة ما إذا كانت قوانين وممارسات خصوصية البيانات الحالية تخدم كلا الهدفين بأمانة وفي حين توجد مخاوف مبررة حول انتهاكات حقوق الخصوصية وتقرير المصير المعلوماتي التي لم يتم اكتشافها والواسعة النطاق في أي عدد من المجالات فإن تفسير قوانين حماية البيانات بشكل صارم للغاية في سياقات أخرى قد يجعل تحقيق أهداف اجتماعية مهمة إما مستحيلاً أو صعباً للغاية فيما يتعلق برعاية المرضى أو اكتساب المعرفة العلمية على سبيل المثال ولكن أيضاً خدمات البلدية ذات المصلحة العامة

توصية الموضوع الشامل ٦ عند استخدام الذكاء الاصطناعي في مجال معين يجب إيجاد طرق جديدة لتسهيل أو السماح باستخدام البيانات الثانوي للصالح العام مع مراعاة التحديات أو الفوائد الخاصة بهذا المجال أو السياق وبالتالي توسيع خيارات العمل وفي الوقت نفسه من الضروري تحويل الوعي بين عامة الناس وكذلك المشاركين مباشرة في تحويل استخدام البيانات بعيداً عن منظور فردي مهيمن وقصير النظر نحو موقف يدمج ويوازن المفاهيم المنهجية أو تلك المتعلقة بالصالح العام ويجب أن يسود نفس الموقف في صنع السياسات والجهود التنظيمية المستقبلية إلى حد أكبر بكثير مما كان عليه الحال حتى الآن وهذه هي الطريقة الوحيدة لضمان أننا بجانب المخاطر التي تنشأ بلا شك من الاستخدام الواسع للذكاء الاصطناعي لا نغفل عن الفرص المهمة للاستخدام المسؤول للذكاء الاصطناعي

١٣١) يتعلق الموضوع الشامل السابع بالبنية التحتية الحيوية والتبعية والمرونة وفي سياق الرقمنة تتم مراقبة والتحكم في البنى التحتية مثل شبكات الكهرباء بشكل متزايد عبر الإنترنت وفي الوقت نفسه أصبحت التقنيات الرقمية نفسها شكلاً من أشكال البنية التحتية ويبني البشر سلوكهم على افتراض أن البنية التحتية متاحة وجاهزة للعمل وفي سياق هذا التملك الاجتماعي تنشأ تبعيات يمكن أن تعرض الاستقلالية البشرية للخطر ويشكل الافتقار إلى الشفافية والقابلية للفهم للأنظمة المدعومة بالذكاء الاصطناعي سبباً إضافياً للقلق حيث يتم استخدامها بشكل متزايد لإدارة البنية التحتية وكذلك احتمال أن يصبح المجتمع ومؤسساته أكثر عرضة للخطر بشكل متزايد مع زيادة تعقيد أنظمة البنية التحتية وتشغيلها

توصية الموضوع الشامل ٧ يجب تعزيز مرونة البنى التحتية الاجتماعية والتقنية وتقليل أي تبعيات فردية أو منهجية لتوسيع تأليف الفاعلين البشريين وحرية العمل ويبدأ هذا بالاعتراف بالدور المهم الذي يجب أن تلعبه التقنيات الرقمية في البنية التحتية ثم العمل بجدية أكبر لحماية وضمان مرونة البنى التحتية الرقمية الحيوية بما في ذلك من خلال العمل السياسي وبغض النظر عن المنطقة أو المجال من الضروري تجنب أشكال التبعية أحادية الجانب التي تترك المجتمع عرضة للهجوم في لحظات الأزمة ويتطلب تقليل الاعتماد على التكنولوجيا الرقمية أن يكون لدى المستخدمين خيار الاختيار بين البدائل دون أي خسائر كبيرة في الوظائف ويشمل ذلك الحاجة إلى التشغيل البيني والقدرة على التبديل بسهولة بين الأنظمة المختلفة ويجعل تحديد هذا الهدف من المهم بشكل خاص إنشاء أو توسيع البنى التحتية البديلة وفي سياق تشكيل الرأي العام هناك حاجة ملحة لإنشاء منصات اتصال رقمية عامة ومستقلة وفي قطاعات أخرى مثل الإدارة والتعليم والطب يقلل الاعتماد بشكل كبير على عدد قليل من الأنظمة أو الفاعلين أيضاً من القدرة الفردية والجماعية على الفعل

١٣٢) يدور الموضوع الشامل الثامن حول تبعيات المسار والاستخدام الثانوي ومخاطر سوء الاستخدام وتنشأ تبعيات المسار عندما تستمر القرارات المتخذة في بداية خط تطوير معين في إحداث آثارها بعد فترة طويلة وتصبح في بعض الأحيان صعبة العكس حتى بعد تغير السياق وبمجرد إدخال التقنيات من المحتمل أيضاً وجود ميل لاستغلال إمكاناتها بالكامل حتى خارج مجال التطبيق الأصلي ولا تعتبر الاستخدامات الثانوية مثل هذه إشكالية من الناحية النظرية على الرغم من أنه بمجرد تأسيسها قد يكون من الصعب منع استخدام التكنولوجيا في سيناريوهات أخرى بما في ذلك سيناريوهات سوء الاستخدام وفي كثير من الأحيان تفتح التقنيات الرقمية وخاصة التقنيات التمكينية مثل تعلم الآلة عالماً من إمكانيات الاستخدام التي يصبح فيها التمييز بين ما هو استخدام وما هو سوء استخدام صعباً بشكل متزايد

توصية الموضوع الشامل ٨ في حالة التقنيات ذات التأثير أو التوزيع الواسع وخاصة في الحالات التي يكون فيها تجنب استخدامها مستحيلاً أو شبه مستحيل يجب توقع التطورات طويلة المدى المحتملة مثل تبعيات المسار بشكل عام وإمكانات الاستخدام المزدوج بشكل خاص ودمجها في تخطيط التطوير كإجراء روتيني وينطبق هذا بشكل خاص على تخطيط التطبيق وإلى جانب الآثار التي تسبب ضرراً مباشراً في مجال معين يجب أيضاً أخذ الآثار التي تتجاوز أي مجال فردي في الاعتبار حتى لو كانت بالطبع أقل ملموسة وقابلة للتنبؤ ويمكن للمعايير العالية للأمن وحماية خصوصية الأفراد مثل الأمن بالتصميم والخصوصية بالتصميم أن تساعد بالمثل في الحد من سوء الاستخدام اللاحق ومنعه حيثما أمكن ذلك ويجب الحفاظ على معايير عالية بشكل خاص في الحالات التي تكون فيها التكنولوجيا تطفلية بشكل خاص على سبيل المثال قرارات الإدارة العامة حيث قد لا يكون لدى المواطنين خيار سوى استخدام التكنولوجيا وقد تمثل أساليب المصدر المفتوح طريقة مناسبة لضمان والتحقق من ذلك

١٣٩) يتعلق الموضوع الشامل التاسع بالتحيز والتمييز فتتعلم أنظمة الذكاء الاصطناعي القائمة على البيانات على أساس بيانات موجودة مسبقاً وتجلب التنبؤات والتوصيات الناتجة الماضي باستمرار إلى المستقبل مما يعيد إنتاج أو حتى تعزيز الصور النمطية وعدم المساواة والظلم الاجتماعي القائم من خلال دمجها في تقنيات تبدو محايدة ونادراً ما يتم تطوير أنظمة الذكاء الاصطناعي بقصد صريح للتمييز بل تنشأ آثار تمييزية من التفاعل بين الحقائق الاجتماعية أو الصور النمطية والقرارات التقنية والمنهجية ومع ذلك يمكن تصوراً على الأقل أن أنظمة معقدة قد تؤوي نية صريحة للتمييز

توصية الموضوع الشامل ٩ في ضوء التحديات تتطلب الحماية من التمييز درجة مناسبة من الإشراف والرقابة على أنظمة الذكاء الاصطناعي وخاصة في المجالات الحساسة يتطلب هذا إنشاء أو توسيع مؤسسات مجهزة تجهيزاً جيداً وكلما زاد مستوى التدخل وقلت خيارات الالتفاف حول النظام زادت صرامة متطلبات تقليل التمييز وحتى مع التكنولوجيا التي لا تزال قيد التطوير من الضروري تقليل التمييز و/أو خلق ظروف للعدالة والشفافية والقابلية للفهم ويجب تشجيع ذلك من خلال الحوافز مثل فرص تمويل البحث والمتطلبات القانونية المقابلة على سبيل المثال للكشف عن تدابير مكافحة التمييز التي تم اعتمادها في تطوير برنامج معين ومع ذلك فإن التدابير التقنية والتنظيمية لتقليل التمييز لها حدودها من بين أسباب أخرى لأن أهداف العدالة المختلفة ليست قابلة للتحقيق تقنياً في نفس الوقت دائماً ولذلك يجب اتخاذ قرارات أخلاقية وسياسية حول معايير العدالة التي يجب تطبيقها في أي سياق ويجب ألا تُترك هذه القرارات للأشخاص الذين يطورون البرنامج أو الآخرين المشاركين مباشرة وبدلاً من ذلك يجب تطوير إجراءات ومؤسسات مناسبة لمناقشة هذه المعايير بطريقة خاصة بالسياق وديمقراطية وإعادة التفاوض عليها كلما دعت الضرورة واعتماداً على الاستخدام المقصود وحساسية النظام قد تكون المشاركة العامة ضرورية ويجب توخي الحذر الخاص لحماية السكان الأكثر ضعفاً أو أولئك المتأثرين بشكل خاص بالقرارات

١٣٤) يتعلق الموضوع الشامل العاشر بأسئلة تتعلق بالشفافية والقابلية للفهم وكذلك التحكم والمسؤولية وترتبط عدم شفافية أنظمة الذكاء الاصطناعي المتكررة بعوامل مختلفة تتراوح من الرغبة في حماية الملكية الفكرية والإجراءات المعقدة والغامضة إلى نقص الشفافية في هياكل اتخاذ القرار التي تتضمّن فيها الأنظمة الخوارزمية نفسها وفي حين أن الشفافية والقابلية للفهم مرتبطتان بالدرجة النسبية للتحكم والمساءلة الموجودة لاستخدام نظام خوارزمي معين فإن أيّاً من الجانبين ليس إلزامياً أو كافياً

توصية الموضوع الشامل ١٠ هناك حاجة إلى تطوير معايير متوازنة ومحددة حسب المهمة والجمهور والسياق للشفافية والقابلية للتفسير والقابلية للفهم تثبت أهميتها للإشراف والمسؤولية وتضمن تنفيذها من خلال مبادئ توجيهية تقنية وتنظيمية ملزمة وفي هذا السياق يجب أن تفي العملية بشكل كافٍ بأي متطلبات تتعلق بالأمن أو الحماية من سوء الاستخدام أو انتهاكات خصوصية البيانات وحماية الملكية الفكرية والأسرار التجارية واعتماداً على السياق يجب تحديد نقاط زمنية مختلفة مسبقاً لاحقاً في الوقت الفعلي بالإضافة إلى إجراءات ودرجات إفصاح مختلفة

١٣٥) نظر هذا الرأي في تأثير تفويض البشر بشكل متزايد للأنشطة إلى التقنيات الرقمية وخاصة أنظمة البرمجيات القائمة على الذكاء الاصطناعي وقد أظهرت أمثلة عديدة من مجالات الطب والتعليم المدرسي والاتصال العام وتشكيل الرأي والإدارة العامة كيف ترتبط عملية التفويض هذه بتوسع وتقليص خيارات العمل البشري مما يجعلها إما مفيدة أو ضارة لتحقيق التأليف البشري

١٣٦) يجب أن يظل تعزيز التأليف البشري هو الهدف والمبدأ التوجيهي للتقييم الأخلاقي وفي القيام بذلك من الضروري أن نضع في الاعتبار أن توسيع خيارات العمل لمجموعة ما قد ينطوي على تقليص خيارات مجموعة أخرى ويجب أخذ هذه الآثار المتباينة في الاعتبار خاصة فيما يتعلق بحماية وتحسين وضع الفئات الضعيفة أو المحرومة وفي حين أن المتطلبات المعيارية التي تشكل استخدام هذه التقنيات مثل متطلبات الشفافية أو القابلية للفهم وحماية الخصوصية أو منع التمييز هي في النهاية ذات أهمية كبيرة بغض النظر عن المجال أو المتأثرين إلا أنه لا يزال يتعين تحديدها حسب القطاع والسياق والجمهور لضمان أنها مناسبة وفعالة

المصدر

مقالات ذات صلة

• تقنية المعلومات والقيم الأخلاقية (موسوعة ستانفورد للفلسفة)

• البرمجيات والمسؤولية الأخلاقية (موسوعة ستانفورد للفلسفة)

• فلسفة التقنية (موسوعة ستانفورد للفلسفة)

• الخصوصية وتكنولوجيا المعلومات (موسوعة ستانفورد للفلسفة)

• الخصوصية (موسوعة ستانفورد للفلسفة)

• الذكاء الاصطناعي ومستقبله

الأسئلة الشائعة