جدلية الشخصية القانونية للآلات الذكية كأساس للمسؤولية المدنية عن الأضرار الناجمة عنها - حيدر علاء الكرادي - علي مطشر عبد ألصاحب

 




جدلية الشخصية القانونية للآلات الذكية كأساس للمسؤولية المدنية عن الأضرار الناجمة عنها

حيدر علاء الكرادي  - علي مطشر عبد ألصاحب

ماجستير / جامعة بغداد / كلية القانون - جامعة بغداد / كلية القانون

 

Dialectics of the legal personality of intelligent machines as a basis for civil liability for damage caused by them

Hidar AALAE AL KARADI – Ali MADCHER ASAHIB

 

المُلخص

أفرزت الثورة الرقمية دمج الذكاء الاصطناعي بكيانات مادية بحيث أصبحت قادرة على العمل باستقلالية في مختلف مجالات الحياة الجوهرية. ونظراً للطبيعة الخاصة التي تتسم بها هذه الآلات أصبحت النظريات التقليدية للمسؤولية المدنية عاجزة عن وضع أساس عادل لتحديد الشخص المسؤول عن أضرارها. وقد ظهرت مؤخراً فكرة منح الآلات الذكية القانونية من أجل تحميلها المسؤولية بذاتها عما تسببها من أضرار. وقد لاقت هذه الفكرة رواجاً فقهيا أكبر بعد أن اقترحها قرار البرلمان الأوروبي بشأن قواعد القانون المدني للروبوتات لسنة 2017. وقد هدفت الدراسة الى تحليل فكرة منح الآلات الذكية الشخصية القانونية وبيان مدى قيمة هذه الفكرة، من خلال استقراء وتحليل الاتجاهات الفقهية المؤيدة لها. وقد خرجت الدراسة بعدة نتائج أبرزها ان الآلات الذكية المرشحة بشكلٍ بارز للحصول على الشخصية القانونية هي الآلات ذات التعلم العميق والمعزز نظراً لاستقلاليتها العالية وتعقيدها التصنيعي. كما خرجت بتوصيات كان أبرزها منح الآلات الذكية ذات التعلم العميق والمعزز شخصية قانونية ذات طبيعة وظيفية.

مقدمة

أولاً: التعريف بموضوع البحث: نظراً للسمات الخاصة للآلات الذكية من وجود مادي وذكاء اصطناعي واستقلالية فضلاً عن أهميتها العملية وارتباطها المباشر والمتزايد بقطاعات مهمة للحياة البشرية، أصبحت طبيعتها القانونية موضوعاً جدلياً وواحدة من اهم التحديات التي تواجه الفقه المعاصر(([1]. وعلى الرغم من حداثة انتشار هذا الموضوع الجدلي، الا ان فكرة منح أنظمة الذكاء الاصطناعي الشخصية القانونية ليست حديثة العهد، حيث نجد ان هذه الفكرة قد طرحها من الفقه الأمريكي منذ عام 1992، في بحث بعنوان " الشخصية القانونية للذكاء الاصطناعي " ([2]). الا ان أهمية هذا الموضوع برزت اليوم، نظراً لأن هذه الآلات لم تعد خيالاً علمياً، بل أصبحت تنتشر وتكتسب أهمية متزايدة. وهذا ما انعكس على موقف قرار البرلمان الأوروبي بشأن قواعد القانون المدني للروبوتات في تحديد طبيعة هذه الآلات القانونية، ففي صدد معالجته لعجز النظريات التقليدية في تأسيس المسؤولية المدنية عن أضرار الآلات الذكية، اقترح ومن بين جملة حلول منح الشخصية القانونية التي اطلق عليها ( الشخصية الالكترونية ) للآلات التي تتخذ القرارات وتتفاعل مع البيئة المحيطة باستقلالية([3]). ويأتي ذلك بعد ان بين ان هذه الآلات كلما كانت اكثر استقلالية كلما قل اعتبارها أدوات بسيطة في ايدي الجهات الفاعلة ( الشركة المصنعة والمشغل والمالك والمستخدم ) الأمر الذي يجعل من الصعب تحديد الشخص المسؤول عن أضرارها. حيث ترتبط مسألة نقل الآلات الذكية الى طائفة الأشخاص بتجاوز العجز في النظريات التقليدية في تأسيس المسؤولية المدنية القائمة على الخطأ والعيب في المُنتَج في تعويض الأضرار الناجمة عنها. اذ يمكن من خلال منح الشخصية القانونية للآلات الذكية عد هذه الآلات مسؤولة بذاتها عن الأضرار التي تسببها، على أن تُزود ذمتها المالية بواسطة الأشخاص الفاعلين في تصنيعها وتشغيلها.

ثانياً: مشكلة البحث: تتجسد إشكالية البَحث بوجود آلات ذات سمات فريدة تجعلها تتجاوز الجمود التقليدي للأشياء، متمثلتاً بذكائها الاصطناعي ووجودها المادي واستقلاليتها في اتخاذ وتنفيذ القرار تحقيقاً للأمر المعطى لها، الأمر الذي يجعلها تتحدى النظريات التقليدية في المسؤولية المدنية. لذا يثار التساؤل حول مدى كفاءة فكرة منح الشخصية القانونية لهذه الآلات في تجاوز الإشكاليات التي تثيرها هذه الآلات على النظريات التقليدية.

ثالثاً: أهداف البحث: يهدف البحث الى بيان وتحليل الحجج التي يستند لها الاتجاه المؤيد والاتجاه الرافض لمنح الشخصية القانونية للآلات الذكية، من أجل معرفة مدى الحاجة الى تلك الشخصية.

رابعاً: أهمية البحث: تتجسد أهمية البَحث بإثراء النقاش القانوني المتعلق بتكنولوجيا حديثة تحتاج الى تشريعات جديدة تتلاءم مع خصوصيتها. ولا شك ان الطبيعة القانونية للآلات الذكية أمر حاسم في تقنين صناعتها واستخداماتها سيما فيما يتعلق بالمسؤولية المدنية.

خامساً: منهج البحث: سيعتمد البحث على المنهج الوصفي للاتجاهات الفقهية المتعلقة بالطبيعة القانونية للآلات الذكية، والتحليلي لهذه الاتجاهات من أجل ترجيح احدها على الآخر.

سادساً: خطة البحث: ان حل إشكالية البحث، والوصول الى أهدافه تحقيقاً لأهميته، يوجب تقسيمه كما يلي:

المطلب الأول: الاتجاه المعارض لمنح الآلات الذكية الشخصية القانونية.

المطلب الثاني: الاتجاه المؤيد لمنح الآلات الذكية الشخصية القانونية.

المطلب الأول: الاتجاه المعارض لمنح الآلات الذكية الشخصية القانونية

في القانون ان كل ما هو ليس بشخص قانوني، يدخل في اطار الأشياء. وفي القانون المدني تعد الأشياء محلاً للحقوق المالية، حيث يعرف المشرع العراقي المال في المادة 65 من القانون المدني النافذ بأنه  بأنه ( هو كل حق له قيمة مادية). بشرط ألا تخرج هذه الأشياء عن التعامل بطبيعتها او بحكم بالقانون، ذلك ما نصت عليه المادة 61 من قانوننا المدني (كل شيء لا يخرج عن التعامل بطبيعته او بحكم القانون يصح أن يكون محلاً للحقوق المالية). وتكيف الآلات الذكية قانوناً وقضاءً حالياً على انها أشياء([4])، لذا فهي اموالاً مادية بالتالي تخضع للأحكام القانونية الواردة في القانون المدني بشان الأموال( ([5]. اذاً هي تعد حالياً موضوعاً للحقوق المالية. ويذهب اتجاه من الفقه الى الإبقاء على الآلات الذكية في طائفة الأشياء وفقاً لعدة مبررات، أولها عدم وجود الحاجة العملية لتلك الشخصية، وثانيها الخوف من عدم مراعاة المصنعين والمبرمجين للدقة والحرص في التصنيع، وأخيراً غموض هذه الشخصية.

الفرع الأول: عدم وجود الحاجة لمنح الآلات الذكية الشخصية القانونية

تعتبر بعض الآراء الفقهية أن الاعتراف بالشخصية القانونية للآلات الذكية غير ذو جدوى حقيقية، فالمشرع لا يمتلك مبررات كافية لمنحها، كون هذا الاعتراف يعتمد على الحاجة الفعلية في المجتمع، ومصلحة المجتمع هي الأساس في مثل هذه الأمور([6]). فسمة الاستقلالية في الآلات الذكية لا تكفي لإضفاء الشخصية القانونية للآلات الذكية، مستشهدين بوجود العديد من الكائنات التي تتمتع بقدر من الاستقلال وذكاء ومع ذلك فلا تمنح الشخصية القانونية مثل الدلافين والقردة هذا من جانب، كما ان الاستقلالية والذكاء قد لا يتوفرا في كيان ما ومع ذلك يتمتع بالشخصية القانونية كالشخص الطبيعي عند فقدانه للوعي، واخيراً فأن هذه الآلات في استقلالها تشبه الحيوانات حال إفلاتها عن حارسها وتسببها بضرر للغير([7]).

لذا يتسائل انصار هذا الاتجاه عن هذه الحاجة، ويرون ان هذه الآلات ما هي الا أشياء وان النصوص القانونية الحالية كافية لاستيعابها([8]). حيث لن يسهم هذا الحل في تسهيل تعويض المتضررين إلا في حالة توافر ذمة مالية خاصة بالآلة الذكية، تُغطى بموجب نظام تأمين فعّال بواسطة مختلف الجهات من مصمم ومبرمج ومستخدم لهذه الآلات. ومن هنا، يبرز التساؤل حول مدى الحاجة إلى منح الشخصية القانونية بدلاً من تحميل المصنعين المسؤولية المباشرة دون هذا الالتفاف([9]) .

وفقًا لهذه الرؤية، فإن الاعتراف بالشخصية القانونية للروبوتات لا يُعد حلاً جذريًا، حيث سيظل الأشخاص المسؤولون عن تغذية الذمة المالية للروبوت هم من يتحمل مسؤولية تعويض المتضررين في حال تطبيق قواعد المسؤولية المدنية التقليدية، ولن يؤدي هذا الحل سوى الى نقل المشكلة دون معالجتها. هذا ما أكدته محكمة استئناف باريس، اذ ترى بأن منح الشخصية القانونية لكيانات الذكاء الاصطناعي سوف يؤدي الى نقل المشكلة وليس حلها، اذ سيقع عبء التعويض عن اضرار هذه الكيانات على عاتق الأشخاص الذين يغذون الذمة المالية لهذه الآلات([10]). لذا فانه لا حاجة لذلك، اذ يمكن التأمين عن مخاطر هذه الآلات وضمان جبر الاضرار الناجمة عنها دون منحها الشخصية القانونية، كما هو الحال في التأمين الاجباري عن حوادث المركبات([11]).

الفرع الثاني: عدم مراعاة المُصنعين للدقة والحرص في الصناعة

ان منح الآلات الذكية شخصية قانونية مستقلة عن شخصية مصنعيها او مستخدميها، سيجعل هذه الآلات مسؤولة عن الاضرار التي تسببها، وهذا ما تسعى اليه الشركات المصنعة والمبرمجين لهذه الآلات من اجل التخلص من المسؤولية الناجمة عن اضرار هذه الآلات([12])، كما ان من شأن ذلك ان يؤدي الى تدني درجة حرص المصممين والمبرمجين لأن المسؤولية ستطال هذه الآلات، وتدفع مبالغ التعويض عن طريق المبالغ تمت تغذيتها بواسطة المصممين والمبرمجين والمستخدمين كتأمين للمسؤولية([13])، وهو امر مشابه لما هو قائم في الوقت الحاضر بالنسبة للشركات، حيث يستفيد المستثمرين في رأس مالها من مسؤوليتهم المحدودة بحدود هذا الاستثمار، بالتالي التهرب من المسؤولية فيما يزيد عن هذه المساهمة، وفي الواقع هذا هو الغرض الأساسي من الشكل القانوني للشركة في المقام الأول([14]). وفي هذا الصدد يرى جانب من الفقه ان مسألة منح الشخصية القانونية للآلات الذكية ليست مسألة قانونية بحتة بل لها ابعاد سياسية واقتصادية هدفها تخفيف عبئ المسؤولية عن الشركات المصنعة، لا سيما ان قرار البرلمان الأوروبي بشأن قواعد القانون المدني للروبوتات قد نص في الفقرة 57 منه على إيجاد حلول تشريعية للآلات الذكية بشكلٍ لا يعيق الابتكار([15]).

وعليه يؤدي منح الآلات الذكية الشخصية القانونية الى انشاء وتداول آلات خطيرة دون الاكتراث بالآثار الناجمة عن مخاطرها، نظراً لكون هذه الآلات تتمتع بالشخصية القانونية فهي مسؤولة عن الاضرار، كما ان جميع اللوائح القانونية الحالية في دول الاتحاد الأوروبي والتي تفرض على المصنعين انتاج آلات مستوفية لشروط الصحة والسلامة كما هو الحال بالنسبة لتوجيه الآلات الصادر عام 2006 و لائحة الاجهزة الطبية لعام 2007 سوف تفقد معناها([16]).

ومن جانب اخر ان منح الشخصية القانونية وبالتالي الذمة المالية المستقلة لهذه الآلات قد لا تفيد المتضرر في شيء لا سيما في حالة عدم كفاية جانبها الإيجابي في تعويض الاضرار الناجمة عن فعلها، كما انها تؤدي الى انحراف المسؤولية المدنية عن بعدها الإنصافي، اذ تحول دون البحث عن المسؤولين عن الاضرار الذين قد تكون ذممهم المالية في الغالب اكثر قدرة على تعويض هذه الاضرار، لذا فأن البحث عن الحلول العادلة وعن المسؤول الحقيقي عن هذه الأضرار الناجمة عن أنظمة الذكاء الاصطناعي، ولو كانت مسألة معقدة نظراً للتعقيد الصناعي لهذه الأنظمة، يعد حلاً افضل من الهروب الى الحلول السريعة التي تنافي قواعد العدالة، حيث تحمي المسؤولين عن هذه الأضرار على حساب المصلحة العامة مما يجعل المسؤولية المدنية تضل عن طريقها من خلال السماح بالاستثمار في مثل هذه الأنظمة دون مسائلة ذات ردع حقيقي([17]).

الفرع الثالث: غموض الطبيعة القانونية للشخصية الإلكترونية المقترحة

لم يوضح قرار البرلمان الأوروبي طبيعة الشخصية الإلكترونية للآلات الذكية، فاذا كان المقصود منها الشخصية الطبيعية، فلا يمكن تقبل ذلك، فهذه الآلات على الرغم من تفاعلها مع البشر وتعلمها الآلي واكتسابها الخبرات مع مرور الوقت الا انها لا تتمتع بالإرادة والوعي والتمييز كونها صفات لصيقة بالبشر، فالاعتراف بالشخصية الطبيعية لهذه الآلات فيه انزال للإنسان الى مكانة الشيء وإزالة الحدود الفاصلة بينه وبين الأشياء الجامدة([18])، فاذا وصلت هذه الآلات الى مرحلة الوعي والادراك حينئذٍ يمكن منحها الشخصية القانونية كون الوعي والادراك أساس منح الشخصية القانونية([19]). ولا يوجد أي سبب يدعم تطوير مثل هذا النظام الذي يمتلك ذكاءً وقدرةً تفوق أي شكل من أشكال الحياة البشرية، ويعمل باستقلالية لتحقيق أهدافه الخاصة، اذ لا يمكن للتطور التكنولوجي تبرير هذا المستوى من الاستقلال الذاتي لأي تطبيقات ذكاء اصطناعي موجودة أو قيد التطوير، وإن كان ذلك ممكناً من الناحية التقنية، يجب حظر هذه الأجهزة لأنها بطبيعتها قد تصبح خطيرة ([20]). كونها تثير العديد من المشاكل القانونية والأخلاقية منها ادعاء حقوق لهذه الآلات لصيقة بالإنسان كالحق في الكرامة والسلامة والجنسية الى غير ذلك من الحقوق المرتبطة بالشخصية الطبيعية([21]). كما ان من شأن ذلك أن يؤدي الى تهديد الجنس البشري عن طريق انشاء مجتمع آخر موازي للمجتمع البشري([22]). لذا رفضت لجنة الخبراء التي شكلتها المفوضية الأوروبية فكرة الشخصية القانونية للآلات الذكية، حيث ترى بأن الضرر الذي تسببه هذه الآلات يجب ان ينسب الى أشخاص او منظمات قائمة، كما رفضت اللجنة الاقتصادية والاجتماعية الأوروبية ايضاً نظراً للمخاطر الأخلاقية غير المقبولة([23]).

اما منح الشخصية المعنوية لهذه الآلات قياساً على الشخص المعنوي فهو قياس غير سليم، اذ لا يوجد ممثل للآلة الذكية كما هو الحال بالنسبة للشخص الاعتباري الذي يتم تمثيله بواسطة شخص طبيعي، كما ان أساس الاعتراف بالشخصية الاعتبارية هو خلق مصلحة للشخص الاعتباري مستقلة ومتميزة عن مصلحة مؤسسيه في حين يفتقد هذا التمايز في الآلات الذكية التي تسخر لمصلحة المساهمين في تكوينها وإستخدامها، اضف لذلك ان الشخص الاعتباري هو فكرة مجردة ولا يتمتع باستقلال عن مؤسسيه في حين ان الآلات الذكية لها كيان مادي ملموس وتتسم بالاستقلالية عن المصنعين والمستخدمين([24]). كما ان حدود تطبيق هذه الشخصية غير واضحة، فما هي الفئة التي يتم منحها الشخصية القانونية دون غيرها([25]).

المطلب الثاني: الاتجاه المؤيد لمنح الآلات الذكية الشخصية القانونية

من التقليدي في القانون، أن اشخاصه هم فئتان، الشخص الطبيعي و الشخص المعنوي، حيث لا يعترف القانون بالشخصية القانونية سوى لهذين الفئتين، مانحاً إياهم شخصية تنسجم مع طبيعة وخصوصية كل منهما، حيث يعطي القانون الشخصية الطبيعية لكائن مادي ملموس يتمثل بالإنسان، في حين يمنحها لكائن افتراضي معنوي غير ملموس وانما يفترض القانون وجوده حقيقة متمثلاً بالشخص المعنوي، سواءً على الصعيد المدني كالجمعيات والمؤسسات الاهلية، ام على الصعيد التجاري كالشركات التجارية، ام على الصعيد الإداري كوزارات الدولة وهيئاتها([26]). فهل يمكن منح الشخصية القانونية للآلات الذكية ؟ وما هي مبررات منحها ؟ وما هي طبيعة الشخصية القانونية تلك ؟ يرى انصار الاتجاه المؤيد بإمكانية ذلك وفقاً لعدة مبررات، أولها المفهوم التجريدي للشخصية القانونية، وثانيها الحاجة العملية، وأخيراً الطبيعة الخاصة لهذه الشخصية.

الفرع الأول: المفهوم التجريدي للشخصية القانونية

ان الشخصية القانونية لا ترتبط بالصفة الإنسانية، وان كان من حيث الأصل انها منحت للإنسان، والدليل على ذلك ان المشرع يمنحها لمجموعة اشخاص واموال كهيئات الدولة و الشركات تجارية و المؤسسات مدنية ويطلق عليها حينئذ بالشخص المعنوي، ومن جانب اخر وفي فترة سابقة من فترات التاريخ، لم يكن كل انسان لديه شخصية قانونية، حيث كان العبد في فترة من فترات التاريخ يعامل معاملة الشيء فيمكن تملكه والتعامل به بيع وهبة الى ان زالت العبودية واصبح لكل انسان شخصية قانونية الى حين وفاته، وبصرف النظر عن اهليته العقلية، اذ ان مناط الشخصية الطبيعية هي الحياة وليس العقل، في حين ان مناط الاهلية هو العقل كما نعلم([27]). فقد كان التقسيم الكلاسيكي منذ نشأة القانون الروماني يقوم على أساس وجود طائفتين: الأولى طائفة الأشخاص والثانية طائفة الأشياء. وكان الانسان الطبيعي الحر فقط هو من يعد شخصاً قانونياً، أما العبيد والجواري فقد كانوا في طائفة الأشياء، اذ يمكن التعامل بهم وفق قواعد الملكية([28]).

ومن جانب أخر، فقد تم منح الشخصية القانونية الى بعض عناصر البيئة من اجل حمايتها ومنحها بعض الحقوق كما هو الحال في الهند حيث أصدرت المحكمة العليا قرار بمنح الشخصية القانونية لنهري cange ,Yamuna) ( وسبق ذلك منح الشخصية القانونية لنهر( whangawu ) في القانون الايرلندي([29]). كما تم اخراج الحيوانات من قائمة الأشياء بموجب عدة قوانين، ففي عام 1988 تم تقديم تعديل يكيف الحيوانات على انها ليست باشياء من الناحية القانونية في القانون النمساوي، وتم إضافة حكم مماثل الى القانون الأساسي الألماني في عام 1990، وفي القانون البولندي ايضاً تم استبعاد الحيوانات من قائمة الأشياء في وقت مبكر من عام 1997 وفقاً للمادة الأولى من قانون حماية الحيوان([30])، فضلاً عن الاعتراف ببعض سمات الشخصية القانونية للحيوان في القانون الفرنسي، حيث عرف المشرع الفرنسي الحيوان بأنه ( كائناً حياً يملك الاحاسيس، مع مراعاة القوانين التي تحميه، يخضع لاحكام الأشياء )([31]).

كما ان الشخص المعنوي ليس انساناً بل هو مجموعة اشخاص او اموال ومع ذلك منح الشخصية القانونية([32]).  وعليه، ان الشخصية القانونية مفهوم مجرد لا يرتبط بكيان ما، ولا يوجد مبدأ يبين متى يجب منح الشخصية القانونية لكيانٍ ما ومتى يجب انكارها عنه([33]).

بناءً على ما سبق، يثار تساؤل الا وهو ما هو مناط منح الشخصية القانونية ؟ بعبارة أخرى، ما هو الأساس الذي بموجبه يمكن منح الشخصية القانونية لشيءٍ ما، بالمفهوم العام للشيء حي ام غير حي؟

الجواب هو القيمة الاجتماعية لهذا الشيء والتي تمكنه من اكتساب الحقوق وتحمل الواجبات، فكل شيء صالح لاكتساب الحقوق وتحمل الواجبات يعد صالحاً لاكتساب الشخصية القانونية، ما دام ينجم عن ذلك قيمة عملية، لذا تعرف الشخصية القانونية على انها ( صلاحية اكتساب الحقوق وتحمل الواجبات ). فالإنسان يمنح الشخصية القانونية نظراً لصلاحيته لاكتساب الحق وأداء الواجب، وذات الأمر بالنسبة للشخص المعنوي([34])، فصلاحية اكتساب الحق وتحمل الواجب تعني ان هذا الكائن ذو قيمة اجتماعية، ونظراً لكون القانون يهدف الى إقامة نظام اجتماعي عادل، يعد منح الشخصية القانونية لأي كائن قادراً على اكتساب الحق وتحمل الواجب هو دعماً لهذا الهدف، لذا لا ترتبط الشخصية القانونية لا بالادراك ولا بالإرادة ولا بالصفة الإنسانية وانما بالقيمة الاجتماعية([35]).

الا ان هذه الاجابة تقودنا الى تساؤلٍ اخر حول مقدار تلك الحقوق ؟ هل يجب ان يكون الشيء صالحاً لاكتساب كل الحقوق حتى يمنح الشخصية القانونية ؟

الجواب هو النفي، اذ تمنح الشخصية القانونية للشخص بصرف النظر عن عدد الحقوق التي يكتسبها ذلك الشخص حتى لو كان حقاً واحداً ([36])، فالشخص المعنوي يكتسب الحقوق التي تتلاءم مع الغرض من انشائه فقط كما نعلم وليس كل الحقوق وفقاً لمبدأ التخصص.

من كل ما سبق، نستنتج انه من الممكن منح الشخصية القانونية للآلات الذكية كون الشخصية القانونية لا ترتبط بكيانٍ ما، وانما بالقيمة الاجتماعية من منح هذه الشخصية، لذا فان التساؤل المنطقي التالي هل هناك قيمة اجتماعية وعملية من وراء هذا المنح ؟

الفرع الثاني: الحاجة العملية لتلك الشخصية

يرى انصار هذا الاتجاه ان منح الشخصية القانونية لهذه الآلات فيه حماية لها من الاضرار التي تلحق بها، وحماية للأشخاص من الاضرار التي قد تسببها هذه الآلات، كونها تتسم بوجودها المادي الملموس وقدراتها الفكرية في ذكائها الاصطناعي([37]) مما يمكنها من التفاعل مع البيئة المحيطة، فهي ليست آلات تقليدية بل الآت تتسم بالقدرة على التعلم الذاتي بناء على بياناتها المخزنة والمتاحة التي تمكنها من تحسين قدرات بمرور الوقت([38]). والتفاعل مع البيئة المحيطة واتخاذ القرارات بشكل مستقل عن طريق معالجتها لكميات هائلة من البيانات، كل ذلك جعل هذه الآلات تعمل وتتصرف بمعزل عن الصانع او المبرمج او المستخدم، مما يستوجب منحها الشخصية القانونية([39]). فانعدام صفة الحياة التي ترتبط بالإنسان والحيوان في هذه الآلات لا يعني اتسامها بالجمود، نظراً للآلية التي تعمل بها هذه الآلات والتي تجعلها تخرج من الجمود الى الحركة، فهي آلات ذات طبيعة تنفيذية مستقلة، مختلفة عن الآلات الأوتوماتيكية ذات الطبيعة الإجرائية الصرفة([40]). فهي قادرة على العمل دون اشراف بشري مثل السيارات ذاتية القيادة التي تستخدمها شركة (Domino’s Pizza) والقادرة على العمل دون اشراف فعال من الانسان([41]). الأمر الذي يجعل من الصعب تحديد السبب الذي أفضى للضرر([42]).

هذه السمات وهذا التطور للآلات الذكية وتعقيدها التكنولوجي من شأنه ان يصعب إثبات وجود عيب في  التصنيع والبرمجة من أجل مسائلة منتجي الآلات الذكية، نظراً لقدرة هذه الآلات على التعلم الذاتي ما يجعل من الصعوبة بمكان التنبؤ بسلوكياتها بسبب التعتيم المصاحب لقراراتها حيث يواجه البشر بما فيهم مبرمجين هذا الذكاء صعوبة في فهم مخرجات هذه الأنظمة([43]). فعدم اليقين المصاحب للقرارات التي تتخذها هذه الآلات من شأنه أن يترك المضرور دون حماية([44])، وهذا ما حصل مع الآلة الطبية الذكية ( دافنشي ) المخصصة للجراحة في الكثير من القضايا، على الرغم من توقفها عن تنفيذ الأوامر من الطبيب، فقد طلبت المحاكم في الولايات المتحدة الامريكية بجلب تقرير فني يثبت وجود خلل وظيفي في عمل هذه الآلة الا ان ذلك لم يكن ممكناً نظراً لصعوبة إثبات وجود عيب في التصنيع([45]). فقد يكون سبب الضرر ذكاءها الاصطناعي الذي يمكنها من التعلم آلياً واتخاذ القرارات غير المتوقعة وتنفيذها باستقلالية([46]). وعليه لا يمكن اعتبار الأنظمة الذكية شيئاً لتعارض ذلك مع سماتها الفريدة([47]).

كما ان السمات الفريدة للآلات الذكية تحول دون إمكانية تطبيق نظرية حراسة الأشياء في سبيل تعويض الأضرار الناجمة عنها، نظرا لكون هذه النظرية تتعلق بالأشياء المادية غير الذكية، اذ تتعارض سلطات الرقابة والتوجيه للحارس مع استقلالية الذكاء الاصطناعي، الذي صمم من أجل العمل بمعزل عن الجانب البشري، كالسيارات ذاتية القيادة، والا سيكون تحميل الحارس عبئاً ثقيلاً كون الآلات الذكية تنفرد في اتخاذ وتنفيذ القرارات([48]).

وللتخلص من هذه الاشكاليات، يمكن من خلال منح الشخصية القانونية وتكوين ذمة مالية مستقلة للآلات الذكية كما هو الحال بالنسبة للشركات بمساهمة من الجهات الفاعلة بتصنيعها واستخدامها([49])، وانشاء نظام تسجيل للآلات الذكية، واستخدام استراتيجية نظام تأمين إلزامي يهدف إلى إجبار الشركات المصنعة والمالكين على التأمين على مخاطر الآلات الخاصة بهم، وتكون قيمة التعويض من شركة التأمين مرتبطة بالمبلغ المؤمن عليه. كما يُقترح إنشاء صندوق تعويض يكون مكملاً لنظام التأمين الإلزامي لضمان تغطية الأضرار التي لا يشملها التأمين، مما يتيح تعدد مصادر التعويض وتوزيع الأضرار على الأطراف المختلفة بطريقة عادلة([50]). بالتالي التحول من مرحلة المسؤولية بسبب عمل الآلة الذكية الى مسؤولية الآلة ذاتها عن الاضرار التي سببتها من ذمتها المالية المستقلة المزودة من الأشخاص ذوي المصلحة(([51].

 وتساعد الشخصية القانونية في زيادة الشفافية والوضوح القانوني، اذ ان وجود الشخصية القانونية وتسجيل هذه الآلات من شأنه بيان من لديه مصلحة اقتصادية او قانونية وراءها([52]). وتساعد هذه الشخصية على الابتكار وحفظ المصالح التجارية والاقتصادية للشركات عن طريق التخلص من المخاوف الناجمة عدم اليقين القانوني حول الطرف المسؤول عن أضرار هذه الآلات([53]).

الفرع الثالث: الشخصية الإلكترونية ذات طبيعة خاصة

سبق وان اتضح لنا ان غموض مصطلح الشخصية الالكترونية تسبب في إشكالية حول طبيعة هذه الشخصية، فلو قلنا بانها شخصية مساوية للشخصية الطبيعية فان من شأن ذلك انشاء مجتمع موازي للبشر، وإزالة الحد الفاصل بين الانسان والشيء. اما الشخصية المعنوية، فهي بدورها لا تنسجم مع طبيعة هذه الآلات كون هذه الآلات ذات طبيعة مادية ملموسة عكس الشخص الاعتباري القائم على التصور القانوني، ومن جهة أخرى ان الشخص المعنوي ليس سوى تمثيل لعدة اشخاص طبيعية تقف خلفه بالتالي يتم التحكم به بواسطة اشخاص طبيعيين، اما الآلات الذكية فتتسم بالاستقلالية في العمل بمعزل عن الجانب البشري([54]).

بناءاً على ما سبق، يرى الاتجاه المؤيد لمنح الشخصية القانونية للآلات الذكية، ان عدم تمتع الذكاء الاصطناعي بالوعي والإرادة الحرة هو سبب لعدم منح الشخصية ( الطبيعية) على وجه التحديد للآلات الذكية، الا ان ذلك لا يعد سبباً لعدم منحها الشخصية ( القانونية ) بشكل عام، لذا فانه لمن الممكن منح الآلات الذكية شخصية قانونية جديدة من حيث طبيعتها تسمى بالشخصية الإلكترونية([55]). وفي هذا السياق، يرى الأستاذ (Bertolini) ان الانتقادات الموجهة للشخصية الالكترونية والمستندة الى مساواة الآلات بالبشر غير سليمة من الناحية التحليلية، فعلى الرغم من عدم بيان القرار الأوروبي طبيعة هذه الشخصية الا ان اطلاق تسمية جديدة مثل الشخصية الالكترونية تختلف عن تسمية الشخصية الطبيعية والمعنوية، وبواسطة مشرع عقلاني، يُفسَّر في الغالب على انه على يريد انشاء فئة جديدة من الأشخاص لها احكامها الخاصة وليس مساواتها بالشخصية الطبيعية([56]).

ومن اجل التخلص من عدم اليقين حول طبيعة الشخصية الالكترونية المُقترحة، تدخل المجلس الأوروبي واطلق تسمية جديدة على هذه الشخصية حيث اسماها ( الشخصية المنقادة )، مؤكداً ان منح الشخصية القانونية لهذه الآلات يجب ان يكون وفق ما ينسجم مع طبيعة واحتياجات هذه الآلات، كما انه من غير الممكن قياس هذه الشخصية على الشخص الاعتباري نظراً لعدم وجود ممثل لهذه الآلات كما هو الحال في تمثيل الشخص الطبيعي للشخص الاعتباري([57]). ويرى رأي من الفقه الى ان السبب وراء موقف المجلس الأوروبي هذا يعود الى محاولة تنظيم وحماية هذه الآلات وتنظيم تطور منطقي لها وليس لتكوين إرادة خاصة بها، لان امتلاك هذه الآلات الإرادة الخاصة بها يتطلب ان يكون لها وعي وادراك أي الانتقال من مرحلة الذكاء الاصطناعي الى مرحلة الادراك الاصطناعي، وهذه مرحلة لا زلنا بعيدين عنها في الوقت الحاضر([58]).

يَخلُص انصار هذا الاتجاه الى الحاجة إعادة النظر في التقسيم الثنائي التقليدي للشخصية القانونية ( طبيعية ومعنوية )، اذ يمكن استعمال الحيلة القانونية لجعل القواعد القانونية تنسجم مع التطورات العلمية في مجال التكنولوجيا الرقمية، عن طريق انشاء شخصية قانونية افتراضية تنسجم مع الطبيعة الخاصة للآلات الذكية([59]).

اما عن الحقوق الشخصية لهذه الآلات فهي تبقى محلاً للتساؤل، اذ لم يبين القرار حدود تلك الحقوق([60]). واتجه البعض الى إمكانية تحديد هذه الحقوق عبر احد الطريقتين قياساً على منح الحقوق للأشخاص الاعتبارية، تتمثل الطريقة الأولى بإعطاء الحقوق الأساسية للآلات الذكية بالقدر الذي تسمح به طبيعة هذا الحق، قياساً على الأشخاص الاعتبارية، بالتالي يتم استبعاد الحقوق التي تفترض وجود جسم بيولوجي والحقوق المتعلقة بالانتماء للإنسانية فلا تمنح الآلات الحقوق المرتبطة بالجانب الحسي او العقلي او المشاعر الإنسانية نظراً لعدم امكانية تصورها بالنسبة للآلات الذكية. اما الطريقة الثانية فتتمثل بإعطاء حقوق شخصية للآلات الذكية بما يسمح لها بأداء المهام الموكلة اليها، أي اعتبار ان الحقوق الشخصية أدوات ضرورية لتحقيق الهدف الاجتماعي لهذه الآلات، كما هو الحال بالنسبة لمنح الشخصية الاعتبارية لبعض السفن وما يترتب على ذلك من وجود ذمة مالية مستقلة لها وإمكانية الحجز عليها([61]).

المطلب الثالث: رأي الباحث في منح الشخصية القانونية للآلات الذكية

بعد استقراء حجج الاتجاهين المؤيد والمعارض للشخصية القانونية للآلات الذكية، نرى ان الوظيفة التعويضية للمسؤولية المدنية تبرر منح الآلات الذكية الشخصية القانونية، وفقاً لمحددات أولها حصر الشخصية القانونية في الآلات الذكية ذات التعلم العميق والمعزز، وثانيها أن تكون هذه الشخصية ذات طبيعة وظيفية من أجل إبقاء هذه الآلات مسخرة لخدمة البشر.

الفرع الأول : حصر الشخصية الإلكترونية في الآلات الذكية ذات التعلم العميق والمعزز

ان القرار الأوروبي يقترح الشخصية القانونية للآلات القادرة على التفاعل والتكيف مع البيئة والتعلم من التجربة الأمر الذي يمنحها قدر عالي من الاستقلالية، ويعرف القرار استقلالية الآلات الذكية بأنها ( القدرة على اتخاذ القرارات وتنفيذها في العالم الخارجي بغض النظر عن أي سيطرة او تأثير خارجي ، وهي استقلالية ذات طبيعة تكنولوجية بحتة وتعتمد درجتها على مدى تطور تفاعل الروبوت مع بيئته )([62]). وعليه يمكن القول ان الآلات التي تستحق الشخصية القانونية هي الآلات القادرة على التفاعل و التكيف مع البيئة عن طريق تقنية التعلم الآلي التي تسمح للآلات الذكية بالتعلم من التجربة وحل المشكلات باستخدام الخوارزميات والتقنيات التحليلية المتطورة مما يجعل الآلات اكثر استقلالية عن التحكم الاشرافي البشري([63]). وتحديداً الآلات المُزودة تقنية التعلم العميق ( Deep Learning ) والتعلم الآلي المعزز ( Reinforcement Learning ). ويعرف التعلُّم العميق بأنه ذلك النوع من التعلم الذي يعتمد على معالجة كميات ضخمة من البيانات عن طريق تمريرها عبر ما يسمى بالشبكات العصبية الاصطناعية([64])، وهي عبارة عن مجموعة من الخلايا العصبية الاصطناعية الموجودة في طبقات مُتقوقعة فوق بعضها بعضا، ولها طبقة أولية، وطبقة نهائية، تتلقى الطبقة الأولية المعلومات الخام، وتعالجها لتمررها لاحقاً للطبقة التي تليها وهكذا الى ان نحصل على الخرج من الطبقة النهائية([65]). وتحاكي الشبكات العصبية البشرية لأجل فهم مختلف التصرفات والانماط سواءً في الوضع الطبيعي او مع وجود نقص او ضوضاء([66]). أما التعلم المعزز فهو هو نهج حاسوبي يتعلم فيه الكائن كيفية تحقيق هدف ما في بيئة معقدة وغير مؤكدة من خلال تعظيم مجموع المكافآت التي يتلقاها([67]). حيث يحدد النظام الذكي الهدف و الإجراءات المطلوبة والقيود المفروضة، ويجب على النظام ان يحاول الوصول الى الهدف عبر التجربة والخطأ حيث يتم مكافأته على القرارات الصحيحة و معاقبته على القرارات الخاطئة، فتقوم الخوارزمية  بالتعلم من السلوك عن طريق الملاحظة ثم التكيف، حيث تعمل على تلقي النتيجة من بيئتها فتحاول وبشكلٍ مستمر تحسين خطواتها المستقبلية من اجل الوصول للهدف([68]).

فالخصائص التقنية للآلات ذات التعلُّم العميق والمعزز تمثل مؤشرات على استيفائها للمعايير التي وضعها البرلمان الأوروبي في قراره محل البحث. لذا يمكن القول إن الآلات الذكية التي تعتمد على هذين النموذجين من التعلم تُعد الأكثر استحقاقاً لمناقشة منحها الشخصية القانونية، لما تنفرد به من خصائص تجعل من الصعب تحديد الشخص المسؤول عنها ضمن الأطر التقليدية للمسؤولية المدنية.

ولكن لما كانت هذه الآلات غير منتشرة على نحو كبير حتى اليوم، تبدو هذه الشخصية ممكنة - من ناحية واقعية - في المستقبل لا الآن. فمقترح قرار البرلمان الأوروبي بمنح الشخصية القانونية للآلات الذكية مَبني على رؤية طموحة لتنظيم تلك الآلات، من خلال وضع إطار قانوني جديد يهدف إلى دمج هذه الآلات في مجالات متعددة كالمناطق العامة والمستشفيات ودور الرعاية. الا انه قد استند إلى توقعات عالية للتكنولوجيا الناشئة، حيث كان يُنظر إليه كخطوة جريئة لتهيئة بيئة قانونية متكاملة تُسهِّل اعتماد الآلات الذكية على نطاق واسع. في حين لم يتحقق الانتشار المتوقع لهذه التقنيات في الواقع بنفس السرعة أو الشمولية التي تضمنتها الرؤية الطموحة للقرار([69]).

وعليه إذا ما وصلنا الى اليوم الذي تكون فيه الآلات الذكية منتشرة حسب تصور القرار الأوروبي، وهو أمر متوقع في ظل تزايد الاعتماد هذه الأنظمة([70])، ستكون مسألة منح الشخصية القانونية للأنظمة الذكية أمراً لا مفر منه يفرضه الواقع بغية توفير اليقين القانوني لمصنعي ومشغلي ومستخدمي الآلات الذكية، كما حصل سابقاً بالنسبة للشخصية المعنوية. ونستشهد هنا بقول الدكتور محمد عرفان الخطيب ( وبالرغم من حالة الجدل القانوني القائم حول منح الشخصية القانونية للإنسآلة، فإنّ المسألة بالنسبة لنا هي ضرورةٌ وليست ترفا. فسواء شئنا أم أبينا، فإنّ الذكاء الاصطناعي سيُنشئ جيلا جديداً إلى جانب الإنسان، على المشرع أنْ يحدد طبيعة تعاملاته القانونية البينية، كما تعاملاته ضمن المجتمع ومع الإنسان، في إطار قواعد أخلاقية وقانونية تُبين مختلف هذه الحدود الفاصلة، ما يوجب منحه شخصية قانونية تميزه عن غيره من الأشخاص الطبيعيين والاعتباريين...ذلك أنَّه، وإنْ كانت حدود الشخصية القانونية للشخص الاعتباري، على سبيل المثال، مَكنَّت المشرع من منحه جملة من الحقوق وتحميله جملة من الالتزامات، كون المشرع أقر أنَّ للشخص الاعتباري شخصية قانونية منفصلة عن شخصية مؤسسي هذا الشخص والمساهمين فيه، ما منحه وجوداً قانونياً منفصلًا عن مؤسسيه، وذمةً ماليةً مستقلةً عنهم، ما أكمل فكرة المديونية له، كما فكرة المسؤولية في جانبها المتعلق بمفهومي الحق والواجب، فإنَّ الأمر يبقى مُمكن الحدوث بالنسبة للإنسآلة بذات الطريقة السابقة، وإنْ كانت الاعتبارات المتعلقة بمحددات وطبيعة الشخصية القانونية مختلفة، لاختلاف الغاية القانونية من إقرار كل منها)([71]).

الفرع الثاني: الطبيعة الوظيفية للشخصية القانونية للآلات الذكية

لما كنا قد توصلنا الى ان فلسفة القانون في منح الشخصية القانونية ترتبط بالحاجة والقيمة الاجتماعية من وراء ذلك المنح لا الاعتبارات الوجودية، ولما كانت هذه الحاجة هي حاجة البشر، فيجب أن تكون الشخصية القانونية للآلات الذكية ذات التعلم العميق والمعزز ذات طبيعة وظيفية مقيدة بحدود تلك الحاجة، تبقي هذه الآلات أشياء مسخرة لخدمة البشر، لا انشاء مجتمع مجتمع تقني يوازي المجتمع البشري.

ولما كان بحثنا يتعلق بالمسؤولية المدنية، فيمكن ان تخدم هذه الشخصية الوظيفة التعويضية للمسؤولية المدنية عن طريق تيسير حصول المضرور على التعويض من خلال التخلص من إشكاليات اثبات العيب والخطأ في ظل القواعد التقليدية. وقد أقر رأي من الاتجاه الرافض لمنح الشخصية القانونية للآلات الذكية ذلك، بقوله بأن الوظيفة التعويضية للمسؤولية المدنية قد تبرر منح الذكاء الاصطناعي الشخصية القانونية، كونها ستبسط قواعد المسؤولية للأنظمة الذكية غير القابلة للتنبؤ، فقد يكون هذا الحل هو الوحيد الذي يمكن المضرور من الحصول على التعويض عن الأضرار الناجمة عن الأنظمة الذكية([72]).

ويمكن تجاوز الإهمال في التصنيع بفرض متطلبات الزامية صارمة على تصنيع وتوريد هذه الآلات، بموجب نهج ادارة المخاطر، الذي اعتمده رسمياً قانون الاتحاد الأوروبي للذكاء الاصطناعي، والذي يحظر الأنظمة الذكية ذات المخاطر غير المقبولة، ويُخضِع  أنظمة الذكاء الاصطناعي ذات المخاطر العالية للمتطلبات الإلزامية التي يفرضها نهج إدارة المخاطر على تصنيع وتشغيل تلك الآلات([73]).

وعليه ان منح شخصية قانونية ذات طبيعة وظيفية للآلات الذكية من شأنه أن يوفر بيئة قانونية يكتنفها الوضوح واليقين القانوني لجميع المستفيدين من صناعتها وتشغيلها، الأمر الذي يسهِّل من انخراط تلك الآلات في مختلف القطاعات الحيوية وهو ما ينطوي على فوائدٍ عملية عدة نظراً للإنتاجية والكفاءة العالية لتلك الآلات. وبذلك يمكن للقانون أن يلعب دوراً هاماً في النهوض بالمجتمع وجعله في مواقع الريادة في عصر الذكاء الاصطناعي. سيما اننا بصدد الآتٍ ذكية قادرة على تحرير وتنوير المجتمع، عن طريق أداء العمل الدنيوي المخدِّر للعقل، والذي يمنع البشر من متابعة الدعوات الروحية والفكرية والفنية العليا([74]).

الخاتمة

ان الخوض في الآراء الفقهية المتعلقة بفكرة منح الآلات الذكية الشخصية القانون قد مكننا من الوصول الى بعض النتائج والتوصيات نُجملها فيما يلي:

أولاً: النتائج

1- ان الاتجاه الرافض لمنح الشخصية القانونية للآلات الذكية استند الى مخاوف استباقية تتمثل انشاء مجتمع موازٍ للبشر وإزالة الحد الفاصل بين البشر والأشياء، وهذا ما نجم عن غموض مصطلح الشخصية الإلكترونية الذي أورده قرار البرلمان الأوروبي بشأن قواعد القانون المدني للروبوتات. فضلاً عن الخوف من عدم مراعاة الدقة والحرص في الصناعة الأمر الذي من شأنه أن يولد مخاطر مرتفعة في المجتمع.

2- ان الاتجاه المؤيد لمنح لشخصية القانونية للآلات الذكية يرى ان هذه الشخصية ذات طبيعة وظيفية ترتبط بالحاجة البشرية لا الاعتبارات الوجودية، من أجل توفير الوضوح واليقين القانوني لجميع الأشخاص المستفيدين من تصنيع واستخدام الآلات الذكية. وهذا ما يبينه سياق القرار الذي اقترح هذه الشخصية في صدد بيان عجز النظريات التقليدية في المسؤولية المدنية.

3- تعد الفئة المرشحة بشكل بارز للحصول على الشخصية القانونية الإلكترونية هي الآلات الذكية ذات التعلم العميق والمعزز نظراً لاستقلاليتها العالية وتعقيدها التصنيعي، الأمر الذي يجعل من الصعب تحديد الشخص المسؤول عن الأضرار الناجمة عنها.

4- ان فكرة الشخصية الإلكترونية مرتبطة بالمدى البعيد أكثر من الوقت الحالي، كون الآلات ذات التعلم العميق والمعزز لم تنتشر حتى اليوم على النحو الذي توقعه القرار الأوروبي.

ثانياً: التوصيات

1- نوصي السلطات المختصة في العراق باتخاذ خطوات جادة من أجل دعم قطاع الذكاء الاصطناعي. اذ ان تبني الأنظمة الذكية في مختلف القطاعات لم يعد خيارًا بل ضرورة ملحّة لمواكبة التطورات العالمية وتعزيز التنمية المستدامة. فمستقبل العراق في مجال الذكاء الاصطناعي يعتمد على القرارات التي تُتخذ اليوم، فإما أن يكون في طليعة الدول المبتكرة، أو أن يظل متأخرًا عن الركب العلمي والتقني.

2- نوصي المشرع العراقي بالاستفادة من تجربة قانون الاتحاد الأوروبي للذكاء الاصطناعي، الذي قسم الأنظمة الذكية حسب مخاطرها الى أنظمة محظورة بسبب مخاطرها غير المقبولة، وأنظمة عالية المخاطر تخضع لنهج إدارة المخاطر في سبيل حماية المجتمع منها. اذ ان ذلك يوفر الوضوح بشأن الفئات المتنوعة للأنظمة الذكية ، وهو ما يمهد الى إصدار تشريعات خاصة تتلاءم مع سمات وخطورة كل فئة على حدة. كما يعزز من مستويات السلامة للآلات الذكية المتداولة في الأسواق العراقية.

3- نوصي المشرع العراقي بمنح الآلات الذكية ذات التعلم العميق والمعزز شخصية قانونية وظيفية توفر الوضوح واليقين القانوني لمُصنعيها ومشغليها ومالكيها، تُسهيلاً لانتشارها والاستفادة من كفاءتها وانتاجيتها العالية، وضماناً لحق المتضررين منها.


([1]) Shuq Hussein & Mahmoud Fayyad, Towards Granting of Legal Personality to Autonomous Robots in the UAE; International Journal of Innovation, Creativity and Change. www.ijicc.net Volume 17, Issue 2, 2023, p250.

([2]) Lawrence B. Solum, Legal Personhood for Artificial Intelligences, 70 N.C. L. Rev. 1231,  1992.

([3])  Article 59 “ Calls on the Commission, when carrying out an impact assessment of its future legislative instrument, to explore, analyse and consider the implications of all possible legal solutions, such as: f) creating a specific legal status for robots in the long run, so that at least the most sophisticated autonomous robots could be established as having the status of electronic persons responsible for making good any damage they may cause, and possibly applying electronic personality to cases where robots make autonomous decisions or otherwise interact with third parties independently” . The European Parliament. European Parliament Resolution of 16 February 2017 with Recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)).

([4]) محمد سعيد السعداوي، الاهلية القانونية للروبوت الذكي ( بحث تحليلي تأصيلي وفق احكام القانون العراقي مقارناً بالقانون الأوروبي للروبوتات)، مجلة جامعة الأنبار للعلوم القانونية والسياسية – تصدر عن جامعة الانبار كلية القانون والعلوم السياسية، المجلد14-العدد1، 2024، ص

([5]) د. المر سهام، الروبوت الذكي بين إشكالية الاعتراف بالشخصية القانونية وانكارها، مجلة القانون والعلوم السياسية، المجلد9 -العدد2، 2023م. ص6.

([6]) د. محمد إبراهيم محمد علام، مدى إمكانية منح الشخصية القانونية واسناد المسؤولية المدنية للذكاء الاصطناعي، مجلة روح القوانين-كلية الحقوق جامعة طنطا، المجلد 35،العدد 102، عدد خاص للمؤتمر العلمي الدولي الثامن-التكنولوجيا والقانون، مايو 2023، ، ص2700.

 https://doi.org/10.21608/las.2023.344091 .

([7]) Magali Bouteille-Brigant, Intelligence artificielle et droit: entre tentation d’une Personne juridique du troisième type et avènement d’un « transjuridisme ». Publié le : 27/03/2018 disponible à : Intelligence artificielle et droit : entre tentation d’une personne juridique du troisième type et avènement d’un « transjuridisme » - Actu-Juridique . visité dans  : 29/9/2024.

([8]) د. خالد جاسم الهندياني، المركز القانوني للإنسان الآلي من حيث الشخصية والمسؤولية المدنية في القانون الكويتي، مجلة الحقوق، تصدر عن مجلس النشر العلمي / جامعة الكويت، المجلد45-العدد1/4، يناير،2021، ص96.

https://doi.org/10.34120/jol.v45i4.2681 .

([9]) د. رضا محمود العبد، الشخصية القانونية الافتراضية نحو الاعتراف بالشخصية القانونية للروبوت الذكي، مجلة روح القوانين، تصدر عن كلية الحقوق جامعة طنطا، مصر، المجلد 36- العدد 105- يناير2024 ،239.

 https://doi.org/10.21608/las.2024.258687.1182 .

([10])  سيد ظريف عطا السيد، الموقف الفقهي والقضائي والتشريعي حول مدى تمتع تقنيات الذكاء الاصطناعي بالشخصية القانونية ( دراسة مقارنة )، مجلة الدراسات القانونية، جامعة أسيوط، المجلد 61 - العدد 1، 2023، ص446.

https://doi.org/10.21608/las.2024.258687.1182 .

([11]) د. احمد بلحاج جرار، الشخصية القانونية للذكاء الاصطناعي ... استباق مضلل، مجلة كلية القانون الكويتية العالمية – السنة الحادية عشرة - العدد2 – العدد التسلسلي 42 – مارس 2023، ص263.

([12]) د. خالد جاسم الهندياني، المصدر السابق، ص 98.

([13])  Géorgie COURTOIS, Intelligence artificielle : des experts se mobilisent contre la

création d’une personnalité juridique pour les robots. Consulté via: https://efl.fr/actualites/affaires/themes-divers/details.html?ref=r-1216c84f-c958-

نقلاً عن كاظم حمدان صدخان البزوني، اثر الذكاء الاصطناعي في نظرية الحق، اطروجة دكتوراه مقدمة الى مجلس كلية القانون – جامعة بغداد، 2022، ص225.

([14]) SIMON CHESTERMAN, ARTIFICIAL INTELLIGENCE AND THE LIMITS OF LEGAL PERSONALITY, ICLQ- vol 69, October 2020, p825.

([15]) Shuq Hussein &  Mahmoud Fayyad, OP.CIT, p258.

([17]) د. احمد بلحاج جرار، مصدر السابق، ص262-263.

([18]) NATHALIE NEVEJANS , Le statut juridique du robot doit-il évoluer ?, LA JAUNE ET LA ROUGE, DOSSIER , Robotique et intelligence artificielle, OP.CIT.

([20]) Andrea BERTOLINI, Scoula superior, artificial intelligence and civil liability, study requested by the European parliaments committee on legal afairs, 2020.   p36.

([21]) د. عمرو طه بدوي،  النظام القانوني للروبوتات الذكية المزودة بتقنية الذكاء الاصطناعي (الامارات العربية المتحدة كأنموذج) – دراسة تحليلية مقارنة لقواعد القانون المدني للروبوتات الصادرة عن الاتحاد الأوربي سنة 2017 و مشروع ميثاق اخلاقيات الروبوت الكوري،  مجلة الدراسات القانونية والاقتصادية – كلية الحقوق جامعة مدينة السادات، مصر، المجلد 7 – العدد 2 2021. ص90.

 https://dx.doi.org/10.21608/jdl.2021.209788 .

([23]) د. إيهاب أبو المعاطي محمد أبو رحاب، خطوة نحو فهم الشخصية القانونية للانسالة ( الروبوت ) ، المجلة القانونية -مجلة متخصصة في الدراسات و البحوث القانونية، المجلد  - العدد 211 ، 2024م ، ص259.

([24]) د. اشرف محمد إسماعيل، الشخصية القانونية للروبوتات الذكية في القانون الوضعي والفقه الإسلامي، مجلة روح القوانين، تصدر عن كلية الحقوق جامعة طنطا، مصر، المجلد 35- العدد 102، مايو 2023. ص1095.

 https://doi.org/10.21608/las.2023.343839 .

([25]) د. إيهاب أبو المعاطي محمد أبو رحاب، المصدر السابق، ص259.

([26]) د. محمد عرفان الخطيب،  المركز القانوني للانسآلة الشخصية والمسؤولية-دراسة تأصيلية مقارنة- قراءة في القواعد الأوروبية للقانون المدني للانسآلة 2017، مجلة كلية القانون الكويتية العالمية- السنة السادسة-العدد4- العدد التسلسلي24-ديسمبر 2018،ص104.

([28]) محمد إبراهيم محمد علام، مصدر سابق، ص2690.

([29]) Avila Negri & Sergio MC. "Robot as legal person: Electronic personhood in robotics and artificial intelligence." Frontiers in Robotics and AI 8 , 2021. P7. http://dx.doi.org/10.3389/frobt.2021.789327 .

([31]) د. محمد عرفان الخطيب الذكاء الاصطناعي والقانون-دراسة نقدية مقارنة في التشريعين المدني الفرنسي و القطري -في ضوء القواعد الأوربية في القانون المدني للإنسآلة لعام 2017 والسياسة الصناعية الأوربية للذكاء الاصطناعي والإنسآلات لعام 2019، مجلة الدراسات القانونية، العدد 4، 2020، ص15.

([32]) د. اشرف محمد إسماعيل، مصدر سابق،  ص1088 .

([33]) Alain Bensoussan & Jérémy Bensoussan. Droit des robots. Contributions by Bruno Maisonnier and Olivier Guilhem. Brussels: Éditions Larcier, 2015. p.20 .

([34]) Marcelo corrales & Mark fenwick & Nikolaus forgo, Robotics,AI and the future of law, perspectives in law, business and innovation. Springer, 2018 p35.

([36]) كاظم حمدان صدخان البزوني، مصدر سابق، ص172-173.

([37])  تشير كلمة الذكاء في هذا المصطلح الى القدرة على أداء مهام تتطلب ذكاء بشري، في حين تشير كلمة اصطناعي الى ما هو من صنع الانسان. استاذتنا د. منى نعيم جاز، دور تقنيات الذكاء الاصطناعي في تقديم الاستشارات القانونية، مجلة العلوم القانونية – تصدر عن جامعة بغداد كلية القانون، المجلد 39-العدد 1، 2024، ص549.

 https://doi.org/10.35246/reb92292 .

([39]) د. محمد جبريل إبراهيم، الاطار القانوني لمنح الشخصية القانونية للروبوت كأحد تقنيات الذكاء الاصطناعي، مجلة روح القوانين – تصدر عن كلية الحقوق جامعة طنطا، مصر، المجلد 35 – العدد 102، 2023، ص559.

([40]) د. محمد عرفان الخطيب، المسؤولية المدنية والذكاء الاصطناعي ... إمكانية المسائلة؟! دراسة تحليلية معمقة لقواعد المسؤولية المدنية في القانون المدني الفرنسي، مجلة كلية القانون الكويتية العالمية-العدد1-العدد التسلسلي 28- مارس 2020، ص28-29.

([42]) Edwards & Veale. Slave to the algorithm: Why a right to an explanation is probably not the remedy you are looking for. Duke Law & Technology Review, 16. 2017. P 38 and Beyond. https://dx.doi.org/10.2139/ssrn.2972855 .

([43]) Martin Ebers. Regulating AI and Robotics. In M. Ebers & S. Navas (eds.), Algorithms and Law Cambridge University Press, 2019. P48. https://dx.doi.org/10.2139/ssrn.3392379 .

([44]) معمر بن طرية، أضرار الروبوتات وتقنيات الذكاء الاصطناعي: تحد جديد لقانون المسؤولية المدنية الحالي، لمحات في بعض مستحدثات القانون المقارن، عدد خاص للمؤتمر الدولي الذكاء الاصطناعي : تحد جديد للقانون، الملتقى الأول ، حولبات جامعة الجزائر، عدد  خاص، 27-28 نوفمبر، 2018. ص 124-125.

([45]) د. إيهاب أبو المعاطي محمد أبو رحاب، مصدر سابق، ص 272.

([46] ) د. محمود إبراهيم فياض، إبراهيم خالد يحيى، إشكاليات تنظيم المسؤولية التقصيرية للروبوت التكيفي-دراسة تحليلية، مجلة العلوم القانونية-جامعة بغداد كلية القانون، المجلد 39 – العدد 1، 2024، ص7.

 https://doi.org/10.35246/zbcwrt24.

([47]) فريدة بن عثمان، الذكاء الاصطناعي، مقاربة قانونية، دفاتر السياسة والقانون، كلية الحقوق والعلوم السياسية، جامعة قاصدي مرباح ورقلة، المحلد 12 – العدد 2، 2020، ص 161.

([48]) د. حسام الدين محمود، واقع الشخصية القانونية للذكاء الاصطناعي، مجلة روح القوانين، تصدر عن كلية الحقوق جامعة طنطا، المجلد 35 – العدد 1022، 2023، ص 165.

([49])  G. Courtois, Robots intelligents et responsabilité : quels régimes, quelles perspectives

? , Dalloz IP/IT, 2016. P 287.

([50]) Xiaoyan Wang, Research on the Legal Personality of Artificial Intelligence Robots, Frontiers in Science and Engineering Volume 1 Issue 5, 2021, p94. DOI: 10.29556/FSE.202108_1(5).0013

([51]) د. رضا محمود العبد، مصدر سابق، ص951 .

([52]) Andrea BERTOLINI & Scoula Superior, OP.CIT , p46.

([53])  Waleed Al-Majid , Electronic Agents and Legal Personality: Time to Treat Them as Human Beings, Proceeding of BILETA, Annual Conference, Hertfordshire 16-17 April, 2007, p.1.

([54]) د. المر سهام، مصدر سابق، ص5-6.

([56]) andrea BERTOLINI & Scoula Superior, OP.CIT, p35.

([57]) د. المر سهام، مصدر سابق، ص6.

([58]) د. محمد عرفان الخطيب، المركز القانوني للانسآلة ، مصدر سابق، ص 109-110.

([59])  Alexandra Mendoza-Caminade. Le droit confronté à l’intelligence artificielle des robots : vers l’émergence de nouveaux concepts juridiques ?. L’intelligence artificielle, Dalloz, 2019, p.445 et S. ⟨hal-02519632⟩ .

([60]) د. محمد عرفان الخطيب، المركز القانوني للانسآلة، مصدر سابق، ص113.

([61]) د. رضا محمود العبد، مصدر سابق، ص 952-953.

 ([62]) “whereas a robot's autonomy can be defined as the ability to take decisions and implement them in the outside world, independently of external control or influence; whereas this autonomy is of a purely technological nature and its degree depends on how sophisticated a robot's interaction with its environment has been designed to be” The European Parliament. European Civil Law Rules on Robotics , OP.CIT, Liability section, AA.

([63]) BARFIELD Woodrow. Liability for autonomous and artificially intelligent robots. Paladyn, Journal of Behavioral Robotics, 9.1, 2018, p193.

([64]) د. محمود حسن السحلي ، أساس المسائلة المدنية للذكاء الاصطناعي المستقل - قوالب تقليدية ام رؤية جديدة؟ ، مجلة الحقوق للبحوث القانونية والاقتصادية – تصدر عن كلية الحقوق جامعة الإسكندرية، المجلد 2 – العدد 2، يوليو 2022، ص58.

([65]) لتفصيل اكثر حول التعلم العميق راجع : د. محمد لحلح، مدخل الى الذكاء الاصطناعي وتعلم الآلة، اكاديمية حسوب للنشر، النسخة الأولى ، 2020. ص95 وما بعدها.

([66]) د. عبدالله موسى و د.احمد حبيب بلال، الذكاء الاصطناعي ثورة في تقنيات العصر، المجموعة العربية للتدريب والنشر- مصر القاهرة، الطبعة الأولى، 2019، ص26.

([67])  Sutton, Richard S., and Andrew G. Barto. Reinforcement Learning: An Introduction. 2nd ed. Cambridge, MA: MIT Press, 2018.

([68])  راجع في تفصيل ذلك : سامية شهبي قمورة واخرون، الذكاء الاصطناعي بين الواقع والمأمول-دراسة تقنية و ميدانية، بحث مشارك في الملتقى الدولي بعنوان ( الذكاء الاصطناعي : تحد جديد للقانون)- الجزائر 26-27 نوفمبر، 2018. راجع ايضاً

JANIESCH, Christian; ZSCHECH, Patrick; HEINRICH, Kai. Machine learning and deep learning. Electronic Markets, 2021, 31.3, p687.

([69])  Tobias Mahler, Smart Robotics in the EU Legal Framework The Role of the Machinery Regulation, Oslo Law Review, Volume 11, No.1-2024, p.2. ISSN online: 2387-3299 DOI: https://doi.org/10.18261/olr.11.1.5 .

([70])  في دراسة استقصائية حديثة أُجريت عام 2017 وشملت 1,634 عالمًا متخصصًا في الذكاء الاصطناعي، توقَّع 352 منهم، أي ما نسبته 21% من العينة، أن مفهوم العمل البشري سيصل إلى نهايته خلال أقل من قرن ونصف، بحلول عام 2150. وقد وضع هؤلاء العلماء جدولًا زمنيًا يُحدد المراحل التي ستحلُّ فيها الآلات الذكية محل الإنسان في مختلف المهن.

وفقًا للدراسة، ستتفوق الآلات الذكية على المترجم البشري بحلول عام 2024، وستصبح قادرة على كتابة الرسائل العلمية، مثل أطروحات الماجستير والدكتوراه، بحلول عام 2026. وبحلول عام 2027، ستتمكن من القيام بجميع المهام المتعلقة بالطرق والمرور، بينما ستدخل عالم التجارة والاقتصاد في عام 2030. أما في مجال الكتابة الأدبية، فسيكون بإمكانها تأليف الروايات بحلول عام 2049، قبل أن تدخل المجال الطبي وتنافس الجراحين البشريين بحلول عام 2053. كما أشارت الدراسة إلى وجود احتمال بنسبة 50% أن يتفوق الذكاء الاصطناعي على نظيره البشري خلال 45 عامًا فقط. انظر :

When Will Al Exceed Human Performance? Evidence from Al Experts. Katja Grace, Hohn Salvatier, Allan Dafore, Baobao Zhang, Owain Evan. Submitted on 24 May 2017. Voir aussi: La fin du travail d'ici un siecle?

http://www.fredzone.org/la-fin-du-travail-dici-un-siecle-028. visité dans  : 4/10/2024. Voir aussi: H.devauplane, Transhumaisme, banque et finance, Quand I'homme disparait face à la machine, Revue banque., no783. 2015, p18.

([71]) د. محمد عرفان الخطيب، المركز القانوني للانسآلة، مصدر سابق، ص112.

([72]) Karolina Ziemianin, Civil Legal personality of artificial intelligence. Future or utopia ? Internet policy review. Vol.10 – issue.2, 2021, p19.

([73])  Article 9, Risk management system ( 1. A risk management system shall be established, implemented, documented and maintained in relation to high-risk AI systems.) Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act). http://data.europa.eu/eli/reg/2024/1689/oj.



من أجل تحميل هذا المقال كاملا - إضغط هنا أو أسفله

قانونك


 من أجل تحميل العدد 26  - إضغط هنا أو أسفله


مجلة قانونك - العدد الثالث