كتبها: د. أحمد محسن محمد ماضي دكتوراه في تكنولوجيا التعليم ، ومصمم تعليمي .
يقول روبرت أو بنهايمر مخترع القنبلة الذرية “من الإستحالة أن نكون علماء دون أن نؤمن بقوة العلم وأهميتة للإنسان ودون أن نكون على استعداد لتحمل العواقب”
في عام 2004 تم إصدار الفيلم الأجنبي أنا روبوت (I,Robot)، وتدور أحداث الفيلم في المستقبل، وبالتحديد عام 2035؛ حين تطورت التكنولوجيا وصنعت آليين فائقي القدرات يساعدون البشر في كل الأنشطة الممكنة.
في هذه الأجواء يعيش ضابط شرطة كاره للآليين، ويُكلَّف بالتحقيق في جريمة قتل خبير تطوير للآليين، وعندما يكتشف شواهد تشير إلى تورط إنسان آلي في الجريمة؛ يتحول الأمر إلى خوف حقيقي؛ نظرًا لخرق الآليين اتفاق الإحترام المتبادل مع البشر وهذا يعني أنهم من الممكن أن يتمكنوا من السيطرة على العالم بسهولة فائقة.
يبدأ البطل التحقيق في الأمر وحماية مصير البشر، مستعينًا بطبيبة نفسية متخصصة بدراسة الحالة النفسية للآليين.
على الرغم أن هذا العمل الفني كان في وقتها موضوعًا مسليًا وهدفه الأساسي هو تحقيق الربح في دور السينما من خلال إطلاق العنان للخيال البشري إلان أننا الآن لابد أن نتوقف عن التسلية وعلينا الحذر، وتوجيه سؤال لأنفسنا بخصوص موضوع الذكاء الإصطناعي.
ماذا لو تحول هذا الفيلم إلي واقع حقيقي، وأصبح الذكاء الإصطناعي قادرًا على الإستقلال عن توجية البشر؟
في هذا المقال سنتناول معًا بعض من مخاطر إستخدام الذكاء الإصطناعي في حياتنا بشكل عام وفي مجال التعليم على وجه الخصوص.
لا ننكر أن الذكاء الإصطناعي قد نبع نتيجة جهود بحثية كبيرة في ميادين علمية متعددة، وعندما بدأت نتائج هذه الجهود في الظهور أصبح جليًا أن تأثيراته تعدت الميدان العلمي لتمس جانب كبيرًا من مجالات الحياة اليومية، وذلك نتيجة التشابك والتداخل بين المجالات المختلفة.
ومن خلال التطور الذي حدث في مجال الذكاء الاصطناعي نجد أن هناك رآيين بخصوص هذا الموضوع، الرآي الأول يرى أن تطور مجال الذكاء الإصطناعي سيصل في النهاية إلى تحطيم حياة الإنسان والسيطرة على العالم. ويصل إلى مرحلة من التطور يصعب على الإنسان التحكم فيها (وهذا الرآي ما سنوضحه أسبابه معًا في هذا المقال). وقسم آخر لا يرى في الأمر خطورة، بل بالعكس يتطلع إلى مستقبل فيه من الرفاهية الشيء الكثير لما سيوفره الذكاء الإصطناعي من يسر في كثير من مجالات الحياة (وهذا ما سنتناولة في مقال لاحق بإذن الله).
الجدير بالذكر هو أن عدداً كبيراً من عناصر الرآي الأول هم من صانعي الذكاء الإصطناعي والعاملين في المجال، وفيما يلي نستعرض معًا وجهة النظر الأولى والتي مفادها الإجابة على السؤال المطروح في بداية المقال الحالي.
الذكاء الإصطناعي تقنية دمار شامل
لا ليس على الصعيد العسكري كما جاء في ذهنك ولكن على الصعيد العام للمجتمع فالمشكلة أبعد من كونها تخص مجالاً بعينه، فالخوف كل الخوف في أن يصبح الإنسان البشري عبدًا يخدم الإنسان الآلي.
فإذا ما نجح العلماء في تطوير آلات الذكاء الإصطناعي وأصبحت تتمتع بذكاء عالي جداً، سيكون لنا خياران لا ثالث لهما.
الأول: هو أن نترك لتكنولوجيا الذكاء الاصطناعي حرية اتخاذ القرار منذ البداية:
هنا نفقد السيطرة على مجريات الأمور ولا أحد يدري في هذه الحالة إلى أين ستسير بنا تلك التكنولوجيا، فهي التي تخطط ونحن ننفذ دون وعي أو تفكير وبهذا الخيار يصبح الإنسان بلا إنسانية. و قد يرى البعض أن هذا الخيار غاية في السذاجة فليس هناك إنسان بالغباء الكافي الذي يجعله يسلم أمره لتكنولوجيا حتى وإن كانت غاية في الذكاء.
ولكن هذا الرآي يتبنى مجموعة من الأسباب التي تجعله يتوقع هذا مثل:
ففي المستقبل غير البعيد، سيصبح العالم في غاية التعقيد إلى درجة يصعب على الإنسان مجاراة الأمور ويستسهل على نفسه الاستعانة بالآلة والقبول بقراراتها، وشيئاً فشيئاً يكون لها القرار الأول والأخير ويزيد العالم تعقيداً، وفي ذلك الوقت يصبح الاستغناء عن الآلة ضرباً من الانتحار.
لو التفتنا قليلاً إلى الوراء قبل التلفاز، والسيارة، والمكيف، والهاتف، والثلاجة وغيرها. وقارنا تلك الأيام باليوم سنرى مدى تعلقنا بالآلة على الرغم من أن آلة اليوم لا تملك من الذكاء شيئاً ولا تصنع القرار، آلة المستقبل القريب أكثر إغراء وأكثر قوة.
الثاني: هو ألا نسلم مقاليد الأمور لتكنولوجيا الذكاء الاصطناعي:
وفي هذه الحالة يكون للإنسان السيطرة على عدد من التكنولوجيا الذكية التي تخصه مثل الأجهزة المنزلية والسيارة، والحاسبات وغيرها. ونتيجة لذلك فإن الأجهزة الأكبر والأقدر والأذكى ستكون عند عدد صغير من الناس وهم النخبة. وهنا – رضينا أم أبينا – ستكون هذه النخبة – على خُلق كانت أم لم تكن.
وتكون النتيجة أنها تملك موازين القوى وتتحكم في مصير العامة بما تملكه من تقنية غاية في التعقيد والذكاء، ويتحول الناس إلى خدم يخدمون أصحاب القوة وهم قلة. ولما في طبيعة البشر من أنانية وطمع وحب للذات ليس من الصعب أن نتخيل العواقب الوخيمة لهذه الطبقية التكنولوجية.
فقدان الوظائف بسبب الذكاء الإصناعي
من المتوقع فقدان 85 مليون وظيفة بسبب الأتمتة بين عامي 2020 و 2025، ماذا لو أصبحت جميع السيارات تتمتع بقيادة ذاتية وتحكم من خلال الآلة وبرامج الذكاء الإصطناعي، وهذا على سبيل المثال لا الحصر، يحدث هذا نظرًا لأن روبوتات الذكاء الاصطناعي أصبحت أكثر ذكاءً وأكثر مهارة، فستتطلب نفس المهام عددًا أقل من البشر، وهذا سينعكس بالطبع على مجالات عديدة.
الإنتهاكات والمناورات الإجتماعية من خلال خوارزميات الذكاء الإصطناعي
في عام 2018 صدر تقرير بعنوان “الاستخدام الضار للذكاء الاصطناعي: التنبؤ والوقاية والتخفيف” حيث أسرد الانتهاكات المحتملة للذكاء الاصطناعي التلاعب الاجتماعي كأحد أهم مخاطر الذكاء الاصطناعي، واتخذ منصة “TikTok” كمثال لمثل هذه الإنتهاكات.
وأكد التقرير أن التطبيق يعمل من خلال خوارزمية للذكاء الاصطناعي تقوم بعرض محتوياته على المستخدم طبقًا لما قام المستخدم بمشاهدته سابقًا، ولكن هذه التقنية فشلت في تصفية المحتوى الضار وغير الدقيق، مما آثار الشكوك حول قدرة TikTok على حماية مستخدميها من الوسائط الخطيرة والمضللة، وهذا انعكس على وسائل الإعلام والأخبار عبر الإنترنت التي أصبحت أكثر ضبابية في ضوء اختراق التزييف العميق للمجالات السياسية والاجتماعية.
كما أن هذه التقنيات تسهل استبدال صورة شخصية بصورة أخرى او مقطع فيديو، ونتيجة لذلك فإن الجهات الفاعلة السيئة لديها وسيلة أخرى لتبادل المعلومات الخاطئة والدعاية الحربية، مما يخلق سيناريو كابوسًا حيث قد يكون من المستحيل تقريبًا التمييز بين الأخبار الجديرة بالتصديق والأخبار الخاطئة.
ونستنتج مما سبق أنه في هذا التوقيت ومع مرور الزمن وتطور تلك التقنيات يصبح من الصعب التعرف على ما هو حقيقي وما هو غير ذلك.
المراقبة الاجتماعية باستخدام تقنية الذكاء الاصطناعي
في سبتمبر من عام 2018 بدأت الصين في تطبيق قانون يتيح إستخدام تقنية التعرف على الوجه في المكاتب والمدارس وأماكن أخرى، وكذلك يقوم بتتبع تحركات الشخص داخل الدولة، لتكون الحكومة قادرة على جمع بيانات كافية لمراقبة أنشطة الشخص وعلاقاته ووجهات نظره السياسية.
كذلك إدارات الشرطة الأمريكية أن تتبنى خوارزميات الشرطة التنبؤية لتتوقع مكان وقوع الجرائم والظاهر في هذه التقنية أنها ممتازة لأنها تساعد على إنخفاض مستوى الجريمة لكن المشكلة هي أن هذه الخوارزميات تتأثر بمعدلات الإعتقال، والتي تؤثر بشكل غير متناسب على مجتمعات السود، مما يؤدي إلى المبالغة في ممارسة الشرطة وتساؤلات حول ما إذا كانت الديمقراطيات المزعومة قادرة على مقاومة تحويل الذكاء الاصطناعي إلى سلاح استبدادي، وهذا يتيح فرصة للانظمة الإستبدادية في إستخدام تلك التقنيات.
وبالتالي نستطيع أن يدور في أذهاننا سؤال هامًا وهو “إلى أي مدى تستخدم الأنظمة تقنيات الذكاء الإصطناعي وما هي القيود التي توضع عليها؟”
الإنسانية وتأثير الذكاء الإصطناعي على سلوكنا وتفاعلنا
في عام 2015 فاز روبوت يُدعى Eugene Goostman بتحدي Turing للمرة الأولى، في هذا التحدي، استخدم المقيمون البشر إدخال النص للدردشة مع كيان غير معروف، ثم خمّنوا ما إذا كانوا يتحدثون مع إنسان أو آلة، خدع الروبوت أكثر من نصف المقيمين من البشر ليعتقدوا أنهم كانوا يتحدثون إلى إنسان، مما يعني أن الروبوتات ذات الذكاء الاصطناعي أصبحت أفضل في نمذجة المحادثات والعلاقات البشرية.
هذا الحدث هو مجرد بداية لعصر نتفاعل فيه بشكل متكرر مع الآلات كما لو كانوا بشرًا؛ سواء في خدمة العملاء أو المبيعات، إلا أن البشر محدودون في الاهتمام واللطف الذي يمكنهم إظهاره لشخص آخر، أما الروبوتات الإصطناعية فيمكنها توجيه موارد غير محدودة لبناء تلك العلاقات ومراعاة المشاعر للآخرين.
هذه بعض من المشكلات والمخاطر التي قد تسبب لنا مخاوف من إستخدامنا لتقنيات الذكاء الإصطناعي في حياتنا بشكل عام، أما على الصعيد التعليمي فيمكننا أن نستعرض معًا مجموعة آخرى من المشكلات يمكن عرضها فيما يلي:
تقليل التفاعل البشري
على الرغم من أن الذكاء الاصطناعي أداة تعليمية مفيدة، إلا أن أحد العوائق هو أنه بسبب عدم تفاعل التلاميذ مع البشر الحقيقيين أثناء الفصل فإنهم يكونون غير قادرين على ممارسة واكتساب المهارات الاجتماعية، وبالتالي فعندما يتخرجون من المدرسة أو الجامعة ويحتاجون إلى هذه الأنواع من العلاقات لوظائفهم أو حتى مجرد اتصالات اجتماعية كبالغين، يصبح الأمر صعبًا عليهم، وبالتالي يضر ذلك بالتعلم الاجتماعي والعاطفي وتنمية مهارات التعامل مع الآخرين.
تعزيز الافتقار إلى الإبداع والابتكار
دمج الذكاء الاصطناعي في التعليم يمكن أن يؤدي إلى نقص محتمل في الإبداع بين الطلاب، حيث تساعد خوارزميات التعلم الآلي على تحسين الكفاءة والدقة والقدرة على التنبؤ، على الرغم من أن هذه جوانب أساسية للتعلم، إلا أنها قد تعيق الإبداع حيث تقل احتمالية تشجيع الأنظمة القائمة على الذكاء الاصطناعي الطلاب على التفكير خارج الصندوق أو الانخراط في حل المشكلات الإبداعي، وقد يحد الطلاب من قدرتهم على ابتكار أفكار مبتكرة، وقد يؤدي ذلك في النهاية إلى إعاقة نجاحهم في المستقبل، حيث أن الإبداع هو أحد الأصول القيمة في العديد من المهن.
تعزيز التحيزات الموجودة
أحد الآثار السلبية للذكاء الاصطناعي في التعليم هو أنه قد يعزز التحيزات الموجودة، تعتمد خوارزميات التعلم الآلي على كميات هائلة من البيانات لتحديد الأنماط وإجراء التنبؤات، وإذا كانت البيانات متحيزة، فسيكون الذكاء الاصطناعي أيضًا.
على سبيل المثال: قد يكون نظام الذكاء الاصطناعي المستخدم في تصنيف المقالات قد تم تدريبه على مجموعة بيانات أقل من أي تمثيل ديموغرافي معين، مما يؤدي إلى تصنيف غير عادل وبالتالي يمكن أن يؤدي ذلك الافتقار إلى التنوع والشمولية في التعليم وقد يؤدي إلى استمرار عدم المساواة القائمة.
الإفراط في الاعتماد على التكنولوجيا
قد يؤدي الذكاء الاصطناعي في التعليم أيضًا إلى الاعتماد المفرط على التكنولوجيا، بينما تتمتع التكنولوجيا بالعديد من الفوائد، إلا أن الاعتماد المفرط عليها يمكن أن يعيق التفكير النقدي ومهارات حل المشكلات، وقد يصبح الطلاب معتمدين بشكل كبير على التكنولوجيا لتقديم إجابات وحلول بدلاً من استخدام مهارات التفكير النقدي لديهم.
قلة التعاطف والذكاء العاطفي
يعد الافتقار إلى التعاطف والذكاء العاطفي عيبًا آخر من عيوب لذكاء الاصطناعي في التعليم، فعلى الرغم من أن الأنظمة القائمة على الذكاء الاصطناعي يمكن أن توفر تجارب تعليمية مخصصة وردود فعل آلية، إلا أنها قد لا تكون قادرة على تقديم نفس المستوى من الدعم العاطفي والفهم مثل المعلمين البشريين، وقد يكون الأمر صعبًا بشكل خاص على الطلاب الذين يواجهون تحديات عاطفية أو يحتاجون إلى مساعدة إضافية، قد لا تتمكن أنظمة الذكاء الاصطناعي من التعرف على الإشارات العاطفية أو الاستجابة لها بشكل مناسب، ولا يمكن أن يوفر مستوى التشجيع والدعم الذي يمكن أن يقدمه المعلمون البشريون، وبالتالي من الممكن أن يعيق ذلك قدرة الطلاب على تطوير الذكاء العاطفي والمهارات الاجتماعية، والتي تعتبر ضرورية لنموهم الشخصي ونجاحهم في المستقبل.
التعرض لمخاطر القرصنة والأمن السيبراني
قد يكون الذكاء الاصطناعي في التعليم أيضًا عرضة لمخاطر القرصنة والأمن السيبراني، وذلك نظرًا لأن الذكاء الاصطناعي والتدريس أصبحا أكثر تعقيدًا وترابطًا، فيمكن أن يؤثر ذلك على بيانات الطالب ودقة وموثوقية التقييمات الأكاديمية، مع الاستخدام المتزايد للذكاء الاصطناعي في التعليم من الضروري التأكد من أن الأنظمة آمنة ومحمية من التهديدات السيبرانية، وبخلاف ذلك قد تكون العواقب وخيمة حيث يتم اختراق المعلومات الشخصية للطالب والتقدم الأكاديمي أو التلاعب بهما.
انتهاك الخصوصية
يتطلب الذكاء الاصطناعي الوصول إلى كميات كبيرة من البيانات لتعمل بشكل صحيح، مما يثير مخاوف بشأن الخصوصية سواء على مستوى الأفراد أو المؤسسات، ومع الاستخدام المتزايد للذكاء الاصطناعي في التعليم من الضروري ضمان حماية البيانات بشكل مناسب والحفاظ على الخصوصية، فبدون تدابير أمنية مناسبة قد يؤدي استخدام الذكاء الاصطناعي في التعليم إلى الكشف غير المصرح به عن المعلومات السرية، مما يعرض الطلاب والمؤسسات التعليمية للخطر لذلك من الضروري تنفيذ تدابير أمنية مناسبة لحماية بيانات الطلاب الومؤسسات وذلك للحفاظ على الخصوصية والتأكد من أن استخدام الذكاء الاصطناعي في التعليم لا يضر بأمن وسرية المعلومات الحساسة.
التكلفة وسهولة الوصول
قد يكون استخدام تقنية الذكاء الاصطناعي في التعليم مكلفًا، مما قد يحد من وصول بعض المؤسسات والطلاب ويؤدي ذلك إلى خلق فجوة رقمية، حيث يمكن لعدد قليل فقط من الطلاب الاستفادة من تقنية الذكاء الاصطناعي، علاوة على ذلك قد تكون الصيانة والتحديثات على التكنولوجيا باهظة الثمن أيضًا، هذا يجعل من الصعب على بعض المدارس مواكبة أحدث التطورات في مجال الذكاء الاصطناعي، ونتيجة لذلك قد تتخلف المدارس التي لا تستطيع تحمل تكاليف أحدث تقنيات الذكاء الاصطناعي في توفير تعليم جيد لطلابها مما يديم الفجوة الرقمية.
وفي الختام نؤكد أننا لا ننكر مدى التطور الذي يحدث في شتى المجالات بسبب تطوارت تقنية الذكاء الإصطناعي، ولكن السؤال اللذي لابد أن يظل في أذهان الجميع هو إلي أي مدى ستصل تلك التقينات وما تأثيرها على الإنسان في الحاضر والمستقبل؟
بوابة تكنولوجيا التعليم أول بوابة عربية تهتم بتكنولوجيا التعليم والتعليم الإلكتروني منذ عام 2003
