الذكاء الاصطناعيمقالات

لماذا يقول الخبراء أنه يجب علينا التحكم في الذكاء الاصطناعي الآن

يقول العلماء إنه إذا طور البشر ذكاء اصطناعيًا فائق الذكاء، فقد لا تكون هناك طريقة للسيطرة عليه.

لطالما تم الترويج للذكاء الاصطناعي على أنه علاج لجميع مشاكل البشرية أو نهاية العالم بأسلوب Terminator. حتى الآن، لم يقترب الذكاء الاصطناعي من مستوى الذكاء البشري حتى. لكن الإبقاء على قيود على الذكاء الاصطناعي المتقدم قد يكون مشكلة معقدة للغاية بالنسبة للبشر إذا تم تطويرها على الإطلاق، وفقًا لورقة بحثية حديثة نُشرت في مجلة أبحاث الذكاء الاصطناعي.

قال مانويل سيبريان، أحد المؤلفين المشاركين في البحث، في بيان صحفي: “تبدو الآلة فائقة الذكاء التي تتحكم في العالم مثل الخيال العلمي”.

“ولكن هناك بالفعل آلات تؤدي مهامًا مهمة معينة بشكل مستقل دون أن يفهم المبرمجون تمامًا كيف تعلموها. لذلك فإن السؤال الذي يطرح نفسه هو ما إذا كان هذا يمكن أن يصبح في مرحلة ما لا يمكن السيطرة عليه وخطيرًا على البشرية”.

سوبر كمبيوتر بالقرب منك!

تجادل الورقة البحثية بأن التحكم في الذكاء الاصطناعي يتطلب تقنية أكثر تقدمًا بكثير مما نمتلكه حاليًا.

في دراستهم، صمم الفريق خوارزمية احتواء نظرية تضمن أن الذكاء الاصطناعي الخارق لا يمكن أن يؤذي الناس تحت أي ظرف من الظروف، من خلال محاكاة سلوك الذكاء الاصطناعي أولاً ووقفه إذا اعتبر ضارًا. لكن المؤلفين وجدوا أن مثل هذه الخوارزمية لا يمكن بناؤها.

قال إياد رهوان ، مدير مركز البشر والآلات في معهد ماكس بلانك للتنمية البشرية في ألمانيا ، في البيان الصحفي: “إذا قمت بتقسيم المشكلة إلى القواعد الأساسية من علوم الكمبيوتر النظرية، فقد تبين أن الخوارزمية التي من شأنها أن تأمر الذكاء الاصطناعي بعدم تدمير العالم يمكن أن توقف عملياتها الخاصة عن غير قصد”.

“إذا حدث هذا، فلن تعرف ما إذا كانت خوارزمية الاحتواء لا تزال تحلل التهديد، أو ما إذا كانت قد توقفت لاحتواء الذكاء الاصطناعي الضار. في الواقع، هذا يجعل خوارزمية الاحتواء غير قابلة للاستخدام”.

لماذا يقول الخبراء أنه يجب علينا التحكم في الذكاء الاصطناعي الآن 1

يقول ميكاليس فازيرجيانيس، أستاذ علوم الكمبيوتر في كلية البوليتكنيك في فرنسا، إن الذكاء الاصطناعي الذكي حقًا قد يكون هنا في وقت أقرب مما نعتقد. وصرّح: “الذكاء الاصطناعي هو قطعة أثرية بشرية، لكنه يتحول بسرعة إلى كيان مستقل”.

“النقطة الحاسمة ستكون إذا / عندما يحدث التفرد (أي عندما يكون لدى الذكاء الاصطناعي وعي ككيان) وبالتالي سيطالب بالاستقلال والتحكم في النفس والهيمنة في نهاية المطاف”.

التفرّد قادم

فازيرجيانيس ليس وحده من توقع الوصول الوشيك للذكاء الاصطناعي الفائق. حيث يحب المؤمنون الحقيقيون بتهديد الذكاء الاصطناعي الحديث عن “التفرد”، وهو ما يشرحه فازيرجيانيس بأنه النقطة التي مفادها أن الذكاء الاصطناعي سوف يحل محل الذكاء البشري و “أن خوارزميات الذكاء الاصطناعي ستدرك وجودها وتبدأ في التصرف بأنانية وتعاون فيما بينها”.

وفقًا لراي كورزويل، مدير الهندسة في جوجل، فإن التفرد سيصل قبل منتصف القرن الحادي والعشرين. قال كورزويل في تصريح صحفي: “2029 هو التاريخ الثابت الذي توقعته عندما يجتاز الذكاء الاصطناعي اختبار تورينغ صالحًا وبالتالي يحقق مستويات الذكاء البشري”.

“إذا لم نتمكن من تنظيف منزلنا، فما هو الرمز الذي من المفترض أن نطلب من الذكاء الاصطناعي اتباعه؟”

“لقد حددت تاريخ 2045 للوصول إلى التفرد، وهو الوقت الذي نضاعف فيه ذكائنا الفعال مليار مرة من خلال الاندماج مع الذكاء الذي أنشأناه”.

لكن ليس كل خبراء الذكاء الاصطناعي يعتقدون أن الآلات الذكية تشكل تهديدًا. قال إيمانويل ماجوري، مستشار الذكاء الاصطناعي، في مقابلة عبر البريد الإلكتروني، إن الذكاء الاصطناعي قيد التطوير من المرجح أن يكون مفيدًا في تطوير الأدوية ولا يظهر أي ذكاء حقيقي. وأضاف: “هناك ضجة كبيرة حول الذكاء الاصطناعي، مما يجعله يبدو وكأنه ثوري حقًا”. “أنظمة الذكاء الاصطناعي الحالية ليست دقيقة بالدقة التي يتم الإعلان عنها، وترتكب أخطاء لن يرتكبها الإنسان أبدًا”.


اقرأ أيضًا:

التحكّم في الذكاء الاصطناعي الآن

يقول فازيرجيانيس إن تنظيم الذكاء الاصطناعي بحيث لا يفلت من سيطرتنا قد يكون صعبًا. تتحكم الشركات، وليس الحكومات، في الموارد التي تدعم الذكاء الاصطناعي. وقال “حتى الخوارزميات نفسها عادة ما يتم إنتاجها ونشرها في مختبرات الأبحاث لهذه الكيانات الكبيرة والقوية، والمتعددة الجنسيات عادة”.

“من الواضح، أن حكومات الدول لديها سيطرة أقل وأقل على الموارد اللازمة للسيطرة على الذكاء الاصطناعي”.

ويقول بعض الخبراء إنه للتحكم في الذكاء الاصطناعي الفائق الذكاء، سيحتاج البشر إلى إدارة موارد الحوسبة والطاقة الكهربائية. قال فازيرجيانيس: “أفلام الخيال العلمي مثل The Matrix تقدم نبوءات حول مستقبل بائس حيث يستخدم الذكاء الاصطناعي البشر كمصادر للطاقة الحيوية”.

“على الرغم من الاستحالات البعيدة، يجب أن تتأكد البشرية من وجود سيطرة كافية على موارد الحوسبة (على سبيل المثال، مجموعات الكمبيوتر، ووحدات معالجة الرسومات، وأجهزة الكمبيوتر العملاقة، والشبكات / الاتصالات)، وبالطبع محطات الطاقة التي توفر الكهرباء والتي تضر تمامًا بوظيفة الذكاء الاصطناعي”.

لماذا يقول الخبراء أنه يجب علينا التحكم في الذكاء الاصطناعي الآن 2

قال مايكل بيرتهولد، المؤسس المشارك والرئيس التنفيذي لشركة برمجيات علوم البيانات KNIME، في مقابلة عبر البريد الإلكتروني، إن مشكلة التحكم في الذكاء الاصطناعي هي أن الباحثين لا يفهمون دائمًا كيف تتخذ هذه الأنظمة قراراتهم. “إذا لم نفعل ذلك، كيف يمكننا التحكم فيه؟”

وأضاف: “نحن لا نفهم متى يتم اتخاذ قرار مختلف تمامًا بناءً على مدخلات غير ذات صلة بالنسبة لنا”.

قال برتولد إن الطريقة الوحيدة للتحكم في مخاطر استخدام الذكاء الاصطناعي هي التأكد من استخدامه فقط عندما يكون هذا الخطر قابلاً للإدارة. وأضاف “بعبارة أخرى، مثالان متطرفان: لا تجعل الذكاء الاصطناعي مسؤولًا عن محطة الطاقة النووية الخاصة بك حيث يمكن أن يكون لخطأ بسيط آثار جانبية كارثية”.

“من ناحية أخرى، يتوقع الذكاء الاصطناعي ما إذا كان يجب تعديل درجة حرارة غرفتك لأعلى أو لأسفل قليلاً قد تستحق المخاطرة الضئيلة لصالح الراحة المعيشية”.

قال بيتر سكوت، مهندس الكمبيوتر السابق في ناسا، في مقابلة عبر البريد الإلكتروني، إذا لم نتمكن من التحكم في الذكاء الاصطناعي، فمن الأفضل أن نعلمه الآداب. وقال “لا يمكننا، في نهاية المطاف، ضمان التحكم في الذكاء الاصطناعي أكثر مما يمكننا ضمانه لأطفالنا”.

“نربيهم بشكل صحيح ونأمل في الأفضل؛ حتى الآن، لم يدمروا العالم. ولتربيتهم جيدًا، نحتاج إلى فهم أفضل للأخلاق؛ إذا لم نتمكن من تنظيف منزلنا، فما هو الرمز الذي من المفترض أن نسأل الذكاء الاصطناعي لمتابعة؟”

يقول باحث الذكاء الاصطناعي يوناتان ويكسلر، نائب الرئيس التنفيذي للبحث والتطوير في OrCam، إن كل الآمال لم تضيع للجنس البشري. وقال في مقابلة عبر البريد الإلكتروني: “في حين أن التقدم مثير للإعجاب حقًا، فإن إيماني الشخصي هو أنه لا ينبغي الاستهانة بالذكاء البشري”. “نحن ككائنات خلقت أشياء مذهلة، بما في ذلك الذكاء الاصطناعي نفسه”.

يستمر البحث عن ذكاء اصطناعي أكثر ذكاءً. ولكن قد يكون من الأفضل التفكير في كيفية التحكم في إبداعاتنا قبل فوات الأوان.