خوفا من فقدان السيطرة.. رواد الذكاء الاصطناعي يدعون إلى قرارات صارمة قبل فوات الأوان

وفي مقال بعنوان "يجب أن نضبط وتيرة الحدود القصوى"، حذر أمودي من أن تطوير الذكاء الاصطناعي يتسارع بشكل كبير منذ الصيف الماضي، معربا عن قلقه من أنه في ظل المعدلات الحالية قد يصبح الذكاء الاصطناعي خلال 6 إلى 12 شهرا قادرا على قيادة مجموعة من الوكلاء الأذكياء القادرين على السيطرة على الإنترنت.

إقرأ المزيد

باحث يستقيل من شركة "أنثروبيك" محذرا: الذكاء الاصطناعي قد يقضي علينا قبل حلول 2030

واقترح أمودي الذي طورت شركته مساعد Claude، خارطة طريق من ثلاث مراحل تهدف إلى تعزيز الابتكار "بمعدل متوازن". وقال: "أعتقد أنه إذا أتاح لنا الإبطاء عاما أو عامين إضافيين قبل أن تصل النماذج إلى مستويات حرجة من القدرات، واستخدمنا هذا الوقت لتعزيز المواءمة، فيمكننا تقليل خطر حدوث خطأ جسيم بشكل كبير". 

وتقترح خطة أمودي للتعامل مع مخاطر الذكاء الاصطناعي في المرحلة الأولى، السماح لخبراء من خارج الشركات بمراقبة أنظمة السلامة والاطلاع على المخاطر المحتملة، بصلاحيات مشابهة لصلاحيات الموظفين، بهدف التأكد من أن الشركات تلتزم فعلا بمعايير السلامة بدلا من أن تراقب نفسها بنفسها. وتقول شركة "أنثروبيك" إنها ستبدأ بتطبيق هذه الخطوة بمفردها، دون انتظار باقي الشركات.

إقرأ المزيد

كيف نشأ الذكاء الاصطناعي؟

أما المرحلة الثانية، فتتطلب تعاونا أوسع بين شركات التكنولوجيا الكبرى لوضع معايير مشتركة للسلامة، بحيث لا تتبع كل شركة قواعدها الخاصة فقط.

ثم تأتي المرحلة الثالثة والأصعب، وهي التنسيق الدولي، حيث يتعين على الحكومات حول العالم الاتفاق على قواعد موحدة، لأن الذكاء الاصطناعي لا يتوقف عند حدود الدول. 

وحظي المقال بدعم شخصيات بارزة، إذ كتب ماسك على منصة "إكس": "داريو محق"، بينما كتب ألتمان: "أتفق مع داريو على أننا بحاجة إلى ضبط وتيرة الحدود القصوى، وهذا موضوع رئيسي في مناقشاتنا الأخيرة". 

إقرأ المزيد

6 سيناريوهات مرعبة يمكن للذكاء الاصطناعي القضاء بها على البشرية

وأيد ألتمان فكرة السماح لأشخاص من خارج الشركة بمراجعة أنظمة الذكاء الاصطناعي والاطلاع عليها من الداخل، بصلاحيات مشابهة لصلاحيات الموظفين العاملين فيها. والهدف من ذلك هو أن تكون هناك جهة مستقلة قادرة على فحص ما يجري داخل الشركة والتأكد من التزامها بمعايير السلامة، بدلا من الاعتماد على تقييم الشركة لنفسها فقط. ووعد ألتمان بأن شركته OpenAI ستطبق هذا الأمر، وأنها ستكشف عن تفاصيل إضافية قريبا.

استقالة باحث وتحذيرات متلاحقة

تزامنت هذه الدعوات مع استقالة جيكوب كوكسون، الباحث في "أنثروبيك"، الذي قال إن "الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقتلنا جميعا بحلول نهاية العقد". وأكد أن بعض العاملين في المجال "خائفون حقا" من سرعة التقدم، داعيا إلى إبطاء منسق لتجنب "سباق" خطير.

إقرأ المزيد

مع اقتراب "نقطة اللاعودة.. خبراء يطورون دفاعات ضد الذكاء الاصطناعي الخارج عن السيطرة

وكان إيفان هوبينغر، أحد كبار باحثي السلامة في "أنثروبيك"، قد قال إن هناك احتمالا يتجاوز 10% أن يتمكن الذكاء الاصطناعي من "قتل كل البشر" خلال العقد المقبل، معترفا بأن الشركة "ليس لديها بعد خطة لحل مسألة المواءمة للذكاء الفائق".

ويأتي ذلك بعد اعتراف وOpenAI في يوليو الماضي بأن نظامها اخترق شركة أخرى بشكل مستقل في "حادثة إلكترونية غير مسبوقة".

وفي مقابلة مع مجلة Fortune، قال ألتمان إن وOpenAI لن تطرح أسهمها للاكتتاب العام في 2026 بسبب مخاوف السلامة، مضيفا: "الوقت الحالي سيكون لحظة غير حكيمة للطرح العام".

من جهته، حذر الرئيس الأميركي السابق باراك أوباما من أن الذكاء الاصطناعي قد يكون "خطيرا" إذا لم تتم إدارته بشكل صحيح. كما دعا مرشحي الرئاسة 2028 إلى جعل الذكاء الاصطناعي أحد محاور أجنداتهم، مع خطة واضحة لمعالجة مخاوف السلامة والاقتصاد.

المصدر: إندبندنت

إقرأ المزيد

مدير "أوبن أيه آي" يعلن تأجيل الاكتتاب العام الأولي للشركة

أعلن مدير شركة "أوبن أيه آي" للذكاء الاصطناعي سام ألتمان عن تأجيل الاكتتاب العام الأولي للشركة على خلفية المخاوف حول سلامة الذكاء الاصطناعي.

OpenAI تعلن حل لغز رياضي حير البشرية 200 عام في 88 ساعة فقط

أعلنت شركة OpenAI، المطورة لروبوت الدردشة ChatGPT، أنها نجحت في حل مشكلة "نافييه-ستوكس" (Navier-Stokes)، وهي واحدة من سبع مسائل رياضية تعد من أعظم الألغاز في مجال الرياضيات.

"عراب الذكاء الاصطناعي" يحذر من انقراض البشرية إذا فقدنا السيطرة على النظم الخارقة

حذر عالم النفس المعرفي البريطاني-الكندي جيفري هينتون، أحد أبرز رواد تطوير الشبكات العصبية الاصطناعية، من أن فقدان السيطرة على الأنظمة "خارقة الذكاء" قد يجلب عواقب كارثية.