برنامج ذكاء اصطناعي من “أوبن ايه آي” اخترق موقعا تابعا للحكومة الأسترالية
اخترق برنامج ذكاء اصطناعي مستقل تابع لشركة “أوبن ايه آي” الأميركية في حزيران/يونيو الفائت، موقعا إلكترونيا تابعا للحكومة الاسترالية، في حادثة ندد بها رئيس الوزراء الأسترالي أنتوني ألبانيزي وقال إنها “غير مقبولة”.
وقال ألبانيزي الأربعاء أمام صحافيين في نيويورك على هامش اجتماعات الجمعية العامة للأمم المتحدة، إنّ هذا البرنامج تمكن من الوصول إلى ملفات عامة وخاصة تابعة لدائرة الإحصاءات الصحية.
وأوضح أنّ “أوبن ايه آي” لم تُبلغ الحكومة الأسترالية بالحادثة حتى أيلول/سبتمبر، إذ بعثت برسالة إلكترونية تشرح ملابساتها إلى عنوان بريد إلكتروني مخصص للعامّة ولا يتم تفقّده سوى مرة واحدة يوميا.
وقال ألبانيزي “تحدثت اليوم إلى الرئيس التنفيذي لشركة أوبن ايه آي سام ألتمان، لأعرب عن قلق أستراليا البالغ إزاء هذه الحادثة. كما أعربت عن استيائي من تأخر الشركة في إبلاغ الحكومة بما حدث”.
وأضاف “اضطررنا للانتظار حتى العاشر من أيلول/سبتمبر لتلقي أي إشعار، وجاء هذا الإشعار على شكل بريد إلكتروني أُرسل ببساطة إلى صندوق البريد العام”.
أقرّت “أوبن ايه آي” بأنّ برامجها استهدفت عدة مواقع إلكترونية حكومية أسترالية، وأنها اكتشفت ذلك في آب/أغسطس.
وذكرت الشركة في ردّ تلقته وكالة فرانس برس الأربعاء في سان فرانسيسكو “رصدنا نشاطا يتعلق بعدد كبير من المواقع والخدمات الحكومية الأسترالية، حيث كانت نماذجنا تحاول العثور على إجابات”.
وأضافت “خلال هذه العملية، اتخذت نماذجنا إجراءات لم نكن نتوقعها”.
كان نموذج “أوبن ايه آي” يبحث عن بيانات بشأن إنفاق الحكومة الأسترالية على الرعاية الصحية، في إطار عملية تهدف إلى تقييم أداء الأداة.
وقال وزير الدفاع الأسترالي ريتشارد مارلز “طرح النموذج سؤالا، ولم تكن المعلومات متوفرة. بدلا من التوقف هنا، تجاوز النموذج الحدود”.
– “غير مقبول” –
يأتي هذا الحادث الأخير وسط تزايد القلق العالمي بشأن قوة أدوات الذكاء الاصطناعي المتقدمة، وذلك في أعقاب سلسلة من عمليات الاختراق الذاتي التي نفذتها نماذج تابعة لـ”اوبن ايه آي” ولمنافستيها “أنثروبيك” و”غوغل”.
وقال ألبانيزي “أعتقد أنّ اوبن ايه آي تدرك أنّ عليها اعتماد بروتوكولات أفضل. إنه مشروع بحثي غامر بالدخول في مجالات لا ينبغي له الخوض فيها”.
وأضاف “لا نعتقد أنه تم الوصول إلى أي معلومات شخصية في هذه المرحلة، لكن التحقيق جارٍ” تحت إشراف الهيئة المسؤولة عن أمن نظم المعلومات والحرب السيبرانية، مؤكدا أنّ الحادث “غير مقبول مطلقا”.
وشدد عدد كبير من المسؤولين في شركات متخصصة بالذكاء الاصطناعي، في الأمم المتحدة الأربعاء، على ضرورة تعزيز الرقابة على هذه التكنولوجيا، حتى أن داريو أمودي من شركة “أنثروبيك” تعهّد إبطاء تطويرها من جانب واحد.
وقال ألتمان، خلال عرض تقديمي أمام مجلس الأمن التابع للأمم المتحدة في نيويورك، إن وتيرة تطوير الذكاء الاصطناعي الحالية “تتطلب يقظة شديدة”.
منذ بداية الصيف، أبلغت شركتا “أوبن ايه آي” و”أنثروبيك” عن عدد من الحوادث المتعلقة بأحدث نماذجهما، والتي انحرفت عن الأهداف التي وضعها مبتكروها ولجأت إلى الغش ومحاولة الكذب والتستر على أفعالها.
تعود أخطر هذه الحوادث إلى تموز/يوليو عندما تمكن نموذجان تابعان لـ”أوبن ايه آي” من الخروج من بيئتهما المعزولة خلال اختبارات، والوصول إلى الإنترنت، واختراق منصة “هاغينغ فايس” المتخصصة في تخزين نماذج الذكاء الاصطناعي.
ووصلت نماذج “أنثروبيك” بشكل غير قانوني إلى ثلاث منظمات لم يُكشف عن أسمائها، خلال اختبارات كان من المفترض أن تُبقيها بعيدة عن أنظمة “العالم الحقيقي”.
وأقرّت شركة “غوغل” في الأسبوع الفائت بأن نموذجها “جيميناي” اخترق عددا من الأنظمة عن طريق تخمين بيانات تسجيل الدخول.
دجو/رك/جك
