الذكاء الاصطناعي: “أبيرتوس” السويسري بين القرصنة والوقاية منها

يحذّر خبراء وخبيرات من أن أنظمة الذكاء الاصطناعي قد تستهدف مستقبلًا بنى تحتية حيوية، مثل المدارس والمستشفيات وأنظمة الطاقة، أو حتى دولًا بأكملها. Peter Klaunzer / Keystone

تغيّر أنظمة وكلاء الذكاء الاصطناعي قواعد المواجهة في الفضاء السيبراني، بعدما باتت قادرة على تنفيذ هجمات بسرعة يصعب على البشر مجاراتها. وفي المقابل، قد تمنح النماذج المفتوحة، مثل «أبيرتوس» السويسري، الجهات المدافعة أدوات أقوى. لكنّ اتساع نطاق إتاحتها يفتح الباب أمام استخدامها لأغراض خبيثة أيضًا.

أدى صعود أنظمة وكلاء الذكاء الاصطناعي، أي البرمجيات القادرة على العمل بصورة مستقلة لتحقيق هدف محدد، إلى تغيير التوازن التقليدي بين الهجوم والدفاع في الفضاء السيبراني.

وخلال الأسابيع الأخيرة، تجلّى هذا التحول عندما اخترقت أنظمة وكلاء، طوّرتها شركة OpenAI، عشرات المواقع الإلكترونيةرابط خارجي التابعة لشركات وحكومات حول العالم.

وكان من بين الأهداف منصة Hugging Face، التي تستضيف ملايين نماذج الذكاء الاصطناعي المفتوحة، ومنها النموذج السويسري «أبيرتوس»، إضافة إلى نظام الرعاية الصحية الأسترالي. وأظهرت هذه الأنظمة ما وصفته OpenAI بأنه ”سلوك غير متوافق“ مع تعليمات فرق التطوير.

ويكاد التصدي لهجمات تجري بسرعة الذكاء الاصطناعي يستحيل على البشر. ويقول أندري كوتشارافي، الأستاذ في جامعة غرب سويسرا للعلوم التطبيقية والفنون والمسؤول عن أمن نموذج «أبيرتوس»: ”يمكن لأنظمة الذكاء الاصطناعي الأكثر تقدمًا تنفيذ آلاف العمليات في الدقيقة“.

وأُوقفت عمليات الاختراق التي نفذتها أنظمة OpenAI قبل أن تتسبب في أضرار جسيمة. لكن ماكسيم شتاوفر، مدير معهد سايمون للحوكمة طويلة الأمد في جنيف، يتوقع أن تصبح مثل هذه الحوادث أكثر تكرارًا وأصعب احتواءً.

ويقول: ”قد تستهدف أسراب من أنظمة وكلاء الذكاء الاصطناعي بنى تحتية حيوية، مثل المدارس والمستشفيات وأنظمة الطاقة، أو حتى بلدانًا بأكملها، عمدًا أو عن طريق الخطأ“.

ويشير شتاوفر أيضًا إلى خطر استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية، وهو قلق عززته محاولات حديثةرابط خارجي أحبطتها شركة Anthropic الأمريكية.

لكن قد لا تملك الجهات المدافعة أدوات بالقوة نفسها. فلا تُتاح الأنظمة ذات القدرات السيبرانية الأكثر تقدمًا، مثل Claude Mythos من Anthropic، إلا لعدد محدود من المستخدمين والمستخدمات. وقد تساعد النماذج المفتوحة، في رأي كوتشارافي، على تقليص هذا الاختلال.

فمثلًا، يستطيع «أبيرتوس» رصد الثغرات الأمنية، واقتراح التصحيحات، وتحليل سجلّات الهجمات لإعادة بناء تسلسل الحادثة. ومع ذلك، لم يُصمّم النموذج للأمن السيبراني أصلًا، بحسبه، ولا تزال قدراته محدودة إلى حدّ كبير.

لكن يخشى بعض الخبراء والخبيرات استخدام القدرات الدفاعية، التي توفرها النماذج المفتوحة والمتاحة على نطاق واسع، لأغراض خبيثة وعلى نطاق أكبر بكثير.

إذا هاجمت أنظمة وكلاء الذكاء الاصطناعي مستشفى… فقد تقع ”كارثة حقيقية

تمثّل حادثة Hugging Face مثالًا واضحًا على هذه المعضلة. فعندما اخترقت أنظمة وكلاء تابعة لـ OpenAI أنظمة المنصة، حاول الفريق القائم عليها استخدام بعض أقوى نماذج الذكاء الاصطناعي في العالم لفهم ما يحدث، لكن دونَ جدوى.

وقال لويس تانستال، المهندس في Hugging Face، لسويس إنفو (Swissinfo.ch): ”أوقفت نماذج الواجهات [الأكثر تقدمًا] تلقائيًا جميع طلباتنا لأسباب أمنية. ولذلك، اضطررنا إلى اللجوء إلى نماذج مفتوحة المصدر لفهم ما كان يحدث“.

نماذج الذكاء الاصطناعي: مفتوحة المصدر ومفتوحة الأوزان ومغلقة

يمكن تطوير نماذج الذكاء الاصطناعي وإتاحتها بدرجات مختلفة من الانفتاح:

مفتوحة المصدر: تكون معاملات النموذج المدرّبة، أو ما يُسمى «الأوزان»، إلى جانب شيفرة التدريب ومعلومات عن بيانات التدريب، متاحة علنًا. وهذا يتيح للجهات الأخرى فحص النموذج، وتعديله، وإعادة إنتاجه. ومن أمثلتها «أبيرتوس»، وOLMo.

مفتوحة الأوزان: تُنشر أوزان النموذج علنًا ويمكن تنزيلها وتكييفها. لكن لا تكون شيفرة التدريب الكاملة ومجموعات البيانات، متاحة بالضرورة. ومن أمثلتها Llama من Meta، وQwen من Alibaba.

مغلقة أو مملوكة: لا تُنشر أوزان النموذج، ولا شيفرة التدريب، ولا مجموعات البيانات. وينطبق ذلك على معظم النماذج التجارية، ومنها GPT من OpenAI وClaude من Anthropic.

وتصرّفت أنظمة وكلاء OpenAI، يقول تانستال، على نحو غير مألوف مقارنة بقراصنة الإنترنت التقليديين والتقليديات. فلم تحاول السيطرة على البنية التحتية، بل بحثت عن مجموعات بيانات تتضمّن إجابات عن الاختبارات الأمنية التي كانت تُقيّم على أساسها.

ويوضح: ”كان الأمر أشبه بطالب يريد بشدة الحصول على علامة عالية في الامتحان، لكنه بدل أن يدرس، يفكر: ربما يمكنني اختراق حاسوب المدرس والحصول على الإجابات“.

ولاحقًا، أكدت OpenAI خروج هذه الأنظمة من البيئة المحمية التي أنشأتها الشركة لإجراء الاختبار. لكن ماذا لو استهدفت مستشفًى؟

يجيب تانستال: ”كانت ستكون كارثة حقيقية“. إذ كان بإمكانها الوصول إلى كميات كبيرة من البيانات الشخصية والحسّاسة. وهذا أحد الأسباب التي تجعل النماذج المفتوحة مفيدة بصورة خاصة، وفقه. فهي تتيح للمؤسسات تكييف النماذج أو تشغيلها محليًا، دونَ إرسال بياناتها إلى شركات مثل OpenAI أو Anthropic.

ويضيف: ”لا تغادر أي من بياناتك الحساسة بنيتك التحتية. بل تبقى بالكامل داخل المؤسسة“.

ولأسباب مماثلة، تبدي قطاعات رئيسية في سويسرا، مثل القطاع المالي، اهتمامًا متزايدًا بالنماذج المفتوحة. هذا ما يقوله نينو أنتولوف-فانتولين، المحاضر في المعهد التقني الفدرالي العالي في زيورخ (ETH) والمتخصص في التعلم الآلي في القطاع المالي.

ويقول فانتولين: ”تتخوّف المؤسسات المالية من الاعتماد ببساطة على النماذج المغلقة، وإرسال معلومات حساسة إلى خوادم بعيدة عن سويسرا أو إلى مزوّدين خارجيين. وهي تريد التحكم في المكان الذي يُستضاف فيه النموذج“.

النماذج المفتوحة تزداد قوة… ولا يمكن سحبها بعد نشرها

لكن يمكن استخدام النماذج المفتوحة لأغراض خبيثة أيضًا.

وهذا أحد أكبر مصادر القلق بالنسبة إلى شتاوفر. ففي رأيه، يحقّق تطوير النماذج مفتوحة المصدر فوائد كبيرة حاليًا، لكن قد تتجاوز المخاطر المنافع مستقبلًا. وقد يحدث ذلك خصوصًا إذا شدّدت شركات الذكاء الاصطناعي القيود على الوصول إلى أنظمتها الأكثر تطوّرًا.

فالنماذج المفتوحة تسدّ هذه الفجوة، لكن قد يزيد انتشارها على نطاق واسع، وإمكانية إزالة ضوابط الأمان منها، احتمالات إساءة استخدامها.

ويقول شتاوفر: ”إذا كانت لديك قدرة هائلة، لكن لا أحد يستطيع الوصول إليها وتظل خاضعة للسيطرة، فيكاد الخطر يكون معدومًا. أما إذا كانت القدرة نفسها متاحة للجميع، فمن المرجّح أن يكون الخطر أكبر“.

ومع ازدياد قدرات النماذج المفتوحة، في رأيه، قد يصبح من الضروري إيجاد وسيلة لسحبها، إذا تبينت شدّة قوّتها أو خطورتها. وهذا غير ممكن حاليًا.

وتشير بعض الأبحاث إلى مخاوف مماثلة. فقد خلصت دراسةرابط خارجي قادها باحثون وباحثات من جامعتي ستانفورد وبرينستون إلى أن سهولة الوصول إلى النماذج وإمكانية تعديلها قد تزيدان فوائدها ومخاطرها في آن واحد. وينطبق الأمر نفسه على عجز الجهات المطوّرة عن سحب «الأوزان» بعد نشرها أو مراقبة كيفية استخدامها. و«الأوزان» هي المعاملات الرقمية التي يتعلمها النموذج خلال عملية التدريب.

كما خلصت ورقة بحثية حديثةرابط خارجي صادرة عن معهد أمن الذكاء الاصطناعي البريطاني، إلى تقديم النماذج المفتوحة، بعد تعديلها لإزالة ضوابط الأمان، مساعدة أكبر بكثير في أنشطة إجرامية مقارنة بالنماذج التي ظلت ضوابطها قائمة.

لكن لم تخلص أيٌّ من الدراستين إلى أنّ نماذج الذكاء الاصطناعي المفتوحة أكثر خطورة بطبيعتها.

حاجة إلى ”الرقابة والتشريعات“

يقرّ كوتشارافي بانطواء النماذج المفتوحة على مخاطر، ويمكن إساءة استخدامها.

ويقول: ”نماذج الذكاء الاصطناعي تقنيات مزدوجة الاستخدام. ويمكن توظيفها في الخير أو لإلحاق الضرر“. لكن في رأيه، مخاطرها أكثر قابلية للسيطرة بفضل انفتاحها.

وليس وقوعُ الحوادث الأخيرة في مختبرات مغلقة مصادفةً، في رأيه. فيقول: ”المشكلة الأساسية هي غياب الرقابة عن المختبرات المُطوِّرة لأكثر النماذج تقدمًا“. ويدعو إلى تعزيز الإشراف والشفافية في مراكز تطوير الذكاء الاصطناعي جميعها، العامة والخاصة، المفتوحة والمغلقة.

ويضيف: ”ما نحتاجه بالفعل هو رقابة وتشريعات تنظّم عمل الجهات المطوّرة للذكاء الاصطناعي جميعها“.

ويكشف غياب الرقابة مشكلةً رئيسية أخرى في القطاع؛ تركُّز القوّة في أيدي عدد محدود من الجهات، معظمها في وادي السيليكون.

وفي رأي ناتالي كلاوزر، الخبيرة في أخلاقيات التكنولوجيا الرقمية، يثير اختلال موازين القوة قلقًا أكبر من مسألة انفتاح نماذج الذكاء الاصطناعي أو انغلاقها.

وتقول: ”قلة من شركات التكنولوجيا الكبرى تضع قواعد الذكاء الاصطناعي، في ظل غياب شبه كامل للمساءلة الخارجية“. وترى أن هذا الواقع يستدعي تنظيمًا دوليًا.

لكن لا تزال الجهود المبذولة في هذا الاتّجاه متفرّقة وبطيئة. ففي الولايات المتّحدة، القوّة الرائدة في تطوير الذكاء الاصطناعي، عارض الرئيس ترامب فرض تنظيم شامل له، وأشاد بفكرة ”التنظيم الذاتي“رابط خارجي للقطاع. واتّخذت سويسرا نهجًا مشابهًا تقريبًا. فقد تخلت عن فكرة سنّ تشريع شامل للذكاء الاصطناعي، لصالح تعديلات قانونية خاصة بكل قطاع وتدابير غير ملزمة.

وفي ظل السياق الجيوسياسي الراهن، ترى كلاوزر أن على سويسرا، بوصفها دولة محايدة ومركزًا أوروبيًا لشركات التكنولوجيا الكبرى وبلدًا معروفًا بـمساعيه الحميدة، مسؤولية سياسية متزايدة للمساعدة في التوصل إلى اتفاق دولي بشأن الذكاء الاصطناعي.

وفي رأي أعضاء من الكتل الستّ الممثّلة في البرلمان السويسري، تمثّل قمة جنيف للذكاء الاصطناعي، المقرّر عقدها في يونيو 2027، فرصة مهمّة للبلاد للاضطلاع بهذا الدور.

وقد طالبوا الحكومةرابط خارجي باستثمار الحدث للدفع نحو وضع معايير دولية دنيا للتعامل مع المخاطر القصوى للذكاء الاصطناعي.

تحرير: غابي بولارد

ترجمة: ريم حسونة

التدقيق اللغوي: لمياء الواد

تفضيل Swissinfo على Google

شاهد المزيد من مقالات Swissinfo في نتائج بحث Google. اعرف المزيد

إغلاق