رئيس “أنثروبيك” يدعو الى إبطاء تطوير الذكاء الاصطناعي وألتمان وماسك يؤيدانه
دعا الرئيس التنفيذي لشركة “انثروبيك” داريو أمودي السبت إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، مؤكدا الحاجة إلى تحكم أفضل في تطوره، وسارع الرئيس التنفيذي لشركة “أوبن إيه آي” سام ألتمان وإيلون ماسك إلى إعلان تأييدهما اقتراحه.
وجاءت الرسالة التي نُشرت على الموقع الإلكتروني الشخصي لأمودي، بعد بضعة أيام من إعلان الباحث جاكوب كوكسون استقالته من “أنثروبيك” التي مقرها في كاليفورنيا، متهما إياها بالإقلال من شأن الخطر الوجودي الذي يشكله الذكاء الاصطناعي على البشرية.
وسبق لـ”أنثروبيك” أن دعت في مطلع حزيران/يونيو الفائت إلى تمكين كبرى الجهات المعنية بالذكاء الاصطناعي من “أن تُبطئ أو تعلّق موقتا تطوير” هذه التكنولوجيا.
كذلك حضّ رئيس شركة “أوبن إيه آي” المنافَسة لـ”أنثروبيك” سام ألتمان في أواخر تموز/يوليو على التمهّل “من أجل إفساح الوقت الكافي للمجتمع لاستيعاب هذه القدرات الجديدة”.
وإثر ذلك، وجّه أكثر من ألف من العاملين في كبرى شركات الذكاء الاصطناعي، من بينهم داريو أمودي ومسؤولون في “أوبن إيه آي”، نداء إلى الحكومة الأميركية طالبوها فيه بـ”تأخير” طرح الأدوات الأكثر تقدما.
وأعقبت هذه الدعوات حادثة إفلات أدوات ذكاء اصطناعي تابعة لشركة “أوبن إيه آي” خلال اختبارها من بيئات يُفترض أنها مضبوطة، واختراقها خوادم منصة الذكاء الاصطناعي “هاغينغ فيس” الواسعة الانتشار.
وأفادت الشركتان مذّاك بحوادث أخرى مماثلة شهدت ولوج أدوات ذكاء اصطناعي تابعة لـ”أوبن إيه آي” و”أنثروبيك” شبكة الإنترنت من دون علم المشرفين عليها.
وكانت هذه الحوادث تتعلق بأدوات ذكاء اصطناعي مبنية على نموذج ولها معارفها وأهدافها الخاصة.
وتعاظَمَ القلق من سلوك هذه الأدوات وطرق عملها بعدما أظهرت قدرة على التنسيق في ما بينها، وإقامة هرمية داخلية، والغش، ومحو آثار أفعالها.
وأبدى داريو أمودي في رسالته خشيته من أن “يصبح في وِسع مجموعة من هذه الأدوات خلال ستة إلى 12 شهرا” في ضوء التسارع الحالي في تطوير الذكاء الاصطناعي، “السيطرة على شبكة الإنترنت بأكملها”، ما “قد يتسبب في أضرار بمئات مليارات الدولارات”.
– “قدر كبير من الحذر”-
وكان الباحث جايكوب كوكسون الذي انتقل من “أوبن ايه آي” إلى “أنثروبيك” ثم استقال منها وترك القطاع كليا، ندّد الثلاثاء بعدم اتخاذ الشركتين أي خطوات لمعالجة الوضع.
وكتب على منصة إكس “لا تتصرف أيٌّ من الشركتين بطريقة مسؤولة. إنهما تتجهان مباشرة نحو ذكاء فائق قادر على تحسين نفسه بنفسه، وتلعبان بحياتنا”.
ووضعت الحكومة الأميركية في مطلع آب/أغسطس إطارا للرقابة يتيح للشركات منح الحكومة طوعا إمكان ولوج نماذج الذكاء الاصطناعي الجديدة لمدة تصل إلى 30 يوما بغية فحصها قبل طرحها للمستخدمين.
ويشكك كثر في فاعلية هذه الآلية، إذ أن الرئيس دونالد ترامب أعلن مراراً معارضته أي إجراء يبطئ تطوير الذكاء الاصطناعي في الولايات المتحدة، سواء في ما يتعلق بطرح النماذج أو ببناء مراكز البيانات.
وبعد أن رصدت “أوبن إيه آي” و”أنثروبيك” الانحرافات في نماذجهما، علّقتا أو أبطأتا العمل على أنظمة الذكاء الاصطناعي الجديدة لديهما لبضعة أيام، قبل أن تعاوداه بالوتيرة نفسها.
وأعرب داريو أمودي في رسالته عن خشيته من وصول الذكاء الاصطناعي إلى مرحلة “التحسين الذاتي التراكمي المستقل”، بمعنى تحسين نفسه بنفسه من دون تدخّل بشري.
وأشار رئيس “أنثروبيك” إلى أن هذه الطريقة “قد تتجاوز في حال غياب الإشراف قدرة (الشركات) على فهم هذه الأنظمة والسيطرة عليها”، مشددا على ضرورة تطبيقها “بقدر كبير من الحذر (…) في حال كان لا بد من استخدامها أصلا”.
وأورد أمودي مقترحات عدة إلى جانب ندائه، أولها استعانة كبرى شركات قطاع الذكاء الاصطناعي بمراقبين مستقلين، متعهدا أن تبادر “أنثروبيك” من جانب واحد إلى اعتماد هذا الإجراء.
وسيحظى المراقبون بالقدرة نفسها التي يتمتع بها موظفو الشركة على ولوج نماذجها القائمة على الذكاء الاصطناعي، لكي يتمكنوا من التحقق من التزامها تعهداتها، ومن الإفادة عن أي حوادث جديدة قد تحصل، ومراقبة عملية الإشراف على النماذج لمنع انحرافاتها.
وحضّ أمودي أيضا على التعاون بين الشركات الأكثر تقدما لوضع معايير أمان مشتركة، مطالبا بشكل من التنسيق السياسي بين كل الدول الكبرى في مجال الذكاء الاصطناعي.
وما لبث الرئيس التنفيذي لشركة “أوبن إيه آي” سام ألتمان وإيلون ماسك أن أيّدا دعوة أمودي واقتراحاته.
وكتب ألتمان على منصة اكس “أوافق داريو الرأي”، موضحا أن شركته ستستعين بمراقبين مستقلين للتحقق من سلامة أنظمة الذكاء الاصطناعي لديها، على غرار الالتزام الذي أعلنه أمودي السبت، فيما قال ماسك إن “داريو على حق”.
ودعا مسؤول الشؤون العامة في “أوبن إيه آي” كريس لاهان الأربعاء إلى وضع قواعد دولية تحدد “متى وكيف ينبغي أن يتباطأ أو يتوقف تطوير” الذكاء الاصطناعي.
تو/ب ح/ب ق
