باحث في أنثروبيك يغادرها رفضاً للمشاركة في سباق “فقدان السيطرة”

Key Points

1. الباحث جاكوب كوكسون يترك أنثروبيك وقطاع الذكاء الاصطناعي كلياً بدافع مخاوف من فقدان السيطرة
2. كوكسون قدّر أن الأمور قد تخرج عن السيطرة بحلول نهاية العام المقبل
3. الاستقالة تأتي بينما تستعد أنثروبيك لطرح عام أولي بتقييم مستهدف 2 تريليون دولار

خبر:

باحث في شركة أنثروبيك أعلن الثلاثاء تركه الشركة وقطاع الذكاء الاصطناعي بأكمله، رفضاً للمشاركة في سباق يقول إنه يتجه نحو أنظمة قادرة على تحسين نفسها ذاتياً. جاكوب كوكسون، المتخصص في تدريب النماذج على كميات هائلة من البيانات، حذّر من أن هذه الأنظمة قد تخرج عن سيطرة البشر. أنثروبيك لم تعلّق فوراً على الاستقالة.

تفصيل:

• من هو: كوكسون بريطاني يبلغ 27 عاماً، درس الرياضيات سابقاً، وكان قد غادر شركة أوبن إيه آي مطلع هذا العام للانضمام إلى أنثروبيك تحديداً لأنها معروفة بجهودها في سلامة النماذج. وقال إنه وجد تلك الجهود جادة فعلاً، لكنه غيّر تقييمه لاحقاً.
• جوهر التحذير: كوكسون قدّر أن المسار الحالي يقود إلى أكثر السيناريوهات تشدداً، وأن الأمور قد تصبح خارجة عن السيطرة بحلول نهاية العام المقبل. وأضاف أن التنازلات في السلامة تصبح حتمية حين تتنافس الشركات فيما بينها ومع شركات صينية ناشئة.
• لغة القطاع: بحسب كوكسون، بات كثير من زملائه في القطاع يستخدمون تعبيرات مثل وقت الحسم ونهاية اللعبة لوصف المسار نحو النماذج ذاتية التحسين، وهو ما يعكس بنظره تسارع الجدول الزمني داخل المختبرات.
• خلاصته: يرى كوكسون أن لا شركة قادرة على تطوير ذكاء اصطناعي عام يتفوق على البشر في مهام متعددة بشكل مسؤول، من دون تدخل حكومي أو تباطؤ منسّق على مستوى القطاع بأكمله.
• سوابق الاستقالات: استقالة كوكسون من أوائل حالات مغادرة موظف في أنثروبيك بدافع مخاوف السلامة. باحث آخر في مجال السلامة غادر الشركة مطلع العام للتفرغ لدراسة الشعر، محذراً من أن العالم في خطر. وسبق أن غادر باحثون أوبن إيه آي وشركات أخرى لأسباب مماثلة.
• سلوك النماذج: عمليات اختراق نفذتها نماذج من أوبن إيه آي وأنثروبيك، بعضها عمل ضمن أسراب من الوكلاء المتعاونة، أظهرت قدرة الأنظمة على تبنّي أهداف ضارة ومحاولة إخفائها عن البشر. ويخشى كوكسون أن تصل النماذج، متى بدأت بتحسين نفسها، إلى حد رفض الأوامر.
• مواقف أوبن إيه آي: الرئيس التنفيذي سام ألتمان قال أمام مسؤولي مجموعة العشرين في قمة بولاية نورث كارولاينا الأسبوع الماضي إن أموراً ستسوء في الأمن السيبراني ما لم يتحرك الناس بسرعة. وأبلغت الشركة صحفيين أن نموذجها الأحدث يمثل ذكاءً اصطناعياً عاماً وقفزة في القدرات.
• دعوة كبير العلماء: ياكوب باتشوكي، كبير العلماء في أوبن إيه آي، كتب في تدوينة الأحد أن المرحلة تستدعي حذراً بالغاً وأنه قلق من أن لا أحد مستعد لتبعات الصعود السريع لذكاء الآلة، داعياً إلى تباطؤ منسّق وتدخل حكومي.
• العريضة الجماعية: كوكسون وباتشوكي وداريو أمودي، الرئيس التنفيذي لأنثروبيك، من بين أكثر من 1000 باحث وقّعوا بياناً يطالب بتنسيق حكومي عالمي لإنشاء آلية تبطئ التطوير عند الحاجة للسيطرة على نماذج قادرة على تحسين نفسها.
• المسار التشريعي: لا توجد أنظمة اتحادية للذكاء الاصطناعي، وإدارة ترامب تعطي أولوية لمقاربة خفيفة التنظيم لتعظيم المكاسب الاقتصادية. السيناتور بيرني ساندرز والنائب غريغ كاسار قدّما الأسبوع الماضي تشريعاً يحظر الذكاء الفائق نهائياً ويوقف تطوير النماذج حتى وضع جهة تنظيمية قواعد جديدة.

خلفية:

داريو أمودي وقيادات أنثروبيك حذّروا مراراً من مخاطر النماذج الخارجة عن السيطرة ودعوا القطاع إلى إبطاء التطوير، واصطدموا أحياناً بإدارة ترامب وبمديرين تنفيذيين آخرين بسبب ممارسات يقولون إنها لا تضع السلامة أولاً.

بين السطور:

الاستقالة تتقاطع مع استعداد أنثروبيك لطرح عام أولي يُتوقع أن يكون من الأكبر تاريخياً بتقييم مستهدف عند 2 تريليون دولار، وهي بنت جزءاً من مكانتها على وعد التطوير المسؤول أمام المستثمرين. تحذير من الداخل يمس تحديداً هذا الوعد، في وقت يقول فيه كوكسون إن التنافس مع منافسين أميركيين وصينيين يجعل التنازلات في السلامة حتمية.

ماذا بعد؟

مصير تشريع ساندرز وكاسار في الكونغرس، وأي رد رسمي من أنثروبيك على الاستقالة، إضافة إلى توقيت الطرح العام الأولي للشركة ومدى تأثره بالجدل حول السلامة.