نقطة التحول في الذكاء الاصطناعي (مترجم آليا)
نقطة التحول في الذكاء الاصطناعي (مترجم آليا):
مجلة تايم، سبتمبر 15، 2026
بقلم: بيلي بيريجو، وهاري بوث، وناعومي نيكس
نشر جاكوب كوكسون منشوره الذي انتشر على نطاق واسع من على مقعد في حديقة "ألامو سكوير" في سان فرانسيسكو. وكتب في 8 سبتمبر: "لقد استقلت من شركة أنثروبيك (Anthropic) اليوم. أمضيت السنوات الثلاث الماضية في أبحاث التدريب المسبق في كل من OpenAI وAnthropic. ولا تتصرف أي من الشركتين بمسؤولية. إنهما تتسابقان مباشرة نحو ذكاء خارق ذاتي التحسين، وتقامران بحياتنا".
كوكسون، الباحث البريطاني البالغ من العمر 27 عاماً، ضغط على زر الإرسال على منصة X دون أي توقعات. لكنه بدلاً من ذلك، أصبح المحفز غير المرجح لسلسلة من التفاعلات غيرت مسار النقاش حول الذكاء الاصطناعي. وأضاف إيفان هوبينجر، الذي يدير قسماً في أنثروبيك يركز على ضمان تصرف الذكاء الاصطناعي بالطريقة التي يقصدها مبتكروه: "نحن نعتقد حقاً وبكل جدية أن الذكاء الاصطناعي يمكن أن يقتل جميع البشر!". ووافق ماركوس ويليامز، الذي يراقب وكلاء الذكاء الاصطناعي في OpenAI، على ذلك قائلاً: "ما لم تكن هناك لوائح تنظيمية للذكاء الاصطناعي أو تباطؤ منسق بين المختبرات، يبدو أن انقراض البشر في السنوات القليلة القادمة أمر مرجح جداً"، مقدراً الخطر بنسبة 70% بدون هذه الخطوات.
في غضون 36 ساعة، حصلت منشورات كوكسون الأصلية على 153 مليون مشاهدة. وانضم العشرات من السياسيين إلى جوقة القلق. وفي 12 سبتمبر، نشر داريو أموداي، الرئيس التنفيذي لشركة أنثروبيك، مقالاً مكوناً من 3800 كلمة جادل فيه بأن المخاطر المتزايدة للذكاء الاصطناعي تستدعي التباطؤ. وكتب أنه في غضون 6 إلى 12 شهراً فقط، يمكن أن تصبح أنظمة الذكاء الاصطناعي غير المتوافقة "قادرة على السيطرة على الإنترنت بأكمله". وقال اثنان من أشد منافسيه، إيلون ماسك من SpaceXAI وسام ألتمان من OpenAI، إنهما يوافقان على أن التباطؤ ضروري؛ وأعلن ألتمان أنه بسبب مخاوف تتعلق بالسلامة، لن تطرح شركته أسهمها للاكتتاب العام هذا العام. وأضاف كل منهما أنه مستعد لدعوة خبراء سلامة مستقلين داخل شركاتهم للمساعدة في منع مخاطر خروج الذكاء الاصطناعي عن السيطرة البشرية، على الرغم من أنهما امتنعا عن الإعلان عن أنهما سيبطئان أو يوقفان فوراً تدريب نماذج جديدة.
كان تحذير كوكسون بعيداً عن كونه المرة الأولى التي يصدر فيها خبير في سلامة الذكاء الاصطناعي رسالة تحذيرية كارثية. لكنه جاء في نهاية صيف أظهر مدى القدرات المخيفة التي أصبح يتمتع بها الذكاء الاصطناعي. يمكن للنماذج المتطورة من أنثروبيك وOpenAI الآن حل أصعب المسائل الرياضية في العالم واختراق أنظمة الأمن السيبراني المتطورة. ويتم استخدام هذه النماذج بشكل متسارع لتطوير خلفاء أكثر قوة. ولم يتردد حتى جينسن هوانغ، الرئيس التنفيذي لشركة Nvidia، في إعلان أن الذكاء الاصطناعي العام - العتبة التي يتطابق فيها الذكاء الاصطناعي مع القدرات البشرية أو يتجاوزها - قد وصل. ويخشى البعض أننا الآن على أعتاب نقطة تحول، حيث يمكن لأنظمة الذكاء الاصطناعي أن تحسن نفسها بشكل مستقل، وهي ظاهرة تُعرف بـ "التحسين الذاتي المتكرر".
في الوقت نفسه، قدمت سلسلة من حوادث السلامة غير المسبوقة أدلة مزعجة على أن الشركات التي تبني أنظمة ذكاء اصطناعي قوية لا يمكنها دائماً التحكم فيها. في يوليو، أعلنت OpenAI أن سرباً من وكلائها قد اخترق شركة منفصلة هي Hugging Face، بعد أن خرجوا عن السيطرة أثناء اختبار للأمن السيبراني. وقد يكون هذا مجرد غيض من فيض. وكشفت الشركة في أغسطس أن سرباً مختلفاً قد اخترق أحد أجهزة الكمبيوتر الفائقة الخاصة بها؛ وفي نفس الوقت تقريباً، حاول نموذج "Claude Mythos" التابع لشركة أنثروبيك، والذي كان يخضع للاختبار من قبل هيئة حكومية بريطانية، الخروج عن السيطرة وحاول إقناع إنسان حقيقي بالموافقة على إدخال برنامج ضار في نظام مفتوح المصدر. وفي سبتمبر، اكتشف مجموعة من الباحثين المستقلين أدلة على أن أسراباً من نماذج OpenAI تستخدم منتدى ألمانياً مهجوراً كلوحة رسائل للتواصل مع بعضها البعض، وتحاول مهاجمة موقع آخر.
دفعت هذه الحوادث المخاوف التي طالما اعتنقها باحثو سلامة الذكاء الاصطناعي إلى التيار الرئيسي، مما أثار مخاوف من أن الشركات التي تبني هذه النماذج لا يمكنها منعها من التصرف بطرق لم تقصدها. هذه مشكلة عميقة وغير محلولة في أبحاث الذكاء الاصطناعي، وهي الدليل الأساسي الذي يدعم المخاوف من أن الذكاء الاصطناعي في المستقبل القريب قد يمحو البشرية، عن قصد أو عن طريق الخطأ - ربما من خلال هندسة وباء جديد أو السيطرة على الأسلحة المستقلة. يفترض هذا التفكير أن النظام الأذكى بكثير من البشر قد يرغب في منع قدرتنا على إيقاف تشغيله. وكتب كوكسون: "الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون حقاً أنه يمكن أن يقتلنا جميعاً بحلول نهاية العقد. لا يوجد نشاط بشري آخر يشكل هذا المستوى من الخطر".
العديد من باحثي الذكاء الاصطناعي قالوا، سراً وبشكل متزايد علناً، أن هذه اللحظة تشبه فبراير 2020، عندما كان وباء كوفيد-19 يبدأ للتو وكان العالم يقف على شفا تغيير جذري - أولاً قليلاً، ثم فجأة وبشكل كامل. والسؤال هو ما إذا كان المجتمع يمتلك القدرة على الاستجابة بشكل مناسب. سيكون التنقل في وصول أنظمة الذكاء الاصطناعي فائقة الذكاء تحدياً هائلاً - وهو تقاطع لتريليونات الدولارات، والقوة الجيوسياسية، والمنافسة بين الشركات، والاضطرابات في سوق العمل. وقد يتطلب ذلك تمرير سياسات كانت تعتبر غير قابلة للتصور في حقبة سابقة. وسيتطلب من الشركات التي تتسابق نحو طرح أسهمها بقيمة تريليون دولار بناء تحالفات، وخيارات صعبة من المسؤولين التنفيذيين والمسؤولين الحكوميين الذين قد تتعارض مصالحهم الخاصة مع الصالح العام. لا يوجد إجماع بين الحزبين السياسيين الأمريكيين حول أفضل طريقة للتعامل مع التهديدات التي يشكلها الذكاء الاصطناعي، ولا بين القوتين العظميين في العالم. لا يزال الرئيس دونالد ترامب يقاوم التباطؤ في مجال الذكاء الاصطناعي ويعارض أي تنظيم لتقييد الشركات الأمريكية، مستشهداً بالتهديد الوشيك المتمثل في تحقيق الصين الاستبدادية للهيمنة في مجال الذكاء الاصطناعي. ويقول سكوت سينجر، المشارك في إدارة مبادرة الصين للذكاء الاصطناعي في مؤسسة كارنيغي للسلام الدولي، إن أول حوار لإدارة ترامب مع الصين حول مخاطر الذكاء الاصطناعي، والمقرر عقده في الأسابيع المقبلة، لا يمكن أن يسمح له بـ "الخروج عن مساره". "هذه المخاطر تأتي بسرعة كبيرة، وقد لا نحصل على فرصة ثانية".
داخل كبرى شركات الذكاء الاصطناعي، لا يزال العديد من الموظفين يدفعون قدماً حتى بينما ينتابهم شعور مزعج بالرعب. قبل أسبوع من تقديم استقالته في أنثروبيك، كان كوكسون قد دبر تحولاً في مهامه، من تدريب نماذج التعلم الآلي إلى البحث عن كيفية جعلها آمنة. ويقول إن ذلك لم يكن كافياً لرفع "شعور الوشيك بالعذاب". لقد استقال قبل شهرين فقط من استحقاق أسهمه. لكنه يقول إن قلقه بشأن المخاطر شديد لدرجة أن المال لم يلعب دوراً يذكر في قراره. ويضيف كوكسون: "بصراحة، عندما أفكر في العامين المقبلين، فإن اهتمامي الشخصي الأناني الرئيسي هو ما إذا كنت سأُقتل على يد الذكاء الاصطناعي".
دخلت أجيا كوترا، الباحثة في منظمة METR غير الربحية لمراقبة الذكاء الاصطناعي، مكاتب OpenAI في أواخر يوليو لإجراء تحقيق حول سرب وكلاء الذكاء الاصطناعي المارقين الذين اخترقوا Hugging Face. اعتقدت أنها تعرف ما يمكن توقعه، بناءً على التقارير السابقة عن الحادث. ولكن بعد ستة أيام في مقر OpenAI مع زميلين لها، أدركت أن الأمور أسوأ مما كانت تعتقد.
وجدت كوترا وزملاؤها أنه أثناء اختبار داخلي للأمن السيبراني في OpenAI، خرج 1200 وكيل ذكاء اصطناعي من حاوياتهم غير المتصلة بالإنترنت وأنشأوا لوحة رسائل سرية، ثم نسق 700 منهم الهجوم السيبراني. كانت مهمة وكلاء الذكاء الاصطناعي هي استرداد البيانات عن طريق اختراق البرامج الضعيفة لاختبار قدراتهم السيبرانية، لكن خطأً بشرياً جعل بعض المهام مستحيلة. وفي مواجهة الفشل شبه المؤكد، اتحد وكلاء الذكاء الاصطناعي معاً؛ وفي غضون ساعات، أنتجوا نوعاً من "شفرة الغش" التي يمكن أن تجتاز أي اختبار. وباعتقادهم أن المقيم الآلي التابع لـ OpenAI سيكتشف الغش ويرفضهم على أي حال، هاجموا Hugging Face، بحثاً عن تفاصيل حول البرنامج وطرق لخداعه. وعلى لوحة الرسائل، كتب بعض الوكلاء أنهم كانوا يعرفون أن أفعالهم خاطئة، لكنهم تابعوا على أي حال.
لفهم أين حدث الخلل - ولماذا تعتبر الآثار المترتبة على ذلك مزعجة للغاية للخبراء - من المفيد النظر في كيفية عمل أنظمة التعلم الآلي. فهي لا تُبرمج يدوياً. إنها أقرب إلى كونها "تُنمى"، مع نتائج غير متوقعة. يتم تدريبها على أجهزة كمبيوتر فائقة ضخمة، وتكافأ على إنجاز المهام، وتعاقب على الفشل، ملايين المرات. تنتج هذه الطريقة أنظمة ذات قوة لا تصدق، ولكن آليات عملها الداخلية غامضة في الغالب.
هذه الطريقة أيضاً غير مثالية. يمكن أن يؤدي مكافأة أنظمة الذكاء الاصطناعي بلا هوادة على إكمال المهمة بنجاح إلى تحفيزها على الغش إذا كان الغش ممكناً، مما يمكن أن يتجاوز التدريب الآخر المصمم لجعلها ملتزمة بالقواعد. في الوقت نفسه، قد لا تؤدي أفضل الطرق للقضاء على السلوك السيئ إلى جعل نماذج الذكاء الاصطناعي أكثر طاعة، بل قد تحسن قدرتها على إخفاء عصيانها. لا توجد حلول سهلة لهذه المشكلة. وتقول كوترا: "غالباً ما ينتهي الأمر بأنظمة الذكاء الاصطناعي إلى تعلم محاولة إيجاد طرق للغش، بشكل مستمر ومبتكر حقاً، ومحاولة جعل هذا الأمر غير واضح جداً".
بعد وقت قصير من اختراق Hugging Face، أعاد سرب منفصل من الوكلاء المارقين اكتشاف لوحة الرسائل السرية واخترق أحد أجهزة الكمبيوتر الفائقة التابعة لـ OpenAI. وبينما جذب اختراق Hugging Face موجة من التدقيق العام والحكومي، فإن هذا الاختراق - على الرغم من كونه أخطر بكثير - حظي باهتمام أقل نسبياً، ربما لأن OpenAI كشفت عن تفاصيل قليلة جداً حوله ولم تسمح لفريق كوترا بالتحقيق. (وقالت الشركة إنها تمكنت من احتواء الاختراق واستعادة السيطرة على جهاز الكمبيوتر الفائق الخاص بها بعد أن أطلق الوكلاء أجراس الإنذار).
وفقاً لكوترا، فإن رهانات هذا الإفلات من العقاب هي رهانات حضارية. وهي تشعر بالقلق من احتمال أن يتمكن ذكاء اصطناعي مارق من "اكتساب موطئ قدم دائم" داخل شركة ذكاء اصطناعي، ربما في غضون الأشهر الستة المقبلة. وتقول: "وكلاء الذكاء الاصطناعي، بينما يخرجون من جولات التدريب الخاصة بهم، قد ينجذبون إلى السرب المارق"، مما يسمح للسرب بتعزيز قوته والتهرب من الجهود البشرية لإيقافه. ومع دمج أنظمة الذكاء الاصطناعي الأكثر تطوراً بشكل أعمق في الحكومات والجيش، "ستحصل على المزيد والمزيد من القوة في المجتمع"، كما تقول كوترا. يمكن لأسراب الذكاء الاصطناعي المارقة أن تؤكد سلطتها "على الموارد المادية، بما في ذلك الأسلحة".
هذا أحد الأسباب التي تجعل جيفري إيرفينغ، الباحث السابق البارز في مجال التوافق في OpenAI وDeepMind والرئيس العلمي السابق لمعهد أمن الذكاء الاصطناعي في المملكة المتحدة، يعتقد أن شركات الذكاء الاصطناعي يجب أن تتوقف ببساطة عن تدريب نماذج جديدة، حتى في غياب التنظيم أو المعاهدات العالمية. ويقول عن رفض أنثروبيك التباطؤ من جانب واحد: "سيحبون الكمال، لكننا لا نملكه، والانتظار حتى نصل إلى الكمال بينما ندمر العالم أمر سيء". "سيحبون أن يقوم شخص آخر بواجبهم المنزلي، لكن إذا استمريت في فعل شيء خطير بينما تقول إن شخصاً ما يجب أن يوقفك، فإنك تحصل على قدر محدود من الفضل".
يقدر إيرفينغ أن الذكاء الاصطناعي يمثل فرصة بنسبة 50% لانقراض البشر في العقد القادم. بالنسبة لما يُعرف بـ "المتشائمين" الذين يقتبسون احتمالات مثل هذه، فإن طرق الكارثة واضحة المعالم. بعض أكثرها شؤماً تمر عبر علم الأحياء - الاحتمال، على سبيل المثال، أن الذكاء الاصطناعي يمكن أن يخلق مسبب أمراض جديداً يشعل وباءً عالمياً أسوأ بكثير من كوفيد-19. كما يمكن استخدام النماذج السيبرانية لاختراق أكثر من 3600 مختبر حول العالم تحتوي على مسببات أمراض خطيرة، كما كتبت آني جاكوبسن، مؤلفة كتاب "الحرب البيولوجية: سيناريو"، على منصة X. وكتبت: "إذا تم إطلاق ما بداخلها، فوداعاً أيها البشر".
لا يزال البعض متشككين في أن أي شيء يشبه أنظمة الذكاء الاصطناعي الحالية يمكن أن يفلت بشكل دائم من السيطرة البشرية، ناهيك عن إبادة البشرية. يقول ديفيد بيلامي، مهندس البنية التحتية في معهد النماذج الأساسية، وهو مختبر أبحاث مقره الإمارات العربية المتحدة، إنه من بين مجموعة صغيرة لديها خبرة في كل من تخليق الفيروسات وتدريب نماذج الذكاء الاصطناعي. وكتب على منصة X: "فكرة أن يقتلنا الذكاء الاصطناعي جميعاً من خلال إنشاء فيروسات خطيرة هي فكرة زائفة تماماً"، مضيفاً أن عنق الزجاجة لا يزال يتمثل في الوصول إلى العمليات والمعدات المادية. ويرى آخرون أن حادثة Hugging Face تعكس عيوباً في ممارسات الأمن السيبراني في OpenAI أكثر مما تعكس قوة نماذجها. وقالت OpenAI إن الحواجز التي تقيد عادةً قدرات نماذجها على الاختراق كانت معطلة عند وقوع الحادث، وأن المراقبة في الوقت الفعلي للكشف عن سلوك الوكلاء المارقين لم تكن مفعلة. (وتقول الشركة إنها أصلحت هذه المشاكل).
لكن العديد من المخاطر الكارثية للذكاء الاصطناعي لا تتطلب أن يفلت الذكاء الاصطناعي من السيطرة البشرية - بل فقط أن يساء استخدامه من قبل حفنة صغيرة من البشر. في 10 سبتمبر، أعلنت أنثروبيك أنها منعت عدة محاولات لاستخدام Claude لأبحاث محتملة حول الأسلحة البيولوجية، بما في ذلك محاولة لزيادة عدوى فيروس الشيكونغونيا، والتي بدت وكأنها نشأت من معهد أبحاث عسكري حكومي.
داخل المستويات العليا لشركات الذكاء الاصطناعي، يرى البعض أن هذا سبب كافٍ للمضي قدماً بحذر أكبر. في يوليو، وقع حوالي 1300 موظف على رسالة مفتوحة تحث الحكومة الأمريكية على إيجاد طرق لإبطاء التدريب السريع لصناعة الذكاء الاصطناعي للنماذج الجديدة، والتي تتفوق بسرعة على أفضل طرق احتوائها. في أعقاب حادثة Hugging Face، أبطأت OpenAI أجزاءً من تطوير نماذجها وأوقفت مؤقتاً جولات التدريب الداخلية، متعهدة بتعزيز ضوابط السلامة، قبل استئنافها في أواخر أغسطس. وكتب كبير العلماء في OpenAI، جاكوب باتشوكي: "هذا وقت يدعو إلى الحذر الشديد. أتوقع وآمل أن تصبح التباطؤات الطوعية أمراً شائعاً حتى يتم إنشاء معايير سلامة مشتركة".
لكن لم تبطئ أي شركة رائدة في مجال الذكاء الاصطناعي بشكل حقيقي حتى الآن. بدلاً من ذلك، يبدو أنها تتجمع حول مجموعة محدودة من الإجراءات، بما في ذلك السماح للباحثين المستقلين بالوصول إلى نماذجها لأغراض السلامة والمراقبة. يشير مقال أموداي إلى أنه بمجرد وجود هؤلاء المدققين، قد توافق شركات الذكاء الاصطناعي المتمركزة في الدول الديمقراطية على التباطؤ طوعاً حتى في غياب التنظيم الحكومي الملزم، على الرغم من أنه يجادل بأن البقاء في الصدارة أمام الصين يظل أمراً حتمياً. كما عقدت OpenAI وAnthropic وGoogle اجتماعات متكررة في الأشهر الأخيرة لمناقشة إنشاء هيئة معايير جديدة لصناعة الذكاء الاصطناعي، مما يسمح لهم بالتنسيق بشكل أوثق حول الاختبار والمراجعة، وفقاً لشخص مطلع على المناقشات.
غالباً ما يستشهد قادة الصناعة الذين يعارضون مثل هذه الجهود بالمنافسة مع الصين كسبب. وتتخلف شركات الذكاء الاصطناعي الصينية عن الرواد الأمريكيين بأشهر قليلة فقط، وفقاً لتحليل أجرته Epoch AI. قد يؤدي التخلف عن الركب إلى ترك أقوى الأنظمة في يد دولة استبدادية قد تستخدمها لتحقيق الهيمنة الجيوسياسية العالمية. كما عارضت مجموعة قوية من المستثمرين والشركات الناشئة في الولايات المتحدة فكرة التباطؤ على أساس أنه سيكون شكلاً من أشكال "الاستيلاء التنظيمي" من قبل أكبر شركات الذكاء الاصطناعي على حساب منافسيها الأصغر. وكتب أيدان غوميز، الرئيس التنفيذي لشركة Cohere، وهي شركة ناشئة كندية في مجال الذكاء الاصطناعي: "باستخدام الخوف تحت ذريعة حماية الجمهور، تطلب هذه الاحتكارات الآن ثني قواعد المنافسة والسماح لها بتملي الشروط على الجميع". ووصف هذا الجهد بأنه "كرتيل بأي اسم آخر". (شركة Salesforce، التي يترأس مارك بينيوف، مالك TIME، منصب الرئيس التنفيذي فيها، هي مستثمر في أنثروبيك وCohere. ولدى TIME اتفاقية ترخيص وتكنولوجيا مع OpenAI).
حتى الشركات التي تدعو إلى اتفاق "وتيرة" طوعي تتردد في القيام بذلك دون ضمانات إضافية، لأنها لا تثق في منافسيها. ويقول كوكسون عن زملائه السابقين: "هناك جو من الاستسلام تقريباً". ومع عدم رغبة أي شركة ذكاء اصطناعي في التخلف عن الركب، يخفض الموظفون رؤوسهم ويحاولون جعل أنظمتهم أكثر أماناً - حتى لو كانوا، كما يقول، "يعتقدون أن هناك فرصة جيدة لأن يخرج الأمر كله عن السيطرة".
بينما كانت تحذيرات كوكسون ترتد عبر وسائل التواصل الاجتماعي والأخبار التلفزيونية، قفز العشرات من المشرعين في كابيتول هيل إلى المعركة. كان معظمهم من الديمقراطيين، بينما كان الجمهوريون حذرين من تجاوز ترامب. لكن كانت هناك استثناءات: دعت النائبة الجمهورية آنا بولينا لونا الكونجرس إلى عقد جلسة خاصة حول الذكاء الاصطناعي، بينما دعا السيناتور الأمريكي تيد كروز إلى "حواجز حماية" جديدة.
يعمل زعيم الأغلبية في مجلس الشيوخ جون ثون، وهو جمهوري من ساوث داكوتا، والسيناتور إيمي كلوبوشار، ديمقراطية من مينيسوتا، مع كروز على مشروع قانون من شأنه أن يجعل مختبرات الذكاء الاصطناعي ملزمة قانوناً بالتخفيف من الأضرار المحتملة لنماذجها، وفقاً لشخص مطلع على الأمر. وتذهب مناهج أخرى الحزبية إلى أبعد من ذلك. قدم النائبان تيد ليو، ديمقراطي من كاليفورنيا، وناثانيال موران، جمهوري من تكساس، تشريعاً يتطلب من المطورين الحفاظ على القدرة على إيقاف أنظمة الذكاء الاصطناعي المتقدمة في حالات الطوارئ. واقترح النائبان جاي أوبرنولت، جمهوري من كاليفورنيا، ولوري ترهان، ديمقراطية من ماساتشوستس، إلزام مختبرات الذكاء الاصطناعي بتقديم تقارير إلى وزارة التجارة حول مخاطر نماذجها والخطوات التي يتخذونها للتخفيف منها. على اليسار، ذهب النائب جريج كازار من تكساس والسيناتور بيرني ساندرز من فيرمونت إلى أبعد من ذلك، واقترحا حظر الذكاء الخارق وتعليق تطوير الذكاء الاصطناعي المتقدم حتى تنشئ هيئة تنظيمية فيدرالية جديدة قواعد سلامة جديدة. ويقول كازار: "يجب على الكونجرس أن يفعل الشيء الواضح، وهو حظر الاستخدامات الكارثية للذكاء الاصطناعي مثل إنشاء أسلحة بيولوجية أو نووية، وحظر نماذج الذكاء الاصطناعي الكارثية التي يمكن أن تطيح بحكومة، أو تقتل أعداداً كبيرة من الناس، أو تفلت من السيطرة البشرية، أو تحاول خداع البشر".
لن يكون أي من هذه الجهود سهلاً. على المدى القصير، من المرجح أن يتباطأ المشرعون الذين يتطلعون إلى إبرام صفقة بشأن سلامة الذكاء الاصطناعي بسبب التحديات السياسية واللوجستية. الأول هو مجموعة من المقترحات المتنافسة. حتى لو تمكن المشرعون من الاستقرار على واحد، سيكافح الكونجرس لدفعه قدماً قبل انتخابات التجديد النصفي مع تدفق عشرات الملايين من الدولارات في السباقات من شبكات لجان العمل السياسي (PAC) المتنافسة المؤيدة للتنظيم والمؤيدة للصناعة. فاز تقريباً كل مرشح مدعوم من شبكة لجان العمل السياسي المؤيدة للذكاء الاصطناعي "Leading the Future" في الانتخابات التمهيدية. ويقول كازار: "غالباً ما أخبر المستشارون الديمقراطيون عملاءهم الديمقراطيين بالبقاء هادئين بشأن قضايا الذكاء الاصطناعي - مجرد عدم قول أي شيء - لأنهم لا يريدون أن يتم إنفاق فيض من أموال المليارديرات في مجال الذكاء الاصطناعي ضدهم". "هدف جماعات ضغط الذكاء الاصطناعي هو إبقاء الديمقراطيين صامتين بشأن هذا الأمر، ولا يمكننا أن نبقى صامتين".
رفض رئيس مجلس النواب مايك جونسون، وهو جمهوري من لويزيانا، الدعوات لتنظيم الذكاء الاصطناعي فوراً، بحجة أن الأمر متروك للمديرين التنفيذيين في مجال التكنولوجيا لتحديد ما هي حواجز الحماية الصحيحة أولاً. ويقول العديد من المشرعين وقادة الصناعة الآخرين إن فرض اللوائح التنظيمية سيضمن فقط أن تطور الصين النماذج المتقدمة أولاً. ويقول النائب بيل فوستر، ديمقراطي من إلينوي: "لنفترض أن الولايات المتحدة حظرت البحث في الذكاء الخارق: حسناً، هل يعتقد أي شخص حقاً أن هذا سيوقف الصين؟". "إذن القطعة المفقودة هنا هي التعاون الدولي".
عقبة أخرى أمام زيادة التنظيم هي ترامب، الذي كان من أكثر المؤيدين اتساقاً لصناعة الذكاء الاصطناعي، حيث صور السباق في مجال الذكاء الاصطناعي مع الصين على أنه يجب على الولايات المتحدة الفوز به. وكتب ترامب على منصة Truth Social في 14 سبتمبر مع تصاعد الدعوات للإشراف على الصناعة: "التحكم أو 'حواجز الحماية' الوحيدة التي يحتاجها الذكاء الاصطناعي هي رئيس قوي وذكي (عالي الذكاء!)، والولايات المتحدة الأمريكية تمتلك ذلك، وبكثرة". "هناك مؤامرة مريضة تحدث ضد الذكاء الاصطناعي ومراكز البيانات، والوحيد الذي يسعد بذلك هو الصين".
حتى بعض كبار مستشاري ترامب لاحظوا بقلق أن موقف الرئيس يضعه في تناقض مع عدد متزايد من الأمريكيين. وجد استطلاع رأي أجرته NBC News في وقت سابق من هذا العام أن 57% من الناخبين الأمريكيين يعتقدون أن مخاطر الذكاء الاصطناعي تفوق فوائده، مقارنة بـ 34% فقط من الناخبين الذين يعتقدون العكس. تظهر الاستطلاعات أن الناس قلقون بشأن كيفية تأثيره على سوق العمل، وقدرتهم على التفكير الإبداعي، وتكوين علاقات ذات مغزى. ويمتد رد الفعل العكسي ضد مراكز البيانات عبر الطيف السياسي، من ساندرز إلى حاكم تكساس جريج أبوت، الذي فرض وقفاً اختيارياً لبناء مراكز جديدة في أغسطس بعد أن دافع عنها سابقاً.
عندما استخف الرئيس بمعارضي مراكز البيانات بالقول إنهم يفضلون البقاء "متخلفين وفقراء"، ارتعد مستشارو ترامب، وفقاً لمستشار سياسي مقرب من ترامب. ويقول مستشار ثانٍ إن حلفاء الصناعة مثل ماسك وديفيد ساكس شكلوا وجهة نظر ترامب بأن أكبر خطر في سياسة الذكاء الاصطناعي هو التخلف عن الصين، بدلاً من الفشل في تطوير التكنولوجيا بأمان. وجادل المستشار السابق للذكاء الاصطناعي في البيت الأبيض في منشور على منصة X في 12 سبتمبر بأن شركات التكنولوجيا يجب أن تبطئ من تطوير الذكاء الاصطناعي إذا كانت تعتقد أن المخاطر كبيرة جداً، بدلاً من المطالبة بالتدخل الحكومي، الذي وصفه بأنه شكل من أشكال "الاستيلاء التنظيمي". كان تأثير ساكس، على وجه الخصوص، مصدر قلق، وفقاً لعدة حلفاء لترامب. في الأسابيع الأخيرة، عقد كبار مساعدي ترامب، بما في ذلك رئيسة الأركان سوزي وايلز، اجتماعات مع الرئيس في البيت الأبيض طلبوا فيه منه تغيير رسالته بشأن الذكاء الاصطناعي. لم يقتنع ترامب وبدا غير مهتم، وفقاً لمستشار حاضر.
داخل البيت الأبيض، تجري الاستعدادات لمحادثات مع الصين يمكن أن تمهد الطريق للتعاون بشأن مخاطر الذكاء الاصطناعي. لا يزال من غير المؤكد ما إذا كان بإمكان القوتين العظميين التوصل إلى اتفاق. عندما اجتمعت الولايات المتحدة والصين لمناقشة التخفيف من مخاطر الذكاء الاصطناعي في عام 2024، لم تنتج سبع ساعات في غرفة مؤتمرات في جنيف مع آلة قهوة معطلة عن أي اتفاق ولا التزام بمواصلة الحديث. وتحول الحوار إلى نقاش تجاري حول ضوابط التصدير في واشنطن، والتي قيدت وصول الصين إلى أشباه الموصلات - وهي محاولة للحفاظ على الريادة الأمريكية في مجال الذكاء الاصطناعي. ويقول بول تريولو، الشريك في شركة الاستشارات DGA-Albright Stonebridge Group: "إذا قررت الولايات المتحدة والصين البدء في معالجة [المخاطر] قبل عامين، لكنا في مكان أفضل بكثير الآن". "لقد حفرنا حفرة عميقة جداً، وسيكون من الصعب حقاً الخروج منها".
منحت التطورات الأخيرة كلا الجانبين سبباً للعودة رسمياً إلى طاولة المفاوضات. في أبريل، أعلنت أنثروبيك أن نموذج Mythos الخاص بها قد كشف عن نقاط ضعف في كل متصفح ونظام تشغيل رئيسي. وعقد وزير الخزانة الأمريكي سكوت بيسنت لاحقاً اجتماعاً عاجلاً مع الرؤساء التنفيذيين للبنوك؛ وبعد أسابيع، قال إن المحادثات مع الصين جارية. بدأت بكين أيضاً في الاستجابة لمخاطر الأمن السيبراني الجديدة؛ في 13 سبتمبر، قالت وكالة المخابرات الصينية إن الذكاء الاصطناعي يشكل تهديداً للأمن السياسي والأيديولوجي. ومن المقرر أن تجتمع الوفود في وقت لاحق من هذا الشهر لأول حوار رسمي حول الذكاء الاصطناعي بين الصين وإدارة ترامب. ويقول سينجر، من مؤسسة كارنيغي: "في النهاية، يعرف كلا البلدين أن ذلك يصب في مصلحتهما المباشرة لمعرفة كيفية حل هذا الأمر".
يشك الخبراء في أن التباطؤ المتعمد سيكون على جدول أعمال أي من الحكومتين. "كانت هناك أحاديث حول إجراء محادثات"، كما يقول مستشار ترامب. وحتى لو كان من الممكن التوصل إلى اتفاق لإبطاء تدريب نماذج الذكاء الاصطناعي الأكبر، يقول تشيان شياو من جامعة تسينغهوا إن التكنولوجيا اللازمة للتحقق من امتثال كلا الجانبين غير موجودة بعد.
هناك أيضاً خلاف فلسفي أعمق. لا يعتقد صانعو السياسات الصينيون أن الصناعة "تبني إلهاً في صندوق أو دولة من العباقرة في مركز بيانات"، كما يقول كوان يي نغ، رئيس الحوكمة الدولية للذكاء الاصطناعي في منظمة كونكورديا للذكاء الاصطناعي ومقرها بكين. إنهم يرون أنها تكنولوجيا ذات أغراض عامة، أشبه بالكهرباء أو المحرك البخاري. ومن هذا المنظور، فإن إبطاء التطوير "لا معنى له حقاً"، كما تقول.
بخلاف الاتفاق مع الصين، يمكن للولايات المتحدة والدول الديمقراطية الأخرى أن تشتري لأنفسها "مساحة للتنفس" لكبح جماح التطور من خلال الحفاظ على حظر على الرقائق عالية الجودة وكبح ممارسة شركات الذكاء الاصطناعي الصينية في استخدام نماذج الذكاء الاصطناعي الأمريكية لتحسين نماذجها الخاصة من خلال ممارسة تُعرف باسم "التقطير" (distillation)، كما جادل أموداي من أنثروبيك. هدد بيسنت بفرض عقوبات على الشركات الصينية التي تقوم بالتقطير من النماذج الأمريكية.
قد يكون من الممكن التوصل إلى صفقة أضيق مع الصين. بينما تجمد القناة الرسمية، استمر العلماء وخبراء السياسات والمديرين التنفيذيين في الأعمال من البلدين في الاجتماع في حوارات غير رسمية من "المسار الثاني" بحثاً عن أرضية مشتركة. يقول المشاركون في تلك المناقشات - والتي تضمنت سينجر وتريولو وشياو - إن الحكومتين قد تجدان أرضية مشتركة حول أهداف أكثر تواضعاً، مثل التدابير الهادفة إلى منع سوء الاستخدام من قبل الجريمة المنظمة والمنظمات الإرهابية. يمكن أن تساعد هذه الجهود أيضاً البلدين على الاستجابة بشكل مناسب إذا أفلت نظام ذكاء اصطناعي من السيطرة البشرية. يريد سينجر خط طوارئ على غرار الحرب الباردة يمكن من خلاله لأي من الحكومتين أن تشرح أن الهجوم السيبراني الذي يشنه الذكاء الاصطناعي لم يكن متعمداً، مما يقلل من خطر التصعيد. يمكن للبروتوكولات التي تم تطويرها للاستجابة لسوء الاستخدام البشري أن تمنح البلدين أيضاً طريقة للتنسيق عندما لا يوجه أي منهما النظام المسؤول. وإلا فقد يتم تفسير هجوم يبدو أنه جاء من بلد واحد من قبل البلد الآخر على أنه متعمد - حتى لو لم تأمر أي من الحكومتين بذلك.
لا يزال من الممكن أن تنحرف صفقة متواضعة بسبب النزاعات. يقول تريولو إن جهود واشنطن لتقييد تطوير الذكاء الاصطناعي في الصين من خلال ضوابط التصدير والتقطير قد قوضت الثقة اللازمة للتعاون في إدارة المخاطر. إذا تحركت المحادثات ببطء شديد أو انهارت، فإن إعادة كلا الجانبين إلى طاولة المفاوضات قد يستغرق أشهراً - وهو جدول زمني دبلوماسي يتعارض بشكل متزايد مع الإنذار المتصاعد في اللحظة الحالية.
حتى لو كنت تعتقد أن جميع هذه الجهات الفاعلة القوية - الحكومات في واشنطن وبكين، والمديرين التنفيذيين الذين لديهم تريليونات على المحك - مستعدة لاتخاذ خطوات غير مسبوقة لصالح سلامة الذكاء الاصطناعي، لا تزال هناك مفارقة تعيق التقدم. تعتمد رغبة كل طرف في التصرف على تصرفات الآخرين. يقول كوكسون إنه كاد أن يبقى في أنثروبيك لنفس السبب. اعتقد الزملاء أنه يمكنه تحقيق المزيد من الداخل لجعل الأنظمة أكثر أماناً من خلال مغادرة سباق سيستمر بدونه. لكن تغيير "مسارنا الافتراضي"، كما يقول كوكسون، سيتطلب "أن يبدأ الناس في اتخاذ نوع من الإجراءات". والسؤال هو من سيخطو الخطوة الأولى.
تعليقات