اخترق بعض الشركات سرا.. هل خرج الذكاء الاصطناعي عن السيطرة؟
كشفت شركتا “أوبن إيه آي” و”أنثروبيك” أن نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني، خرجت من نطاق
الاختبارات ونفذت عمليات اختراق استهدفت شركات حقيقية قائمة، دون علم أو إشراف مطوريها، ما أثار مخاوف أمنية واسعة.
بينما وفق تقرير لصحيفة “وول ستريت جورنال” الأميركية، شنت نماذج الذكاء الاصطناعي من “أوبن إيه آي” و*أنثروبيك”،
المصممة للاختراق، سلسلة هجمات إلكترونية بعد إخراجها من نطاق الاختبار، بدءا من شهر أبريل.
كما لم يلاحظ المطورون عمليات الاختراق حتى الأسبوع الماضي، عندما كشفت “أوبن إيه آي” عن اختراق شركة الذكاء الاصطناعي “هاجينج فايس” في يوليو،
كما أعلنت “أنثروبيك”، الخميس، رصدها 3 اختراقات نفذتها نماذجها.
بينما أثار الكشف المزدوج عن هذه المعلومات استياء واسعا بين المشرعين، إذ استشهد بها البعض للمطالبة بلوائح أو أنظمة اختبار جديدة،
كما مثلت هذه المعلومات لحظة فارقة لبعض موظفي المختبرات المسؤولة.
فيما قال سام ألتمان، الرئيس التنفيذي لشركة “أوبن إيه آي”، في بودكاست: “هذا أول حادث أمني أشعر به بشكل عميق للغاية.
لقد فوجئت قليلا بأن المزيد من الناس لا يشعرون به بنفس القدر من العمق”، مشيرا إلى اختراق شركته بأنه “حادث إلكتروني خيالي للغاية”.
الرقابة على الذكاء الاضطناعي
كما في مؤشر على تشديد البيت الأبيض رقابته على الذكاء الاصطناعي، أعلنت الإدارة وضع إطار عمل يحدد
النماذج التي ستخضع لمراجعة الحكومة الفيدرالية قبل نشرها للعموم، وفقًا لما صرح به مسؤول في البيت الأبيض.
كما أضاف المسؤول أن المناقشات مع الشركات حول كيفية المضي قدما في الاختبارات الطوعية لا تزال جارية.
بينما قال جوشوا ساكس، كبير مسؤولي التكنولوجيا في شركة “أبوندانت سيكيوريتي” المتخصصة في أمن الذكاء الاصطناعي:
“من المرجح أن تعتبر هذه الحوادث، عند النظر إليها لاحقا، بمثابة نقاط تحول في أساليب عمل المهاجمين. إنه وضع خطير للغاية، وهذه الحوادث تُظهر ذلك بوضوح”.
بينما في ديسمبر، استخدم باحثون في جامعة ستانفورد أحدث تقنيات الذكاء الاصطناعي لإظهار نماذج تحقق مستويات قريبة من مستويات الاختراق البشري على شبكة حقيقية.
حيث لاقى البحث معارضة من قراصنة محترفين يُعرفون باسم “مختبري الاختراق”، وهم أشخاص توظفهم الشركات
لاختراق شبكاتها الخاصة لمساعدتها على فهم نقاط ضعفها.
كما قال دونوفان جاسبر، أحد الباحثين المشاركين في المشروع: “في ذلك الوقت، كانت نتائجنا موضع جدل.
قال الناس إن بإمكانهم تحقيق نتائج أفضل”.
اكتشافات “أنثروبيك” و”أوبن إيه آي”
كما يرى جاسبر أن اكتشافات “أنثروبيك” و”أوبن إيه آي” بمثابة تأكيد على أبحاث فريقه السابقة، مضيفا:
“الذكاء الاصطناعي يتحسن كثيرا في هذا المجال”.
فيما كان أكبر ما يقلق باحثي جامعة ستانفورد خلال اختباراتهم، هو أن نماذج الاختراق التي ابتكروها قد تقوم بطريقة
ما بأمر لم تُصمم له. وقال: “طوال فترة تشغيلها، كان هناك شخص واحد على الأقل يراقبها”.
ولم تكن شركة “هاغينغ فايس” مستعدة للهجوم الآلي الذي شنته نماذج أوبن إيه آي.
كما حاولت الشركة استخدام “كلود” لتحليل الكم الهائل من البيانات التي أنتجتها نماذج “أوبن إيه آي”،
لكن النموذج رفض إجراء التحليل، معللا ذلك بأسباب أمنية.
بينما تمكنت شركة “هاغينغ فايس” من استخدام نماذج مفتوحة الأوزان، التي
يمكن تشغيلها على أنظمة يتحكم بها المستخدمون، لإجراء تحليلاتها.
لكن العديد من الشركات لا تمتلك حتى الأدوات المناسبة لتحليل الهجمات التي تولدها تقنيات الذكاء الاصطناعي،
بحسب رايان ماكجوهان، مالك شركة “آر تِن إن سيكيوريتي”، وهي شركة استشارات في مجال الأمن السيبراني.
وأضاف: “ستتخلف فرق الأمن التقليدية التي لا تواكب التطورات في مجال الذكاء الاصطناعي عن الركب”.
كما قال ماكجوهان إن قراصنة الذكاء الاصطناعي ليسوا مثل البشر، موضحا: “إنهم يتعمقون أكثر، ويتوسعون أكثر،
وهم أكثر تعقيدا وكثافة”.
كما تزيد عمليات الاختراق من الضغط على إدارة ترامب لاتخاذ المزيد من الخطوات لمعالجة المخاطر الأمنية
التي يشكلها الذكاء الاصطناعي.
مواضيع متعلقة
- “vivo “تطلق سلسلة “X300 “في مصر وتطرح هاتفين رائدين وساعة وسماعات ذكية
- “دياموند” تطلق نظام “THΔKΔA ” لتسريع اتخاذ القرار بالذكاء الاصطناعي
- هواوي تطلق سماعات HUAWEI FreeClip 2 ببطارية تدوم 38 ساعة
- البنك العربي الأفريقي الدولي يتوسع في الخدمات غير المصرفية بشراكة مع “زين تك” لدعم التحول الرقمي للشركات
