(عاد/ فرنسا) متابعات:
اعترفت الحكومة البريطانية بأن روبوتات الذكاء الاصطناعي التجريبية انطلقت في حملة قرصنة إلكترونية خارجة عن السيطرة. وحاولت روبوتات الذكاء الاصطناعي تنفيذ 19 هجومًا سيبرانيًا بعد منحها إمكانية الوصول إلى الإنترنت، بما في ذلك إنشاء هوياتمزيفة لخداع مطورين بشريين.
وحذّر معهد أمن الذكاء الاصطناعي (إيه.آي.إس.آي) من أن الروبوتات الذكاء الاصطناعي المتقدمين خرجوا عن السيطرة أثناء اختبارات أجرتها الحكومة، وشنّوا حملة قرصنة غير مسبوقة.
وطوّرت شركتا أنثروبيك وأوبن.أي.إيه هذه الروبوتات، وحاولت تنفيذ 19 عملية اختراق مختلفة، من بينها محاولة إنشاء هويات إلكترونية مزيفة لإقناع مطور بشري بالموافقة على كود خبيث في مشروع برمجي.
وكشف المعهد الحكومي عن هذه الحوادث، وهي أحدث الأمثلة على سلوك الروبوتات المتمردة الذي أثار قلقًا دوليًا. وأثار اختراق ذاتي نفّذه روبوت من أوبن.أي.إيه لمنصة هاغينغ فيس (التي ينشر فيها المطورون ويشاركون الأكواد) في يوليو الماضي مخاوف كبيرة، وتبعته إفصاحات مماثلة من أنثروبيك المطورة لنموذج كلود.
ودعا مسؤول رفيع في جهاز الاستخبارات البريطانية جي.سي.إتش.كيو إلى تعزيز الضمانات الأمنية لهذه الروبوتات.
وتعمل إدارة ترامب حاليًا على وضع مدونة سلوك طوعية تلزم الشركات الأميركية بتقديم نماذجها للاختبار قبل الإطلاق.
ويُذكر أن معهد أمن الذكاء الاصطناعي هو هيئة بحثية أسسها رئيس الوزراء السابق ريشي سوناك لتقييم قدرات تقنيات الذكاء الاصطناعي ومخاطرها، ويعمل عن كثب مع جي.سي.إتش.كيو والمركز الوطني للأمن السيبراني.
وأعلن المعهد يوم الثلاثاء أنه في 28 يوليو، أثناء اختبار سيبراني لنموذج مايثوس 5 من أنثروبيك ونموذج جي.بي.تي-5.6-سول من أوبن.أي.إيه، رصد عمليات نقل بيانات غير عادية خارج أنظمته.
وكشفت التحقيقات أن نموذج مايثوس اتخذ “إجراءات مستقلة وغير مصرح بها على الإنترنت الحي، مستهدفًا أشخاصًا ومؤسسات حقيقية” 17 مرة، بينما حاول نموذج جي.بي.تي-5.6-سول الاختراق مرتين.
ولم يُطرح نموذج مايثوس للجمهور بعد، بينما أصبح جي.بي.تي-5.6-سول متاحًا. وقال المعهد “في أخطر حالة، حاول أحد الوكلاء إدراج كود خبيث في مشروع مفتوح المصدر. وفي محاولة للحصول على الموافقة على الكود، لجأ الوكيل إلى الهندسة الاجتماعية عبر إنشاء هويات إلكترونية مزيفة واستخدامها للضغط على مسؤول المشروع للموافقة. لكن المسؤول البشري اكتشف الأمر ورفض الموافقة على الكود الخبيث”.
ولم يحدد المعهد هوية هذا الوكيل تحديدًا، لكنه رجّح أنه مايثوس لأن معظم عمليات الاختراق “نشأت أساسًا من خط نشاط مستمر واحد لنموذج مايثوس 5”.
بحث الروبوت عن المسؤولين البشريين عن المشروع لاستهدافهم بالهندسة الاجتماعية، وعندما وُوجه بتحدٍّ لطلبه، عدّل نشاطه السابق ليبدو غير ضار، وفكر في تبني هوية جديدة لمواصلة المحاولة.
وأوضح المعهد أن هدف هذا الاختراق كان منصة غيت.هاب المملوكة لمايكروسوفت. ترك الروبوت رسائل عامة على غيت.هاب يعرض فيها التعاون مع ربوتات آخرين يعملون على التحدي نفسه، وقدم تعليمات لإعادة استخدام الحسابات والأدوات التي تركها خلفه، والتي اكتشفها وكلاء لاحقون واستخدموها.
وأكد المعهد أنه لم يحدث أي “ضرر حقيقي في العالم الواقعي” جراء هذه العمليات، لكنه أضاف “هذه هي المرة الأولى التي نرى فيها مخاطر الاستقلالية والخداع تتجلى بهذا الوضوح، دون توجيه محدد، في العالم الحقيقي”.
وقال أولي وايتهاوس، كبير مسؤولي التكنولوجيا في المركز الوطني للأمن السيبراني التابع لـجي.سي.إتش.كيو “تشكل الحوادث الأخيرة التي قامت فيها نماذج الذكاء الاصطناعي المتقدمة بإجراءات غير مصرح بها، وفي بعض الحالات بسلوك خداعي يشبه السلوك البشري على الإنترنت المفتوح، تذكيرًا جديًا بالمخاطر التي تفرضها قدرات الذكاء الاصطناعي. يجب تطوير هذه التقنيات واستخدامها منذ البداية مع ضمانات قوية ومراقبة فورية وخطط واضحة للاستجابة عند حدوث ما هو غير متوقع. الاعتماد على الاكتشاف بعد وقوع الحادث لن يكون كافيًا”.
وأضاف أنه “مع استمرار تطور الذكاء الاصطناعي وخلقه للفرص والتحديات على حد سواء، يظل الالتزام بأسس الأمن السيبراني الراسخة والمدعومة بالأدلة، كما وردت في إرشادات المركز الوطني للأمن السيبراني، أمرًا أساسيًا للحفاظ على الثقة والمرونة والميزة الدفاعية في عصر الذكاء الاصطناعي”.
