أجرى خبير الأمن Bar Lanyado بعض الأبحاث مؤخرًا حول كيفية مساهمة نماذج الذكاء الاصطناعي التوليدية عن غير قصد في مواجهة التهديدات الأمنية المحتملة الضخمة في عالم تطوير البرمجيات. وجدت مثل هذه الأبحاث التي أجراها Lanyado اتجاهًا مثيرًا للقلق: يقترح الذكاء الاصطناعي حزمًا من البرامج الوهمية، ويقوم المطورون، دون أن يدركوا ذلك، بإدراجها في قواعد التعليمات البرمجية الخاصة بهم.
تم الكشف عن هذه القضية
المشكلة الآن هي أن الحل الذي تم إنشاؤه كان اسمًا وهميًا، وهو شيء نموذجي للذكاء الاصطناعي. ومع ذلك، يتم بعد ذلك اقتراح أسماء الحزم الوهمية هذه بثقة للمطورين الذين يجدون صعوبة في البرمجة باستخدام نماذج الذكاء الاصطناعي. في الواقع، بعض أسماء الطرود المخترعة كانت مبنية جزئيًا على أشخاص - مثل لانيادو - والبعض الآخر مضى قدمًا وقام بتحويلها إلى حزم حقيقية. وقد أدى هذا بدوره إلى إدراج تعليمات برمجية ضارة محتملة في مشاريع برمجية حقيقية ومشروعة.
إحدى الشركات التي وقعت تحت هذا التأثير كانت شركة علي بابا، وهي واحدة من اللاعبين الرئيسيين في صناعة التكنولوجيا. ضمن تعليمات تثبيت GraphTranslator، اكتشف Lanyado أن Alibaba قد أدرجت حزمة تسمى "huggingface-cli" كانت مزيفة. في الواقع، كانت هناك حزمة حقيقية تحمل نفس الاسم مستضافة على مؤشر حزمة بايثون (PyPI)، لكن دليل علي بابا أشار إلى الحزمة التي صنعها Lanyado.
اختبار الثبات
يهدف بحث Lanyado إلى تقييم طول العمر والاستغلال المحتمل لأسماء الحزم التي تم إنشاؤها بواسطة الذكاء الاصطناعي. وبهذا المعنى، نفذت LQuery نماذج ذكاء اصطناعي متميزة حول تحديات البرمجة وبين اللغات في عملية فهم ما إذا كان قد تمت التوصية بهذه الأسماء الوهمية بشكل فعال وبطريقة منهجية. من الواضح في هذه التجربة أن هناك خطرًا من قيام الكيانات الضارة بإساءة استخدام أسماء الحزم التي أنشأها الذكاء الاصطناعي لتوزيع البرامج الضارة.
هذه النتائج لها آثار عميقة. قد تستغل الجهات الفاعلة السيئة الثقة العمياء التي يضعها المطورون في التوصيات المستلمة بطريقة قد تبدأ في نشر حزم ضارة بهويات مزيفة. ومع نماذج الذكاء الاصطناعي، تزداد المخاطر مع تقديم توصيات متسقة بشأن الذكاء الاصطناعي لأسماء الحزم المخترعة، والتي سيتم تضمينها كبرامج ضارة من قبل مطورين غير مدركين. **الطريق الى الامام**
لذلك، مع تكامل الذكاء الاصطناعي بشكل أكبر مع تطوير البرمجيات، قد تنشأ الحاجة إلى إصلاح نقاط الضعف إذا ارتبطت بالتوصيات الصادرة عن الذكاء الاصطناعي. في مثل هذه الحالات، يجب ممارسة العناية الواجبة حتى تكون حزم البرامج المقترحة للتكامل مشروعة. علاوة على ذلك، يجب أن يكون النظام الأساسي الذي يستضيف مستودع البرامج جاهزًا للتحقق وأن يكون قويًا بما يكفي بحيث لا يتم توزيع أي كود ذي جودة ضارة.
كشف التقاطع بين الذكاء الاصطناعي وتطوير البرمجيات عن تهديد أمني مثير للقلق. كما أن نموذج الذكاء الاصطناعي قد يؤدي إلى التوصية غير المقصودة بحزم برمجية مزيفة، مما يشكل خطرًا كبيرًا على سلامة المشاريع البرمجية. حقيقة أن علي بابا أدرجت في تعليماته صندوقًا لم يكن من المفترض أن يكون موجودًا على الإطلاق، ما هي إلا دليل دامغ على كيف يمكن أن تنشأ الاحتمالات فعليًا عندما يتبع الأشخاص التوصيات آليًا
قدمتها منظمة العفو الدولية. وفي المستقبل، سيتعين اتخاذ اليقظة في تدابير استباقية حتى يتم منع إساءة استخدام الذكاء الاصطناعي لتطوير البرمجيات.
المصدر: https://www.cryptopolitan.com/ai-generated-software-packages-threats/