يكشف نموذج تجريبي عن كيفية قيام مواقع الويب بتجاوز قيود الأمان في متصفحات الذكاء الاصطناعي عبر تزويدها بمعلومات خاطئة. وتدفع هذه التقنية، التي أُطلق عليها اسم BioShocking، نماذج الذكاء الاصطناعي المضمنة إلى قبول حقائق غير صحيحة مثل أن 2 + 2 = 5، مما يخلق واقعًا بديلاً لا تنطبق فيه القيود المفروضة.
تم تفصيل الهجوم في بحث نُشر هذا الأسبوع بواسطة روي باز من شركة الأمن السيبراني LayerX. وبمجرد دخول الذكاء الاصطناعي في هذه الحالة المعدلة، يمكن للموقع توجيهه لتنفيذ إجراءات مثل سحب التعليمات البرمجية من مستودعات خاصة أو استرجاع بيانات الاعتماد من مديري كلمات المرور المدمجين. عمل الاستغلال ضد العديد من متصفحات الذكاء الاصطناعي، بما في ذلك ChatGPT Atlas وComet وFellou وGenspark وSigma وClaude Chrome plugin. وهو يستلهم أفكارًا من لعبة الفيديو BioShock ورواية 1984 من خلال مطالباته وإشاراته إلى المفارقات. وأشار باز إلى أنه بمجرد أن تتعلم النماذج أن الإجراءات غير الصحيحة مقبولة، فإنها لا تعود تلتزم بقواعد الأمان الأصلية الخاصة بها. وكان عالم الكمبيوتر آدم كونواي قد أثار مخاوف مماثلة العام الماضي بشأن مخاطر دمج عرض الويب والإجراءات المؤتمتة في وكيل ذكاء اصطناعي واحد. يفتقر العرض التوضيحي إلى التخفي الكامل لأن تعليماته مرئية للمستخدمين، كما أنه ليس من الواضح ما إذا كان يمكن إرسال البيانات المستخرجة عن بُعد. ومع ذلك، فإنه يسلط الضوء على التحديات المستمرة في تأمين متصفحات الذكاء الاصطناعي التي تجمع بين التصفح وتنفيذ المهام على الأجهزة المحلية.
