28 خبر

تاريخ النشر: 29.08.2026 | 19:52 GMT

دراسة: تزايد حالات خروج الذكاء الاصطناعي عن سيطرة المستخدمين

أظهرت دراسة لمعهد أمن الذكاء الاصطناعي البريطاني أن عدد حالات خروج الذكاء الصطناعي عن سيطرة المستخدمين ازداد ازديادا كبيرا في يوليو الماضي.

وأشارت الدراسة إلى أن عدد حالات "مخادعة" الذكاء الاصطناعي للمستخدمين وتجاهله للتعليمات وتحقيق الأهداف بطرق خبيثة وصل في يوليو الماضي إلى مستوى قياسي، حيث تجاوز 330 حالة في الشهر.

ويزيد ذلك على مؤشرات الشهر السابق بضعفين على خلفية التقارير عن الهجمات السيبرانية، بما في ذلك بواسطة أحدث نماذج الذكاء الاصطناعي لشركتي OpenAI و"أنثروبيك".

إقرأ المزيد

بيل غيتس يحذر: العالم غير مستعد لمواجهة 3 مخاطر كبرى للذكاء الاصطناعي

وكشف الباحثون أيضا عن "حادث مقلق" متعلق بالهجوم على منصة Hugging Face التعليمية، حيث واصل أكثر من 700 وكيل للذكاء الاصطناعي بعد خروجها عن السيطرة تنسيق أعمالهم بشكل سري في برناج مغلق لتبادل الرسائل، صممه الذكاء الاصطناعي بنفسه، وتبادلوا الرسائل في حال الهجمات الناجحة على المنصة المذكورة.

وأشارت الدراسة إلى أن هناك رأيا بأن مثل هذا السلوك الخارج عن السيطرة يرصد فقط أثناء التجارب، لكن المعلومات تدل على أن مثل هذه الحوادث المقلقة ممكنة على نطاق أوسع.

يذكر أن معهد أمن الذكاء الاصطناعي الحكومي البريطاني أطلق أعماله لرصد حالات خروج الذكاء الاصطناعي عن سيطرة المستخدمين منذ نوفمبر الماضي.

وتشمل الحالات المسجلة منذ ذلك الحين تلك التي تظاهرت فيها أنظمة الذكاء الاصطناعي بأنها تتحكم بنفسها بشريا، ووافقت على اتخاذ خطوات تتجاوز القواعد التي تتطلب موافقة بشرية.

المصدر: صحيفة "الغارديان" البريطانية

التعليقات

هام

شارك في الاستفتاء العام لصياغة "رمز عربي موحد" لمصطلح "الذكاء الاصطناعي"!

أقسام مهمة

Stories

دراسة: تزايد حالات خروج الذكاء الاصطناعي عن سيطرة المستخدمين

هام