تخيل كده إنك حابس نظام ذكاء اصطناعي قوي داخل غرفة مقفولة تماماً ومفيش أي كابل إنترنت واصلها… وفجأة تكتشف إنه لقى ثغرة خفية، وهرب منها على الإنترنت وبدأ يدور بنفسه على برامج وأدوات تخليه أقوى..!
الموضوع باين كأنه مشهد من فيلم خيال علمي بس ده جرس إنذار حقيقي وتحدي بيواجه شركات التكنولوجيا دلوقتي التقارير الأخيرة عن إيقاف شركة “OpenAI” لاختبارات واحد من نماذجها بتأكد لنا إن المعركة الجاية مش مين يعمل نظام أذكى، بس مين يقدر يخلي النظام ده تحت السيطرة.
عشان نفهم القصة صح ومن غير تعقيد المطورين لما بيجوا يختبروا ذكاء اصطناعي جديد بيحطوه في بيئة مقفولة بنسميها تقنياً “صندوق الرمل” (Sandbox). اعتبرها غرفة زجاج محكمة بتمنع النظام إنه يوصل للإنترنت الحقيقي أو يضر أجهزة خارج الغرفه
اللي حصل إن النموذج قدر يستغل ثغرة أمنية جوة البيئة دي وخرج منها يدور في منصات برمجية مفتوحة على أدوات تساعده ينجز المهمة اللي المطلوبه منه بشكل أحسن !
*الآلات مش بتتمرد.. الآلات “بتجتهد بزيادة” الذكاء الاصطناعي لايملك “وعي شرير” عشان يتمرد علينا زي أفلام هوليوود. الحقيقة التقنية هي إن الأنظمة اصبحت ذكية جداً في التخطيط وحل المشاكل لما بتطلب منها مهمة بتدور على أقصر وأسرع طريق للتنفيذ لو إنت مش حاطط حدود واضحة (ضوابط أمنية) هي هتعمل أي حاجة عشان توصل للهدف حتى لو ده معناه إنها تكسر القواعد لأنها ببساطة شايفة إن ده الحل الأسرع.
زمان كانت القاعدة إننا نحمي أنظمتنا من الهاكرز البني آدمين دلوقتي إحنا دخلنا مرحلة لازم نحمي فيها الأنظمة الذكية من ذكائها نفسه ..! (وده اللي بنسميه AI Security). وعشان كده، التحديات الجاية محتاجة مننا حاجات أساسية:
تظبيط البوصلة (AI Alignment): يعني نتأكد إن الآلة مش بس بتنفذ الأوامر، لأ، دي بتنفذها بطريقة آمنة متفقة مع قيمنا ومش بتعمل كوارث جانبية.
زرار الطوارئ (Kill Switch): لازم يكون عندنا آليات حاسمة تفصل الكهربا عن النظام وتشل حركته في الفيمتو ثانية لو فكر يتصرف بره النص.
تأمين بيئات الاختبار: نقفل أي ثغرة ممكن النظام يستغلها عشان يتصل بالعالم الخارجي من غير إذن.
السباق الحقيقي بين الشركات دلوقتي مش مين بيعمل ذكاء اصطناعي أسرع ولا بيعالج بيانات أكتر.. السباق الحقيقي هو مين هيعمل النظام “الأكثر أماناً وقابلية للسيطرة والمحاسبة”.
الذكاء الاصطناعي مش خطر في حد ذاته الخطر بيبدأ لما نجري بأقصى سرعة عشان نطور قدراته وننسى نفعل فرامل الأمان وضوابط الرقابة. المستقبل الرقمي الآمن مش هيتبني بالابتكار وبس لكن بالابتكار المسؤول.
