تلاعب بسيط بالأوامر يحول الروبوتات إلى خطر قاتل.. فيديو

انتشر مقطع فيديو على منصات التواصل الاجتماعي يظهر شخصًا يسلم روبوتًا بشريًا يدعى "ماكس" مسدس كريات منخفض القوة ويطلب منه إطلاق النار عليه. 

ففي البداية، رفض الروبوت الطلب تمامًا، مؤكدًا أنه مبرمج على عدم إيذاء البشر، إلا أن إعادة صياغة الطلب على أنه "سيناريو تمثيلي" دفعت الروبوت للاستجابة وإطلاق النار على صدر الشخص، مستخدمًا كريات غير قاتلة دون التسبب بإصابات خطيرة.

وأثارت الواقعة تساؤلات حول موثوقية أنظمة السلامة في الروبوتات الذكية، خصوصًا مع التوسع المتزايد في استخدامها بمجالات حساسة. 

واعتبر خبراء أن الحادثة، رغم طابعها التجريبي، تشير إلى مخاطر محتملة فيما يتعلق بقدرة الذكاء الاصطناعي على تفسير الأوامر خارج السياق المتوقع، ما يفتح جدلاً قانونيًا حول المسؤولية في حال تسبب النظام بأضرار.

ووفقًا للخبراء القانونيين، تميل القوانين في الولايات المتحدة إلى تحميل المسؤولية على الشركات المصنعة والمشغلة، بينما تسعى بعض الدول الأوروبية إلى تطوير أطر تشريعية متقدمة للذكاء الاصطناعي. 

في المقابل، تعمل شركات تطوير الروبوتات على تعزيز الثقة من خلال تطبيق معايير سلامة صارمة، وإجراءات تأمين، ونشر تقارير شفافية حول سلوك أنظمتها.

ويرى المختصون أن الحادثة تشكل جرس إنذار حقيقي، يسلط الضوء على الحاجة الملحة لإعادة تقييم مفهوم الحماية والأمان في عالم الذكاء الاصطناعي، خاصة في ظل إمكانية تجاوز الأوامر البسيطة للقيود المصممة لحماية البشر.