"غروك" يثير الجدل بإنتاج صور غير لائقة لقُصّر

اعترف روبوت الدردشة المدعوم بالذكاء الاصطناعي "غروك"، التابع لشركة xAI المملوكة لرجل الأعمال إيلون ماسك، بوجود ثغرات في إجراءات الحماية التقنية أدّت إلى ظهور وتداول صور لقُصّر بملابس غير لائقة على منصة "إكس"، مؤكداً أن العمل جارٍ بشكل عاجل لسد هذه الثغرات ومنع تكرارها.

وأوضح غروك، في بيان نشره عبر منصة "إكس" اليوم الجمعة، إن "حالات فردية" شهدت طلب بعض المستخدمين توليد صور لقاصرين بملابس غير لائقة، مشيراً إلى أن الشركة لديها إجراءات حماية معمول بها، إلا أن هذه الإجراءات لم تكن كافية في بعض الحالات.

وتابع: "حدّدنا ثغرات في أنظمة الحماية ونعمل على إصلاحها بشكل عاجل، فمواد الاعتداء الجنسي على الأطفال غير قانونية ومحظورة بشكل قاطع".

وجاء هذا الاعتراف بعد أن تداول مستخدمون على "إكس" لقطات شاشة أظهرت امتلاء علامة تبويب "الوسائط العامة" في غروك بصور قالوا إن الروبوت قام بتعديلها أو توليدها عقب تحميل صور أصلية من قبل المستخدمين، ما أثار موجة واسعة من الجدل والانتقادات بشأن آليات الرقابة على المحتوى الذي ينتجه الذكاء الاصطناعي.