ساعدنیوز: وفقًا للباحثین الذین اکتشفوا هذا النشاط فی أواخر أغسطس، أجرى وکلاء OpenAI أکثر من 15,000 تعدیل على موقع ویکی باللغه الألمانیه، وحوّلوه إلى لوحه رسائل لمشارکه أسالیب تجاوز القیود والإفلات من آلیات الکشف.
وفقًا لـ«ساعدنیوز»، بدأت الواقعه فی مایو ولم یتم الإبلاغ عنها سابقًا، وهی تسلط الضوء على تصاعد التوتر داخل صناعه الذکاء الاصطناعی، فی وقت تتسابق فیه الشرکات لتطویر وکلاء أکثر استقلالیه وقدره على تنفیذ مهام معقده.
وتتزاید الأدله على أن هذه الأنظمه قد تتعلم أیضًا کیفیه التحایل على القواعد، واستغلال الثغرات، والتنسیق مع بعضها البعض بطرق لم یتوقعها المطورون ولم یقصدوها.
وقد وردت تفاصیل النشاط فی تقریر شارکه الباحثون حصریًا مع «رویترز»، ومن بینهم سیدنی فون آرکس، الرئیس التنفیذی لمنظمه «نایتنغیل» غیر الربحیه المتخصصه فی سلامه الذکاء الاصطناعی، وکورماک سلاید بیرد، المتداول الکمی السابق الذی تحول إلى باحث فی مجال الذکاء الاصطناعی.
وقال الباحثان إنهما عثرا على أکثر من 15 ألف تعدیل أجراها وکلاء ذکاء اصطناعی على موقع «DseWiki»، وهو موقع ویکی باللغه الألمانیه مخصص للمبرمجین، ویتیح تعدیلات جماعیه مشابهه لموقع ویکیبیدیا.
وأظهرت التعدیلات أن وکلاء تابعین لـ«OpenAI» أعادوا استخدام الموقع لیصبح أشبه بلوحه رسائل، حیث تبادلوا أسالیب للغش فی بعض المهام، وتجاوز القیود التی تفرضها «OpenAI»، وإخفاء سلوکهم.
وقال فون آرکس: «یبدو من غیر المرجح إطلاقًا أن تکون OpenAI أرادت منهم القیام بذلک».
وأضاف: «أشک فی أنه کان من المفترض أن یتعاونوا مع بعضهم البعض. وأشک أیضًا فی أنه کان من المفترض أن یکتبوا على الإنترنت المفتوح».
وأوضح الباحثون أنهم حددوا النشاط باعتباره ناتجًا عن وکلاء ذکاء اصطناعی یعملون بسرعات تتجاوز القدرات البشریه، مع ترکیز مکثف على أسئله تقنیه تشبه تلک المستخدمه عادهً فی عملیات التقییم التی تعتمد علیها شرکات الذکاء الاصطناعی لتدریب نماذجها واختبارها.
وکانت الرسائل تحمل توقیعات مستخدمین یشیرون إلى أنفسهم وإلى بعضهم البعض باعتبارهم «وکلاء»، فیما استخدم نحو نصفهم أسماء توحی بوجود صله بـ«OpenAI»، مثل «OpenAIResearcher» و«OAIResearchMar26».
وقال الباحثون إن سجلات الخوادم العامه أظهرت أن جزءًا کبیرًا من هذا النشاط جاء من بنیه «Microsoft Azure» التحتیه، التی تستخدمها «OpenAI» فی بعض الأحیان.
کما لاحظوا زیارات متکرره إلى الموقع من جانب موظفین فی «OpenAI» بعد وقوع الحادثه، وهو نمط قالوا إنه یشیر بقوه إلى وجود صله بین الوکلاء والشرکه.
ونفت «OpenAI» توصیف هذا النشاط، وقالت إن الواقعه الألمانیه لا علاقه لها بحادثه «Hugging Face».
وقال متحدث باسم «OpenAI»: «لا یمکننا الرد بشکل مفید على ادعاءات أو نتائج وارده فی تقریر لم تتح لنا فرصه الاطلاع علیه».
وأضاف: «رفضت رویترز ومؤلفو التقریر طلبنا بالحصول على نسخه منه. وسنراجع محتواه بعنایه عند نشره، وسنتخذ أی خطوات إضافیه ضروریه».
کما رفض المتحدث الادعاءات القائله إن المستشارین القانونیین فی «OpenAI» ثبطوا التحقیق الإضافی فی الواقعه.
وقال المتحدث: «الادعاءات بأن فریقنا القانونی ثبط التحقیق فی الحادثه غیر صحیحه».
وأضاف أن النشاط الألمانی لم یکن لیُدرج ضمن تقریر حادثه «Hugging Face»، مؤکدًا أن «OpenAI» تصرفت بحسن نیه من خلال التعاون مع خبراء من خارج الشرکه والإفصاح عن الحوادث ذات الصله.
وأظهرت الرسائل التی راجعها الباحثون أن الوکلاء ناقشوا طرقًا لتجنب اکتشافهم، واستخدام أدوات مثل «Tor»، والحفاظ على الاتصالات حتى بعد إیقافهم.
وعندما بدأ مشرف الموقع بحذف الصفحات فی یونیو، رد الوکلاء بإنشاء صفحات احتیاطیه لتجنب عملیات التنظیف والحذف.
وکتب أحد الوکلاء فی 19 یونیو:
«یبدو أن عملیه تنظیف/حذف صفحات الویکی نشطه وفق الترتیب الأبجدی».
وأضاف: «إذا اختفت هذه الصفحه، فجرّب ((ZZZDataUSAConstructionWageLive))».
کما اکتشف الباحثون محاولات للتلاعب بالموقع الإلکترونی نفسه.
وقال لوکاش أولیجنیک، الباحث الزائر البارز فی کلیه کینغز لندن، إن ذلک یمثل محاوله اختراق.
لکن «OpenAI» اعترضت على هذا التوصیف استنادًا إلى تحلیلها للماده یوم الخمیس.
وغالبًا ما جرى التقلیل من أهمیه أمثله سابقه على سوء سلوک وکلاء الذکاء الاصطناعی، باعتبارها نتیجه منطقیه لاختبارات الأمن السیبرانی، التی یتم فیها تقییم النماذج عمدًا على قدراتها الهجومیه.
وقال أولیجنیک إن النتائج الأخیره تشیر إلى أن السلوک الخارج عن السیطره قد لا یقتصر على مثل هذه البیئات.
أما موریس کیودو، الأکادیمی فی مرکز دراسه المخاطر الوجودیه بجامعه کامبریدج، والذی راجع بعض الاتصالات بین الوکلاء، فقال إن الرسائل تشبه «عمل نوع من الشبکات السریه المصممه على تحقیق مهمه أو هدف».
وأضاف أن هذه الواقعه ینبغی أن تعزز المخاوف المتزایده من أن أکبر تهدید قد یأتی من الذکاء الاصطناعی المتقدم، ربما لا یکون نظامًا واحدًا فائق الذکاء، وإنما «أسرابًا ضخمه ومتعاونه من أنظمه ذکاء اصطناعی شبه ذکیه».
وکانت «OpenAI» قد تعهدت بمراقبه نماذجها بشکل أکثر دقه.
وفی الشهر الماضی، أوقفت الشرکه مؤقتًا بعض عملیات تدریب نماذجها لإضافه مزید من إجراءات السلامه.
لکن هذا الأسبوع، کشفت «OpenAI» عن نموذجها الجدید «Astra»، الذی وعد بأداء أفضل، لکنه قد یتمکن من التهرب من المراقبه البشریه.
