بصمة لا تُرى.. ChatGPT يبدأ وضع علامة مائية خفية في النصوص والأكواد التي يولدها

ستضيف شركة OpenAI علامة مائية رقمية غير مرئية إلى النصوص والأكواد التي تنتجها نماذج الذكاء الاصطناعي في روبوت ChatGPT داخل الاتحاد الأوروبي لامتثال لقانون الذكاء الاصطناعي الأوروبي.

تعتمد الشركة نظام “textGrain” الذي يضيف إشارة إحصائية غير مرئية إلى اختيارات الكلمات الناتجة عن النموذج. يمكن لأداة مخصصة اكتشاف هذه الإشارة وتحديد إذا كان المحتوى يحمل العلامة المائية.

أوضحت OpenAI أن أداء نظامها “textGrain” يضاهي أو يتجاوز بعض الأساليب الأخرى مثل نظام “SynthID”. لكن الشركة حذرت من أن الأداء القوي في الظروف المثالية لا يضمن اكتشاف العلامة المائية بشكل موثوق في الاستخدامات اليومية.

تواجه التقنية صعوبة أكبر في اكتشاف العلامات المائية داخل النصوص القصيرة، إذ تصل نسبة نجاحها إلى نحو 80% فقط في بعض الحالات. كما تنخفض قدرتها على الاكتشاف عند التعامل مع محتوى مثل المعادلات والرياضيات، أو بعد إجراء تعديلات على النص الأصلي.

تعتزم OpenAI إتاحة تقنية العلامة الم كمشروع مفتوح المصدر مستقبلاً، مما يسمح للباحثين والمطورين بتعديلها وتطوير آليات استخدامها.

لن تُفعّل العلامة المائية افتراضياً على نطاق واسع، باستثناء مخرجات النصوص المؤهلة التي ينتجها ChatGPT ومنصة البرمجة Codex داخل الاتحاد الأوروبي. ستتيح الشركة للمستخدمين الاشتراك في الميزة مع نماذج محددة، دون الكشف عن النماذج التي ستدعمها خارج المنطقة.

تتخذ OpenAI موقفًا أكثر تحفظًا تجاه أداة الكشف نفسها، إذ ستقتصر إتاحتها في البداية على الباحثين المعتمدين والمؤسسات المتخصصة التي تحصل على موافقة الشركة. أكدت الشركة أن أداة الكشف لا تستطيع تحديد هوية المستخدم، كما لا تكشف المطالبات التي أدخلها المستخدمون أو محتوى محادثاتهم.

تأتي هذه الخطوة استجابة للمادة رقم 50 من قانون الذكاء الاصطناعي الأوروبي، التي تلزم مزودي أنظمة الذكاء الاصطناعي التوليدي بجعل مخرجات النصوص قابلة للكشف عنها آليًا.

تسري القواعد الجديدة على الشركات الجديدة التي تدخل السوق الأوروبي، في حين مُنحت الشركات القائمة مهلة حتى الثاني من ديسمبر للامتثال. تشمل هذه المتطلبات OpenAI وأنثروبيك، بالإضافة إلى شركات تقنية كبرى مثل مايكروسوفت وجوجل وميتا.