لماذا يحذر العاملون في الذكاء الاصطناعي ذوييهم من استخدامه؟ - الأول نيوز

كشف تقرير نشرته "غارديان" عن انعدام ثقة العاملين في قطاع الذكاء الاصطناعي، وتحديدا تدقيق المعلومات الناتجة عن النماذج في تلك النماذج، وأشار أيضا لكونهم يحذرون ذويهم من استخدام هذه الأدوات.

ويعود السبب في ذلك لمعرفتهم بخبايا آليات تقييم نتائج الذكاء الاصطناعي والنتائج الأولية التي تظهر للمستخدمين، إذ إن غالبية المشاركين في التقرير يعملون في تقييم نتائج الذكاء الاصطناعي ومراجعتها.

وتقول كريستا باولوسكي في حديثها مع "غارديان": "كنت على وشك أن أمرر ردا من نموذج ذكاء اصطناعي بدون أن أعرف أنه رد عنصري، وهذا جعلني أفكر كثيرا في عدد المرات التي مررت بها مثل هذه التعليقات والمعلومات الخاطئة وأنا لا أعرف ذلك".

وباولوسكي هي جزء من العمالة غير المنتظمة في منصة "أمازون ميكانيكال تورك" (Amazon Mechanical Turk)، وهي منصة تتيح لشركات الذكاء الاصطناعي توظيف أفراد لمراجعة وتدقيق المعلومات والبيانات الناتجة عن النماذج.

وتؤكد "أمازون" أن هذه المنصة عبارة عن متجر مفتوح للوظائف، ولا علاقة لها مباشرة بالوظائف أو الاختبارات التي تتم مباشرة عبر هذه المنصة.

وينطبق هذا الأمر أيضا على "غوغل"، إذ يشير التقرير إلى أن عملية تقييم الردود الصحية تحديدا من أدوات الذكاء الاصطناعي الخاصة بـ"غوغل" تتم بدون نقد أو مراجعة دقيقة، وذلك وفق تصريح أحد موظفي "غوغل" المسؤولين عن مراجعة ردود الذكاء الاصطناعي مع "غارديان".

وتؤكد بروك هانسن -وهي من العاملين في منصة- أن "أمازون ميكينكال تورك" لا تثق في أي نموذج ذكاء اصطناعي تعمل عليه، وذلك لأن الشركات المطورة لهذه النماذج لا تهتم بتدريبهم، فضلا عن كونها تطلب منهم العديد من النتائج خلال وقت قياسي.

ويذكر أحد العاملين في "غوغل" أن الذكاء الاصطناعي يعمل بالتحيز والعنصرية التي يتم برمجته عليها، إذ يؤكد بأن النموذج رفض تقديم أي ردود عند سؤاله عن تاريخ الفلسطينيين على الرغم من أنه أجاب باستفاضة عند تحويل السؤال عن تاريخ إسرائيل، وذلك وفق تقرير "غارديان".

إعلان

ويرفض هذا الشخص استخدام تقنيات الذكاء الاصطناعي وروبوتات الدردشة، كما أنه حذر أصدقاءه وأفراد أسرته من استخدامها أو شراء الهواتف الجديدة.

وتعكس هذه الشكاوى وانعدام ثقة العاملين في قطاع الذكاء الاصطناعي في النماذج المختلفة أزمة حقيقية في نوعية البيانات التي يتم تدريب النماذج عليها، فبينما تهتم الشركات بالبحث عن أكبر قدر من البيانات، فإنها تهمل جودة هذه البيانات.