خبراء يحذّرون نيويورك من مخاطر الذكاء الاصطناعي

البلقاء اليوم - خبراء يحذّرون نيويورك من مخاطر الذكاء الاصطناعي
موظفون سابقون في شركات الذكاء الاصطناعي يحذّرون مجلس نيويورك من مخاطر التقنية حذّر عاملون سابقون في شركات أنثروبيك وأوبن إيه آي وغوغل ديب مايند مسؤولي نيويورك من مخاطر الذكاء الاصطناعي، ودعوا إلى تشديد الرقابة على تطويره. وجاءت التحذيرات خلال جلسة استماع لمجلس مدينة نيويورك، مع بحث حكومات محلية سبل التعامل مع مخاوف من أن تشكل أنظمة الذكاء الاصطناعي خطرًا على البشرية.
وقال جاكوب كوكسون، المهندس السابق في أنثروبيك وأحد الداعين إلى تنظيم القطاع، إن الشركات تعمل بعقلية الشركات الناشئة: «تحرّك بسرعة، اكسر الأشياء، وأصلحها لاحقًا». وأضاف أن هذا الأسلوب قد يناسب تطبيقًا لمشاركة الصور، لكنه لا يصلح لتطوير «أقوى تقنية بُنيت على الإطلاق».
وبحسب وكالة «أسوشيتد برس»، قال كوكسون إن الذكاء الاصطناعي قد يحقق فوائد كبيرة، لكن غياب الشفافية والضمانات يزيد احتمال خروج الأمور عن السيطرة. وأضاف: «في المسار الحالي، أعتقد أن احتمال فقدان البشرية السيطرة على هذه الأنظمة أكبر من عدمه، وقد ينتهي ذلك بانقراض البشر».
وكان كوكسون مهندسًا غير معروف على نطاق واسع قبل استقالته من أنثروبيك ونشره سلسلة تدوينات عن مخاوفه من أسوأ السيناريوهات. وبعد أيام من استقالته، قال مسؤولون بارزون، بينهم داريو أمودي من أنثروبيك، وسام ألتمان من أوبن إيه آي، وإيلون ماسك من سبيس إكس إيه آي، إنهم يتفقون على ضرورة إبطاء تطوير الذكاء الاصطناعي. وتقول الشركات إنها اتخذت خطوات لتعزيز السلامة، لكن مساعي إبطاء القطاع بصورة منسقة تواجه عقبات.
خلاف بين التحذيرات ودفاع الشركات في الجلسة نفسها، أدلى ممثلون عن شركات أوبن إيه آي وأنثروبيك وغوغل وميتا بشهاداتهم، وقالوا إن أنظمتهم تساعد الناس في حياتهم اليومية، وإن السلامة أولوية لديهم. كما قالت أنثروبيك وأوبن إيه آي إن منتجات الذكاء الاصطناعي المتقدمة تحتاج إلى تنظيم، وأبدى ممثلو الشركات انفتاحًا على بعض مقترحات المجلس.
وقالت مورغان دواير، ممثلة أوبن إيه آي: «أشارككم الالتزام بضمان تطوير التقنية بأمان، وبأن تعود فوائدها على نطاق واسع». لكن رئيسة مجلس المدينة، جولي مينين، طلبت من ممثلي الشركات تقدير احتمال وقوع كارثة في أسوأ السيناريوهات. فأجابت دواير: «لا أعرف. ولا أعتقد أن الفرق مهم إن كان الاحتمال 1% أو 10% أو 20%. لا يمكن قبول أي من هذه النسب. وينبغي ألا ندرّب نماذج ما لم نتمكن من تقديم مبررات قوية جدًا تثبت قدرتنا على إبقائها تحت السيطرة البشرية». ووصفت مينين الإجابة بأنها «استخفاف في أفضل الأحوال». وردّت دواير بأن النسبة ليست هي الأهم، بل التزام الشركات بالسلامة، مؤكدة أن هذا ما تلتزم به أوبن إيه آي.
مقترحات لتنظيم الذكاء الاصطناعي يدرس مجلس مدينة نيويورك عدة مقترحات، منها إلزام الشركات بالكشف عن معلومات بشأن أدوات الذكاء الاصطناعي، واشتراط موافقة جهة مستقلة على الأنظمة المستخدمة داخل المدينة، ومنح المبلّغين عن المخالفات جزءًا من الغرامات المفروضة على الشركات المخالفة.
وعلى مستوى الولاية، تعمل حاكمة نيويورك كاثي هوكول، وهي ديمقراطية، على وضع معايير للإبلاغ والشفافية بشأن الذكاء الاصطناعي، في تحركات مشابهة لحكومات ولايات أخرى. لكن قدرة الولايات على التنظيم محدودة جزئيًا لأن التقنية تتجاوز حدود الولايات والدول.
وقال لوغان غراهام من أنثروبيك إن الشركة ترحب «بتنظيم ذكي»، وإن للحكومات المحلية وحكومات الولايات دورًا في وضع الأطر المناسبة. وأضاف: «الذكاء الاصطناعي قوي إلى درجة أن الخطأ في التعامل معه ستكون له عواقب حقيقية على الأفراد والمؤسسات وثقة الجمهور. علينا مواصلة العمل بلا كلل على تطوير أساليب علمية للحد من المخاطر»