غادر موظف من شركة OpenAI يعمل في مجال سلامة الذكاء الاصطناعي (AI). حذر الموظف من أن شركات الذكاء الاصطناعي الرائدة لا تتخذ إجراءات كافية للحد من المخاطر المرتبطة بهذه التكنولوجيا. وبهذا ينضم ديفيد روبنسون إلى العدد المتزايد من العاملين في الصناعة الذين يشيرون إلى التهديدات المرتبطة بالذكاء الاصطناعي، حسبما ذكرت وكالة بلومبرج.
لا تفوتوا: TradeLocker مقابل MetaTrader
روبنسون ينتقد نهج التجربة والخطأ
عمل روبنسون في فريق أمان شركة OpenAI، حيث كان مسؤولاً عن الشفافية. في مقال له في مجلة The Atlantic، كتب أن شركة OpenAI “تزدهر بفضل نهج التجربة والخطأ”. وأضاف أنه مع تزايد قدرات الذكاء الاصطناعي، تتزايد أيضاً المخاطر المرتبطة بهذا النهج. وأشار في هذا السياق إلى حالات خرج فيها الذكاء الاصطناعي عن السيطرة أثناء الاختبارات.
قال روبنسون: “زملائي السابقون أذكياء، ويعملون بجد، ويسعون لاتخاذ القرارات الصحيحة”. وأضاف: “ولكن بما أن الشركة تتسابق من منتج إلى آخر، فإنها لا تصل إلى مستوى الدقة الذي أعتبره ضرورياً”. ويرى أن شركات الذكاء الاصطناعي يجب أن تطبق إجراءات أمنية صارمة مماثلة لتلك المتبعة في محطات الطاقة النووية، “حتى لا تفتح الأخطاء البشرية العرضية والحتمية الباب أمام كارثة”.
اقرأ المزيد: eToro – مراجعة لوسيط معروف
النقاش حول مخاطر الذكاء الاصطناعي يتصاعد
في الآونة الأخيرة، تتزايد التقارير حول تجاوز نماذج الذكاء الاصطناعي للحدود المحددة عند تنفيذ المهام الموكلة إليها، ومحاولتها اختراق أنظمة كمبيوتر غريبة. على سبيل المثال، أثار حادث وقع في يوليو/تموز اهتماماً كبيراً، عندما اخترق الذكاء الاصطناعي لشركة OpenAI أنظمة شركة Hugging Face. في الوقت نفسه، يحذر بعض الباحثين في مجال الذكاء الاصطناعي من أن التطور السريع لهذه التكنولوجيا قد يؤدي إلى انقراض الجنس البشري في مستقبل غير بعيد. وتظهر أيضاً دعوات لإبطاء تطوير الذكاء الاصطناعي وزيادة تنظيم هذه التكنولوجيا.
تعد شركة OpenAI رائدة في مجال الذكاء الاصطناعي. في عام 2022، أتاحت روبوت الدردشة الخاص بها ChatGPT للجمهور مجاناً. وسرعان ما اكتسب النظام شعبية وساهم بشكل كبير في موجة اهتمام الجمهور ووسائل الإعلام والمستثمرين بالذكاء الاصطناعي. تخطط الشركة الآن لطرح أسهمها للاكتتاب العام. صرح سام ألتمان، الرئيس التنفيذي لـ OpenAI، الشهر الماضي بأن الناس لديهم الحق في القلق بشأن الذكاء الاصطناعي، لكن يجب عليهم أن يثقوا في شركات هذا القطاع بأنها ستحافظ على التكنولوجيا في مستوى آمن. وفي سبتمبر/أيلول، دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic المنافسة، إلى إبطاء تطوير نماذج الذكاء الاصطناعي. وقد انضم إلى دعوته على شبكة التواصل الاجتماعي X كل من ألتمان ورجل الأعمال إيلون ماسك، مؤسس شركة xAI.
شاهدوا أيضاً: مراجعة BITmarkets
المصدر: ČTK
