ودعا البروفيسور الفخري في جامعة برينستون أمس الثلاثاء، إلى فهم أفضل لكيفية عمل هذه الأنظمة توخياً لمنع خروجها عن نطاق السيطرة.
وقال الباحث البالغ 91 عاماً، في كلمة بالفيديو من بريطانيا للمشاركين في لقاء بجامعة نيوجيرسي، إنه شهد خلال حياته ظهور تقنيتين قويتين، ولكن من المحتمل أن تكونا خطيرتين هما الهندسة البيولوجية والفيزياء النووية.
وقال: "نحن معتادون على التقنيات التي ليست جيدة أو سيئة حصراً، بل يمكن أن تسير في الاتجاهَين"، وأضاف "باعتباري عالم فيزياء، يقلقني كثيراً أمر لا يمكن السيطرة عليه، وأمر لا أفهمه بما يكفي لمعرفة الحدود التي يمكن وضعها على هذه التكنولوجيا".
ورأى جون هوبفيلد أن هذا هو "السؤال الذي يطرحه الذكاء الصناعي". فمع أن أنظمة الذكاء الصناعي الحديثة تبدو كأنها "عجائب مطلقة"، وفق وصفه، لاحظ أن كيفية عملها لا تزال غير مفهومة جيداً، معتبرا أنه أمر "مقلق جداً".
وتابع هوبفيلد قائلاً: "لهذا السبب، أُشدّد، تماماً كجيفري هينتون (الحائز أيضاً على جائزة نوبل الفيزياء)، على ضرورة فهم أفضل"، متوقعاً أن "قدرات تتجاوز تلك التي يمكنك تخيلها الآن" ستظهر في هذا المجال.
ويتخوف البعض من أن يؤدي الصعود السريع للذكاء الصناعي والسباق المحموم بين الشركات إلى تطور هذه التكنولوجيا بوتيرة أسرع مما يستطيع العلماء فهمه.
وأعرب جون هوبفيلد عن خشيته من أن تنطوي جهود تطوير هذه التكنولوجيا على "أمر عفوي ولكن غير مرغوب فيه".
واستشهد بمثال مادة "آيس-ناين" ice-nine الخيالية التي اخترعها مؤلف روايات الخيال العلمي كورت فونيغوت في كتابه الصادر عام 1963 بعنوان "مهد القطة" Cat's Cradle، وطُوّرت لمساعدة الجنود الذين يضطرون إلى التنقل في الوحل، ولكنها تتسبب بطريق الخطأ في تصلّب المحيطات، مما يتسبب في فقدان الحضارة الإنسانية.
