نبذة سريعة عن التحكم في قدرات الذكاء الاصطناعي

في مجال تصميم الذكاء الاصطناعي، تهدف مقترحات التحكم في قدرة الذكاء الاصطناعي، والتي يشار إليها أيضًا باسم احتواء الذكاء الاصطناعي، إلى زيادة قدرتنا على مراقبة سلوك أنظمة الذكاء الاصطناعي والتحكم فيه، بما في ذلك الذكاء الاصطناعي العام المقترح (AGIs)، من أجل تقليل الخطر الذي قد يشكله إذا لم يتم التوافق عليه. ومع ذلك، قد يصبح التحكم في القدرات أقل فعالية مع تزايد ذكاء أدوات الذكاء الاصطناعي وزيادة قدرتهم على استغلال العيوب في أنظمة التحكم البشرية، مما قد يؤدي إلى خطر وجودي من الذكاء الاصطناعي العام. لذلك، يوصي الفيلسوف الأكسفوردي نيك بوستروم وآخرون بأساليب التحكم في القدرة فقط كمكمل لأساليب المحاذاة.