نظرية الألعاب (بالإنجليزية: Game theory) هي دراسة النماذج الرياضية للتفاعلات الاستراتيجية بين أطراف عقلانية.[1] تُستخدم هذه النظرية في العديد من مجالات العلوم الاجتماعية، ولها تطبيقات واسعة في الاقتصاد، والمنطق، وعلوم النظم، وعلوم الحاسوب. في بداياتها، تناولت نظرية الألعاب ما يُعرف بـ"ألعاب المحصلة الصفرية" بين طرفين، حيث تكون مكاسب طرف ما مساوية تمامًا لخسائر الطرف الآخر. وفي خمسينيات القرن العشرين، توسعت لتشمل دراسة الألعاب غير صفرية المحصلة، وامتدت لتشمل طيفًا واسعًا من العلاقات السلوكية. تُعدّ اليوم مصطلحًا شاملاً لعلم اتخاذ القرار العقلاني لدى البشر والحيوانات والحواسيب.
بدأت نظرية الألعاب الحديثة بفكرة توازن الاستراتيجيات المختلطة في ألعاب المحصلة الصفرية بين طرفين، وإثباتها من قبل جون فون نيومان. استخدم فون نيومان في برهانه مبرهنة نقطة التثبيت لبروير، التي تنص على أن أي دالة مستمرة من مجموعة مدمجة ومحدبة إلى نفسها لها نقطة تثبيت. أصبحت هذه الطريقة معيارًا في نظرية الألعاب والاقتصاد الرياضي. تلا ذلك صدور كتاب نظرية الألعاب والسلوك الاقتصادي (Theory of Games and Economic Behavior) عام 1944، الذي كتبه بالتعاون مع أوسكار مورغنسترن، وتناول الألعاب التعاونية بين عدة لاعبين.[3] أما الطبعة الثانية من الكتاب، فقد قدّمت نظرية بديهية لمنفعة التوقع، مما مكّن الإحصائيين الرياضيين والاقتصاديين من دراسة اتخاذ القرار في ظل عدم اليقين.
شهدت نظرية الألعاب تطورًا كبيرًا في خمسينيات القرن الماضي، ثم طُبقت بشكل صريح على علم التطور في سبعينياته، رغم وجود تطورات مشابهة تعود إلى ثلاثينيات القرن العشرين على الأقل. وقد اعترف بها على نطاق واسع كأداة مهمة في العديد من التخصصات. نال جون ماينارد سميث جائزة كرافورد عام 1999 لتطبيقه نظرية الألعاب التطورية، كما حاز خمسة عشر من علماء نظرية الألعاب على جائزة نوبل في الاقتصاد حتى عام 2020، من بينهم مؤخرًا بول ميلغروم وروبرت بي. ويلسون.