علم النفس الرياضي هو نهج للبحث النفسي يعتمد على النمذجة الرياضية للعمليات الإدراكية والفكرية والمعرفية والحركية، وعلى إنشاء قواعد شبيهة بالقانون تربط خصائص التحفيز القابلة للقياس الكمي بالسلوك القابل للقياس الكمي (في الممارسة العملية غالبًا ما يتكون من أداء المهام). يتم استخدام المنهج الرياضي بهدف استخلاص فرضيات أكثر دقة وبالتالي تؤدي إلى تحقق تجريبي أكثر صرامة. هناك خمسة مجالات بحثية رئيسية في علم النفس الرياضي: التعلم والذاكرة، والإدراك والفيزياء النفسية، والاختيار واتخاذ القرار، واللغة والتفكير والقياس.
على الرغم من أن علم النفس، باعتباره موضوعًا مستقلاً للعلوم، هو تخصص أحدث من الفيزياء، فقد تم تطبيق الرياضيات على علم النفس على أمل محاكاة نجاح هذا النهج في العلوم الفيزيائية، والذي يعود تاريخه إلى عام على الأقل القرن السابع عشر. تُستخدم الرياضيات في علم النفس على نطاق واسع تقريبًا في مجالين: الأول هو النمذجة الرياضية للنظريات النفسية والظواهر التجريبية، مما يؤدي إلى علم النفس الرياضي، والآخر هو النهج الإحصائي لممارسات القياس الكمي في علم النفس، والذي يؤدي إلى القياسات النفسية.
وبما أن القياس الكمي للسلوك أمر أساسي في هذا المسعى، فإن نظرية القياس هي موضوع رئيسي في علم النفس الرياضي. لذلك يرتبط علم النفس الرياضي ارتباطًا وثيقًا بالقياسات النفسية. ومع ذلك، عندما تهتم القياسات النفسية بالفروق الفردية (أو التركيبة السكانية) في المتغيرات الثابتة في الغالب، يركز علم النفس الرياضي على نماذج العمليات الخاصة بالعمليات الإدراكية والمعرفية والحركية كما يتم استنتاجها من "الفرد العادي". علاوة على ذلك، حيث تبحث القياسات النفسية في بنية الاعتماد العشوائي بين المتغيرات كما لوحظ في السكان، يركز علم النفس الرياضي بشكل حصري تقريبًا على نمذجة البيانات التي تم الحصول عليها من النماذج التجريبية، وبالتالي فهو أكثر ارتباطًا بعلم النفس التجريبي، وعلم النفس المعرفي، وعلم النفس النفسي. مثل علم الأعصاب الحسابي والاقتصاد القياسي، غالبًا ما تستخدم نظرية علم النفس الرياضي المثالية الإحصائية كمبدأ توجيهي، على افتراض أن الدماغ البشري قد تطور لحل المشكلات بطريقة مثالية. تعتبر المواضيع المركزية من علم النفس المعرفي (على سبيل المثال، قدرة المعالجة المحدودة مقابل غير المحدودة، والمعالجة التسلسلية مقابل المعالجة المتوازية) وآثارها مركزية في التحليل الدقيق في علم النفس الرياضي.
ينشط علماء النفس الرياضي في العديد من مجالات علم النفس، وخاصة في الفيزياء النفسية، والإحساس والإدراك، وحل المشكلات، واتخاذ القرار، والتعلم، والذاكرة، واللغة، والتحليل الكمي للسلوك، ويساهمون في عمل المجالات الفرعية الأخرى لعلم النفس مثل علم النفس السريري، وعلم النفس الاجتماعي، وعلم النفس التربوي، وعلم نفس الموسيقى.