CPU سرور تنها واحد پردازشی رایانه نیست. اما مهم ترین آن به شمار می‌رود. سی پی یو در واقع آن بخش از سرور است که اقدامات، محاسبات و اجرای برنامه‌ها را بر عهده دارد. سی پی یو داده‌های دستوری را از RAM دریافت، رمز گشایی و پردازش می‌کند و تحویل می‌دهد. سی پی یو سرور در انواع و اقسام مختلف وجود دارد. این تراشه‌ی کوچک و معمولا مربع‌شکل روی بورد اصلی دستگاه‌ها قرار می‌گیرد و با سایر سخت‌افزارها برای اجرای فرامین در تعامل است.

در ابتدا سی پی یو ها تنها یک هسته داشتند. این یعنی واحد پردازش مرکزی به انجام تنها یک مجموعه از وظایف محدود بود. این یکی از دلایلی بود که در آن زمان رایانه‌ها را با وجود تأثیرگذار بودن، نسبتا کند و وقت‌گیر می‌کرد. بعد از ساخت پردازنده‌ی تک‌هسته‌ای، تولیدکنندگان به فکر راه‌هایی برای ارتقاء عملکرد آن افتادند. یکی از این راه‌ها به ساخت پردازنده‌های چندهسته‌ای منتهی شد.

CPU سرور چند هسته‌ای یعنی جند پردازنده مجزا روی یک تراشه. با افزایش تعداد هسته‌ها، پردازنده ها قادر به مدیریت پردازش‌های چندگانه به‌صورت همزمان می شوند. این موضوع منجر به افزایش عملکرد و کاهش زمان پردازش می شود.