En octubre de 1915 Mackensen fue puesto al mando de una campaña conjunta de los ejércitos de las Potencias Centrales contra Serbia (la llamada Campaña de Serbia de 1915), logrando finalmente doblegar la resistencia tenaz del Ejército serbio. Tras haber avanzado sobre Belgrado, erigió un monumento a los soldados serbios caídos heroicamente en defensa de la ciudad, pronunciando estas palabras: «Hemos combatido contra un ejército del cual sólo habíamos escuchado cuentos de hadas».
Durante 1916 participó en una campaña contra el Reino de Rumania, a las órdenes de Erich von Falkenhayn (la llamada Campaña de Rumania de 1916). Mackensen estaba al mando de un Ejército de tipo multinacional, formado por soldados búlgaros, otomanos y alemanes, con los que llevó a cabo una brillante campaña.
Tras la exitosa campaña en Rumania fue condecorado con la Schwarzer Adler (Águila Negra), la más alta condecoración otorgada por el rey de Prusia, y ascendido a mariscal de campo.
