在卤城之战中，马超最终无法攻下卤城并被迫撤退的原因主要有以下几点：
久攻不下：根据搜索结果中的信息，马超长时间无法攻克卤城[1]。长时间的围攻导致军队疲惫，且可能消耗了大量的军需物资。
内部问题：马超听闻冀县后院起火，有家难回，这可能意味着他的后方基地出现了问题，使得他无法得到有效的支援和补给[1]。
军队士气问题：马超在攻下冀城后做出了杀投降的韦康的决定，导致他大失人望，特别是在凉州的汉族百姓和汉族士大夫中[2]。这可能影响了军队的士气和民心支持。
战略转移：由于无法攻克卤城，马超选择撤回冀城，但不得入，失据，因此他被迫过卤城，又到历城[3]。这表明马超在战略上进行了转移，试图寻找其他目标。
敌军抵抗：姜叙的军队主力在卤城，使得马超难以攻下该城[1]。历城相对空虚，因此马超很快攻下了历城，这也反映出卤城的防守较为坚固。
综上所述，马超无法攻下卤城并被迫撤退的原因是多方面的，包括久攻不下、内部问题、军队士气问题、战略转移以及敌军的坚强抵抗。这些因素共同作用，导致马超最终未能攻克卤城，并被迫撤退。