要提高FPS是换显卡还是换CPU

FPS主要是由显卡决定，跟CPU一般关系不大，能用就行。从你的配置看，CPU已够用，不存在瓶颈。
显卡是主要原因，因为你跟本没显卡，GMA4500(HD)显卡是INTEL集成芯片组显示芯片(不能说是显卡，只能说是显芯)，性能非常低，它可以支持大显示器，也支持高清影片，HD就是代表高清的意思。玩游戏就不行了。
其余的都还不错，换块好点的显卡插上去就行了。