A próbowałeś wyłączyć vsync (synchronizacja pionowa, możesz wymusić z poziomu sterowników jak w opcjach nie działa)? Jak fraps pokazuje, że skacze z 50 na 60 i z powrotem, to może oznaczać, że vsync nie trzyma pełnych 60 i próbuje zejść na 30 (taka natura vsynca), nawet jeśli np. masz realnie 58, to i tak będzie schodziło do 30, co fraps pokazuje jako takie skakanie, niekoniecznie faktycznie schodzące do 30 jeżeli prawdziwa ilość klatek szybko potem wraca do 60 (fraps nie jest zbyt dokładny). Innym problemem jest to, że wyłączenie vsynca powoduje rwanie wizualne klatek na monitorach LCD, więc jeżeli problemem okaże się vsync, a bardzo ci to będzie przeszkadzało, to pobaw się wymuszaniem vsynca i potrójnego buforowania programem typu Direct 3D Overrider (jednocześnie, bo potrójne buforowanie nie działa bez vsynca, a służy właśnie do tego, żeby klatki przy vsyncu nie spadały od razu do 30 jeśli tylko zejdą poniżej 60) albo wymuszaniem częściowego vsynca w sterownikach (który wyłącza go jeśli wykryje spadek FPSów poniżej 60).
Innym problemem może być ilość RAMu albo słaby dysk twardy; jeżeli gra musi korzystać ze swapa, to będzie muliło okrutnie. Dogrywanie danych z kiepskiego dysku talerzowego to też niezbyt przyjemna sprawa.
Dalej, zainstaluj najnowszy sterownik, u mnie na GTX 570 nie ma żadnych problemów.
A, i wyłącz HT (hyper-threading) w biosie, on też czasem odwala takie rzeczy w grach. Zasadniczo, przy włączonym HT każdy rdzeń masz dodatkowo podzielony na dwa wirtualne, każdy i7 naturalnie tak ma. Jeżeli aplikacja o tym wie, to działa lepiej o kilka procent niż bez tego. Problem jest wtedy, jeśli o tym nie wie (a większość gier, zwłaszcza starszych, o tym nie wie), przez co korzysta tak naprawdę z połowy mocy jednego rdzenia, a do tego różne dziwne rzeczy mogą się dziać.