Was ist denn 1888x1062 für ein seltsames Format?
Also ein Ruckeln kann viele Gründe haben. Entweder ist dein Prozessor nicht schnell genug für HD playback oder dein Codec muss runter. H.264 müsste eigentlich gut funktionieren.
Hast du schon mal versucht, das Video progressiv abzuspielen ( Apfel - J drücken, auf "videospur" und "visuelle einstellungen" und dort das einzelne Halbbild aktivieren. So brauchts nur noch halb so viel Renderaufwand)
Vielleicht kannst du über Quicktime auch mal testen, ob dein Video überhaupt die richtige FPS Zahl hat ( per Apfel - i ). Wenns nur ums abspielen geht, wie gesagt: Progressives Display oder sonst halt Datenrate runter