Ja, der erste Fehler, an den einfach niemand bei Codecs denkt:
Es gibt unendlich viele Codecs, weil teilweise schon einzelne Unternehmen (z.B. Apple) eigene Codecs für ihr Zeug entwickeln.
Natürlich hat kein Endverbraucher ALLE Codecs auf dem PC.
Also den ersteinmal herunterladen, sonst kann zwar durchaus Vegas auf deinem PC nichts mit h.264 anfangen, allerdings liegt das dann weniger an Vegas als daran, dass kein Programm auf deinem PC mit diesem Codec etwas anfangen könnte.
Die h264-Datei ist dabei sowas wie eine Schatztruhe mit großem Schloss davor und, du darfst einmal raten: der Codec ist der Schlüssel dafür!
Ansonsten kann das Problem, was du hast, entweder daran liegen, dass die Dateien zu groß sind, die Datenrate zu hoch ist oder die Videodateien an sich ruckeln.
Grüße