Die Kraft zwischen zwei (nicht reagierenden) Atomen ist näherungsweise durch das Lennard-Jones-Potential gegeben, und dieses variiert mit dem Abstand der Atome etwa wie folgt:
(dieses Bild stammt aus dem Wikipedia-Artikel, den ich oben verlinkt habe). In dem Diagramm kann man sich den Parameter $\sigma$ als die Größe des Atoms vorstellen, so dass der Wert auf der $x$-Achse von $r/\sigma = 1$ der Punkt ist, an dem die Atome in Kontakt kommen. Wenn die Atome weit voneinander entfernt sind, gibt es eine sehr geringe Anziehung, aber sobald die Atome in Kontakt kommen, gibt es eine starke Abstoßung, und es ist sehr schwer, die Atome noch näher zusammen zu schieben.
Seien Sie vorsichtig damit, dies zu iterativ zu nehmen, da Atome etwas unscharfe Objekte sind und keine exakte Größe haben. Dennoch bleibt der Punkt, dass es einen Abstand zwischen den Atomen gibt, bei dem sie plötzlich anfangen, sich stark abzustoßen.
Nun zurück zu Ihrer Frage. Für nahezu ideale Gase wie Sauerstoff und Wasserstoff bei Standardtemperatur und -druck nimmt ein Mol (das sind $6,023 \times 10^{23}$ Moleküle) etwa 22,4 Liter ein. Das bedeutet, dass der durchschnittliche Abstand zwischen den Molekülen etwa 3 nm beträgt. Die Größe eines Sauerstoffmoleküls beträgt ganz grob (sie sind nicht kugelförmig) 0,3 nm, so dass der Abstand zwischen den Molekülen etwa das Zehnfache ihrer Größe beträgt. Das bedeutet, dass die Kräfte zwischen den Molekülen gering sind und es sehr einfach ist, sie zusammenzudrücken. Deshalb können Gase leicht komprimiert werden.
Betrachten wir nun Wasser. Ein Mol Wasser (0,018 kg) fasst etwa 18 ml, der Abstand zwischen den Wassermolekülen beträgt also etwa 0,3 nm, d.h. sie berühren sich. Das ist der Punkt, an dem die Moleküle beginnen, sich gegenseitig abzustoßen, und das macht es schwierig, sie näher zusammenzubringen. Deshalb lässt sich Wasser nicht so leicht komprimieren.
Sie fragen nach der Komprimierung einer Mischung aus (nicht umgesetztem) Sauerstoff und Wasserstoff. Nun, wenn man Sauerstoff genug komprimiert, verflüssigt er sich, und die Dichte von flüssigem Sauerstoff beträgt etwa 1140 kg/m$^3$. Damit beträgt der Abstand zwischen den Sauerstoffmolekülen etwa 0,35 nm. Dieser Abstand entspricht in etwa der Größe der O$_2$-Moleküle, so dass es schwierig ist, flüssigen Sauerstoff zu komprimieren. Man kann diese Berechnung für flüssigen Wasserstoff (Dichte etwa 71 kg/m$^3$) wiederholen und erhält ein sehr ähnliches Ergebnis. Eigentlich würde ich erwarten, dass flüssiger Wasserstoff komprimierbarer ist als flüssiger Sauerstoff und Wasser, weil das H$_2$-Molekül wesentlich kleiner ist. Bei einer schnellen Google-Suche konnte ich jedoch keine Werte für das Volumenmodul von flüssigem Wasserstoff finden.