Kraften mellem to (ikke-reagerende) atomer er omtrent givet ved Lennard-Jones-potentialet, og dette varierer med atomernes afstand på denne måde:
(dette billede er fra den Wikipedia-artikel, jeg linkede til ovenfor). I diagrammet kan parameteren $\sigma$ opfattes som atomets størrelse, så værdien på $x$-aksen på $r/\sigma = 1$ er det punkt, hvor atomerne kommer i kontakt med hinanden. Når atomerne er langt fra hinanden er der en meget lille tiltrækning, men så snart atomerne kommer i kontakt er der en stærk frastødning, og det er meget svært at skubbe atomerne tættere på hinanden.
Vær forsigtig med at tage dette for iterativt, da atomer er noget uklare objekter og ikke har en nøjagtig størrelse. ikke desto mindre er pointen stadig, at der er en afstand mellem atomerne, hvor de pludselig begynder at støde hinanden stærkt fra sig.
Nu tilbage til dit spørgsmål. For næsten ideelle gasser som ilt og brint ved standardtemperatur og -tryk fylder et mol (dvs. $6,023 \ gange 10^{23}$ molekyler) ca. 22,4 liter. Det betyder, at den gennemsnitlige afstand mellem molekylerne er ca. 3 nm. Størrelsen af et iltmolekyle er meget groft sagt (de er ikke kugleformede) 0,3 nm, så afstanden mellem molekylerne er ca. 10 gange deres størrelse. Det er langt ude til højre på grafen ovenfor, og det betyder, at kræfterne mellem dem er lave, og at det er meget let at skubbe dem sammen. Det er derfor, at gasser let kan komprimeres.
Tænk nu på vand. Et mol vand (0,018 kg) fylder ca. 18 ml, så afstanden mellem molekylerne i vand er ca. 0,3 nm – med andre ord er de i kontakt med hinanden. Dette er det punkt, hvor molekylerne begynder at støde hinanden strengt fra sig, og det gør det svært at skubbe dem tættere sammen. Derfor er vand ikke let at komprimere.
Du spørger om at komprimere en blanding af (uomdannet) ilt og brint. Jo, hvis man komprimerer ilt nok, bliver det flydende, og densiteten af flydende ilt er ca. 1140 kg/m$^3$. Det gør at afstanden mellem iltmolekylerne er ca. 0,35nm. Denne afstand er omtrent det samme som størrelsen af O$$_2$-molekylerne, så det er svært at komprimere flydende ilt. Du kan gentage denne beregning for flydende brint (massefylde ca. 71 kg/m$^3$), og du får et meget lignende resultat. Faktisk ville jeg forvente, at flydende brint ville være mere komprimerbar end flydende ilt og vand, fordi H$_2$-molekylet er betydeligt mindre. En hurtig søgning på Google har dog ikke givet nogen værdier for bulkmodulet for flydende brint.