Kraften mellan två (icke-reagerande) atomer ges ungefärligt av Lennard-Jones-potentialen, och denna varierar med separation mellan atomerna ungefär så här:
(bilden kommer från den Wikipediaartikel jag länkade till ovan). I diagrammet kan parametern $\sigma$ ses som atomens storlek, så värdet på $x$-axeln på $r/\sigma = 1$ är den punkt där atomerna kommer i kontakt med varandra. När atomerna är långt ifrån varandra finns det en mycket liten attraktion, men så fort atomerna kommer i kontakt finns det en stark avstötning och det är mycket svårt att skjuta atomerna närmare varandra.
Var försiktig med att ta detta för iterativt eftersom atomer är något luddiga objekt och inte har någon exakt storlek. icke desto mindre kvarstår poängen att det finns ett avstånd mellan atomerna där de plötsligt börjar avstötas starkt från varandra.
Nu tillbaka till din fråga. För nästan ideala gaser som syre och väte vid standardtemperatur och standardtryck upptar en mol (det vill säga 6,023 \ gånger 10^{23}$ molekyler) ungefär 22,4 liter. Detta innebär att det genomsnittliga avståndet mellan molekylerna är cirka 3 nm. Storleken på en syremolekyl är mycket grovt räknat (de är inte sfäriska) 0,3 nm, så avståndet mellan molekylerna är ungefär 10 gånger deras storlek. Det är långt till höger i grafen ovan, och det betyder att krafterna mellan dem är låga och att det är mycket lätt att trycka ihop dem. Det är därför gaser lätt kan komprimeras.
Tänk nu på vatten. En mol vatten (0,018 kg) upptar ungefär 18 ml, så avståndet mellan molekylerna i vatten är ungefär 0,3 nm – med andra ord är de i kontakt med varandra. Det är vid denna punkt som molekylerna börjar stöta bort varandra kraftigt, vilket gör det svårt att trycka dem närmare varandra. Det är därför vatten inte är lätt att komprimera.
Du frågar om man kan komprimera en blandning av (oreagerat) syre och väte. Tja, om man komprimerar syre tillräckligt mycket blir det flytande, och densiteten hos flytande syre är ungefär 1140 kg/m$^3$$. Detta gör att avståndet mellan syremolekylerna är ungefär 0,35 nm. Detta avstånd är ungefär lika stort som storleken på O$_2$-molekylerna, så det är svårt att komprimera flytande syre. Du kan upprepa denna beräkning för flytande väte (densitet ca 71 kg/m$^3$) och du får ett mycket liknande resultat. Egentligen skulle jag förvänta mig att flytande väte skulle vara mer komprimerbart än flytande syre och vatten eftersom H$_2$-molekylen är betydligt mindre. En snabb sökning på Google ledde dock inte till några värden för bulkmodulen för flytande väte.