wie groß sind denn deine keys?
wenn diese nicht viel ausmachen, könntest du an statt den eigentlichen daten, hinter dem endgültigen key nur tuple auf dateipositionen speichern, die datei offen halten und seeken.

ohne aber genau das format der datei zu kennen, wird es recht schwer.