Bei system() wird nach Abarbeitung weiter im aufrufenden Programm gemacht, währende bei exec() das aufgerufene Program nie mehr zum aufrufenden zurück kehrt.

Relative Pfade sind problematisch.
Musst du wirklich relative Pfade benutzen?

Dein Beispielprogramm wäre schon nützlich, dann könnten wir sehen was zum Fehler führt.