Deine Funktionshülle sieht soweit in Ordnung aus. Um das Rückgabearray mit Werten zu füllen, kannst Du zum Beispiel void av_push(AV *, SV *) verwenden und zum Auslesen der Daten im Eingabearray SV **av_fetch(AV *, I32, I32).

Die Dokumentation aller Perl-API-Funktionen findest Du in perlapi und ein Beispiel wie man ein Eingabearray zerlegt und ein Ausgabearray erzeugt wird auch in perlxstut beschrieben.