Gjoni si sposò nel 1904 con Mrika di Gjokë Pjetrit e ebbero cinque figli e cinque figlie. Dal 1926 al 1928 intraprese tentativi per la riconciliazione delle faide e la risoluzione dei conflitti, guadagnando influenza nella regione. Il 28 agosto 1937, organizzò una riunione del popolo nell'Abazia di Orosh per adattare le normative alle esigenze dei tempi.

Dopo l'occupazione italiana, Gjoni fu inviato a negoziare con il conte Ciano il 12 aprile 1939 e fu convocato nell'agosto del 1939 per essere nominato senatore del Regno d'Italia, incarico che ricoprì fino al 20 dicembre 1944. Gjoni prestò anche servizio come ministro della Difesa nel governo di Maliq bej Bushati da febbraio ad aprile 1943.

Il 27 novembre 1944, Gjoni lasciò il paese, passando la resistenza anticomunista a suo figlio. Dopo un periodo di malattia, morì il 28 aprile 1966 a Roma. Il suo corpo fu sepolto il 30 aprile, accompagnato dai rappresentanti della diaspora albanese.