הוא היה תלמידו המובהק של אחד מגדולי חכמי הדור, הרה"ג שלום מַנְצוּרַהּ ז"ל מחבר נר מצוה, שהיה גם הסבא שלו ושהיה בקי גם בקבלה מעשית. גדולתו של המנוח בתורה מכאן, ובקיאותו והתמצאותו בהוויות העולם מכאן, העלוהו למשרה הרמה הזאת, שנודעה בגולה. תחלה נבחר בשנת תרס"ב לאב בית הדין בצנעא, ובשנת תרס"ה נבחר לרב ראשי לכל גולת תימן, תפקיד ששימש בו עד יום פטירתו. הוא נשא בתפקיד כפול: בתחום הדתי-החברתי, שהקיף את כל דרכיהם הדתיים והצבוריים של יהודי תימן, ובתחום החילוני-מדיני, שכלל את הטפול בכל הענינים שבין היהודים לבין השלטון המרכזי. רשת פעולותיו היתה פרושה על כל ישובי היהודים בכל רחבי תימן, ובאמצעות שליחים ורבנים עמד על משמר התורה והדת בכל רחבי הגולה בתחומי החנוך, הרבנות והאישות.