הרב יחיא יצחק הלוי נולד בעיר צנעא. אביו הרב משה היה מראשי הקהילה, ואמו רומיה היתה בתו של ר' שלום מנצורה שהיה אחד מגדולי רבני יהודי תימן בדורו. בילדותו למד והתחנך אצל סבו ר' שלום, ולאחר מכן קבע את לימודו בישיבה הגדולה והידועה שהתקיימה בבית הכנסת מהרי"ץ. הלימודים בישיבה זו התקיימו בשעות הבוקר ובשעות הצהרים. בשעות הערב והלילה היה משתתף בלימודים שהתקיימו בבית מדרשו של הרב חיים קרח.