תימן שוכנת בחצי האי ערב, וגובלת בערב הסעודית מצפון, ובעומאן מצפון מזרח. בדרומה מפרץ עדן ובמערבה הים האדום אקלימה מדברי, עם השפעה של מונסון תקופתי.
כפי שידוע, הקהילה היהודית הייתה פזורה בין הכפרים בתימן. אך היעדר תיעוד רשמי או מידע נוסף מותיר בערפל את אומדן גודלה של הקהילה ואת ריכוזיה הגדולים. עם זאת, מהצלבת מספר מקורות מידע מתחילת שנות הארבעים של המאה ה-20, עולה כי יהודי תימן מנו כ-62 אלף נפש, כאשר הריכוזים הגדולים היו במחוזות שרעב, צנעא, ירים וד'מאר.
כמיהתם של יהודי תימן לארץ ישראל איננה מוטלת בספק כלל, די אם נעיין בשירתו של גדול משוררי תימן רבי שלום שבזי ע"ה בן המאה ה-17 שבהם עולה השתוקקותו לארץ ישראל, בכדי להבין עד כמה נפשם של יהודי תימן הייתה קשורה לארץ ישראל.
אך רק ב-1881- 1882, החלו יהודי תימן לעלות לארץ (בעיקר מצנעא וסביבתה), ולהתיישב בעיקר בירושלים. זו נחשבת לעליה המשמעותית הראשונה, שהוכתרה בשם 'אעלה בתמר'. אותם עולים שמרו על קשר עם קרוביהם בתימן, ועודדו אותם לעלות לארץ ישראל. בעידודו של השליח שמואל יבניאלי, עלו עד 1914 כ-8% מהקהילה, בעיקר מצפון תימן, והתיישבו בעיקר ברחובות, נס ציונה, ראשל"צ. המניע העיקרי לעליות אלה היה אהבת ציון, ולא בגלל חוסר ברירה בארץ המוצא.
עד סוף מלחמת העולם הראשונה, חיו בארץ ישראל כ-4,500 יהודים יוצאי תימן, שהיוו כ-6% מכלל יהודי הארץ. אך בין שתי מלחמות העולם, חלה האטה בקצב העלייה, בשל קשיים שהוערמו (רובם כלכליים). אך למרות הקשיים, עד פרוץ מלחמת העולם השנייה עלו כ-10,000 יהודים. באותה עת, מספרם של יהודי תימן שכבר חיו בארץ ישראל היה 28,000 נפש. בתחילת המלחמה, עלו עשרות בודדות, אך בין 1943- 1945 עלו למעלה מ-5,000 איש. לעליה זו קדמו תנאים קשים בתימן, דוגמת בצורת קשה ושרשרת רעידות אדמה, וסברה רווחת היא שתנאים אלה זירזו את העלייה לארץ ישראל.
העלייה מתימן נמשכה ברצף (אם כי היו תקופות של שפל) עד סוף שנות ה-40. אחד ממבצעי העלייה המפורסמים, שהחל בסוף 1948 כונה 'על כנפי נשרים'. גם עליה זו הואצה בגלל נסיבות קשות של אלימות וביזה, שהגיעו לשיאן ב'עלילת הדם בצנעא'. המבצע הושלם בספטמבר 1950, שבמהלכו עלו למעלה מ-48,000 אלף נפש. העלייה המשיכה בקילוח דק, אך ב-1962 הקשר של בני הקהילה עם הקרובים בישראל נותק, והעליה פסקה.
בסוף 1992, כחלק מהפשרה ביחס של מדינות ערב כלפי ישראל, תימן התירה ליהודייה להגר, וכמה מאות עלו לישראל.