טוביה החולב, יהודי עני מהעיירה אנטבקה - "שטעטל" יהודי טיפוסי באימפריה הרוסית, מגדל פרות ומוכר מוצרי חלב וגבינה לבני העיירה כשהוא מושך עם סוסו את עגלת החלב. הוא ואישתו גולדה בורכו בחמש בנות, כששלושת הראשונות מעמידות אותו בקונפליקט של המסורת מול המודרניזיציה: האם להשיא אותן לשידוך הנאות לו מצפה העיירה (גביר אמיד, תלמיד חכם), או לתת להן להינשא למושאי אהבתן.
בתו הבכורה, צייטל, מאוהבת במוטל, חייט צעיר ועני. ינטה השדכנית משכנעת את גולדה להשיא את צייטל לקצב קשיש ועשיר בשם לייזר וולף, אולם טוביה נעתר לדמעותיה של צייטל ומרשה לה להנשא למוטל. גם בתם השנייה של טוביה וגולדה, הודל, אינה מוכנה להמתין לשדכנית ומתאהבת בסטודנט יהודי צעיר, פרצ'ק, המאמין במהפכה ובסוציאליזם. אחרי שפרצ'ק נאסר על ידי השלטונות ונשלח לסיביר, מחליטה הודל ללכת אחריו לשם ולהינשא לו. שוב מתנגד טוביה לשידוך, ושוב אין הוא עומד בפני דמעותיה ונותן לה את ברכתו.
המבחן האמיתי מגיע, כשגם הבת השלישית, חווהלה, האהובה בבנותיו, מבקשת להנשא לאהוב ליבה. הפעם אין מדובר בבחור יהודי עני או מהפכן יהודי צעיר, אלא בצעיר רוסי נוצרי בשם פיידקה. הפעם אין טוביה מוכן לוותר ולבגוד באמנותו ובמסורת של עמו. הוא אינו נותן את הסכמתו וחווהל'ה בורחת מן הבית ונישאת בסתר, בכנסייה, לפייבקה. כשנודע הדבר לטוביה הוא "קורע קריעה" על חווהל'ה, כמקובל לגבי בת שנפטרה, ומסרב אפילו להזכיר את שמה. סדר החיים בעיירה אנטבקה מגיע לקיצו כשמתקבל צו גירוש, הפוקד את כל היהודים למכור תוך שלושה ימים את בתיהם ורכושם ולצאת לגלות. כל בני העיירה נאלצים לעזוב את אנטבקה כשהם נושאים איתם צרור קטן של מיטלטליו לדרך הארוכה. טוביה ומשפחתו יוצאים לאמריקה. ינטה השדכנית-לירושלים וחווהל'ה ופייבקה מחליטים גם הם לעזוב את רוסיה. אין הם יכולים להשאר בארץ המגרשת חלק מיושביה.
שלום עליכם מספר על סוף המאה ה-19 ברוסיה, שבה נאלצו יהודים רבים לנטוש את בתיהם וכפריהם בעקבות הפוגרומים והגרוש, ולהגר למרחקים. רובם יצאו לאמריקה ולארצות אחרות באירופה.