سختی معیشتی که خانواده به شدت با آن درگیر بود باعث شد برادر بزرگ شهید رجایی به تهران عزیمت نماید و برادر کوچک و مادر خود را در قزوین نگه دارد. در سال ۱۳۲۶ که محمدعلی چهارده ساله بود تصمیم گرفت برای ادامه کار در بازار به تهران عزیمت کند. او با مادرش به تهران آمد و در منزلی که برادرش اجاره کرده بود ساکن شد.
پس از استقرار با کمک و راهنمایی برادرش به شاگردی در بازار تهران پردخت. ابتدا در یک مغازه آهن فروشی و سپس بلورفروشی کار میکرد و با در آمدی که داشت به همراه مادرش گذران زندگی مینمود. وی همزمان با کار در بازار به ادامه تحصیلات خود که بطور موقت رها کرده بود پرداخت. شهید رجائی در بازجوئیهای خود از این دوران به تشریح سخن گفته است:
«شبها به جلسات قرآن میرفتم. در چهاردهسالگی یا پانزده سالگی به دبستان ملی حمدیه (گذرقلی) کلاس شبانه جامعه تعلیمات اسلامی رفتم.»
«در جامعه تعلیمات اسلامی که آقای ناصح خمسی مدیر بود و دانش آموزانی را که سواد ششم ابتدایی داشتند تعلیم می داد و برای تبلیغ و جمعآوری اعانه به مساجد و اجتماعات میبرد، من هم دراین برنامه شرکت میکردم و چون تا اندازهای برگتر شده بودم مطالب در من تأثیر بیشتری میکرد. مدتی در این برنامه بودم که گردانندگان مدرسه اقدام به تأسیس گروه شیعیان کردند. مرکز این گروه جنوب پاکجشهر طبقه دوم ساختمان قو بود. من چند جلسه آنجا رفتم.»
دوران دست فروشی شهید رجایی در همین سال هاست که وی با یکی از دوستان و بستگان نزدیک خود به نام محمد شیروانی به صورت مشارکتی اقدام به خرید ظروفی از جنس روی، نظیر کتری، قابلمه و بادیههای آلومینیومی و فروش آنها در محلات و خیابانهای جنوب شهر نمود و تلاش کرد با درآمدهای حاصله از آن زندگی خود و مادرش را اداره کند.
شهید محمدعلی رجایی در این ایام با مشورت برادر و یکی از نزدیکان خود، تصمیم گرفت به نیروی هوایی وارد شود. چون با مدرک ششم ابتدایی میتوانست به صورت پیمانی به استخدام نیروی هوایی درآید.
او از این رهگذر میتوانست با حقوقی که دریافت میکرد هم تغییری در سطح زندگی خود و مادرش ایجاد نماید و هم این فرصت را مییافت که در این دوران ۵ ساله به صورت شبانه به تحصیلات خود ادامه دهد و در آخرین سال خدمت پیمانی به دریافت دیپلم ریاضی دبیرستان آذر نائل شود.
«دراین موقع وارد نیروی هوایی شدم و پس از گذراندن دوره آموزشگاه به تحصیل شبانه برای ادامه تحصیل پرداختم، ولی وجود کار روزانه و تحصیل شبانه تمام وقتم را گرفته بود به جز ایام تابستان که فرصت جلسات مذهبی را پیدا میکردم.»
آنگونه که از اسناد و بازجوئیهای شهید رجائی در ساواک برمیآید، وی در دوران خدمت پیمانی در نیروی هوایی با مسجد هدایت و مرحوم آیت الله طالقانی که شب ها دراین مسجد جلسات تفسیر قرآن و سخنرانی داشت آشنا گردید. وی مینویسد:
«شب های جمعه به این مسجد میرفتم و در جلسات سخنرانی و تفسیر آقای طالقانی شرکت میکردم. شرکت کنندگان عموماً دانشجو یا فارغ التحصیل بودند.»
در دوران آموزشگاه در نیروی هوایی با شخصی بنام عباس اردستانی آشنا شد و در جلسات بحث با عناصر فریب خورده فرقه گمراه بهائیت حضور مییافت و با تقویت مطالعات خود سعی در هدایت برخی افراد وابسته به این فرقه را داشت. او سعی میکرد به این مباحثات جنبه سیاسی بیشتری بدهد. وی در بازجوئیهای خود نوشته است:
«هر جلسه که شرکت میکردم احساس میکردم که از نظر اعتقادی قویتر شدهام.مطالعه کتاب کینیاز دالگورکی مرا روشن کرد که آنها(بهائیها) ابتدا ساخته روسها و بعدها مورد استفاده انگلیسیها هستند. از اینجا کینه انگلیسیها در دلم پیدا شد و بعدها با جریان ملی کردن نفت در زمان دکتر مصدق این کینه به اوج خود رسید.»