در شهریور سال ۱۳۵۰ و در آستانهٔ برگزاری جشن‌های ۲۵۰۰ سال شاهنشاهی، ۱۳ نفر از سران سازمان دستگیر و پس از شکنجه ۱۲ نفر از آنان اعدام شدند. مسعود رجوی از مجازات اعدام نجات یافتو بعدها رهبری سازمان را در اختیار گرفت. در آذر ماه همان سال رضا رضایی از کادرهای سازمان توانست از زندان فرار کند و تا روز کشته شدنش در ۲۵ خرداد ۱۳۵۲، نقش مهمی در رهبری و سازماندهی مجدد و عملیات نظامی مجاهدین ایفا کرد. بدین ترتیب بقایای سازمان به فعّالیّت خود ادامه دادند و سازمان با چند عمل مسلحانه در جامعه ایران شناخته شد.

در دهه ۱۳۵۰ با مقابله شدید ساواک با نیروهای سیاسی مسلح، سازمان مجاهدین نیز در شرایط دشواری به فعّالیّت مخفی خود ادامه می‌داد و از حمایت بعضی از روشنفکران مذهبی مسلمان و روحانیون شیعه برخوردار بود.

تغییر ایدئولوژی سازمان مجاهدین در سال ۱۳۵۴ کمی بعد از فرار تقی شهرام از زندان ساری صورت گرفت. در آن زمان اکثریت اعضای مرکزیت «سازمان مجاهدین خلق» که خارج از زندان بودند، تحت تأثیر تقی شهرام و بهرام آرام بهمارکسیسم گرویدند. آن‌ها در نخستین اعلامیه خود پس از تغییر ایدئولوژی آوردند:

«در آغاز گمان می‌کردیم می‌توانیم مارکسیسم و اسلام را ترکیب دهیم و فلسفه جبر تاریخ را بدون ماتریالیسم و دیالکتیک بپذیریم. اینک دریافتیم که چنین پنداری ناممکن است… ما مارکسیسم را انتخاب کردیم زیرا راه درست و واقعی برای رها ساختن طبقه کارگر زیر سلطه است».

اعلامیه، مجاهدین مارکسیست با حفظ آرم سازمان و تغییر علائم و نشانهای گذشته، حذف آیات قرآن و تاریخ پیدایش سازمان و نیز افزودن مشت گره کرده به نشانه وابستگی به طبقه کارگر، آرم جدیدی را برای خود تهیه کردند. نشریه «جنگل» را به جای «مجاهد» به عنوان ارگان سازمان منتشر کردند و هر سه ماه یکبار نیز نشریه «قیام کارگر» را انتشار دادند.

اما اکثریت اعضای سازمان در داخل زندان که در راس آن‌ها افرادی چون مسعود رجوی، مهدی ابریشمچی و موسی خیابانی قرار داشتند در اصول خود و پایبندی به اسلام باقی ماندند. مسعود رجوی اعلام گرایش سازمان به مارکسیسم را یک حرکت فرصت‌طلبانه اعلام نمود و آن را زمینه‌ساز رشد تمایلات راست ارتجاعی خواند. بخش خارج از کشور نیز به‌طور جداگانه مخالفت خود را با این حرکت فرصت طلبانه با صدور اعلامیه‌ای با امضای «تعدادی از اعضای سازمان» اعلام نمودند.

درگیری‌های خونینی نیز بر اثر اختلافات مجاهدین مارکسیست و مسلمان رخ داد. مجید شریف واقفی،لبافی‌نژاد و مرتضی صمدیه لباف به دست مارکسیست‌های حاکم بر سازمان ترور شدند. تراب حق‌شناس از بازماندگان جمع اولیه تشکیل‌دهنده سازمان مجاهدین خلق که در سال ۵۴ به مارکسیسم گرایید، در توضیح این تغییر ایدئولوژی می‌گوید:

به نظر من خیلی‌ها تغییر ایدئولوژی مجاهدین را عمدتاً از زمینه‌ای که داشت جدا می‌بینند. مجاهدین سالهای ۴۰ و ۵۰ اول مبارز بودند و سپس مسلمان. برای ما در درجه اول این مهم بود که باید با رژیم شاه مبارزه کرد. اهداف ما البته با معیارهای مارکسیستی نمی‌خواند و طبعاً ما کمونیست نبودیم ولی نظریه‌مان شکل تمام‌خلقی، عدالت‌جویانه، ضدامپریالیستی و ضداستبدادی داشت و چنین هم بودیم. گیرم از فرهنگ مذهبی که بر ما حاکم بود، برای پیشبرد نظرمان استفاده می‌کردیم. ما اگر چنانچه در آمریکای لاتین بودیم ممکن بود از انجیل همان چیزها را بیرون بیاوریم و استفاده کنیم. از طرف دیگر به همین دلیل که ما اول مبارز بودیم یعنی با تضاد فقر و ثروت آشنا بودیم و با سلطه و حاکمیت این سیستم قصد مبارزه داشتیم طبیعی است از چیزی که به آن «علم انقلاب زمانه» می‌گفتیم یعنی مارکسیسم روی نتابیم و نسبت به آن نظر خوبی داشته باشیم. به همین دلیل انقلاب کوبا یا انقلاب چین برایمان اهمیت داشتند؛ و نه از این جهت بود که سیستم کسب قدرت از طریق حزب یا کانون‌های مسلح اهمیت داشت، برای ما این مسئله کمتر مطرح بود. نظرمان بر این بود که هر طور شرایط خودمان ایجاب می‌کند عمل کنیم، نه با دنباله روی از این یا آن تز. اینکه در سال ۵۲ رژیم می‌گفت مارکسیستهای اسلامی پر بیراه نمی‌گفت. بخاطر اینکه ما تکه‌بریده‌هایی از مارکسیسم و تکه‌بریده‌هایی از اسلام را کنار هم می‌گذاشتیم. برای ما پیش بردن امر مبارزه اجتماعی و رها شدن از آن چیزی که ما آن را خلاف عدالت اجتماعی و خلاف انسانیت می‌دانستیم یعنی امپریالیسم، استعمار، استبداد و استثمار مهم بود؛ بنابراین به نظرمان راه‌های پیموده شده در چین، کوبا، شوروی و تجربه انقلاب اکتبر کاملاً قابل مطالعه و آموزنده بود.

ل ۱۳۵۴ به‌طور کلی ضربات مهلکی را بر این سازمان وارد کرد. ساواک طی مدت کوتاهی توانست تعداد زیادی از افراد و گروه‌های پراکنده مارکسیست و مذهبی وابسته به سازمان مجاهدین را به تدریج شناسایی کند و از بین ببرد؛ به‌طوری‌که از اواسط سال ۱۳۵۵ دیگر عملاً سازمانی وجود نداشت. از طرف دیگر انشعاب در سازمان مجاهدین باعث شد که برخلاف دوره‌های قبل اتحاد استراتژیک بین نیروهای مارکسیست و مذهبی در مقابله با شاه از بین رفته و جای خود را به بدبینی شدید و مرزبندی دقیق بین مارکسیستها و مذهبیها بدهد. گروه‌های مسلح مذهبی جدید بر خلاف قبل، از همکاری با نیروهای مارکسیست به خاطر عقاید ضد دینی و ترس از خیانت آن‌ها پرهیز می‌کردند. گفته شده که سرخوردگی مجاهدین از پشتیبانی روحانیون و ناتوانی در جذب روشنفکران جدید که غیرمذهبی بودند از جمله علل گرایش نهایی سازمان به مارکسیسم می‌باشد.

بعد از این اتفاق، برخی از روحانیون (از جمله طالقانی،منتظری، ربانی شیرازی، مهدوی کنی، انواری، لاهوتی، ورفسنجانی) که از قبل در زندان درگیرهایی با زندانیانمارکسیست داشتند، در اطلاعیه‌ای در اسفند ۱۳۵۴ با اشاره به نجاست کفار، اعلام کردند که تمامی زندانیان مسلمان باید از هرگونه ارتباط با مارکسیستها (غذا خوردن، تماس بدنی، وسایل مشترک زندانیان هم‌بند، …) پرهیز کنند.

عناصری که در بیرون از زندان گرایش سازمان به مارکسیسم را اعلام کرده بودند، بعد از انقلاب ۱۳۵۷ از نام مجاهدین دست کشیده و تحت عنوان سازمان پیکار در راه آزادی طبقه کارگر به فعالیت خود ادامه دادند و پس از انقلاب نیز رفته رفته به مخالفت با نظام جمهوری اسلامی پرداختند. تقی شهرام اوایل انقلاب ایران توسط دادگاه انقلاب اسلامی اعدام شد. یک نگرش دیگر که از طرف مدعیان این سازمان نسبت به تغییر ایدئولوژی آن عنوان می‌شود این است که:

این سازمان در حال استحاله بوده‌است و ایدئولوژی همیشگی این سازمان قدرت طلبی از طریق ستیزه‌جویی بوده و در نقاط حساس تاریخی حیات سیاسی خود به راحتی آرمان‌ها و شعارهای خود را زیر پا نهاده و بر خلاف آن عمل نموده‌است چرا که به باور ایشان «هدف وسیله را توجیه می‌کند»