در محله آسید عبدالله لنگرود متولد شد. پدرش آیت‌الله جعفر شمس لنگرودی به مدت 25 سال امام جمعه شهر لنگرود بود. وی در دبستان کوروش و دبیرستان‌های امیرکبیر، ملی محمدیه و خیام شهر لنگرود تحصیل کرد و در سال 1348 دیپلم ریاضی گرفت. علاقه پدر به شعر و کتابخوان بودن مادر سبب شد که به شعر و ادبیات علاقمند شود و در سال 1346 اولین شعرش که تقلیدی از اشعار نادر نادرپور بود در هفته‌نامه «امید ایران» چاپ شد.

در مهر ماه سال 1349 تحصیل در رشته اقتصاد را در مدرسه عالی بازرگانی رشت آغاز کرد. شمسِ جوان که در لنگرود مجبور به حفظ شان روحانی پدر بود، با حضور در فضای متساهل و فرهنگی رشت، جهان دیگری را تجربه کرد. در همین ایام در حالی که سخت تحت تأثیر زندگی و شعر بودلر بود در دبیرستان های رشت نیز تدریس می‌کرد تا در بهمن ماه سال 1353 توانست با درجه کارشناسی اقتصاد از مدرسه عالی بازرگانی رشت فارغ‌التحصیل شود.

در سال 1354 به تهران رفت و در دبیرستان دخترانه خوارزمی مشغول به تدریس ادبیات فارسی شد ولی پس از چند ماه به دلایل سیاسی از کار اخراج شدو به رشت بازگشت. نخستین دفتر شعرش «رفتار تشنگی» را با هزینه شخصی در سال 1355 منتشر کرد. خود او معتقد است که انتشار این کتاب در واقع خداحافظی با دوره خاص فکری و زیبایی شناسی و آغازی دیگر در نوع تفکر ادبی او بوده است. در سال 1358 با فرزانه داوری ازدواج کرد و در همان سال از محل کارش در کانون پرورش فکری کودکان و نوجوانان تهران که دو سال در آنجا مشغول به کار بود، اخراج شد.

در شهریور 1361 و به دنبال زندانی شدن برادر، دستگیر شده و در اوین زندانی شد، سرانجام با تلاش‌های پدر و وساطت حسینعلی منتظری پس از حدود 1 سال از زندان آزاد شد. تجربه زندان تأثیر عمیقی در افکار و جهان‌بینی شمس لنگرودی گذاشت و تصمیم گرفت که با تمام وجود به ادبیات بپردازد.

نام شمس لنگرودی پس از انتشار مجموعه‌های «خاکستر و بانو» و «جشن ناپیدا» در اواسط دههٔ 1360 مطرح شد و پس از چاپ «قصیدهٔ لبخند چاک‌چاک» به شهرت رسید؛ سپس ده‌ سالی را با سکوت در شعر گذراند و سرانجام در سال 1379، مجموعه شعر «نت‌هایی برای بلبل چوبی» را روانه بازار کتاب کرد. این شاعر در دههٔ 1380 سال‌های سکوت و کم‌کاری را جبران کرد؛ در این سال‌ها هشت مجموعه شعر از او منتشر شد که از آن جمله‌ است: «پنجاه‌وسه ترانهٔ عاشقانه»، «رسم‌کردن دست‌های تو» و «شب، نقاب عمومی است». از این میان، مجموعه شعر «22 مرثیه در تیرماه» از طریق رسانه‌های اینترنتی منتشر شده‌است.

شمس لنگرودی در سال 1389 در فیلم «فلامینگو شماره 13» به کارگردانی حمیدرضا علیقلیان در نقش یک شاعر ظاهر شد.

شمس لنگرودی در ابتدای راه شاعری تحت تأثیر زبان و نگاه فریدون توللی، فریدون مشیری و به ویژه نادر نادرپور بود. با وارد شدن به جریانات سیاسی و تحت تأثیر شرایط زمانه به شعر سیاوش کسرایی و در نهایت احمد شاملو متمایل شد و می توان بخش بزرگی از اشعار او را متاثر از زبان شاملو دانست. پس از کتاب «قصیده لبخند چاک چاک» بود که به تدریج توانست از تحت تأثیر بودن دیگران فاصله بگیرد و با سادگی و روانی کلام و مفاهیم به زبان محاوره نزدیک شود. او در کتاب «نت‌هایی برای بلبل چوبی» با آرمان‌خواهی و نگاه ایدئولوژیک خداحافظی و سعی در ساختن جهان جدیدی در شعرش کرد. زبان‌ساده، کوتاه نویسی، طنز، پرداختن به زندگی روزمره و پر رنگ بودن عشق از ویژگی‌های اصلی شعرهای اخیر شمس لنگرودی است.