او در خیابان مولوی تهران به دنیا آمد. پدر خسرو سرگرد ارتش بود و وقتی او 14 ساله بود بر اثر سرطان از دنیا رفت. او قبل از اینکه وارد عرصه بازیگری شود، در حرفه‌هایی چون خیاطی، کانال‌سازی و آسانسورسازی کار می‌کرد. در 19 سالگی برای نخستین بار روی صحنه تئاتر رفت و بعد از مدتی به عباس جوانمرد، معرفی و به صورت کاملا حرفه‌ای بازیگر تئاتر شد. وی فارغ‌التحصیل بازیگری دانشکده هنرهای زیبای دانگاه تهران بود و فعالیت هنری خود را از سال 1342 با بازیگری تئاتر آغاز کرد. از جمله نمایش‌هایی که وی در آنها ایفای نقش نموده‌ است، می‌توان به «سنگ و سرنا»، «همه پسران من»، «شب بیست و یکم» و «بیا تا گل برافشانیم» اشاره کرد. همچنین او چندین نمایش تلویزیونی مانند «فیزیکدان‌ها» و «هنگامه شیرین وصال» را هم در کارنامه دارد. پنج سال پس از ورود به تئاتر، یعنی در سال 1347 وارد حرفهٔ دوبله شد و مدت کوتاهی نیز در زمینه دوبله در سینما به فعالیت پرداخت.

شکیبایی نخستین بار در سال 1353 در فیلم کوتاه و 16 میلیمتری «کتیبه» به کارگردانی فریبرز صالح مقابل دوربین رفت. شکیبایی در سال 1354، یعنی یک سال بعد از اولین حضور خود در فیلم کوتاه «کتیبه»، به دعوت محمدرضا اصلانی در سریال «سمک عیار» ایفای نقش کرد.

در سال 1361 در حالی که مشغول بازی در نمایش «شب بیست و یکم» بود، مورد توجه مسعود کیمیایی قرار گرفت و با بازی در نقش کوتاهی در فیلم «خط قرمز» وارد عرصه سینما شد. اما از بعد از بازی در «هامون» (داریوش مهرجویی-1368) بود که نام خسرو شکیبایی بر سر زبان‌ها افتاد. خسرو شکیبایی از سال 1368 به بعد، دیگر نتوانست از جلد حمید هامون بیرون بیاید و حمید هامون را به اشکال مختلف و در انواع اقسام لباس‌ها و تیپ‌های مختلف تکرار کرد.

او علاوه بر بازیگری در سینما، تئاتر و تلویزیون، برخی از سروده‌های فروغ فرخزاد، سهراب سپهری، سید علی صالحی و محمدرضا عبدالملکیان را به صورت دکلمه اجرا کرده بود.