当社は1987年4月1日に、日本国有鉄道（国鉄）の分割民営化に伴い誕生しました。
当社の前身となる国鉄は、1949年に当時国営事業であった日本の鉄道事業を公共企業体として引き継ぎ誕生しました。国鉄は、国民の足として日本の発展を支えましたが、公社形態での運営の拙さから、経営の責任が曖昧なまま採算を無視した新規路線を作るなどして30兆円を超える借金を抱えるとともに、世の中の動きにも迅速に対応できないという深刻な状態に陥りました。
こうした状況の中、国鉄が運営する鉄道事業の役割を将来に向けて見直そう、と取り組まれたのが「国鉄改革」でした。国鉄の輸送業務を分割民営化することにより健全な会社経営を行い、人々の足としての鉄道事業を再構築し、将来に向けてさらに発展させるという目的のもと、1987年に行政改革の一環として国鉄の業務は11の承継法人に引き継がれました。
国鉄の分割民営化以降、当社は、国鉄が担っていた公共的・社会的使命を引き継ぎながら、民間会社としての歩みを着実に進めています。

1964年の東海道新幹線開業により、東京～大阪間の移動はそれまでの6時間30分から3時間10分へと短縮されました（開業当初は4時間）。さらに、1992年には「のぞみ」の登場により、同区間の所要時間は最短2時間30分へと短縮されました。
そして、2003年10月、約15年にわたる継続的な車両設備・地上設備への投資が結実し、全列車の最高速度270km/h化と、「のぞみ」を1時間当たり最大7本運転できる抜本的なダイヤ改正を実施しました。
2014年には「のぞみ10本ダイヤ」、2015年には最高速度285km/hへの速度向上を実施し、現在の東京～大阪間の所要時間は最短2時間21分にまで短縮されています。2020年3月のダイヤ改正では、お客様のご利用が多い時間帯に「のぞみ」を1時間当たり最大12本（平均で5分に1本）走らせることができる「のぞみ12本ダイヤ」を実現し、7月には、これまで積み上げてきた技術開発の成果を取り入れた新型新幹線車両N700Sの営業運転を開始したことで、東海道新幹線をより一層便利にご利用いただけるようにしています。