1971年、かねてNHKで音のデジタル化に取り組んでいた中島平太郎が、ソニーに入社した。中島は設立されたばかりの技術研究所の所長になってしばらくすると、開発チームを組成し、デジタルオーディオの開発を始めた。1974年には大型冷蔵庫並みの大きさを持つ、デジタル録音機第一号X-12DTCが完成した。ソニーのデジタルオーディオの歴史の幕開けとなる、記念すべき第一号機の誕生であった。
中島はより小型で安価な商品を追究し、一つの可能性にたどり着いた。それは、当時発売されたばかりの家庭用VTR「ベータマックス」が大いに活用できるのではないかという仮説だ。情報量の多い映像を記録・再生するビデオ機器の周波数帯域は、アナログオーディオの約200倍〜300倍以上。それならば、折しも1975年に発売されていた「ベータマックス」にデジタルオーディオを記録・再生させるための回路さえ設ければ、情報量の多いデジタルオーディオも十分録音でき、価格も抑えることができるはずと考えた。
そして出来上がったのが、VTRとPCM（Pulse Code Modulation）の2つが1組となったPCMオーディオユニットPCM-1。1977年9月、本機はデジタル録音・再生が行える世界初の商品として発売された。
マーケットからは「とにかくクリアな音だ」というお褒めの声と同時に、それを上回るような苦情が寄せられた。ダイナミックレンジ（最も強い音と弱い音の比）が広くなれば、それなりに防音の設備の整った静かな部屋でないと、周囲のノイズも拾ってしまう。商品開発の現場と実際に使われる現場との環境の違いを、十分に想定しきれていなかった。中島らはこれらの指摘を謙虚に受け止め、次のシステムの開発のための教訓とした。
一方で、思いがけずうれしい出来事もあった。家庭用と同時に開発を進めていた業務用のPCMプロセッサーの試作機を称賛した人の中に、世界的な指揮者のカラヤン（ヘルベルト・フォン・カラヤン）氏がいたのだ。1978年9月、来日したカラヤン氏は、自らの練習中にPCM録音機で録音されたデジタル音源を聴き、「新しい音だ」といたく感激した。カラヤン氏にお墨付きをもらったことで、技術者たちは大いに勇気づけられたという。

開発現場が試行錯誤している最中の1978年6月。大賀典雄はフィリップス社を訪れ、その場で直径11.5センチかつ1時間の音楽を収録可能なオーディオ専用ディスク「オーディオ・ロング・プレイ」（ALP）のデモを見て、「レコードに代わるものはこれだ」と直感し、大賀は、彼らと一緒なら良いものが作れると確信した。フィリップス社は、当時、光学方式のビデオディスクのリーダー的存在だった。そしてデジタルオーディオ信号処理技術を開発したのは、他でもないソニーである。この2社が手を組めば、理想的なメディアができるに違いなかった。さらに、両社には自前のレコード会社があり、音楽ソフトの供給体制も盤石であった。
その後、何度かフィリップス社とソニーの幹部がお互いに行き来して、正式にフィリップス社との共同開発の方針が固まった。両社でデジタルオーディオ・ディスクの規格をまとめて、業界各社が集まる1980年6月の懇談会に提案しようということになった。
共同開発が始まると、両社間で意見の相違が出てきた。量子化ビット数について、フィリップスは実現が容易な14ビットを主張したが、ソニーは技術的に難易度は高いが広いダイナミックレンジが得られる16ビットを主張。最終的に16ビットに決着した。他にも記録時間とディスクサイズでも意見の隔たりがあった。フィリップスはコンパクトカセットの対角線の長さと同じ直径11.5センチ、記録時間60分を提案したが、ソニー側は大賀が「オペラの幕が途中で切れてはだめだ」と主張。クラシック音楽は75分あれば、95％以上の曲を収録することができる。逆算すると、この演奏時間を実現するためには直径12センチは必要だ。こうして新規格の全体像が固まっていった。
最終的に、最大演奏時間75分直径12cm、周波数44.1キロヘルツ、16ビットと、ソニーの提案が通った。こうして決まった方式は「コンパクトディスク・デジタルオーディオシステム（通称CDシステム）」と命名され、やがて業界のデファクトスタンダードとして確立されていった。

CDが着実に需要を伸ばしていく一方で、当初の主な顧客層はオーディオ・マニアに限定されていた。もっと手軽にさまざまなお客様にCDを楽しんでいただきたい。そのために必要なのは、より小さくて安価なCDプレーヤーだった。
当時主に小型のオーディオ機器を担当していたゼネラルオーディオ事業部の責任者だった大曽根幸三は、ここで一石を投じた。「これでCDプレーヤーをやってみてくれ」。部下に示したのは、13.4cm四方の正方形で厚さが約4cm、CDケース4枚分の木型である。「中にバッタを入れようがセミを入れようが構わない。とにかく音を出してくれ」。
大曽根の示す目標は日頃から厳しかったが、伝える際のユーモアを忘れなかった。また、「これくらいか」と手にとって確かめられるよう、目標設定に木型を使うのは大曽根流である。これには、「持ち合わせの技術ありきで考えるのではなく、皆が喜んで使う大きさを絶対の目標として示す」という意図もあった。また、価格に関しては、CDの本格普及を目指そうとする盛田が、「5万円を切る価格でいこう。最初は赤字でも、きっと後で利益が出るはずだ」と、方針を出した。こうしてCD発売二周年の1984年11月にD-50は発売された。49,800円という画期的な価格のみならず、CDケース4枚分のサイズながら、CDP-101と変わらないという機能性が受け、爆発的なヒットを記録した。
D-50の登場によって音楽タイトルもさらに売り出され、業界全体のCDビジネスも本格的に立ち上がった。同機が発売された1984年末頃、CDの生産枚数はアナログレコードの10分の1程度だったが、2年後の1986年には早くも逆転。1988年前後にはアナログレコードの最盛期に相当する1億枚を超え、1992年には3億枚に達した。
CDプレーヤーの小型化も加速し、ポータブルタイプのCDプレーヤーは、ウォークマンのように歩きながら音楽を楽しめるという位置付けで、「ディスクマン（のちにCDウォークマンに統一）」と総称され、広く親しまれていくことになる。また、ソニーグループのCDソフト生産拠点の拡充も、普及を早めた。1987年までに、日・米・欧における、年間1億2,000万枚のCDソフト生産体制を確立し、CDのハードウェア・ソフトウェアにおける全世界的な供給体制を、いち早く構築していった。
そしてCDビジネスは、LSIや、半導体レーザーを組み込んだ光学ピックアップなど、キーデバイスの外販という方向にも拡大していった。「デバイスの外販も含め世界のCDプレーヤー市場の50％のシェアをとろう」という方針が大賀の下で推し進められ、最高時には70％にまで達した。1984年に外販を開始した光学ピックアップに関していえば、10年間で外販累計1億セットを達成、ソニー社内で使っているものと合わせて累計2億台、全世界のCDプレーヤーの約半数に搭載されるようになったのだ。