Nama Silicon Valley pertama kali digunakan oleh Ralph Vaerst, entrepreneur sukses di Central California. Penggunaan secara tertulis pertama kali oleh Don Hoefler, teman Vaerst, yang menggunakan nama ini sebagai judul sebuah artikel seri di koran mingguan Electronic News.[1] Artikel seri ini berjudul "Silicon Valley in the USA" dan dimulai pada edisi 11 Januari 1971 koran ini. Namun, nama Silicon Valley baru populer dan digunakan secara luas mulai tahun 1980an, sejak banyak terjadi pengenalan produk komputer semikonduktor dari IBM dan Hewlett-Packard.
Kata Valley berasal dari Santa Clara Valley, yang berlokasi di ujung selatan San Francisco Bay, dan kata Silicon berasal dari tingginya konsentrasi perusahaan yang terlibat dalam industri semikonduktor (silikon yang digunakan untuk membuat produk semikonduktor komersial) dan komputer di area tersebut. Perusahaan produsen komputer tersebut perlahan-lahan menggantikan sebutan "the Valley of Heart's Delight"[2] yang dahulu erat dengan perkebunan di sekitar daerah ini, .