Pengaruh Analog & Digital
Hamming memulai sejarah perangkat kerasnya dengan perbedaan: komputasi analog (slide rule, differential analyzer) dibanding komputasi digital (tulang belakang Napier, kalkulator meja). Kedua garis tersebut berkembang secara paralel; garis digital akhirnya mendominasi.
Napier (1550–1617)
John Napier menciptakan logaritma, yang memungkinkan slide rule — sebuah perangkat analog di mana panjang fisik mewakili nilai logaritma. Penjumlahan panjang = perkalian angka. Napier juga merancang 'tulang belakang Napier': batang ivory untuk bantuan perkalian. Digital, jangan bingung dengan slide rule.
Dari Schickert ke Babbage
Wilhelm Schickert (1623) merancang mesin untuk empat operasi aritmatika; mesin tersebut terbakar sebelum selesai. Pascal (1623–1662) membangun mesin tambah untuk penilaian pajak. Leibniz menambahkan perkalian & pembagian tetapi mesin-mesin tersebut tidak andal.
Charles Babbage (1791–1871) merancang mesin perbedaan: sebuah mesin untuk mengevaluasi polinomial pada nilai-nilai teratur dengan penambahan berurutan, menghasilkan tabel cetak tanpa kesalahan. Dia tidak pernah menyelesaikannya; sebuah tim ayah-anak Norwegia (Scheutz) membangun versi yang berfungsi. Pada tahun 1992, sebuah tim di Inggris membangun mesin analitik Babbage dari gambarannya — itu bekerja.
Mesin analitik Babbage mirip dengan arsitektur von Neumann: sebuah store (memori), sebuah mill (unit aritmatik), & branching conditional. Lady Lovelace mempublikasikan program pertama untuknya.
Komputer Relay hingga ENIAC
Era modern komputasi dimulai dengan komputer relay pada tahun 1940-an awal. Hamming mengikuti evolusi kecepatan:
| Era | Teknologi | Kecepatan | |---|---|---| | Sebelum 1940 | Kalkulator manual | 1/20 ops/sec | | ~1940 | Relay (Bell Labs) | 1 op/sec | | 1946 | ENIAC (tabung hampa) | ~5,000 ops/sec | | 1952 | IBM 701 | ~17,000 ops/sec | | ~1993 | Kerja stasioner modern | 10⁹ ops/sec |
George Stibitz di Bell Telephone Laboratories membangun komputer relay dari bagian-bagian mesin senjata M9 yang dinilai tidak layak. Hamming menggunakan satu untuk bertahun-tahun. Komputer relay tersebut tidak cepat — sekitar satu operasi per detik — tetapi mereka andal & dapat diprogram.
ENIAC (1945–1946) awalnya dioperasikan dengan pengaturan panel, seperti komputer plugboard raksasa. Nick Metropolis & Dick Clippenger kemudian mengonversinya ke program decimal switch dari tabel balistik. ENIAC mengkonsumsi sekitar 150 kW.
Programmer internal menjadi praktis hanya ketika penyimpanan yang cukup ada. Peran Von Neumann adalah sebagai konsultan untuk Mauchly & Eckert; programmer internal dibahas antara tim sebelum terlibat von Neumann, meskipun laporannya yang luas (tetapi tidak pernah secara resmi diterbitkan) menyebarluaskan konsep-konsep tersebut.
Banyaknya Kali Lipat dalam Kecepatan
Progresi kecepatan dari kalkulator manual ke workstation 1990-an melintasi sepuluh orde magnitudo dalam sekitar 50 tahun.
Di Mana Perangkat Lunak Tidak Bisa Pergi
Hamming mengemukakan tiga batasan fisika yang mengikat seberapa cepat komputer dapat berjalan. Ini bukanlah tantangan teknik yang akan diatasi oleh kecerdikan - ini adalah hukum fisika.
Batasan 1: Ukuran Molekul
Komponen tidak dapat disusutkan di bawah dimensi atom. Jendela transistor 10 atom lebar: tunneling kuantum mendominasi & transistor tidak dapat beralih secara andal lagi. Pada tahun 1993, Hamming menaksir bahwa pergi di bawah ~100.000 atom jarak antara perangkat terhubung (sekitar 3 pikosekon waktu cahaya) mewakili batasan fisika yang nyata.
Batasan 2: Kecepatan Cahaya
Sinyal menyebar paling cepat dengan kecepatan c = 3×10⁸ m/s di vakum (lebih lambat di kawat, sekitar 2×10⁸ m/s). Sebuah siklus jam 1 GHz adalah 1 nanodetik; dalam 1 ns, cahaya berjalan 30 cm. Sebuah chip yang harus mengirim sinyal melintasi 15 cm & menerima tanggapan dalam satu siklus jam sedang beroperasi dekat dengan batas kecepatan cahaya.
Semakin meningkat kecepatan jam, dimensi chip harus mengecil untuk menjaga waktu balik sinyal di bawah satu periode jam.
Batas 3: Pengeluaran Panas
Lebih banyak komponen per satuan luas + switching lebih cepat = lebih banyak daya per satuan luas = lebih banyak panas. Panas harus didissipasi atau komponen meleleh. Pada tahun 1993, tegangan operasional mulai menurun menuju 2-3V untuk mengurangi daya switching. Lapisan intan sebagai konduktor panas sedang dieksplorasi. Komputasi reversible (tanpa kehilangan termodynamika) hanya ada dalam teori.
Tiga batas ini secara kolektif menjelaskan mengapa peningkatan kecepatan single-processor mulai mendekati titik jenuh pada tahun 1990-an & mengapa minat pada arsitektur parallel tumbuh.
Mengaplikasikan Batas Kecepatan Cahaya
CPU berjalan pada 3 GHz. Satu siklus jam = 1/3 ns ≈ 0.333 ns. Kecepatan sinyal di kawat: ~2/3 c ≈ 2×10⁸ m/s.
Ahli yang Sangat Salah
Hamming mencatat salah satu prediksi kegagalan sejarah teknologi terkenal: ahli di akhir tahun 1940-an mengestimasi bahwa dunia hanya membutuhkan setidaknya tiga hingga lima komputer. Tom Watson dari IBM dikabarkan mengatakan dua.
Pada tahun 1993, ada jutaan komputer yang beroperasi.
Mengapa Ahli Gagal
Ahli tersebut menggeneralisasi dari kasus penggunaan saat ini: perhitungan ilmiah di laboratorium nasional. Mereka tidak memprediksi insight yang setara: komputer tidak akan melakukan apa yang manusia lakukan, lebih cepat. Komputer akan memungkinkan kategori kerja yang sepenuhnya baru yang belum pernah ada sebelumnya.
Polanya kegagalan: ahli dalam teknologi matang paling percaya akan batasannya & paling mungkin salah dalam hal aplikasi masa depan. Keterampilan mereka memberikan model yang akurat tentang saat ini; itu tidak memberikan mereka model tentang apa yang akan menjadi mungkin.
Arsitektur Paralel
Kecepatan unit prosesor tunggal mendekati batas pada tahun 1990-an. Tanggapan industri: unit aritmatika yang berbeda, pipeline, piranti cache, & mesin paralel massal. Pada tahun 1993 tidak ada arsitektur paralel dominan tunggal - banyak desain bersaing dengan tradeoff yang berbeda & model pemrograman yang berbeda. Hamming mencatat fragmentasi ini sebagai masalah: tanpa standar, upaya pemrograman akan dibagi di antara sistem yang saling tidak kompatibel.
Mengapa Ahli Meramalkan Salah
Hamming menganggap prediksi komputer 3-5 bukan sebagai keanehan tetapi sebagai pelajaran tentang batas pengetahuan ahli. Ahli tersebut menggambarkan masa kini dengan baik; mereka gagal pada aplikasi yang belum ada.
Data LANL & Persamaan Pertumbuhan
Hamming mengutip sebuah grafik yang disusun oleh Los Alamos National Laboratory (LANL) yang mencatat kecepatan komputer tercepat di pasaran pada setiap titik waktu. Data tersebut sesuai dengan persamaan eksponensial: kecepatan sekitar dua kali lipat setiap 18 bulan — kemudian populer sebagai Hukum Moore untuk jumlah transistor.
Persamaan LANL: speed(t) = speed₀ × 10^(bt), di mana b ≈ 0.09 per tahun (menjadi dua kali lipat sekitar setiap 3,3 tahun dalam operasi per detik, berbeda dengan jumlah transistor yang menjadi dua kali lipat).
Hamming menggunakan hal ini untuk membuat poin tentang ekstrapolasi: eksponensial tidak dapat terus-menerus. Tiga batasan fisika menetapkan atap. Kapan eksponensial menghadapi atap? Transisi tersebut menandai akhir era single-processor.
Pada tahun 1993, industri sudah dekat dengan atap tersebut, yang memicu minat terhadap arsitektur paralel, trik pipa, & hierarki cache — semua langkah kecil menuju paralelisme daripada eksekusi single-thread yang lebih cepat.