L'esperimento era semplice: una sorgente radioattiva avrebbe sparato un fascio di particelle alfa contro una sottilissima lamina d'oro (le particelle alfa hanno una massa molto più piccola di un atomo d'oro). Attorno alla lamina d'oro era stato disposto uno schermo ricoperto di solfuro di zinco, in modo che le particelle alfa, colpendo lo schermo, lasciassero tracce microscopiche nel solfuro di zinco.