Изучал математику и физику в Базельском университете, где позже преподавал геометрию. Основную карьеру провёл как преподаватель средней школы для девочек. Его знаменитая работа 1885 года была выполнена по предложению друга-физика. Член Швейцарского физического общества. Несмотря на значимость открытия, Бальмер никогда не занимал профессорской должности по физике.