Я. А. Халемин родился в с. Нижняя Синечиха Алапаевского района Свердловской области. В 1941 г. окончил Нижне-Тагильскую фельдшерско-акушерскую школу и в том же году ушел добровольцем на фронт. По инвалидности, вызванной фронтовым ранением, в 1946 г. был демобилизован из рядов Советской Армии и до 1951 г. работал районным дерматологом в Свердловской области. В 1957 г. закончил с отличием Свердловский государственный медицинский институт. В 1957—1962 гг. работал ординатором в Нижне-Тагильском кожно-венерологическом диспансере и одновременно главным врачом городской станции скорой медицинской помощи. С 1962 по 1966 г. прошел путь от младшего научного сотрудника до директора института, занимая этот пост в течение 24 лет. С 1967 г. Яков Александрович работал в должности главного научного сотрудника этого института.
В 1964 г. Я. А. Халемин защитил кандидатскую диссертацию "Материалы к гигиеническому и профпатологическому изучению пекококсового производства", в 1973 г. — докторскую диссертацию "Профессиональные дерматозы, обусловленные углеводородами каменноугольного пека". Впервые описал массовое поражение сосудистого аппарата кожи, а также фотодерматозы у рабочих коксохимического, мартеновского, электролизного производства, вызванные токсичными веществами каменноугольного пека. Описал профдерматозы у рабочих деревообрабатывающей, химической, алюминиевой, машиностроительной, медицинской и других отраслей Среднего Урала. Создал региональную дермато-профпатологическую службу, сыгравшую немаловажную роль в профилактике профессиональных дерматозов на Урале.
Отличник здравоохранения Российской Федерации, автор 5 монографий, более 300 научных публикаций, под его руководством выполнено 15 диссертационных работ.