Кафедру створено 1 вересня 2012 року на базі кафедри теоретичної ядерної фізики імені О.І. Ахієзера, яка в свою чергу є правонаступницею кафедри теоретичної фізики, що була створена на фізико-математичному факультеті Харківського державного університету в 1933 році. Першим завідувачем кафедри був Л. В. Розенкевич, який одночасно був співробітником теоретичного відділу УФТІ, очолюваного майбутнім академіком, лауреатом Нобелівської премії з фізики Л. Д. Ландау. З 1935 по 1940 роки кафедру очолював Л. М. П’ятигорський, що був співавтором Л. Д. Ландау першого тому «Механіка» першого видання всесвітньо відомого «Курсу теоретичної фізики». Свою діяльність у Харківському державному університеті Л. Д. Ландау розпочав з роботи професором кафедри теоретичної фізики і фактично тут почалася реалізація його задумів з реорганізації підготовки фізиків та фізиків-теоретиків. Він склав перші програми викладання курсів теоретичної фізики.

У 1940 році кафедру очолив професор О. І. Ахієзер, який був одним з перших аспірантів та учнів Л. Д. Ландау. Він фактично реалізував у ХДУ задуми Л. Д. Ландау щодо реорганізації підготовки фізиків. У зв’язку з потрібністю підготовки фахівців з ядерної фізики на фізико-математичному факультеті у 1948 році створюється закрите спеціальне відділення з ядерної фізики, на якому О. І. Ахієзер керує спеціалізацією «теоретична ядерна фізика» та закритою кафедрою теоретичної ядерної фізики, в яку трансформується кафедра теоретичної фізики у 1951 році.

У 1955–1956 навчальному році вона вже фігурує у відкритому штатному розкладі університету як кафедра теоретичної ядерної фізики. Академік О. І. Ахієзер очолював кафедру теоретичної ядерної фізики до 1973 року. З 1973 по 1979 рік кафедрою керував доцент Ю. О. Кірочкін, з 1979 по 2010 рік — професор Ю. А. Бережной, з 2010 року дотепер — професор В. Д. Ходусов.

Видатними співробітниками та вихованцями кафедри є академіки Національної академії наук України О. І. Ахієзер, Я. Б. Файнберг, О. Г. Ситенко, Д. В. Волков, В. Г. Бар’яхтар, С. В. Пелетмінський, В. П. Семиноженко, М. Ф. Шульга, О. С. Бакай, іноземний член НАН України В. М. Ораєвський, члени-кореспонденти НАН України В. М. Струтинський, В. Ф. Клепіков, К. М. Степанов, П. І. Фомін, Ю. В. Слюсаренко, Б. О. Іванов, В. І. Мірошніченко.

Державні премії України в галузі науки і техніки були присуджені співробітникам кафедри — професору І. М. Адаменку за дослідження властивостей надплинного гелію та професору В. С. Михайленку за дослідження з фізики плазми. Роботи професора Ю. А. Бережного з ядерної фізики були відзначені премією НАН України імені О. С. Давидова.