У Харкові, який став столицею УСРР в грудні 1919 року, не було жодних будівель, які б підкреслювали його статус міста-центру. Тому, з'явилася потреба у приміщеннях для розміщення трестів та наркоматів, які тимчасово займали житлові будинки.
21 березня 1925 року Українська економічна рада розглянула доповідну записку щодо будівництва офісної будівлі для організацій, що керували промисловістю УСРР.
Територія для будівництва була неосвоєною місциною, яка вимагала першочергових земляних робіт. Улітку 1925 року розпочалися перші земляні роботи за допомогою людської і кінської сили, та з використанням простих інструментів та механізмів.
Будівники вручну викопали в землі котлован об'ємом 20 000 м³ і вивезли землю на кінській тязі на плоских возах. Пізніше вони рівняли нерівну місцину під майбутню площу Дзержинського.
Павло Роттерт, головний інженер будівництва, був ключовою фігурою в створенні значного об'єкта, яким стала будівля Держпрому. Під його керівництвом були розроблені робочі креслення та підготовлені фахівці для створення унікальної конструкції.
Для будівництва вперше були застосовані точні розрахунки складних залізобетонних конструкцій, розроблені харківськими інженерами-конструкторами А. В. Прейсфрейндом та М. М. Пайковим.
Будівля Держпрому зводилась методом «плавучої опалубки» та представляє собою монолітний масив залізобетону, що забезпечує її високу міцність.
До п'яти тисяч робітників щодня працювали у три зміни та завершили будівництво менш ніж за два з половиною робочих сезони. Трудозатрати склали 1 560 000 людино/днів, половина з яких жила в дерев'яних бараках.
7 листопада 1928 року було урочисто відкрито "перший радянський хмарочос", який був зведений протягом надзвичайно короткого терміну - 3 роки. Споруда була зведена до 11-ї річниці Жовтневої революції, і вартість будівництва становила 14 176 000 карбованців.