Тактико-техническое задание на разработку пушки Б-38 было выдано 29 сентября 1938 года. Проектирование пушек провел КБ завода «Большевик» под руководством Е. Г. Рудяка.

Ствол Б-38 состоял из оболочки, лейнера, втулки затвора, дульной гайки и казенника. Нарезка постоянной крутизны. Затвор поршневой, двухтактного действия, с пластическим обтюратором и грузовым уравновешиванием, открывался вверх. Приводы затвора – от электродвигателя постоянного тока ПН-17,5 и ручной. Стреляющий механизм БС-9 гальваноударного действия.

Люлька представляла собой стальную разъемную отливку с боковым сектором вертикального наведения. В нижней ее части размещались противооткатные устройства: 2 тормоза отката веретенного типа и 1 гидропневматический накатник.

Качающиеся части по обслуживанию делились на левые, правые и средние, причем легко перемонтировались из левой в правую и наоборот.

Первый опытный образец пушки был изготовлен заводом «Большевик» в 1940 году. Испытания его проводились на НИАПе с 3 июня по 17 сентября 1940 года.

К началу Великой Отечественной войны было изготовлено около 10 пушек (качающихся частей). Одна из пушек Б-38 вела огонь по немцам с полигонного станка, а еще несколько были размещены на железнодорожных установках на станках от 203/45-мм пушек Кане. После войны выпуск Б-38 возобновился в 1947 году и продолжался до 1955 года включительно. Производство пушек Б-38 было монополией завода «Большевик».