Pada Perang Dunia II, Jerman menciptakan konsep senapan serbu. Konsep ini didasari pengalaman bahwa pertempuran modern lebih banyak terjadi pada jarak yang cukup dekat, yaitu sekitar 100 meter. Tenaga dan jangkauan peluru pada saat itu ternyata terlalu besar. Maka, Jerman mulai mengembangkan peluru dan senapan yang mempunyai sifat submachine gun (isi magazen banyak dan bisa menembak full-otomatis) dengan peluru yang jangkauannya bisa sampai 300 meter. Dengan mempertimbangkan biaya produksi, ini dicapai dengan memendekkan peluru 7,92 x 57 mm Mauser menjadi ukuran 33 mm yaitu 7,92 x 33 mm Kurz (Kurz berarti pendek).
Hasil akhirnya, Sturmgewehr 44 (StG44), memang bukan senapan pertama yang menggunakan konsep ini; sebelumnya Italia dan Uni Soviet pernah merancang konsep yang serupa. Tetapi, Jerman adalah yang pertama untuk memproduksi masal senapan mereka. Jerman banyak menggunakan senapan baru mereka untuk menghadapi Soviet di Front Timur. Pengalaman Uni Soviet melawan Jerman inilah yang mempengaruhi doktrin Soviet pada tahun-tahun berikutnya.
Berdasarkan doktrin Soviet, Mikhail Kalashnikov mulai memikirkan desain senapannya sejak di rumah sakit, setelah terluka pada pertempuran di Bryansk. Ia mendapat informasi bahwa sebuah senjata baru sedang dicari, untuk dipakai dengan peluru 7,62 x 41 mm yang dibuat oleh Elisarov dan Semin pada 1943. Tapi kali itu, desain Kalashnikov kalah melawan desain Sudayev, yaitu PPS43. Kalashnikov mengubah desain pertamanya setelah ia mempelajari StG44 Jerman pada tahun 1946. Karena rancangannya cukup mengesankan, Kalashnikov lalu dipilih untuk memimpin sebuah tim desain.
Pada awalnya produksi receiver (bagian badan senapan yang berisi mekanisme penembakan) menemui banyak masalah. Model produksi pertama menggunakan receiver yang terbuat dari stamping (cetak besi) lembaran logam. Masalah yang ditemui adalah sulitnya mengelas railing pemandu dan ejektor, yang akhirnya menyebabkan banyaknya penolakan. Tapi masalah ini tidak menghentikan produksi, sebagai penyelesaiannya, receiver stamping logam digantikan dengan receiver machined (dibentuk dengan alat/mesin khusus). Proses ini memang lebih mahal, tapi untungnya alat-alat dan pekerja yang dibutuhkan sudah tersedia, sebelumnya dipakai untuk produksi Mosin-Nagant. Karena masalah-masalah tadi, Uni Soviet baru bisa mendistribusikan senapan-senapan ini secara luas pada tahun 1956. Pada saat yang bersamaan, produksi senapan pendahulu AK-47, SKS, tetap berlanjut.
