حمل أبو القاسم الخرقي العلم عن نخبة من الشيوخ منهم:
أ - أبو بكر المروذي، (*) أحمد بن محمد بن الحجاج بن عبد العزيز المروذي صاحب الإمام أحمد رحمه الله، كانت أمه مروذية وأبوه خوارزميا، نزل بغداد وكان من أهل الورع والفضل حدث عن خلق منهم: أحمد بن حنبل، وعثمان بن أبي شيبة، وهارون بن معروف، ومحمد بن المنهال الضرير وغيرهم. وعنه أبو بكر الخلال وغيره (١) توفي سنة ٢٧٥ هـ.
ب - حرب الكرماني، (**) أبو محمد حرب بن إسماعيل الكرماني، الإمام الفقيه تلميذ أحمد بن حنبل وصاحبه أخذ على طائفة منهم: أبو الوليد الطيالسي، وأبو بكر الحميدي، وسعيد بن منصور، وإسحاق بن راهويه