أقدم ما وصلنا من الكتب المؤلفة في غريب الحديث وأثمنُها، وأجل مؤلفات أبي عبيد القاسم بن سلّام الهروي (ت 224هـ) وهو غير كتابه (الغريب المصنف) المطبوع في تونس عام (1989هـ).
رتبه على غرار كتب المسانيد مبتدئا بأحاديث رسول الله (صلى الله عليه وسلم ) ثم أصحابه، وعدد من التابعين، وأنفق في جمعه وتبويبه مدة أربعين سنة.
إلا أنه لم يرتب مواده، وبقي بلا ترتيب، حتى نهض إلى ترتيبه على حروف المعجم موفق الدين ابن قدامة (ت 620هـ) كما ذكر ابن حجر في نخبة الفكر (ص 23).
ولما فرغ أبو عبيد منه أهداه للوزير الخطير عبد الله بن طاهر، وكان كلما ألف كتابا أهداه إليه، فلما أهداه (غريب الحديث) قال: (إن عقلا بعث صاحبه على عمل هذا الكتاب لحقيق ألا يحوج إلى طلب معاش، وأجرى له في كل شهر عشرة آلاف درهم).
قال ابن خلكان (3/ 225): (قال أبو عبيد: مكثت في تصنيف هذا الكتاب أربعين سنة، وربما كنت أستفيد الفائدة من أفواه الرجال فأضعها في موضعها من الكتاب، فأبيت ساهرا فرحا مني بتلك الفائدة).