食物繊維の歴史は古代ギリシャにさかのぼります。そのころから小麦ふすま^※1は便秘予防にいいことは知られていたのですが、食物繊維は、「エネルギーにならない」「必要な栄養素まで消化・吸収されにくくしてしまう」食べ物のカスだと考えられていました。
また、食物繊維が多く含まれていると食感が損なわれるので、人々の嗜好に合わせてやわらかくて食感のよい食品がつくられてきました。
1930年代になってケロッグ^※2は小麦ふすまに関心を持ち、便秘患者・大腸炎患者への影響を確認しました。英国人医師のヒップスレーは「ダイエタリーファイバー（食物繊維）」という言葉をはじめて使用したことで歴史に残る人物となりました。

食物繊維の定義は、現時点ではすべての研究者の合意に基づいたものではありません。
1940年代からアフリカで医療活動を行っていたイギリスの医者バーキットやトロウェルは、先進諸国に多く見られる大腸憩室症、糖尿病、胆石、動脈硬化症、虚血性心疾患などがアフリカの住民に少ないのは、食物繊維の摂取量が多いことによるものではないかという見解を発表しました。
はじめトロウェル博士は「ダイエタリーファイバー（食物繊維）」を「ヒトの消化酵素で分解されない植物細胞壁成分」と定義しました。
しかし、研究が進むにつれて、それ以外にも同様な生理作用をもつ物質があることが分かってきました。現在、世界共通の定義は議論されているところですが、日本では「（植物性食品だけでなく、動物性食品起源も含めて）人の消化酵素で消化されない食物中の難消化性成分の総体」という考え方が一般的に受け入れられています。
これによれば、植物に含まれるセルロース、リグニン、ペクチンや、カニ・エビなどの甲殻類に含まれるキチン、キトサン、デンプンの一部が非消化性のレジスタントスターチなども食物繊維に含まれます。