กีฬาเทเบิลเทนนิสได้เริ่มขึ้นครั้งแรก ในปี ค.ศ.1890 (พ.ศ.2433) ที่ประเทศอังกฤษ โดยในอดีตอุปกรณ์ที่ใช่เล่นเทเบิลเทนนิสเป็นไม้หุ้มหนังสัตว์ ซึ่งมีลักษณะคล้ายกับไม้เทเบิลเทนนิสในปัจจุบัน ส่วนลูกที่ใช่ตีเป็นลูกเซลลูลอยด์ ซึ่งทำจากพลาสติกกึ่งสังเคราะห์ โดยเวลาที่ลูกบอลกระทบกับพื้นโต๊ะ และไม้ตีจะเกิดเสียง "ปิก-ป๊อก" ดังนั้น กีฬานี้จึงถูกเรียกชื่อตามเสียงที่ได้ยินว่า "ปิงปอง" (PINGPONG) และได้เริ่มแพร่หลายในกลุ่มประเทศยุโรปก่อน
ซึ่งวิธีการเล่นในสมัยยุโรปตอนต้น จะเป็นการเล่นแบบยัน (BLOCKING) และแบบดันกด (PUSHING) ซึ่งต่อมาได้พัฒนามาเป็นเล่นแบบ BLOCKING และ CROP หรือเรียกว่า การเล่นถูกตัด ซึงวิธีการเล่นนี้เป็นที่นิยมมากแถบยุโรป ส่วนวิธีการจับไม้ จะมี 2 ลักษณะ คือ จับไม้แบบจับมือ (SHAKEHAND) ซึ่งเราเรียกกันว่า"จับไม้แบบยุโรป" และการจับไม้แบบจับปากกา (PENHOLDER) ซึ่งเราเรียกกันว่า "จับไม้แบบจีน"
ในปี ค.ศ.1900 (พ.ศ.2443) เริ่มปรากฎว่า มีการหันมาใช้ไม้เทเบิลเทนนิสติดยางเม็ดแทนหนังสัตว์ดังนั้นวิธีการเล่นแบบรุก หรือแบบบุกโจมตี (ATTRACK หรือ OFFENSIVE) โดยใช้ท่า หน้ามือ (FOREHAND) และ หลังมือ (BACKHAND) เริ่มมีบทบาทมากขึ้น และยังคงนิยมการจับไม้แบบยุโรป ดังนั้นจึงถือว่ายุโรปเป็นศูนย์รวมของกีฬาเทเบิลเทนนิสอย่างแท้จริง
ต่อมาในปี ค.ศ.1922 (พ.ศ.2465) ได้มีบริษัทค้าเครื่องกีฬา จดทะเบียนเคื่องหมายการค้าว่า"PINGPONG" ด้วยเหตุนี้ กีฬาเทเบิลเทนนิสจึงต้องเปลี่ยนชื่อเป็น เทลเบิลเทนนิส (TABLE TENNIS) และในปี ค.ศ.1926 (พ.ศ.2469) ได้มีการประชุมก่อตั้งสหพันธ์เทเบิลเทนนิสนานาชาติ (INTERNATIONAL TABLETENNIS FEDERATION:ITTF) ขึ้นที่กรุงลอนดอนในเดือนธันวาคมพร้อมกับมีการจัดการแข่งขันเทเบิลเทนนิสแห่งโลกครั้งที่ 1 ขึ้น เป็นครั้งแรก
จากนั้นในปี ค.ศ.1950 (พ.ศ.2493) เป็นยุคที่ประเทศญี่ปุ่นซึ่งได้หันมาสนใจกีฬาเทเบิลเทนนิสมากขึ้น และได้มีการปรับวิธีการเล่นโดยเน้นไปที่ การตบลูกแม่นยำ และหนักหน่วง และการใช้จังหวะเด้นของปลายเท้า ต่อมาในปี ค.ศ.1952 (พ.ศ.2495) ญี่ปุ่นได้เข้าร่วมการแข่งขันเทเบิลเทนนิส โลกเป็นครั้งแรก ที่กรุงบอมเบย์ ประเทศอินเดีย และในปี ค.ศ.1953 (พ.ศ.2496) สาธารณรัฐประชาชนจีนจึงได้เข้าร่วมการแข่งขันเป็นครั้งแรกที่กรุงบูคาเรสต์ ประเทศรูมาเนีย ทำให้กีฬาเทเบิลเทนนิสกลายเป็นกีฬาระดับโลกที่แท้จริง โดยในยุคนี้ญี่ปุ่นใช้การจับไม้แบบจับปากกา และมีการพัฒนาไม้ปิงปองโดยใช้ยางเม็ดสอดไส้ด้วยฟองน้ำ เพิ่มเติมจากยางชนิดเม็ดเดิมที่ใช้กันทั่วโลก
ในเรื่องเทคนิคของการเล่นนั้น ยุโรปรุกด้วยความแม่นยำ และมีช่วงตีสวิงสั้นๆ ซึ่งเมื่อเปรียบเทียบกับญี่ปุ่นที่ใช้ปลายเท้าเป็นศูนย์กลางของการตีลูกแบบรุกอย่างต่อเนื่อง ทำให้ญี่ปุ่นสามารถชนะการเล่นของยุโรปได้ แม้ในช่วงแรกหลายประเทศจะมองว่าวิธีการเล่นของญี่ปุ่น เป็นการเล่นที่ค่อนข้างเสี่ยง แต่ญี่ปุ่นก็สามารถเอาชนะในการแข่งขันติดต่อกันได้หลายปี เรียกได้ว่าเป็นยุคมืดของยุโรปเลยทีเดียว
ในที่สุดสถานการณ์ก็เปลี่ยนไป เมื่อสาธารณรัฐประชาชนจีนสามารถเอาชนะญี่ปุ่นได้ด้วยวิธีการโจมตีแบบรวดเร็ว ผสมผสานกับการป้องกัน ซึ่งจีนได้ศึกษาการเล่นของญี่ปุ่น ก่อนนำมาประยุกต์ให้เข้ากับการเล่นแบบที่จีนถนัด กระทั่งกลายเป็นวิธีการเล่นของจีนที่เราเห็นในปัจจุบัน
หลังจากนั้นยุโรปได้เริ่มฟื้นตัวขึ้นมาอีกครั้ง เนื่องจากนำวิธีการเล่นของชาวอินเดียมาปรับปรุงและในปี ค.ศ.1970 (พ.ศ.2513) จึงเป็นปีของการประจันหน้าระหว่างผู้เล่นชาวยุโรป และผู้เล่นชาวเอเชีย แต่นักกีฬาของญี่ปุ่นได้แก้ตัวลงแล้ว ขณะที่นักกีฬารุ่นใหม่ของยุโรปได้เริ่มเก่งขึ้น ทำให้ยุโรปสามารถคว้าตำแหน่งชนะเลิศชายเดี่ยวของโลกไปครองได้สำเร็จ
จากนั้นในปี ค.ศ.1971 (พ.ศ.2514) นักเทเบิลเทนนิสชาวสวีเดน ชื่อ สเตลัง เบนค์สัน เป็นผู้เปิดศักราชใหม่ให้กับชาวยุโรป โดยในปี ค.ศ.1973 (พ.ศ.2516) ทีมสวีเดนสามารถคว้าแชมป์โลกได้ จึงทำให้ชาวยุโรปมีความมั่นใจในวีธีการเล่นที่ปรับปรุง ดังนั้นนักกีฬาของยุโรปและนักกีฬาของเอเชีย จึงเป็นคู่แข่งที่สำคัญ ในขณะที่นักกีฬาในกลุ่มชาติอาหรับ และลาตินอเมริกา ก็เริ่มก้าวหน้ารวดเร็วขึ้น และมีการเปลี่ยนแปลงความรู้ทางด้านเทคนิค ทำให้การเล่นแบบตั้งรับ ซึ่งหายไปตั้งแต่ปี ค.ศ.1960 (พ.ศ.2503) เริ่มกลับมามีบทบาทอีกครั้ง
จากนั้นจึงได้เกิดการพัฒนาเทคนิคการเปลี่ยนหน้าไม้ในขณะเล่นลูก และมีการปรับปรุงหน้าไม้ซึ่งติดด้วยยางเทเบิลเทนนิส ที่มีความยาวของเม็ดยางมากกว่าปกติ โดยใช้ยางที่สามารถเปลี่ยนวิถีการหมุน และทิศทางของลูกเข้าได้ จึงนับได้ว่ากีฬาเทเบิลเทนนิสเป็นกีฬาที่แพร่หลายไปทั่วโลก โดยมีการพํฒนาอุปกรณ์ และวิธีการเล่นใหม่ๆตลอดเวลา กระทั่งกีฬาเทเบิลเทนนิสได้ถูกบรรจุเป็นการแข่งขันประเภทหนึ่งในกีฬาโอลิมปิก เมื่อปี ค.ศ.1988 (พ.ศ.2531) ซึ่งจัดขึ้นที่กรุงโซล ประเทศสาธารณรัฐเกาหลี
สำหรับประวัติกีฬาเทนเบิลเทนนิสในประเทศไทยนั้น ทราบเพียงว่า คนๆทยรู้จักคุ้นเคย และเล่นกีฬาเทเบิลเทนนิสเป็นเวลาช้านาน แต่รู้จักกันในชื่อว่า กีฬาปิงปอง โดยไม่ปรากฎหลักฐานแน่ชัดว่ามีการนำกีฬาชนิดนี้เข้ามาเล่นในประเทศไทยตั้งแต่เมื่อใด และใครผู้นำเข้ามา แต่ปรากฎว่ามีการเรียนการสอนมานานกว่า 30 ปี โดยในปี พ.ศ.2500 ประเทศไทยได้มีการจัดตั้งสมาคมเทเบิลเทนนิสสมัครเล่นแห่งประเทศไทย และมีการแข่งขันของสถาบันต่างๆ รวมทั้งมีการแข่งขันชิงแชมป์ถ้วยพระราชทานแห่งประเทศไทย ตั้งแต่นั้นเป็นต้นมา