Josef Weider a kanadai Montreálban látta meg a napvilágot több, mint 100 éve, 1919 november 29-én. Szülei Louis és Anna Weider voltak, zsidó származású bevándorlók, akik egyenesen Lengyelországból érkeztek Quebec területére. Gyökerei nyomán híres volt akcentusáról is, melyet a fia, Eric úgy írt le, mint keveréke a jiddis, kanadai és lengyel kiejtésnek.
Tinédzserként kezdett súlyemeléssel foglalkozni, s nem is akármilyen cél vezérelte: szeretett volna eredményesen kiállni az iskolai zaklatók ellen. Az első testépítő versenyén igen fiatalon vett részt, mindössze 17 éves volt.
Rá néhány évre, 1940-ben jelentette meg a „Your Physique” magazin első számát. Ebben az évben állt neki sajátkészítésű súlyzókat barkácsolni. Ilyen volt a kétkezes súlyzó is, amelyet autók alkatrészeiből épített az otthoni garázsában.
Publikált még olyan magazinokban is, mint a Muscle & Fittness és a Flex & Shape, melyek mind a testépítés népszerűsítésére voltak hivatottak.
Az 1950-es évektől számos edzéstervet készített, amelynek egyike volt a Weider System of Bodybuilding, azaz Weider Testépítő Rendszer. Felesége Betty Brosmer volt, akivel közösen dolgozott, később pedig testvérével, Ben Weiderrel megalapították a Testépítők Nemzetközi Szövetségét (International Federation of Bodybuilders, röviden IFBB).
Weider nem kisebb ember, mint Arnold Schwarzenegger edzője volt, s a kezdetekben még alig ismert, osztrák testépítőt Kaliforniába hívta, s a róla szóló cikkben láthattuk is, Joe kezei alatt milyen sikereket ért el.
Weidernek valóságos kiadói birodalma volt, mely alatt számos újság is indult, köztük elsőként a Your Physique , melyet később Muscle Buildelre neveztek át, majd 1980-tól a Muslce & Fittness névre hallgatott. További újságok közt volt a Mr. America, Muscle Power, Shape magazine, Fit Pregnancy, Men's Fitness, Living Fit, Prime Health and Fitness, Cooks, Senior Golfer, és a Flex. Publikációi között szerepel életrajzi könyve, a Brothers of Iron, melyet testvérével írt, valamint A Testépítés Bibliája, illetve a Weider Testépítő Rendszer.
Említésre méltóak még Weider táplálkozási termékei is, amelyek Weider Nutrition néven kerültek a polcokra 1936-ban. Ez azóta is az első sporttáplálkozási cégként van elismerve. Most Schiff Nutrition International néven ők alkották meg a Tiger's Milk táplálkozási szeleteket és a kapcsolódó termékeket, amely a sportételek egyik legkorábbi termékcsaládja. Jelenleg két étrendkiegészítőkkel foglalkozó cég van, amelyik a legenda nevét viseli. Weider Global Nutrition és Weider Germany GmbH.
A testépítés atyja 1972-ben szemben találta magát több legális porblémával is. Testvérével egy nyomozás célpontjává váltak a Weider Formula no 7 nevű termékükkel kapcsolatban, amely esetében azt állították, hogy naponta egy fontot hízhatnak a tömegnövelő segítségével. Később Weidernek meg kellett változtatni a marketingjét és állításait. Az ügymenet során Schwarzenegger is vallomást tett, illetve a terméken az ő fotója szerepelt.
Még ugyanebben az évben egy újabb jogi problémákba ütközött, ezúttal a Légy pusztító önvédelmi harcos 12 egyszerű leckében című kiadványával kapcsolatban. Weidert kötelezték arra is, hogy 100 000 vásárlónak térítse vissza az „ötperces alakformáló” árát, melyben azt állította, hogy napi néhány perces használat mellett jelentős fogyás érhető el. Később az előtte-utána fényképet a Legfelsőbb Bíróság hamis reklámnak minősítette 1976-ban.
Itt még mindig nem értek véget a jogi perpatvarok, ugyanis Weider az 1980-as években a Szövetségi Kereskedelmi Bizottsággal találta szemben magát, akik szintén félrevezető reklámozással vádolták a Dynamic Life Essence és Anabolic Mega-Pak nevű termékeinek esetében. Az ügy végére 1985-ben került pont, mikor abban állapodtak meg, hogy a termékek segíthetnek az izomépítésben, vagy hatékonyan helyettesíthetik az anabolikus szteroidokat. Ugyanakkor a megállapodás része volt egy minimum 400 000 dolláros visszatérítés, ám ha ez nem éri el ezt az összeget, akkor a táplálkozás és izomnövekedés kutatásának a finanszírozása lesz szükséges.
2000-ben az FTC újból nekiment Weider cégének, a Weider Nutrition Inernationalnek, hasonló panasz miatt. 400 000 dollárt kellett az FTC-nek fizetniük, valamint tartózkodniuk kellett attól, hogy megalapozatlan követeléseket tegyenek bármilyen élelmiszerre, gyógyszerre, étrend-kiegészítőre vagy programra.
Josef Weider első felesége Hedwiges "Vicky" Uzar volt, akivel egy fiuk született. 1960-ban váltak el, s később Betty Brosmert vette el, aki abban az időben a legsikeresebb pin up girl volt az Államokban.
2013 márciusában érte a halál Los Angelesben, melynek oka szívelégtelenség volt.
Joe Weider munkássága nélkül nem tartana ott a testépítés, mint most. Élete során rengeteget tett a sportágért. A fent említettek mellett még a nevéhez köthető az első Mr. Olympia megszervezése is 1965-ben, ami a mai napig az egyik legnagyobb presztízzsel bíró verseny.