Родился в семье мелких шляхтичей (отец — земельный агент) отдалённо немецкого происхождения. Собираясь стать инженером, окончил реальное училище в Варшаве, потом политехнический институт в Риге. Однако сразу по его окончании был призван в русскую армию (1913), и по окончании офицерской кавалерийской школы, уже после начала Первой мировой войны, в чине поручика направлен в 3-й драгунский полк. В боях проявил большую храбрость и способности, вскоре уже командовал эскадроном, имел три ранения (всего в своей жизни он был ранен 8 раз), несколько боевых орденов (в том числе Св. Георгия). Как отличившийся офицер, был направлен в Академию Генерального Штаба в Петрограде, где прошел ускоренный курс; её он окончил буквально накануне революции (в середине февраля 1917), получив диплом из рук Николая II и чин капитана генерального штаба.

Февральскую революцию Андерс, по собственным словам, встретил, как и все поляки, «с энтузиазмом». Вскоре он был направлен в формировавшийся Временным правительством национальный польский корпус (1-й Польский корпус генерал-майора Юзефа Довбор-Мусницкого) и вступает в 1-й Креховецкий уланский полк; момент, когда он приколол к своей форме польского орла, был, по его словам, одним из самых счастливых в его жизни. Осенью Андерс назначается начальником штаба 7-й Польской стрелковой дивизии; на этом посту застает его большевистский переворот. 12 января 1918 г. Довбор-Мусницкий объявляет войну большевистскому правительству; на следующий день части Андерса берут Рогачев. Однако 31 января дивизия была выбита из Рогачева красногвардейцами, отошла к Бобруйску и там после Брест-Литовского мира сдалась немцам и была расформирована. Андерс вместе с Довбор-Мусницким возвращается в Польшу.

После Ноябрьской революции в Германии, Довбор-Мусницкий становится главой сформированной в Познани повстанческой Великопольской армии, а Андерса, уже в чине подполковника, назначает своим начальником штаба. В этом качестве Андерс ведет бои с немцами до самого вхождения Познанщины в состав Польши (16 февраля 1919). С апреля того же года, в качестве командира сформированного им 15-го Уланского полка, принимает участие в боях с Красной Армией. После заключения Рижского мира между Польшей и РСФСР (1920) получает высшее военное образование в Париже («Высшая Военная Школа») и Варшаве, с ноября 1925 в звании полковника — военный комендант Варшавы. Во время мятежа Пилсудского 12 мая 1926 г. Андерс сохраняет верность демократическому правительству и руководит военным отпором путчистам, что после установления режима «санации» самым неблагоприятным образом сказывается на его карьере: вплоть до Второй мировой войны он находится в должности командира кавалерийской бригады, Волынской (с 1928), затем Новогрудовской (с 1937). Во главе этой последней вступает в войну.

Вскоре после начала войны бригада Андерса сливается с остатками двух польских дивизий в оперативную кавалерийскую группу «Андерс», а сам Андерс, получивший уже звание генерала, сражается во главе ее в районе Плоцка и к юго-востоку от Варшавы, а после поражения поляков под Варшавой отходит к Львову; 22 сентября успешно атаковал наступавших немцев; 24 сентября, собрав вокруг себя остатки разбитых польских войск, попытался прорваться через немецкое и советские окружение в Венгрию, надеясь затем перебраться во Францию и продолжать борьбу. Однако 29 сентября, тяжело раненый в бою с частями РККА, попадает в советский плен. Андерс содержался в военном госпитале во Львове, затем во внутренней тюрьме НКВД на Лубянке вплоть до августа 1941, когда были установлены союзнические отношения между СССР и польским эмигрантским правительством.

4 августа 1941 г. Андерс был доставлен в кабинет Берии, где последний лично сообщил ему, что он свободен и что он назначен лондонским правительством командующим польской армией в СССР (с производством в чин дивизионного генерала). Армия должны была быть сформирована, частью по призыву, частью на добровольной основе из граждан Польши в СССР (главным образом это были выпущенные из тюрем и лагерей пленные и репрессированные). На назначение ее командующим Андерса повлияли несколько моментов: то, что он имел опыт командования войсковой группой; его политическое лицо, то есть непричастность к клике Пилсудского; наконец, хорошее знание русского языка и репутация специалиста по России. Однако Андерс, крайне негативно относясь к советскому режиму, категорически не желал сражаться под знаменами Сталина, в котором видел палача и тюремщика поляков и который, как он полагал, воспользуется любым удобным случаем, чтобы поработить Польшу; поэтому он имел в виду, вызволив из-под власти Сталина как можно больше поляков, увести их из СССР на Запад.

Глава польского правительства генерал Сикорский, более лояльно настроенный к союзнику и стремившийся иметь польские войска на всех фронтах, противился этим планам; но Андерс через голову Сикорского, с помощью Черчилля, сумел добиться их осуществления. Официально (перед Сталиным) выдвигались утверждения, что поляков следует перевести в Иран из-за более теплого климата и лучших возможностей для снабжения (англичанами); Андерс утверждал, что после того, как армия будет сформирована и обучена, она вернется в СССР — Сталин этому, разумеется, не верил. Эвакуация «армии Андерса» в Иран проходила весной-летом 1942 года и была завершена к 1 сентября; к тому моменту (с 12 августа) эта армия получила официальное название «Польской Армии на Востоке» и состояла из 3, 5, 6, и 7-й пехотных дивизий, танковой бригады и 12-го уланского полка. (Андерс лично командовал 5-й дивизией, считавшейся самой боеспособной в армии). 21 июля 1943 г. «Польская армия на Востоке» преобразована во «2-й Польский корпус» в составе британской армии. Корпус насчитывал около 50 тыс. человек и состоял из: 3-й Карпатской пехотной дивизии (2 стрелковые бригады и уланский полк); 5-й Кресовой пехотной дивизии (2 пехотные бригады и уланский полк); 2-й Польской Бронетанковой бригады (2 бронетанковых и уланский полк), II Артиллерийского корпуса (3 артиллерийских, 1 противотанковый и 2 противовоздушных полка), а также отдельного уланского полка, десантно-диверсионной роты и различных мелких подразделений.

Дислоцировались поляки Андерса сначала в Ираке, потом в Палестине и Египте, а с декабря по апрель 1944 были переброшены в Италию, где тотчас отличились при прорыве так называемой «Линии Густава» (прикрывавшей Рим с юга), после многодневных кровопролитных боев взяв 18 мая ключевой пункт немецких укреплений — монастырь Монте-Кассино. После этого 2-й Польский корпус был переброшен на Адриатический фронт и принимал участие в боях под Анконой; он закончил свой боевой путь в апреле 1945 г. взятием Болоньи. Героические бои под Монте-Кассино сделали Андерса наиболее популярным изо всех польских генералов. С февраля 1945 г. Андерс — исполняющий обязанности главнокомандующего польскими силами на Западе (до 5 мая, когда из плена был освобождён командующий Армией Крайовой генерал Бур-Комаровский).

По окончании войны, Андерс последовательно занимал позицию, враждебную коммунистическому режиму в Польше. Добился отмены планировавшейся британским правительством принудительной репатриации его солдат; в 1946 коммунистическое правительство лишило его польского гражданства. С 1954 — член (наряду с Буром-Коморовским и Эдуардом Рачиньским) и фактический лидер «Совета трёх», руководящего органа польской эмиграции. Согласно завещанию, похоронен в Монте-Кассино, рядом со своими павшими солдатами.