Все четверо участников группы начинали свою музыкальную карьеру поодиночке, являясь участниками различных андерграундных хардкор-групп Чикаго. Эти четверо наследников традиций американского поп-панка, объединившись в 2001 году, сыграли уже несколько концертов, но все никак не могли придумать подходящее название. На одном из концертов в колледже музыканты спросили у своих слушателей, как лучше назвать группу. Кто-то из зала крикнул: «Fall Out Boy!» Группе это название понравилось, хотя никто из них тогда понятия не имел, откуда оно взялось.
Их дебютный альбом Take This to Your Grave (2003) стал андеграундным успехом и помог группе завоевать преданную фан-базу благодаря интенсивным гастролям.