Ursprünglich wurde anhand einer vorliegenden Urkunde davon ausgegangen, dass Weiler im Jahr 1206 erstmals urkundlich erwähnt wurde. Neuere Erkenntnisse lassen den Schluss zu, dass es sich hier um ein Weiler im Filstal handelt. Sicher ist, dass "unser" Weiler in einer Urkunde vom 22. Juli 1293 erwähnt wird, als Graf Eberhard von Württemberg das Kloster Lorch unter seinen Schutz nahm. Der tatsächliche "Geburtstag" von Weiler dürfte nach Ansicht der Experten wesentlich früher als die erste urkundliche Erwähnung sein.
Das älteste Gebäude in Weiler ist die Evangelische Kirche zum heiligen Kreuz, deren Geschichte mindestens bis in das Jahr 1359 zurückreicht: So ist den Büchern zu entnehmen, dass in diesem Jahr der Bischof von Konstanz anreiste, um einen Altar zu weihen. Die Kelter kann seit ihrer Erbauung im Jahr 1687 auf eine wechselvolle Geschichte zurückblicken. So war sie nicht nur Kelter, sondern beherbergte zum Beispiel auch die Feuerwehr, da der Weinbau in Weiler im Jahr 1910 eingestellt wurde.
Im Jahr 1684 erhielt Weiler eine eigene Schule, in der das Wohnzimmer des Schulmeisters zugleich das Klassenzimmer war.
1880 entstand anstelle der Ziegelhütte die Dampfziegelei G. Groß. Diese war bis 1976 der größte Arbeitgeber der Gemeinde. Seit 1952 nimmt diese Stellung die Firma Oskar Frech GmbH ein, die bis heute stets erweiterte und in Weiler 320 Personen beschäftigt.
Weiler/Rems schloss im Mai 1966 eine Partnerschaft mit der damaligen Marktgemeinde Radenthein in Kärnten, die bis heute durch regelmäßige Besuche gepflegt und belebt wird.
Zum 1. Januar 1973 wurde mit der Eingliederung der selbständigen Gemeinde Weiler/Rems in die Stadt Schorndorf die Eigenständigkeit aufgegeben.