Im September 1975 nahm Pere Ubu ihre erste Single 30 Seconds Over Tokyo auf. Anfang 1976 folgte die Single Final Solution. In Ermangelung eigener Kompositionen spielte die Band bei Live Auftritten zunächst viele Coverversionen, darunter Lieder von den MC5, The Stooges oder The Velvet Underground. Den Single-Veröffentlichungen folgten Auftritte im Max’s Kansas City Club in New York und einigen Clubs in Cleveland. Nach einigen Umbesetzungen in der Band kam es Mitte 1976 zur Veröffentlichung der dritten Single Street Waves. Im Februar 1978 erschien das erste Album The Modern Dance. Nach einer Tournee durch die USA und Europa erschien im gleichen Jahr noch das Album Dub Housing. Auch im darauf folgendem Jahr tourte die Band. In Europa sollte die Band zusammen mit Nico und The Red Crayola touren. Nachdem 1979 das dritte Album New Picnic Time veröffentlicht war, und die Band in San Diego einen Auftritt vor nur fünf Zuhörern hatte, verließ der Gitarrist Tom Herman die Band und wurde durch Mayo Thompson von The Red Crayola ersetzt. Im Grunde war The Red Crayola mehr ein Projekt um Mayo Thompson, mit ständig wechselnden Mitgliedern, so dass die nächste Veröffentlichung, an der Pere Ubu komplett beteiligt war, das Album Soldier Talk unter dem Bandnamen The Red Crayola war.

Pere Ubu veröffentlichte noch zwei weitere Alben, die von Kritikern hoch gelobt wurden. Doch innerhalb der Band gab es zunehmend Spannungen. David Thomas versuchte sich seit 1982 in verschiedenen Soloprojekten und veröffentlichte darin sechs Alben. Auch die Bandmitglieder Scott Krauss und Tony Maimone fanden eine neue Band namens Home & Garden. Pere Ubu schien aufgelöst, ohne dass es jemand verkündet hatte. Mit dem Album The Tenement Year erwachte die Band 1987 wieder. Für das folgende Album Cloudlands konnte man Stephen Hague als Produzenten gewinnen. Dessen Erfahrungen mit den Pet Shop Boys und New Order bescherten die eingängigsten und poppigsten Songs der Band. Es folgten weitere Studio- und Live Alben aber auch vieles aus der Frühen Phase der Band wurde wiederveröffentlicht.

In der ganzen Geschichte der Band war David Thomas als einziger vom Beginn bis heute dabei. Die weiteren Mitglieder verließen teilweise die Band, um etwas später wieder zurückzukehren. Andere wie Alan Greenblatt z. B. hatten nur ein kurzes Gastspiel. Die Soloprojekte von Thomas zwischen 1982 und 1987 sind im Prinzip die Weiterführung von Pere Ubu. Denn viele der ehemaligen Pere-Ubu-Mitglieder wirkten bei den Soloprojekten von Thomas mit. Ähnlich inkonsequent erscheint die Veröffentlichungspraktik der Band. Erschien das erste Album noch unter der Obhut des Mercury Labels, wechselte man für das zweite schon zu Chrysalis. Darauf folgte die vertragliche Verpflichtung bei Rough Trade Records, die am längsten dauerte, um dann wieder bei Fontana unter Vertrag zu stehen. Daneben gab es noch Zwischenstationen bei weiteren Labels. Aktuell ist das Glitterhouse-Label mit den Veröffentlichungen neuer Alben betraut.

Erfolge in den Charts konnte die Band nicht erreichen. Dennoch fanden ihre Veröffentlichungen immer große Beachtung.