De band werd opgericht tijdens de lockdown door Rebecca Allan en James Lynch en maakte in 2021 hun debuut met de EP 'Yes We Do'. Een jaar later volgde het album 'Forever Giving Handshakes', dat door NME werd geprezen als een van de beste lokale punkalbums van het jaar. Met afwisselende zang, zoemende synthesizers en scherpe gitaarlijnen vindt Delivery een balans die resulteert in een rusteloze punkuitbarsting.