Άνηκε και αυτός στην ηρωική εκείνη φάλαγγα του Χριστού, πού βάδισε με το σταυρό στον ώμο και σφράγισε την αφοσίωση του, με τη θυσία της ζωής του. Διακαής πόθος του Κελεστίνου ήταν, ή γρηγορότερη επικράτηση της αληθινής θρησκείας. Κήρυττε με θάρρος τα διδάγματα του Ευαγγελίου και καλούσε τους άπιστους να δεχτούν από αυτά το φως, και να σώσουν έτσι τις ψυχές τους. Καταγγέλθηκε σαν υβριστής και ανατροπέας της ειδωλολατρίας. Και επειδή δεν μπόρεσαν να του αλλάξουν φρόνημα, τον σκότωσαν, αφού τον μαστίγωσαν άγρια και διαπέρασαν τις πτέρνες του με πυρακτωμένο σίδερο.