Ο coach Ρουμελιώτης ξεκίνησε την προπονητική του καριέρα του στα τοπικά πρωταθλήματα της Αθήνας με την Ακαδημία 89, με την οποία σε δυο χρόνια κέρδισε ισάριθμες ανόδους από την Γ ́ σε Α ́ ΕΣΚΑΝΑ.
Κατόπιν εργάστηκε σαν προπονητής στις Εσπερίδες, με τις οποίες πέτυχε την άνοδο από την Α' 2 στην Α' 1 Γυναικών (συνολικά έχει πετύχει πάνω από 10 ανόδους με τις ομάδες του), ενώ εργάστηκε επίσης στην Ακαδημία Ηλιούπολης, τον Πανιώνιο κλπ.
Στην συνέχεια ανέλαβε υπεύθυνος υποδομών στον Πανελλήνιο, τη χρονιά που η ανδρική ομάδα αγωνιζόταν στην Α' 1 με προπονητή τον Μάνο Μανουσέλη.
Η συνεργασία του με τον Μ. Μανουσέλη συνεχίστηκε στον Γ.Σ. Περιστερίου ως assistant coach, με την ανδρική ομάδα να κατακτά το πρωτάθλημα και την άνοδο στην Α2 κατηγορία.
Ακολούθως ανέλαβε ως πρώτος προπονητής την ομάδα του Α.Ο. Αιγάλεω στην Β' Εθνική καθώς και τον Πολυκράτη Σάμου στην Γ' εθνική, με τον οποίο πέτυχε την παραμονή σε έναν από τους δυσκολότερους ομίλους.
Τη χρονιά 2014-2015 ανέλαβε τη θέση του τεχνικού διευθυντή στο αναπτυξιακό πρόγραμμα του Απόλλωνα Πάτρας, έχοντας μεταξύ άλλων, την ευθύνη της ατομικής βελτίωσης ταλαντούχων αθλητών που στελεχώνουν τις μικρές εθνικές ομάδες. Την ίδια χρονιά η εφηβική ομάδα του Απόλλωνα Πάτρας κατέκτησε την 4η θέση στους τελικούς του Πανελλήνιου πρωταθλήματος.
Την αγωνιστική περίοδο 2015-16 εργάστηκε πάλι στην ανδρική ομάδα του Α.Ο. Αιγάλεω και κατάφερε αναλαμβάνοντάς την σε δυσχερή βαθμολογική θέση στα τέλη του 2015, να πετύχει την παραμονή της στην Α' Ε.Σ.Κ.Α.
Την season 2016 - 17 ανέλαβε την ομάδα του Α.Σ. Καρδίτσας στην Β' εθνική και πανηγύρισε την άνοδο στην Α' 2 εθνική κατηγορία ανδρών!
Ακολούθησαν το Κορωπί, ο Κρόνος, η Κόρινθος (άνοδος Β' Εθνική) και ο Πράμνος Ικαρίας!
Κώστα καλώς ήρθες στην ομάδα μας! Σου ευχόμαστε υγεία και πολλές επιτυχίες!!!