Ο Πεδουλάκης ξεκίνησε την καριέρα του το 1977 φορώντας τα χρώματα του Γ.Σ. Περιστερίου. Ήταν ένας από τους παίκτες που αγωνίστηκαν στο σύλλογο κατά την πρώτη του παρουσία στην Α' Εθνική Κατηγορία το 1983-84, ενώ συμμετείχε και δύο χρονιές στο πρωτάθλημα της Α1 Εθνικής (1993 έως 1995) κατά τη δεύτερη παρουσία του στο σύλλογο.[2]
Το 1986 έλαβε μεταγραφή στην ομάδα του Παναθηναϊκού, έχοντας την ατυχία να αποτελέσει κομμάτι του συλλόγου κατά τη διάρκεια της αγωνιστικής του παρακμής, κατά τη διάρκεια της οποίας δεν κατάφερε να κατακτήσει τίτλο. Ο παίκτης ήταν ωστόσο από τους στυλοβάτες της ομάδας. Αποτέλεσε δε την πρώτη παραχώρηση παίκτη για τον Γ.Σ. Περιστερίου και παράλληλα ο πρώτος αθλητής του που χρίστηκε διεθνής.[2]
Το 1993 επέστρεψε στο Περιστέρι, με το οποίο κατέκτησε την πέμπτη θέση στο πρωτάθλημα και την έξοδο στο Κύπελλο Κόρατς.[2] Η θητεία του ως παίκτη ολοκληρώθηκε το 1995 σε ηλικία 31 ετών.
Έχοντας ήδη πείρα προπονητή στον πάγκο της Άμιλλας Περιστερίου το 1995 χρίστηκε βοηθός του Ντράγκαν Σάκοτα στο Περιστέρι, τον οποίο και διαδέχθηκε ως πρώτος προπονητής το 1997.[2] Το Περιστέρι γνώρισε ημέρες δόξας με τον Πεδουλάκη στο τιμόνι. Τη σαιζόν 2000-2001 καταλαμβάνει την πρώτη θέση στην κανονική διάρκεια του πρωταθλήματος. Την ίδια χρονιά συμμετέχει στην Ευρωλίγκα. Στην κανονική διάρκεια καταλαμβάνει τη δεύτερη θέση πίσω από τη Φορτιτούντο Μπολόνια των Βράνκοβιτς, Μάιερ, Μπαζίλε, Φούτσκα, Μενεγκίν, Γκαλάντα, την οποία κέρδισε εντός έδρας με 83-70. Στα πλει οφ το Περιστέρι αντιμετώπισε την Ταουγκρές. Οι ''πρίγκιπες της Δυτικής όχθης'' αποκλείστηκαν με 2-0 (79-81, 81-68), όμως ο προπονητής της Ταού Ντούσκο Ιβάνοβιτς δήλωσε πως το Περιστέρι είναι σπουδαία ομάδα.
Την σαιζόν 2001-2002 το Περιστέρι συμμετείχε ξανά στην Ευρωλίγκα και έκανε ένα σπουδαίο διπλό επί της μετέπειτα πρωταθλήτρια Μπαρτσελόνα των Μποντιρόγκα, Γιασικεβίτσιους, Ναβάρο, Καρνισόβας, Ρεντζιά, Οικονόμου, Ντε Λα Φουέντε με 73-77. Η σαιζόν 2002-2003 ήταν αρκετά καλή για το Περιστέρι. Κατέλαβε την τέταρτη θέση της κανονικής περιόδου. Στα πλέι οφ αποκλείστηκε στον ημιτελικό από τον Παναθηναϊκό με 2-1 (82-85, 71-69, 78-71) έπειτα από μια συγκλονιστική σειρά αγώνων. Στους μικρούς τελικούς το Περιστέρι κατέλαβε την τρίτη θέση νικώντας 3-1 τον Ολυμπιακό. Ο Πεδουλάκης αναδείχθηκε κορυφαίος Έλληνας προπονητής το 2001 και το 2003.[2]
Τη σαιζόν 2003-2004 το Περιστέρι κατέλαβε την έβδομη θέση στην Α1, όμως προκρίθηκε στο F4 κυπέλλου που έγινε στη Λαμία.[2] Το Περιστέρι αντιμετώπιζε σοβαρά οικονομικά προβλήματα και το καλοκαίρι του 2004 δήλωσε αδυναμία συμμετοχής στην Α1. Στα χρόνια του στο Περιστέρι ο Πεδουλάκης χρησιμοποίησε ξένους παίκτες που έγραψαν τη δική τους ιστορία στο Ευρωπαϊκό μπάσκετ όπως ο Πιτ Μάικλ, ο Αλφόνσο Φόρντ, ο Μπάιρονς Ντίνκινς, ο Μίλαν Γκούροβιτς, ο Μάρκο Γιάριτς ο Άνταμ Βόιτσιχ, ο Αλεξέι Ζεβροσένκο, ο Αντρέ Χάτσον και ο Λάρυ Στιούαρτ. Παράλληλα έδωσε την ευκαιρία σε αρκετούς Έλληνες να αγωνιστούν στην Α1 όπως ο Κώστας Τσαρτσαρής, ο Μιχάλης Πελεκάνος, ο Μανώλης Παπαμακάριος και ο Αλέξης Παπαδάτος.
Το 2004 ανέλαβε το Μακεδονικό Νεάπολης συμμετέχοντας στον τελικό του ULEB Cup παρά τα μεγάλα οικονομικά προβλήματα που αντιμετώπιζε η ομάδα της Κοζάνης. Τον Οκτώβριο του 2005 κάθισε στον πάγκο του Πανελληνίου. Έχτισε μια πολλή καλή ομάδα με παίκτες όπως ο Μουλαομέροβιτς, ο Τσαλδάρης, ο Μπούμτζε-Μπούμτζε, ο Πέιτζ και ο Νάτσφεϊ. Η ομάδα πραγματοποίησε 14 νίκες και 12 ήττες. Κατέλαβε την 5η θέση που ήταν η καλύτερη για τον Πανελλήνιο από το 1978. Ο Πανελλήνιος αποφάσισε να μην συμμετάσχει στην Ευρώπη. Ο Πεδουλάκης παραιτήθηκε τον Οκτώβρη του 2006 έπειτα από διαφωνία που είχε με τη διοίκηση.
Στα μέσα της σαιζόν 2007-2008 ο Πεδουλάκης ανέλαβε το Ρέθυμνο. Ο ΑΓΟΡ θα κάνει έναν καλό δεύτερο γύρο με 7 νίκες-6 ήττες όμως τελικά θα υποβιβαστεί στην τριπλή ισοβαθμία με Κολοσσό Ρόδου και ΠΑΟΚ, παρά την μεγάλη νίκη της προτελευταίας αγωνιστική μέσα στην Πυλαία (62-89), καθώς η εντός έδρας ήττα με 85-86 από τον Κολοσσό ήταν μοιραία. Ο Πεδουλάκης αρνήθηκε την πρόταση του ΑΓΟΡ για ανανέωση της συνεργασίας τους.
Το καλοκαίρι του 2008 μετακινήθηκε στον ΠΑΟΚ του Δημήτρη Δρόσου[2] . Τελικά έφυγε τον Νοέμβριο έπειτα από παλινωδίες της τότε διοίκησης και κάποια συνθήματα που έγραψαν οι οπαδοί της ομάδας λόγω του πράσινου παρελθόντος του.
Την περίοδο 2009-10 κάθισε για λίγο στον πάγκο της ΑΕΚ[4] . Οι οπαδοί της ομάδας δεν είδαν με καλό μάτι την πρόσληψη ενός Παναθηναϊκού στον πάγκο και στην πρώτη προπόνηση δέχθηκε επίθεση από 15-20 άτομα. Το κλίμα ήταν τεταμένο, οι παίκτες έβγαλαν ανακοίνωση με την οποία στήριζαν τον προπονητή τους, όμως τελικά ο ίδιος παραιτήθηκε στις 25 Ιανουαρίου έπειτα από αποδοκιμασίες εις βάρος του.
Το καλοκαίρι του 2010 επέστρεψε στην ομάδα που τον ανέδειξε, το Περιστέρι.[5] Στόχος του ήταν να βάλει μπροστά την παραγωγική διαδικασία της ομάδας. Το Περιστέρι είχε οικονομικά προβλήματα και για αυτό ξεκίνησε τη χρονιά με το μικρότερο μπάτζετ της κατηγορία. Ο Πεδουλάκης έστησε μία καλοδουλεμένη ομάδα. Πρώτος σκόρερ ήταν ο Σκοτ, με τον Παπανικολάου να ακολουθεί. Σημαντικό ρόλο είχαν και οι Λιούμπι, Βρκιτς, Κινγκ, Πέτρουλας, Τσιάκος, Ψαρόπουλος, Μοτσνικ. Βασικός γκαρντ ο 20χρονος Περιστεριώτης Βαγγέλης Μάντζαρης. Το ‘’στοίχημα που έπρεπε να βγει με κάθε κόστος’’ όπως είχε δηλώσει ο Πεδουλάκης. Άλλωστε όλες οι σπουδαίες ομάδες του Περιστερίου είχαν βάση τα παιδιά των ακαδημιών…Το Περιστέρι παίρνει την 7η θέση και αποκλείεται στα play off από τον Παναθηναϊκό με σκορ 88-60 και 74-72.
Η επόμενη σαιζόν (2011-2012) είναι ακόμη πιο δύσκολη. Τα χρέη πάρα πολλά λόγω των παλιών ατασθαλιών. Τελικά η ομάδα θα μείνει κατηγορία. Ο Γιώργος Παπαγιάννης και ο Διονύσης Σκουλίδας σε ηλικία 15 ετών, κάνουν ντεμπούτο στην Α1, ενώ πρώτος σκόρερ αναδεικνύεται ο Χάρης Γιαννόπουλος.
Τον Ιούλιο 2012 υπέγραψε διετές συμβόλαιο συνεργασίας με τον Παναθηναϊκό ως προπονητής, στη θέση του Ζέλιμιρ Ομπράντοβιτς, φτιάχνοντας μια ομάδα από την αρχή με μόνη βάση τους Διαμαντίδη,Τσαρτσαρή. Αμέσως μετά την πρόσληψή του δήλωσε:'' Ξέρω ότι έρχομαι στην πιο επιτυχημένη ομάδα στην ιστορία του ελληνικού αθλητισμού κι αυτό συνέβη διότι υπήρξαν ο Παύλος και ο Θανάσης Γιαννακόπουλος, οι οποίοι με πάθος και γαλαντομία στήριξαν αυτή την ομάδα πάνω από 25 χρόνια. Το έχω βιώσει, το έχω προλάβει ως αθλητής του Παναθηναϊκού. Από την άλλη υπήρχε και η παρουσία του Ζέλικο Ομπράντοβιτς του καλύτερου και πιο επιτυχημένου προπονητή της Ευρώπης. Τώρα υπό διαφορετικές συνθήκες, τις οποίες όλοι βιώνουμε στην καθημερινότητά μας, με το μπάσκετ που είναι μέρος της κοινωνίας να μην αποτελεί εξαίρεση, καλούμαστε μέσα από τεχνογνωσία και σκληρή δουλειά να παραμείνουμε και θα παραμείνουμε ανταγωνιστικοί σε όλες τις διοργανώσεις. Εγγύηση γι’ αυτό και την εύρυθμη λειτουργία του τμήματος είναι η συνέχεια της οικογένειας με την παρουσία του Δημήτρη Γιαννακόπουλου. Ξέρουμε ότι δεν έχουμε πίστωση χρόνου, γιατί ο Παναθηναϊκός είναι πολύ μεγάλη ομάδα, αλλά επειδή θα είναι όλα καινούρια, ζητάμε να μας κρίνουν όλοι και αυστηρά στο τέλος της χρονιάς. Το μόνο που δεν αλλάζει από τα προηγούμενα χρόνια είναι ο κόσμος του, χωρίς την παρουσία του οποίου δεν μπορούμε να κάνουμε τίποτα, ενώ μ’ αυτόν μπορούμε ένα κάνουμε πολλά. Γι’ αυτό και ζητάμε τη στήριξή του». Με τον Παναθηναϊκό κατέκτησε δύο Κύπελλα Ελλάδας, κόντρα στον Ολυμπιακό το 2013 και κόντρα στον Άρη το 2014 [6][7] και ένα Πρωτάθλημα Ελλάδας (2013) κόντρα στον Ολυμπιακό με 3-0.[8] Στην Ευρωλίγκα οδήγησε τον Παναθηναϊκό μέχρι τα προημιτελικά, όπου και αποκλείστηκε δύσκολα από την Μπαρτσελόνα με 3-2. Το 2013 αναδείχτηκε προπονητής της χρονιάς για τρίτη φορά στην καριέρα του.[9] Έλυσε τη συνεργασία του με τον Παναθηναϊκό στις 8 Μαρτίου 2014, μετά την εντός έδρας ήττα, από την Σάσκι Μπασκόνια για την Ευρωλίγκα.[10] Σε εκείνη την ομάδα βρήκε παίκτες όπως ο Λάσμε, ο Γκιστ και ο Ματσιούλις.
Τον Ιούνιο του 2014 υπέγραψε μονοετές συμβόλαιο συνεργασίας με τη Ρώσικη Ούνικς Καζάν,[11] από την οποία αποχώρησε το Νοέμβριο, λόγω αρνητικών αποτελεσμάτων.[12]
Στις 20 Απριλίου του 2016 ανακοινώθηκε η επιστροφή του στον Παναθηναϊκό στη θέση του Αλεξάντερ Τζόρτζεβιτς.[13] Την 1η Ιουνίου ανανέωσε το συμβόλαιο του με την ομάδα έως και τις 16 Οκτωβρίου όταν δήλωσε την παραίτηση του έπειτα από διαφωνία με τον Δημήτρη Γιαννακόπουλο.[14]
Στις 11 Ιουνίου 2018, ανέλαβε για τρίτη φορά ως προπονητής τον πάγκο του Γ.Σ. Περιστερίου.[15] Με το νεοφώτιστο Περιστέρι είχε μια πολύ καλή χρονιά, τερματίζοντας στην δεύτερη θέση της κανονικής περιόδου στο πρωτάθλημα Ελλάδας.
Την 1η Ιουνίου 2019, τιμήθηκε από τον Παναθηναϊκό ως ένα από τα σημαντικότερα πρόσωπα στην ιστορία της ομάδας που συμπλήρωσε το 2019, 100 χρόνια μπασκετικής ιστορίας. Με τον Παναθηναϊκό αγωνίστηκε έξι χρόνια, ενώ υπήρξε προπονητής της ομάδας σε δύο διαφορετικές περιόδους.[16]
Στις 24 Ιουνίου 2019, έπειτα από την οριστική άρνηση του Ρικ Πιτίνο να ανανεώσει το συμβόλαιό με την ομάδα του Παναθηναϊκού, ο Αργύρης Πεδουλάκης επέστρεψε στον Παναθηναϊκό για μια τρίτη θητεία στον πάγκο των "πράσινων", υπογράφοντας διετές συμβόλαιο.[17] Στις 29 Σεπτεμβρίου 2019, έγινε ο έκτος πολυνίκης προπονητής του ελληνικού πρωταθλήματος με 251 νίκες σε 457 παιχνίδια.[18] Επίσης στις 3 Νοεμβρίου 2019, ο Έλληνας τεχνικός κοουτσάροντας τους “πράσινους” για 73η φορά σε ματς πρωταθλήματος, έγινε ο 3ος της λίστας με τα περισσότερα παιχνίδια, πίσω από τον Ζέλιμιρ Ομπράντοβιτς (447) και τον Τσάβι Πασκουάλ (76).[19] Στις 15 Νοεμβρίου 2019, απομακρύνθηκε από τον πάγκο του Παναθηναϊκού, μετά τις άσχημες εμφανίσεις σε Ευρωλίγκα και τον αποκλεισμό από το Κύπελλο Ελλάδας.[20][21]
Στις 11 Νοεμβρίου 2020, ανακοινώθηκε η επιστροφή του στον πάγκο του Περιστερίου για τρίτη φορά στην καριέρα του.[22] Στις 7 Φεβρουαρίου 2021, αποτέλεσε παρελθόν από τον πάγκο της ομάδας.[23]
