Freddy Koella pratique le violon durant son enfance. Il prépare son entrée au conservatoire mais abandonne la musique classique pour s'intéresser au blues, qu'il découvre grâce aux disques de sa sœur aînée. Il quitte le domicile familial à l'âge de 18 ans et gagne sa vie comme musicien de bal dans le groupe Frank John’s avant de partir à La Nouvelle-Orléans. Il accompagne le musicien acadien Zachary Richard en tournée[2],[3].
Durant les années 1980, il fait partie du groupe Cookie Dingler, qui connaît le succès avec le titre Femme libérée[3]. Après la séparation du groupe, il s'installe aux États-Unis et joue pour Willy DeVille durant plusieurs années[2]. Freddy Koella accompagne Bob Dylan en tournée durant un an de 2003 à 2004. En studio, il joue pour des artistes comme Carla Bruni, Francis Cabrel[4], Eddy Mitchell[2], Dick Annegarn, Jacques Higelin, Albin de la Simone, Johnny Hallyday[5], Marc Lavoine; Lhasa de Sela...ainsi que Richard Gilly sur "Reves d'éléphant", en 1993, "Des années d'ordinaire", en 2002 et "Les contes de la piscine après la pluie", en 2015.
Minimal, le premier album solo de Freddy Koella paraît en 2006. Son 2e album, Undone, sorti en 2011, comprend une chanson hommage à la chanteuse Lhasa de Sela, qu'il a accompagnée en studio en 2009[4],[6],[7]
Sa participation aux créations de Francis Cabrel l'ont amené à faire partie de son groupe de musiciens, notamment sur la dernière tournée Trobador tour du chanteur[8].