Om te ontkomen aan het naderende oorlogsgeweld ontvluchtte Jos de Klerk, de vader van Albert, in 1914 zijn woonplaats Antwerpen (Merksem). Kort nadat hij zich in Haarlem had gevestigd, kon hij zijn vrouw Louise van de Velde en hun dochtertje Mia over laten komen naar Nederland. In 1915 namen ze hun intrek in het huis aan de Bakenessergracht 26, naast de familie Andriessen. Daar kwam Jozef Albert de Klerk op 4 oktober 1917 ter wereld.

Jos de Klerk werd eind 1915 dirigent van het koor van de St. Josephkerk, waar Hendrik Andriessen organist was. Toen Albert groot genoeg was, ging hij met zijn vader mee naar de Josephkerk. Vooral het orgelspel van Andriessen maakte grote indruk op de jonge Albert. De Klerk kreeg aanvankelijk pianoles van de zangeres en pianiste Adèle Drees. Op aanraden van ‘mejuffrouw Drees’ vervolgde De Klerk na een paar jaar zijn pianolessen bij Hendrik Andriessen. Daarnaast kreeg hij vioolles van Marinus Adam, de concertmeester van de Haarlemsche Orkest Vereeniging (HOV).

In juli 1934 nam Andriessen afscheid als organist van de St. Josephkerk. Al snel werd een opvolger gevonden in de persoon van Albert de Klerk. Voorwaarde was wel dat hij orgel ging studeren aan het conservatorium. De Klerk begon zijn studie bij Cornelis de Wolf. Vanwege ziekte werden de lessen tijdelijk waargenomen door Jacob Bijster. Daarna nam Anthon van der Horst de orgelklas over. De Klerk deed begin juni 1939 eindexamen aan het conservatorium. Dit eindexamen betekende nog niet het einde van De Klerks studieperiode aan het Amsterdamsch Conservatorium. De examencommissie vond dat hij nog twee jaar mocht doorstuderen voor de Prijs van Uitnemendheid.

Albert de Klerk volgde in 1946 Hendrik Andriessen op als orgeldocent aan de katholieke Kerkmuziekschool aan de Utrechtse Plompetorengracht. In 1964 nam hij afscheid van deze school, inmiddels omgedoopt tot Nederlands Instituut voor Katholieke Kerkmuziek. Het Amsterdamsch Conservatorium, het instituut waar hij zelf studeerde, had hem namelijk benoemd tot hoofdleraar orgel als opvolger van zijn oud-leraar Anthon van der Horst.

De concertpraktijk van De Klerk was zeer intensief. Hij concerteerde op alle belangrijke orgels in Nederland en ver daarbuiten. Hoogtepunt vormde de benoeming tot stadsorganist van Haarlem in 1956. De naam van De Klerk als dirigent zal vooral verbonden blijven aan het Koor Katholiek Haarlem, waarvan hij in 1946 zelf de oprichter was.

Albert de Klerk bleef zijn leven lang componeren. Hij schreef werken voor de meest uiteenlopende instrumenten en bezettingen. Veel van zijn muziek is bestemd voor de liturgische praktijk. Van zijn meer concertante werken moeten genoemd worden: Concerto voor orgelpositief en strijkorkest (1964), Concerto per organo (1967), Vier redeloze zangen (1979), Tres Meditationes Sacrae (1992/’93) en Te Deum (1997).

De Klerk bereikte in 1982 de pensioengerechtigde leeftijd. Dit betekende dat hij zijn baan aan het conservatorium en als stadsorganist van Haarlem moest beëindigen. Als dirigent van Koor Katholiek Haarlem kon hij langer aanblijven, daar nam hij pas in 1991 afscheid van. Toen restte hem alleen nog de St. Josephkerk, die hij tot aan zijn dood trouw zou blijven. Op 27 november 1998 werd De Klerk, onderweg van de Josephkerk naar huis, getroffen door een beroerte. Hij overleed op 2 december 1998. Na de uitvaartdienst in de Josephkerk werd Albert de Klerk op 7 december 1998 begraven op het St. Adelbertuskerkhof te Bloemendaal.