Albrecht wuchs in Essen auf, wo seine Eltern ein Lebensmittelgeschäft betrieben, in dem er den Beruf des Einzelhandelskaufmanns erlernte. Er war davon überzeugt, dass auch Kunden mit begrenzten Einkommen die Möglichkeit haben sollten, gute Lebensmittel zu essen und zu trinken. Dies zu ermöglichen, sah Albrecht als seine Lebensaufgabe an.
Nach Wegfall der kriegs- und besatzungsbedingten Beschränkungen erweiterten Karl und Theo Albrecht das elterliche Einzelgeschäft ab 1948 zu einem Filialbetrieb von mehr als dreihundert Läden, die zum großen Teil in Bedienung geführt wurden und sich über Nordrhein-Westfalen erstreckten. Nach 1961 wurden die Bedienungsgeschäfte vollständig durch „Aldi“-Läden ersetzt (Albrecht-Diskont). Diese boten in Selbstbedienung ein sehr begrenztes Sortiment an, das sich einfach handhaben und schnell verkaufen ließ. Die Kostenvorteile, die dieses Konzept gegenüber den Vollsortimentern aufwies, wurden in Form niedriger Preise an die Kunden weitergegeben. Seit den 60er Jahren expandierte die Gruppe auch international. Heute ist sie in vielen Ländern auf drei Kontinenten tätig und erzielt den größeren Umsatzanteil außerhalb Deutschlands.
Karl Albrecht blieb dem Unternehmen bis zu seinem 75. Lebensjahr in verantwortlicher Stellung verbunden. Er begleitete noch bis wenige Tage vor seinem Tod die Unternehmensgeschicke aufmerksam und wohlwollend. Er war ein Mann, der keine öffentliche Aufmerksamkeit wollte und lebte zurückgezogen. Er lehnte die ihm angetragenen Ehrungen stets mit dem Hinweis auf die Verdienste aller Mitarbeiter ab.
1973 gründete Karl Albrecht die Familienstiftung, die die Unternehmensgruppe Aldi Süd verwaltet und die Fortführung seines Lebenswerks gewährleistet.
