Urodził się w żydowskiej rodzinie emigrantów z Rosji jako Walter Matthow. Od najwcześniejszego dzieciństwa poznał smak biedy i imał się najróżniejszych zajęć, by wspomóc rodzinę po odejściu ojca. Karierę filmową rozpoczął późno, w okolicach trzydziestki, i przez kilkanaście lat nie odnosił większych sukcesów. Przełom nastąpił dopiero w 1966 wraz z filmem "Fortune Cookie". Dwa lata później powstało "Odd couple". W obu tych filmach Matthau wystąpił z Jackiem Lemmonem. Szybko stali się jedną z bardziej charakterystycznych i lubianych par ekranowych. Również prywatnie byli wielkimi przyjaciółmi. Nie cierpiał, by szufladkowano go jako aktora komediowego, jednak jego poczucie humoru było wręcz legendarne. Nawet najbliżsi znajomi mieli problem z odróżnieniem, kiedy mówi serio, a kiedy żartuje. Był aktorem bardzo charakterystycznym, z uwagi na grubo ciosane rysy twarzy, kpiący uśmiech i nieco zgarbioną sylwetkę - pozostałość ran odniesionych w czasie wojny. Lubił rozkosze stołu, nie stronił od cygar i hazardu, przez co ostatecznie zrujnował sobie zdrowie, ale jak sam twierdził - wolał to, aniżeli ascetyczne, nudne życie. Zdobył Nagrodę Akademii za "Fortune Cookie" (1966) po czym był jeszcze do niej dwukrotnie nominowany, za "Kotch" (1971) i "Sunshine boys" (1975). Miał na koncie także nagrodę za całokształt zasług na polu komedii (American Comedy Awards) przyznaną w 1997 roku. Pamiętne filmy z jego udziałem to między innymi "Dwaj zgryźliwi tetrycy" (i druga część, "Jeszcze bardziej zgryźliwi tetrycy", kolejny duet z Jackiem Lemmonem), "Harfa traw", "Narzeczona dla geniusza" (gdzie w sposób przezabawny i pełen uroku wcielił się w postać Alberta Einsteina), znakomity epizod w "JFK", "Piraci" Romana Polańskiego, "Kalifornijska suita", "Kwiat kaktusa" i "Hello, Dolly!". Jack Lemmon i Walter Matthau nakręcili razem dziewięć filmów. Daty ich śmierci dzieli zaledwie rok. Walter odszedł pierwszy. Miał osiemdziesiąt lat.