Piosenka opowiada o nocnym życiu w barze, w którym pianistą jest sam Billy Joel. Tekst skupia się na zwykłych ludziach – barmanie, bartenderce, ludziach z problemami, którzy szukają w muzyce choćby chwilowej ulgi od codziennych trosk. Dzięki temu utwór stał się uniwersalnym hymnem dla wszystkich, którzy czasem czują się zagubieni lub szukają pocieszenia w muzyce.
Melodia i aranżacja „Piano Man” łączą elementy folk rocka z bluesowymi wpływami, a charakterystyczna harmonijka i klawisze wprowadzają słuchacza w atmosferę małego, przytulnego baru, pełnego cieni i marzeń. To właśnie ten balans między melancholią a melodyjnością sprawia, że utwór jest tak rozpoznawalny i ponadczasowy.
Billy Joel wielokrotnie podkreślał, że „Piano Man” był w dużej mierze autobiograficzny. Jak mówił w jednym z wywiadów:
„Napisałem ją o moich doświadczeniach z grą na pianinie w barach w Los Angeles. Widziałem wszystkich tych ludzi z ich życiem, marzeniami i rozczarowaniami i chciałem opowiedzieć ich historie poprzez moje piosenki”. — Billy Joel
Choć „Piano Man” początkowo nie osiągnął spektakularnego sukcesu komercyjnego, z czasem stał się ikoną i sygnaturą kariery Joela. Dziś jest uważany za jego najbardziej charakterystyczny utwór, który opowiada nie tylko o samotności w barze, lecz także o marzeniach, tęsknotach i uniwersalnych emocjach, które łączą wszystkich ludzi przy muzyce.