Jeden z najbardziej rozpoznawalnych duetów w swoim najsłynniejszym utworze. Początkowo zarejestrowany w wersji akustycznej nie stał się spodziewaną lokomotywą sprzedaży debiutanckiego albumu Simon & Garfunkel, ale rosnąca popularność utworu skłoniła Toma Wilsona, producenta utworu, do wykonania remiksu, z dograniem instrumentów elektrycznych i perkusji. Ta zremiksowana wersja została wydana jako singiel we wrześniu 1965 roku.
Nowa wersja „The Sound of Silence” ukazała się we wrześniu 1965 roku i od razu stała się hitem, docierając aż do pierwszego miejsca na listach Billboard Hot 100 i Cash Box Top 100, odnosząc ogromny sukces w krajach na całym świecie.
Co ciekawe, Paul Simon i Art Garfunkel nie zostali zapytani ani poinformowani o metamorfozie utworu dokonanej przez Wilsona. W rzeczywistości Paul Simon występował solo w małym klubie w Danii, gdy dostał egzemplarz magazynu Billboard i zobaczył, że jego piosenka pnie się po listach przebojów. Kilka dni później otrzymał egzemplarz singla pocztą i podobno nie spodobało mu się to, co usłyszał.
Remiks osiągnął jednak pierwsze miejsce na liście Billboard Hot 100 w tygodniu kończącym się 1 stycznia 1966 roku, co skłoniło duet do ponownego zjednoczenia i szybkiego nagrania drugiego albumu, który Columbia zatytułowała „Sounds of Silence”, próbując wykorzystać sukces utworu. Zremiksowana wersja singlowa utworu znalazła się na tym albumie.
Utwór „The Sound of Silence” został wybrany przez reżysera Mike’a Nicholsa do filmu „Absolwent” z 1967 roku, wraz z kilkoma innymi utworami Simona i Garfunkela. Później utwór trafił do Galerii Sław Grammy.