Осип Манделщам е роден на 15 януари 1891 г. във Варшава. През 1897 година семейството се премества в Петербург, а през 1908 - 1909 г. той посещава лекции в Сорбоната и Хайделбергския университет. Започва да печата стихове от 1910 г., като се придържа към популярната тогава в Русия поетика на символизма, но в края на 1912 година се присъединява към