В 1970—1988 годах — на службе в исправительно-трудовой системе. Прошёл путь от инспектора оперативной части колонии до начальника Управления исправительно-трудовых учреждений Саратовской области.
В 1988—1992 годах — в центральном аппарате МВД СССР и МВД России.
В 1992—1997 годы — начальник Главного управления исполнения наказаний МВД России. В мае 1997 года снят с должности по подозрению в финансовых злоупотреблениях, впоследствии не подтвердившихся.
В 1997 году — заместитель руководителя департамента Министерства юстиции Российской Федерации.
Летом 1998 года Главное управление исполнения наказаний МВД России, осуществлявшее управление всей уголовно-исполнительной системой России, было передано в ведение Министерства юстиции Российской Федерации. Новым начальником управления стал Владимир Ялунин, а Калинин стал курировать работу управления в должности заместителя министра.
В ходе административной реформы в марте 2004 года ГУИН было выделено из министерства юстиции в самостоятельный федеральный орган исполнительной власти — Федеральную службу исполнения наказаний (ФСИН России). Фактически преобразование началось только в декабре 2004 года, тогда же руководителем новой службы вновь был назначен Калинин.
В ноябре 2006 года заявил о своей отставке, однако последствий это заявление не имело — Калинин оставался в должности ещё почти три года, до августа 2009.
В 2009—2010 гг. — заместитель министра юстиции Российской Федерации.
В 2010—2012 гг. — представитель в Совете Федерации Федерального Собрания Российской Федерации от Законодательного Собрания Пензенской области. Член (апрель — июль 2010) и заместитель председателя (июнь 2010 — январь 2011) Комитета Совета Федерации по правовым и судебным вопросам, Член Комитета Совета Федерации по бюджету и финансовым рынкам (ноябрь 2011 — октябрь 2012).
В декабре 2012 г. назначен вице-президентом ОАО «НК «Роснефть», в марте 2013 г. — вице-президентом по кадровым и социальным вопросам ОАО «НК «Роснефть». С февраля 2013 г. — член Правления. С октября 2014 г. — заместитель Председателя Правления ОАО «НК «Роснефть».
Имеет государственные и ведомственные награды:
• Орден «За заслуги перед Отечеством» II степени,
• Орден «За заслуги перед Отечеством» III степени,
• Орден «За заслуги перед Отечеством» IV степени,
• два ордена Мужества,
• Орден Трудового Красного Знамени,
• Медаль «Ветеран труда»,
• Заслуженный юрист Российской Федерации,
• Орден Ивана Калиты, другие государственные и ведомственные награды.
