Подробными сведениями о его работе прокуратура Саратовской области не располагает. Известно то, что государственный советник юстиции 2-го класса К.Я. Румянцев до ноября 1950 года работал прокурором Казахской ССР. Участник Великой Отечественной войны, инвалид, имел государственные награды, но из-за скромности их не носил. Имел протез левой ноги, ходил с тростью.
На должность прокурора Саратовской области назначен приказом Генерального прокурора СССР 15 ноября 1950 года.
По свидетельству ветерана органов прокуратуры Дмитрия Алексеевича Кучерова (1920 года рождения), который работал при шести прокурорах области, К.Я. Румянцев, по его мнению, был одним из лучших.
Константин Яковлевич был строгим, но справедливым, руководителем, пользовавшимся огромным авторитетом среди прокурорских работников и граждан. Чтобы не отрывать сотрудников от работы, часто ходил по кабинетам, беседовал с подчиненными, выяснял и решал сразу их проблемы, разговаривал с ними на равных и учитывал их мнение. Не любил подхалимов и разгильдяев, он их гнал из прокуратуры.
Был профессионалом, знал истинное положение дел во всех отраслях прокурорской деятельности. Скромный и немногословный, при выступлениях говорил только по делу.
В решении служебных вопросов был принципиален. Обкому КПСС не подчинялся и в связи с этим на него стали оказывать «давление» 1-й и 2-й секретари обкома. Они стали добиваться снятия неугодного им прокурора или перевода его «подальше» от Саратовской области, и это им в конце концов удалось.
В июле 1955 года К.Я. Румянцев приказом Генерального прокурора СССР был переведён на работу в Прокуратуру РСФСР, не доработав конституционный срок полномочий.
Фактически он был понижен в должности и лишился самостоятельности.
Он вписал заметный след в историю прокуратуры Саратовской области и оставил о себе добрую память.