Вскоре Захарьину пришлось расстаться с Державиным, который, будучи отрешен от должности губернатора, покидал Тамбов. На прощание со своим собратом по перу певец Фелицы написал шуточное стихотворение, переполненное местными степными выражениями, под заглавием: «Желание зимы»; посвящение же гласит: «Его милости разжалованному отставному сержанту, дворянской думы копиисту, архивариусу без архива, управителю без имения и стихотворцу без вкуса». По отъезде его многие из тамбовцев, знавшие, что автор наделавшей столько шуму речи был не кто иной, как Державин, стали поговаривать об этом смелее, а когда Захарьин пришел за получением пенсии, его осмеяли в глаза. Это огорчило Захарьина, и он решается доказать, что он не чужд литературных дарований, и сочиняет книгу в 6-ти томах под заглавием: «Арфаксад, халдейская повесть» (М., 1793—96 гг.), в которой описывает древние нравы Востока, соединение людей в гражданском обществе, потрясение городов, судьбу царств, дела и славу войны и благоденствие мира. «Арфаксад» имел успех и доставил некоторую известность автору, обеспечив в то же время его и материально. О нем отозвался хорошо и Державин. Такой успех окрылил Захарьина, и он принялся с большим рвением за продолжение своих литературных занятий. В 1796 г. он выпускает в Москве другое свое произведение, имевшее также успех: «Путь ко благонравию, или сокращенное наставление обучающемуся юношеству, содержащее в себе полезные и нравоучительные правила для всякого звания и состояния людей». Пробыв в Москве с 1790 по 1797 г., Захарьин, по приглашению начальника Черноморского флота адмирала Н.С. Мордвинова, увлекшегося его романом «Арфаксад», переехал в Николаев, где получил место школьного учителя, хорошее жалованье, а впоследствии и офицерский чин. В Николаеве Захарьин издал в 1798 г. вторично быстро разошедшиеся свои сочинения: «Арфаксада», под несколько измененным заглавием: «Арфаксад, халдейская вымышленная повесть, содержащая в себе образ жизни и нравов древних восточных народов»