После поражения Гилянской республики Серебрянский направился в Москву. В мае 1920 года поступил на службу в центральный аппарат ВЧК. С августа 1920 года – сотрудник УОО (Управление Особых отделов) ВЧК. С сентября 1920 года – секретарь Адморготдела, а с декабря 1920 года – АОУ ВЧК. С августа 1921 года, после увольнения из ВЧК по демобилизации, работал в газете «Известия» в Москве.
2 февраля 1921 года арестован сотрудниками ВЧК как правый эсер. Находился под следствием. 29 марта 1922 года Президиум ГПУ, рассмотрев вопрос о принадлежности Серебрянского к эсерам, вынес решение: его из-под стражи освободить, взять на учет, однако «лишить права работать в политических, розыскных и судебных органах, а также в НКИДе».
В 1922–1923 годах – сотрудник, зав. канцелярией Нефтетранспортного отдела треста «Москвотоп». Был арестован по подозрению во взяточничестве. Находился под следствием по делу треста. Был взят на поруки и освобожден.
В октябре 1923 года стал кандидатом в члены ВКП(б) и уже в ноябре 1923 года, при содействии Блюмкина, принят на работу особоуполномоченным Закордонной части ИНО ОГПУ, а вскоре переведен в резерв ОК (Отдел кадров) с прикомандированием к ИНО, в связи с направлением на закордонную работу. В декабре 1923 года вместе с Блюмкиным выехал в Палестину, где в течение двух лет действовал с нелегальных позиций – сначала в качестве помощника Блюмкина, а потом самостоятельно.
Находясь на Ближнем Востоке, Серебрянскому удалось надежно внедриться в подпольное сионистское движение, привлечь к сотрудничеству с ОГПУ большую группу иммигрантов – уроженцев России: А. Н. Ананьева (он же И. К. Кауфман), Ю. И. Волкова, Р. Л. Эске-Рачковского, Н. А. Захарова, А. Н. Турыжникова и ряд других. Они и составили костяк его боевой группы, известной позднее как «группа Яши».
В 1924 году к Серебрянскому присоединилась его жена Полина Натановна, которая, хотя официально и не работала в ИНО ОГПУ, постоянно сопровождала его в многочисленных зарубежных поездках.
В 1925–1928 годах нелегальный резидент ИНО ОГПУ в Бельгии и во Франции. В 1927 году приезжал в СССР, где успешно прошел партчистку и был принят в члены ВКП(б).
В марте 1929 года вернулся в Москву. С 1 апреля 1929 года назначен начальником 1-го отделения ИНО ОГПУ (нелегальная разведка), одновременно руководителем Особой группы («группа Яши») при председателе ОГПУ. Под этим названием действовало независимое от ИНО разведывательное подразделение, задачей которого являлось глубокое внедрение агентуры на объекты военно-стратегического характера на случай войны, а также проведение диверсионных и террористических операций.
Летом 1929 года было принято решение о похищении и вывозе в Москву председателя РОВС генерала А. П. Кутепова, активизировавшего диверсионно-террористическую деятельность на территории СССР.
1 января 1930 года Серебрянский был переведен в резерв ОГПУ и вскоре вместе с заместителем начальника КРО ОГПУ С. В. Пузицкимвыехал в Париж для руководства этой операцией.
В воскресенье 26 января 1930 года сотрудники опергруппы Серебрянского втолкнули Кутепова в стоявший рядом автомобиль, сделали инъекцию морфия и доставили на борт советского парохода, стоявшего в порту Марселя.
30 марта 1930 года за удачно проведенную операцию Серебрянский был награжден орденом Красного Знамени.
По завершении этой операции Серебрянский приступил к созданию автономной агентурной сети в различных странах для организации диверсий на случай войны.
20 июля 1930 года он был зачислен на особый учет ОГПУ. Работая за границей, лично завербовал 200 человек.
В 1931 году был арестован в Румынии, но вскоре освобожден и продолжил свою деятельность.
В 1932 году выезжал в США, а в 1934 году – в Париж.
В 1935 году по поручению Генриха Ягоды содействовал организации токсикологической лаборатории НКВД.
13 июля 1934 года утвержден руководителем Спецгруппы особого назначения (СГОН) при НКВД СССР.
В 1935–1936 годах находился в спецкомандировке в Китае и Японии.
После начала Гражданской войны в Испании советское правительство приняло решение о поставках в Мадрид оружия. Причем часть его нелегально закупалась в Европе. Занимались этим практически все резидентуры ИНО НКВД и ГРУ, в том числе и «группа Яши». Так, в сентябре 1936 года сотрудники Спецгруппы закупили у французской фирмы «Девуатин» 12 новых военных самолетов, которые доставили на приграничный с Испанией аэродром. Откуда их под предлогом летных испытаний благополучно перегнали в Барселону. За эту операцию в декабре 1936 года Серебрянский был награжден орденом Ленина.
В ноябре 1936 года нелегалам СГОН, которыми непосредственно руководил Б. М. Афанасьев, с помощью агента М. Зборовского(«Тюльпан»), внедренного в окружение сына Троцкого Льва Седова, удалось похитить часть архива Международного секретариата троцкистов. Несколько ящиков с бумагами было передано легальному резиденту ИНО в Париже Г. Н. Косенко (Кислову), а затем отправлено в Москву.
С декабря 1936 года – начальник Спецгруппы Секретариата НКВД СССР.
Одним из объектов разработки советской разведки в этот период был Лев Седов («Сынок»). В 1937 году по указанию отца он приступил к работе по организации 1-го съезда IV Интернационала, который должен был открыться летом 1938 года в Париже. В связи с этим Центр принял решение о похищении Седова. Проведение операции было поручено Серебрянскому.
План похищения «Сынка» был детально проработан. В подготовке операции участвовало 7 сотрудников Спецгруппы, в том числе и жена Серебрянского. Однако похищение Седова так и не состоялось – в феврале 1938 года он умер после операции по удалению аппендикса.
Летом 1938 года Серебрянский был отозван из Франции и 10 ноября 1938 года вместе с женой арестован в Москве прямо у трапа самолета. До 13 февраля 1939 года содержался под стражей без санкции прокурора. 21 февраля 1939 года был уволен из НКВД в связи с арестом.
В ходе следствияСеребрянского подвергали так называемым интенсивным методам допроса – избиениям. Он был принужден дать подложные показания. 25 января 1939 года был переведен в Лефортовскую тюрьму.
На допросе в 1954 году Серебрянский показал, что еще до суда, т. е. на предварительном следствии, он отказывался от показаний, в которых признавал себя виновным и оговаривал других.
В результате 4 октября 1940 года следователем СЧ (Следственная часть) ГУГБ НКВД лейтенантом ГБ Перепелицей было составлено следующее обвинительное заключение:
«ОБВИНИТЕЛЬНОЕ ЗАКЛЮЧЕНИЕ
10 ноября 1938 г. органами НКВД СССР был арестован подозреваемый в шпионской деятельности СЕРЕБРЯНСКИЙ Яков Исаакович.
Проведенным по делу следствием установлено, что СЕРЕБРЯНСКИЙ, в прошлом активный эсер, дважды арестовывался органами ОГПУ и при содействии разоблаченных врагов народа проник в органы советской разведки.
В 1924 г., будучи в Палестине, был завербован эмигрантом ПОКРОВСКИМ для шпионской деятельности в пользу Англии.
