1901年他到了上海，与束亚东、路同同相交往，因他长于文笔，又熟悉官方文书，喜欢收集邸报，而《外交报》正需要这样的文人，于是，徐珂便加入了该报。担任了《外交报》的编辑。外交报的成员有，董理一人（即张元济）、撰述一人（即蔡元培）、编辑一人（即徐珂）、译西文报一人（温宗饶），均由创始股东分任。另设译东文报一人，司帐一人，校缮一人，杂役二人。股东情况是：张元济两股，蔡元培杜亚泉合一股，温宗饶、商务印书馆各一股，赵从蕃、徐珂、沈幼珊股数不详（以上，据汪家熔先生提供的资料）。在张元济的收据上的签名人是赵从蕃、蔡元培和温宗饶；温宗饶的股单和收据上的签名人是赵从蕃、蔡元培和张元济，全年预算约为银洋五千五百元（再加开办费五十元。）《外交报》到1910年，共办了十年，在社会上有一定影响。

后来他随《外交报》一起成为商务印书馆编译所的职员。接着又当上了《东方杂志》的编辑。老商务的一位编辑，即大名鼎鼎的章锡琛回忆说：“《东方杂志》创刊于1904年，原是一种选报性质的刊物，剪集每月报章杂志上的记事、论文，分类刊登，供留心时事者查考。《宫门抄》和《奏折》占首要地位，其次才是时论，只偶尔发表几篇撰译的文字。

1909年前的编者名徐珂。因为编这种杂志完全是剪刀糨糊的工作，他一人在几个晚上业余时间就能完成，读者并不很多。”所以，后来徐珂在商务做过杂纂部长，他可说是地道的杂家。章锡琛的话虽然有点夸张，但说的也是事实。

到1911年，杜亚泉接任《东方杂志》主编，对刊物进行了改革，杂志有了很大的改变和发展。于是，徐珂接管了“杂纂部”。据当时在编译所的同仁介绍，“徐在编译所担任杂纂部部长，我进去时，他正全力在搞《清稗类钞》，同时在他领导下编辑出版的有《上海指南》《日用须知》《醒世文柬指南》《通俗新尺牍》等等。这个部的主要工具是糨糊和剪刀，所有各种资料，均从报纸、杂志、政府公报等剪下或到处找人帮忙抄录在活页片上”（引自谢菊曾著《十里洋场的侧影》）。目的在于提供有关资料。