个人认为：
出版社：要有一定影响力，比如人民文学出版社，东方出版社等等
版本：最好是第一版第一次印刷。
如果是一个丛书，则最好能凑成一套。
如果是翻译过来的外国文学，要看看历史上海有没有别的译本，是不是从出版国语言直接翻译过来。例如日本的《源氏物语》，本人就专门收藏了一套丰子恺先生的译本，而现在流行的我就没有收藏
另提供参考文献一篇，但这文章并不是针对现代小说而言。因此仅供参考
《图书哪些版本有收藏价值》
一、精印本。是指精装印刷或特殊印刷本。如上海译文出版社的朱维之翻译的《失乐园》，首次印刷的精装本只有3400册。
二、签名本。有些书本身就是出自于名家之手，加之有名人签名留言就更有意义，其价值也就愈高，如1991年巴金先生签名的《随想录》编号特精书，在上海的卖给价竟达1.3万元。
三、初版本。初版之书大都由作者亲自监督印刷和校对。历来被版学家所看重。如著名诗人臧克家的第一本散文集《乱莠集》等，都已成为收藏界的珍品。
四、未裁本。是指书的边缘未经装订工具裁剪的书籍，又称毛装本或毛边本。
五、孤本。如黄裳先生的《锦帆集作》一书当时只装两册，因而成为珍本。
六、港台原版本。它的原装本由于印刷精美备受收藏者的青睐。
七、古籍版本。因为时间越久的版本越有收藏价值，如唐诗、宋诗、明、清小说等。
参考资料：http://www.booker.com.cn/gb/paper24/7/class002400003/hwz48022.htm