创造社的郭沫若、成仿吾、朱镜我等人发现了这个后生，邀请他参加创造社出版部工作。1926年4月，由他提议并主编的《A11》周刊出版，发刊词和第一期编后记就出自潘汉年之手。
说起这个《A11》周刊得名的由来，还有一段值得纪念的情节。原来，上海闸北宝山路上有个“三德里”。“五卅”运动以后不久，创造社出版部就设在三德里A11号。在这个机关里有几个小伙计，他们是：周全平、柯仲平、叶灵凤、潘汉年、周毓英等人。这些风华正茂的青年人既当编辑，也管门市部的买卖。校对、捆书、打包、跑邮局、招呼客人，什么都gān，“小伙计”由此得名。
后来，潘汉年又和叶灵凤合伙办了个小小的半月刊《幻洲》，这本46开本的刊物分两部分，上半部叫“象牙之塔”，登文艺作品，叶灵凤负责编辑;下半部叫“十字街头”，潘汉年主编，专刊杂文。潘与叶两人合住在霞飞路(今淮海中路)上一家皮鞋店楼上，这里既是宿舍，又是《幻洲》编辑部。霞飞路当时已相当热闹，所以他们住处的窗外车声不绝于耳，因此，潘汉年戏称这个房间叫“听车楼”。于是有些文章就以“听车楼主”的笔名发表。说起笔名，除前面提到过的“水番三郎”外，我们知道的就有“泼皮”、“严灵”、“汗牛”等五六个。那么，他何以不断更换笔名呢?除了斗争的需要外，还因为他的多产。有时，半部《幻洲》的杂文他一个人包了。他擅长讽刺，嬉笑怒骂皆成文章，骂吴稚晖，骂左舜生，攻胡适，骂得痛快，攻得犀利，大家爱看。潘汉年的杂文一扫当时无聊文人的颓废气氛，反对“为文学而文学”的虚无主义思想，在当时的文学青年中留下了深刻的影响。
由于以后潘汉年主要从事在特定环境下严酷的政治斗争，文学创作已无暇顾及，除以后在1928年还出过一本名为《离婚》的小说集以外，没有其它单行本问世。应该承认，他在文学创作上的成就不大，但他在国民党文化“围剿”时期代表党对左翼文化界的领导却成绩卓著，功不可没，令人遗憾的是，现代文学史著述中往往无视潘汉年的辉煌劳绩。
“小开”主持“文委”
1927年初，当时任国民革命军总政治部南昌政治部主任(政治工作的范围为国民革命军第二军、第三军、第六军及江西的地方工作)的郭沫若，曾邀请潘汉年去南昌担任《革命军日报》总编辑，兼政治部宣传科长。《革命军日报》是一份军队报纸，潘汉年接手后，办得严肃而富有生气。随着北伐形势的发展，二个月后，潘汉年奉命率领部分同志回上海。到上海的第二天，“四一二”反革命政变就发生了。在紧张的气氛中，他奉命匆匆到武汉总政治部报到，被分配在总政宣传部宣传科工作。武汉“分共”①后，他先随郭沫若等到九江张发奎部工作。“八一”南昌起义前夕，他又奉命撤出张部，到上海向党中央报到。
①1927年7月15日，汪jīng卫在武汉召开国民党中央常务委员会扩大会议，正式同共产党决裂。第一次国共合作全面破裂。
经过这大半年革命斗争的洗礼，潘汉年重返沪上时已相当成熟了。1928年夏，中共江苏省委书记李富chūn，在南昌时就相当欣赏潘的才华，决定调潘担任上海文化工作党组的书记(这年冬天，这个组织改属党中央宣传部领导。1929年，在中宣部下成立文化工作委员会，潘出任书记)。他的任务是把上海的左翼作家组织起来，反对国民党的“文化围剿”;与此同时，也要解决左翼文化人内部的教条主义、关门主义倾向。潘汉年不愧是组织工作的gān才，当时上海的文化界何等复杂，他自己20刚过，在文化人中最多是小有名气，但就是他，依靠党的威望，使出自己的浑身解数，缜密安排，忘我工作，短短一二年内，“左翼作家联盟”、“社会科学家联盟”乃至“剧联”等组织，相继成立，开展活动。他作为“左翼文化总同盟”的中共党组书记统一领导这些社团，俨然帅才。后来，这些组织还发展到天津、北平、广州、成都等地。在艰难的岁月中，能够组织起这样多的革命文化团体，实在是惊人的创举。
大革命前，他只是个初露头角的小伙计，此时，他已能自如地周旋于上海文化界的名人之间，自信地开展工作了。由于工作需要，他西装革履，风度翩翩，不知哪个人给他取了个“小开”的代号，此后，同志们当面和背后，都称他“小开”。年轻的“小开”，领导人才荟萃的上海左翼文化界，开创了30年代初上海滩进步文化百花齐放的局面。这段历史实在很值得回味。
潘汉年的工作千头万绪，但他还是能腾出手来和叶灵凤合编《现代小说》月刊，他还经由现代书局、联合书店出版、重版了郭沫若的许多著作。其时，也还没有扔掉做文化工作的本行。
1930年2月，潘汉年主持“中国自由运动大同盟”的工作，鲁迅也作为这一统一战线组织的发起人参加工作。这一年3月2日，成立了“左翼作家联盟”。必须qiáng调的是，鲁迅对于潘汉年曾不无误解，把他看作是“唇红齿白”的“洋场恶少”。站在创造社的立场，潘也曾感到鲁迅不无偏激。但是他首先打破门户之见。他深入地做了创造社、太阳社朋友们的工作，引导他们尊重鲁迅，与原文学研究会的作家合作，又与鲁迅恳谈，取得鲁迅的充分信任，这才使“左联”的成立成为可能。因此，“左联”在北四川路中华艺术大学的一个教室里成立的时候，潘汉年代表党中央发言，而后鲁迅发表了他那著名的讲话，大家相继致词，气氛极为融洽，这是和潘汉年在会前的大量工作(也包括冯雪峰等同志的工作)分不开的。
文学史家也许会对潘汉年在“左联”成立后刊载在《拓荒者》上的《左翼作家联盟的意义及其任务》对30年代文艺界所曾产生的重大影响感兴趣，因为该文是如此深刻地切中当时文艺界的弊端，如此jīng辟地论述了“左联”的任务。文学史家一定也会叹服潘汉年在《文艺通信》一文中关于题材问题的独到见地：“与其把我们没有经验的生活来做普罗文学的题材，何如凭各自所身受与熟悉的一切事物来做题材呢?至于是不是普罗文学，不应当狭隘的只认定是否以普罗生活为题材而决定，应当就各种材料的作品所表示的观念形态是否属于无产阶级来决定。”
但时隔五六十年，我们已很难对潘汉年当年大量的文学活动、杰出的左翼文化社团组织工作(他还担负“反帝大同盟”和“互济会”方面的工作)和无畏的对敌斗争作出全面的描述了。好在潘汉年同志沉冤得雪，今后的史家在撰写30年代文化史时，想来再也不会无视他的历史功绩了吧!
“特科”初试身手
1931年1月，党的六届四中全会后，王明集团掌握了党中央和江苏省委的领导权。会议结束后，何孟雄、林育南、李求实、胡也频、冯铿等24位反王明路线的重要领导gān部即因叛徒告密而被捕，他们有的在东方旅社被抓去，有的在家里被带走，形势十分严峻。