黄宾虹24岁这一年赴扬州，借住在家族的一个远亲家里。这家世代为官，收藏了不少宋元名家的山水画真迹。黄宾虹如获至宝，终日临摹。扬州生活是陌生而又亲切的。“扬州八怪”已经成了背影未远的繁华往事，金农的梅花漆书、郑板桥的墨竹八分书、汪士慎的梅花草书……扬州的园林、古琴……扬州的诗歌——李白有诗句：“故人西辞黄鹤楼，烟花三月下扬州。”杜牧有诗句：“十年一觉扬州梦，赢得青楼薄幸名。”梁殷云有诗句：“腰缠十万贯，骑鹤下扬州。”徐凝有诗句：“天下三分明月夜，二分无赖是扬州。”——扬州有“二分明月楼”，这名字真好，好得让人不忍大声呼出。唐代徐凝诗名不大，但这两句称得上千古绝叹。赵孟頫则有“春风阆苑三千客，明月扬州第一楼。”经人介绍，黄宾虹在扬州两淮盐运使程桓署内做录事，办理文书。
关于黄宾虹在扬州的这段经历，扬州中国雕版印刷博物馆、扬州博物馆馆长顾风说：“当时对于年轻的黄宾虹来说，可以选择的地方很多。特别是开封不久的上海，新兴工业正处在一个蓬勃发展的无锡，包括杭州，但是为什么选择扬州，我觉得这是一种必然。因为自古以来安徽和扬州属于一个行政区，所以在风俗习惯、环境上有着一种千丝万缕的联系。为什么扬州会成为徽商的天下？这个跟地域是有很大关系的。出来闯荡是徽州的一个传统，年轻人要让他尽早在社会环境中去成长，去发展。因为当时有相当多的徽籍人士在扬州，大部分从事跟盐有关的职业。黄宾虹到扬州来，首先他有各种各样的社会关系，容易站住脚。当然，年轻的黄宾虹他也有对艺术学习的渴望。当时的扬州正处在一个已经衰落下去的竞争当中，一盆熊熊燃烧的火正在慢慢熄灭。扬州这个中国封建社会发展繁荣、经济文化重要的城市，对黄宾虹的艺术学习和发展提供了得天独厚的条件。“黄宾虹有机会到一些旧家族去观赏他们的收藏，这个对于黄宾虹来讲也非常重要。扬州的经历对于黄宾虹来讲，不仅对于后来的人生发展提供了很多重要的经验，而且他的眼界，他的艺术方面的熏陶，对他后来的艺术发展也有很大的帮助。“处在一个已经衰落的扬州，‘海上画派’在上海已经崛起，扬州相当一批画家到上海去卖画，加入到‘海上画派’的行列中去。尽管如此，扬州当时还有大量的画家，笔根不错，靠自己的艺术来谋生。试想这么一个城市，这么一种文化艺术的氛围，对年轻的黄宾虹来讲是很震撼的，对他艺术方面的滋养、文化方面的熏陶，都是极为重要的一笔宝贵财富。”
《黄宾虹年谱》记载：“时郑珊、陈崇光均在扬州，公利用公余时间，分别从郑学山水，从陈学花鸟。”郑珊，年少时以卖蒸糕为生，所作山水皆古秀雄健，笔意苍厚。偶写花卉，亦有韵致。授黄宾虹“实处易，虚处难”六字画诀。黄宾虹后来曾在《古画微》书中评介郑珊：“山水笔力坚凝，设色静雅，此近古中之尤佼佼者也。”陈崇光，字若木，初为雕花工，后为虞蟾弟子。虞蟾被称为“太平天国第一画家”。陈崇光随虞蟾同在天京（今南京）绘制壁画，太平天国失败后返回扬州。工花鸟、人物、草虫、山水，尤长双钩花卉，为当时扬州大家。陈崇光50岁左右不幸得了疯癫病，加上丧妻之痛，终日浪荡在外，作画愈趋苍老。58岁即在疯癫折磨下去世。黄宾虹受其影响至深，谓之“举清末维扬画界佼佼者，仅陈若木一人而已”。黄宾虹后来写有《近数十年画者评》，对陈若木做过详尽介绍，还收藏有陈若木的《猫蝶黄菊图》《梅花》《花卉》等画作。在程桓之子程虁引荐下，黄宾虹得以观赏到一些扬州收藏家所藏书画。并先后廉价购得旧书画近三百件，多为明代名迹。黄宾虹曾记载，扬州当时旧书画便宜，即便石涛、云林之作，索价多在十元左右，尺幅册页之类，每元或能易得二三叶。然而，官场中的勾心斗角实在让他难以容忍，只得辞职。有诗：“扬州小录事，拂袖归去来。”
