张公渡位于高邮湖西郭家集附近的凉月湾河面，河面宽约一里，过去来往行人必须有舟船才能过河。明代即有此渡口，明隆庆《高邮州志》记载，“张家渡在州西南四十五里”。当时南来北往的，尤其是从扬州北湖和仪征来往高邮，如果从陆路，张家渡是必经之地，水路则经过凉月湾。民国《甘泉县志》记载，凉月湾是高邮和甘泉县的界河，不过两县分界并不固定。

从明代到清初，张家渡的水面上常常是私人摆渡，凭借一条小船，对乘客漫天要价，过河人苦不堪言。到了康熙十五年(公元1676年)，有位本地秀才姓张名阳，召集乡人顾元性、王藻等，倡议建义渡。大家纷纷慷慨解囊，建造了一艘大船用于义渡，并且在河的南岸建了一座小庵堂称之为普渡庵，置办义渡田二十亩，又请僧人静生住持普渡庵，并管理这座义渡。所谓义渡，可能免费，也可能仅收少量的摆渡费，因义渡有田产收入。

从此，张家渡作为义渡，迎来送往了众多南来北往客。普渡庵住持静生圆寂后，由慧朗继任，张家渡还是按照以前张阳等人订立的方法运行。

康熙年间，清朝统治渐渐安定，由于义渡的设立，来往张家渡的人越来越多。到了康熙末年，当时附近有位居民叫王建吾，见张家渡来往人多，时常一趟船摆不完，行人就要久候。于是，王建吾就另外新造一艘小木船，与义渡原来的大船相继往来摆渡，解决了渡口繁忙的问题。

这样又过了一些年，慧朗圆寂，将普渡庵传给僧人世宏，义渡照旧。康熙六十年(1721年)，忽然有位恶霸，借口说王建吾造小船是假公济私，于是强行将王造的小船占为己有，并且又像义渡设立以前一样，向过河人漫天要价。王建吾这时已经去世，他的儿子王天相非常痛心父亲的义举被人诬陷，又不忍心船被恶人所毁坏，于是把船托付给普渡庵住持世宏。占船的恶人却反咬一口，向时任高邮知州张德盛告状，说王天相私自卖船。当时参与筹建义渡者或知情人听说后，纷纷为王天相打抱不平，向知州张公述说张家渡义渡设立以来的过程。

张德盛听说后感叹道：“居然有这种事啊!不行善事就罢了，还有人破坏别人做好事。春秋时的单子访陈国，见到湖泽不筑堤坝，河流不备舟桥，感叹陈国将亡。管交通的人应当未雨绸缪，古人都有这个意识，更何况延续几十年的张家渡义渡呢?”

针对这次诉讼，张知州有自己的看法。当初张阳首倡建义渡造大船，但是张阳做善事不留名，而王姓造小船，留下了姓氏，所以成为恶人强占的借口。于是将王家的小船烧毁，而此时的大船已是年久失修，近乎破败，难以修缮。张德盛随即捐出自己的俸禄，寻找工匠重新打造一艘大船。船造好后，张家渡又恢复了往日来往摆渡的繁忙景象。

湖西人感念张知州的善举，说“张家渡，奸人坏之，张公成之”，于是把张家渡改称张公渡，并请当时的高邮州学学正邓绍焕撰文《张公渡碑记》，立碑刻石，叙述自张阳首倡至张知州重建的过往。

但是，张公渡只是常见于官方文书，且雍正之后的志书(主要是《甘泉县志》和《高邮州志》)，张公渡和张家渡都会出现。直至上世纪末，附近居民口中，依旧习惯称其为张家渡。