唐初，太平县境内有湖，不知深浅，湖中有蛟，常捕食牲畜或骚扰游船，时人恐惧，苦不能治。有居民以猪羊祭蛟，可得安乐一年半载，投以牛马，可得两三年和平，如若不祭，蛟定出水害人，无人能治。有一年，居民购一牛，颇为健壮，双角尺许，力蛮大，遂用以祭蛟，将牛投入湖中，蛟出缠牛，牛怒，奋而斗蛟，牛蛟于湖中缠斗良久，血燃湖水。岸边聚居民几百人，都争相观望，不知双方胜负。
不久，蛟为牛角所杀，尸浮于水面，牛亦死，双双而亡。众人大喜，争食蛟尸，并将牛下葬，因感念其杀蛟有功，遂在湖边立庙，为牛王庙。一时众人传颂，香火鼎盛。开元十四年，李白至太平县，与司使黄苑乘船游湖。此时的他不过三十岁，仕途之路郁郁不得志，但是才名已经很大了，有很多人崇拜他，黄苑就是其中之一。太白好酒，因惆怅于人生际遇，与黄苑喝得酩酊大醉。船行至牛王庙前，好一阵冷风袭来，太白酒劲上涌，扶在船舷上呕吐起来。
那污秽之物都流于湖面，正巧这时，水府巡察夜叉至此，见状大怒，一把将太白从船上擒下，径往水府去了。至那湖底水宫，殿内正有宴席，夜叉将太白掷于地，向水府之主禀告道，此人酒醉，污秽水府，请主君治罪！那水府之主高有十尺，穿铠甲，带牛角盔，视太白良久，忽然大惊！慌忙下阶将太白扶起，令夜叉道，此为真仙人，怎敢善捕！快快快送仙人返回，此为水府，不便多留。夜叉得令，又将李白送返至船上。
李白和黄苑都受了惊吓，酒醒了大半，黄苑便问他，刚才是怎么回事？李白回答说，前被夜叉所拿，言要治罪，后有牛头神解救，所以豁免而返！黄苑闻言大惊，言道，你说的便是这牛王庙主啊！言罢将当初发生的事告诉了李白，李白听了后叹道，幸得水主谅解，今到了他的道场，应该去拜见。遂与黄苑进牛王庙，李白一看那庙中的牛头人身塑像，惊对黄苑道，是这样！和我在水府见到的样子没有差异。
后来李白在天宝三载与杜甫相遇，两人都有成仙得道的心思，遂约定来年在梁宋会面，一起寻仙山，访仙人，采仙草，炼仙丹！太白对这些事深信不疑，就在那次会面，他和杜甫说了牛王庙水府之事，当时杜甫听了还不是很相信。