有一天，智伯瑶到城外察看地形，看到晋阳城东北的那条晋水，忽然想出了一个主意：晋水绕过晋阳城往下游流去，要是把晋水引到西南边来，晋阳城不就淹了吗？他就吩咐兵士在晋水旁边另外挖一条河，一直通到晋阳，又在上游筑起坝，拦住上游的水。
这时候正赶上雨季，水坝上的水满了。智伯瑶命令兵士在水坝上挖开了个豁口。这样，大水就直冲晋阳，灌到城里去了。
城里的房子被淹了，老百姓不得不跑到房顶上去避难，灶头也被淹没在水里，人们不得不把锅挂起来做饭。可是，晋阳城的老百姓恨透了智伯瑶，宁可淹死，也不肯投降。
赵氏大军
围困中的晋阳城
智伯瑶约韩康子、魏桓子一起去察看水势。他指着晋阳城得意地对他们两人说：“你们看，晋阳不是就快完了吗？早先我还以为晋水像城墙一样能拦住敌人，现在才知道大水也能灭掉一个国家呢。”
韩康子和魏桓子表面上顺从地答应，心里暗暗吃惊。原来魏家的封邑安邑（今山西夏县西北）、韩家的封邑平阳（今山西临汾县西南）旁边各有一条河道。智伯瑶的话正好提醒了他们，晋水既能淹晋阳，说不定哪一天安邑和平阳也会遭到晋阳同样的命运呢。
晋阳被大水淹了之后，城里的情况越来越困难了。赵襄子非常着急，对他的门客张孟谈说：“民心固然没变，可是要是水势再涨起来，全城也就保不住了。”
张孟谈说：“我看韩家和魏家把土地割让给智伯瑶，是不会心甘情愿的，我想办法找他们两家说说去。”
当天晚上，赵襄子就派张孟谈偷偷地出城，先找到了韩康子，再找到魏桓子，约他们反过来一起攻打智伯瑶。韩、魏两家正在犹豫，经张孟谈一说，自然都同意了。
第二天夜里，过了三更，智伯瑶正在自己的营里睡着，猛然间听见一片喊杀的声音。他连忙从卧榻上爬起来，发现衣裳和被子全湿了，再定睛一看，兵营里全是水。他开始还以为大概是堤坝决口，大水灌到自己营里来了，赶紧叫兵士们去抢修。但是不一会儿，水势越来越大，把兵营全淹了。智伯瑶正在惊慌不定，一霎时，四面八方响起了战鼓。赵、韩、魏三家的士兵驾着小船、木筏一齐冲杀过来。智家的兵士，被砍死的和淹死在水里的不计其数。智伯瑶全军覆没，他自己也被三家的人马逮住杀了。
赵、韩、魏三家灭了智家，不但把智伯瑶侵占两家的土地收了回来，连智家的土地也由三家平分。以后，他们又把晋国留下的其他土地也瓜分了。
