高欢离了杜洛周，投奔过葛荣，又逃走去投尔朱荣。高欢旧时结识的刘贵早已在尔朱荣麾下，竭力向他推荐高欢。但是这时的高欢，已两经流亡，形容憔悴，尔朱荣看不出他有何出众之处，没有立即重用。有一次，高欢跟着尔朱荣走到马厩旁，厩中有匹劣马，没有人能制服它。尔朱荣想看高欢有什么能为，叫他去修这匹马的马鬃。高欢本是驯马的能手，他顺利地完成后，对尔朱荣说：“驾驭恶人同养马是一样的道理。”尔朱荣听他出语不凡，才同他谈论时事。秀容在今晋北朔州一带(一作忻州一带)，尔朱氏的领地周围三百里，地形复杂。尔朱氏是契胡酋长，部众精于骑术。尔朱荣养了十二个山谷的马，每谷马的毛色完全一律。高欢就借此为题，问“养了这么多马，做何用途?”尔朱荣并不正面回答，反而要求高欢谈自己的意见。于是高欢提出讨徐、郑以清君侧的意见。尔朱荣听了，大有深得我心之感，两人谈得投机，从日中直到半夜才歇。从此高欢经常参与军谋，成为尔朱荣的得力助手。