当时他对毛的印象是“他是一位比较活跃的白面书生，穿着一件布长衫。他的常识相当丰富，但对于马克思主义的了解并不比王尽美、邓恩铭等高明多少。他在大会前和大会中，都没有提出过具体主张；可是他健谈好辩，在与人闲谈的时候常爱设计陷阱，如果对方不留神而堕如其中，发生了自我矛盾的窘迫，他便得意地笑了起来”。从建党之初，张国焘就没把毛泽东放在眼里。

中国共产党成立后，张国焘一直处于最高领导层。他起初分管工人运动。曾领导过京汉铁路“二七”大罢工和上海“五卅”运动。大革命时期，他多次作为陈独秀的代表，周旋于国共两党的上层。他代表中共出席过远东各国共产党及民族革命团体代表大会，见过列宁。