В 1864 г. находившийся в зените своей славы предприниматель обратился к группе московских фабрикантов во главе с И.А.Ляминым, тогдашним председателем Московского биржевого комитета, Т.С.Морозовым и П.М.Третьяковым, предложив основать по образцу Петербургского Частного коммерческий банк в Москве. 113 человек пожелали принять участие в новом деле, они подписались на 2,2 млн р. основного капитала. Был подготовлен устав банка, но открытие его задержалось: опасаясь, что предприятие окажется нежизнеспособным, некоторые из ранее подписавшихся отказались от участия в нем. Кроме того, серьезные трения возникли с Министерством финансов, требовавшим установления лимита принимаемых банком на себя обязательств. Все усилия Кокорева побыстрее утвердить устав долгое время были безуспешными, несмотря на щедрые подношения чиновникам. В результате банк не получил того «режима наибольшего благоприятствования», которым пользовался Петербургский Частный. Купеческий банк, ставший вторым коммерческим банком России, приступил к своей деятельности в конце 1866 г. Его основной капитал в размере 1260 тыс. р. состоял из 252 паев по 5 тыс. р. каждый, распределенных между 90 пайщиками.

Среди них выделялись две группы — московские торговцы и промышленники и петербургские банкиры и профессиональные учредители, привлеченные Кокоревым взамен отказавшихся участвовать в деле.

Интерес их к этому банку ограничивался, по всей видимости, желанием принять участие в выгодной грюндерской операции, на политику же банка они влияния не оказывали.

Учредители поначалу именовали новое учреждение «Товариществом на паях», желая подчеркнуть его отличие от обычных акционерных банков. В форме «товариществ» функционировали ведущие торгово- промышленные фирмы Москвы, принадлежавшие обычно отдельным семействам капиталистов. Именно этим объясняются узкий круг пайщиков, высокий номинал паев, не котировавшихся обычно на бирже, и уставные ограничения перехода паев из рук в руки. Все это преследовало цель сохранить контроль за фирмой в руках ее первоначальных владельцев и их наследников.