В предвоенный период Рябушинские энергично осваивали также льняное дело — отрасль, в которой, пожалуй, наиболее ярко проявились инициатива и характер нового поколения московских предпринимателей. Льнообрабатывающая индустрия, по свидетельству М.П.Рябушинского, была сознательно избрана в качестве объекта приложения капиталов, так как условия ее развития  позволяли, как представлялось Рябушинским, без особого труда стать монополистами отрасли.

В 1908—1911 гг. для налаживания операций по торговле льном Рябушинскими было основано несколько отделений их банкирского дома в льнопроизводящих районах Европейской России. Для более масштабных начинаний требовалась поддержка со стороны опытных в таком деле предпринимателей. В этих целях был заключен союз с С.Н.Третьяковым — совладельцем фамильного предприятия Третьяковых — Т-ва Большой Костромской мануфактуры, а также председателем основанного в 1909 г. Всероссийского общества льнопромышленников.

Для развития деловых начинаний группа нуждалась в финансовом обеспечении на высоком уровне. Банкирский дом, несмотря на интенсивный рост операций, не подходил для этого, поскольку был скован нормами частного, не акционерного заведения. Потребностям в финансировании не отвечал и находившийся под их контролем Харьковский Земельный банк, ограниченный рамками поземельных операций. Создание акционерного коммерческого банка, задуманного, по свидетельству самих Рябушинских, как средство «привлечения русского капитала», стало логическим завершением эволюции московских промышленников в финансовых деятелей всероссийского масштаба.

Организационная стадия завершилась осенью 1911 г.: в августе в газеты попали первые слухи о проекте создания нового банка в Москве, а уже 24 сентября его устав был официально утвержден. К Московскому, как он стал называться, банку, приступившему к действиям с 1 января 1912 г., перешли все активы и отделения бывшего банкирского дома Рябушинских, а также его здание на Биржевой пл. в Москве, уступленное за 1,3 млн р.