胡问遂出身书香门第，祖父、兄和姐均酷爱书法，伯父胡之光为浙东书法名家。自幼耳濡目染，在方砖上练习书法，日临百字。

35岁师从沈尹默，研习法帖，读帖、临帖，务求"察之者尚精，拟之者贵似"，反复琢磨如何下笔、运笔、转折、交待。四年间，临颜真卿《告身帖》逾千通，达到几可乱真地步。所临书帖送师过目，竟误以为是"印刷复制品"。