1663年（寛文3）京都の富裕な呉服商尾形宗謙の三男として生まれた。
兄は画家の光琳で、光琳が派手好みであったのに対し乾山は内省的、隠遁的な性格の持主で二人の性格は対象的であったといわれている。
恵まれた文化的環境で育ち、陶芸のスタートは37歳と遅いが、「シロウト」であることを逆手にとり、次々に焼き物の常識を打ち破っていった。
若い頃から陶技を研き、野々村仁清に陶芸を学んだ乾山は、技法は光甫、仁清、一入から伝授されたといわれている。
1699年（元録12）鳴滝で乾山焼を始めたが、光琳筆の作品には独特の構成美、色彩感覚の見事さがある。
白磁を作りたくても、材料と技術が手に入らなければ、白い「泥水」でコーティングして「白磁風」の器を作ってしまう大胆さがあった。
蓋物と呼ばれる独自の器は、内と外で全く異なる文様であるが、実は二つの文様で、ある物語を描くという前代未聞の演出を行うなど、あらゆるアイデアを駆使し、焼き物に革新をもたらした。
そして1712年（正徳2）50歳のとき、京都市内の二条丁子屋町に移住し、多くの作品を手がけ「乾山焼」として世にもてはやされた。
初めは兄・光琳が絵付けをしたようで、鳴滝時代の末期からこの丁子屋町時代にかけて、兄の光琳が絵付を行い乾山を助けた兄弟合作の作品が数多く残されている。
1731年（享保16）69歳の頃に江戸に下り寛永寺領入谷に窯を築いて晩年を送った。
そして81歳で没するまで江戸に在住し陶器や絵画の制作に手腕を発揮した。
乾山の作品は陶芸作品のみならず書や絵画においても、俗気を脱したおおらかで文人的な洒脱味がある。
陶芸作品においては成形、施釉、焼成は他の専門的な陶工に任せたり、絵付についても光琳との合作以外に複数の専門画家が携わっていたと思われるなど、基本的には工房生産という態勢をとっていたようである。
乾山の指導のもとにつくられたやきものには、その大胆なデザイン感覚とともに乾山特有の芸術性が溢れ、乾山その人とふれあうような親しみが感じられ、思わず手に取りたくなる「楽しさ」「カワイさ」「新しさ」にあふれている。
陶芸の琳派と言われ、宗達、光琳、抱一など、華麗で絢爛豪華な琳派の中でひときわ異彩を放っている。