Oznaczmy: $a$ – długość krawędzi podstawy, $l$ – długość krawędzi bocznej, $h$ – wysokość ostrosłupa.

Promień okręgu opisanego na podstawie (kwadrat): $R = \frac{a\sqrt{2}}{2}$

Warunek: $R + l = d$, czyli $\frac{a\sqrt{2}}{2} + l = d$

Z twierdzenia Pitagorasa: $h^2 + \left(\frac{a\sqrt{2}}{2}\right)^2 = l^2$

$h = \sqrt{\left(d - \frac{a\sqrt{2}}{2}\right)^2 - \frac{a^2}{2}}$

Objętość: $V = \frac{1}{3}a^2 h = \frac{1}{3}a^2 \sqrt{d^2 - ad\sqrt{2} + \frac{a^2}{2} - \frac{a^2}{2}} = \frac{1}{3}a^2 \sqrt{d^2 - ad\sqrt{2}}$

Zmaksymalizować $V(a) = \frac{1}{3}a^2\sqrt{d(d - a\sqrt{2})}$

Przyjmując podstawienie lub różniczkowanie: $\frac{dV}{da} = 0$ daje $a = \frac{2d}{3}$

Wówczas $l = d - \frac{2d}{3} \cdot \frac{\sqrt{2}}{2} = d - \frac{d\sqrt{2}}{3}$

$h = \sqrt{\left(d - \frac{d\sqrt{2}}{3}\right)^2 - \frac{1}{2}\left(\frac{2d}{3}\right)^2}$

Maksymalna objętość: $V_{\max} = \frac{2d^3}{27}$ (po obliczeniach).