матлаб говно ебучее, просто ненавижу, блять
сука, блять

Я не помню, конечно, но кажется, я находил решение похожей задачи по запросу fsolve (с вариациями) на сайте то ли ВМК, то ли мехмата, погугли сначала fsolve.

В таком виде численно диффуры не решаются.
Для этого уравнения высокого порядка преобразуется к системе диффуров 1-го порядка заменой.