В принципе все три уравнения решаются аналитически с помощью замены y=x'. Сделав такую замену можно понизить порядок уравнений до первого: 1)y'=-ky^2; 2)y'=-ky^2+g; 3)y'=ky^2+g. Далее решаем стандартным образом: делим на правую часть и интегрируем по времени. В первом уравнении должно получиться что-то вроде y=y0/(1+y0*k*t), где y0=x'(t=0), и соответственно x=(1/k)*ln(y0*k*t+1)+x0, где x0=x(t=0). Второе и третье уравнения сложнее - там при интегрировании возникают выражения вроде ln(abs((y+(g/k)^(1/2))/(y-(g/k)^(1/2)))), где abs - это модуль. Из-за знака модуля это уравнение нужно решать отдельно для случаев y>(g/k)^(1/2) и y<(g/k)^(1/2). К сожалению, у меня сейчас под рукой нет Maple'а, поэтому точное решение выложить не решусь. Подозреваю, что комплексные значения скоростей и координат вылезли как раз из-за неправильного раскрытия модуля (и соответственно попыток найти натуральный логарифм от отрицательных чисел), потому что вроде больше неоткуда (из самого вида уравнений понятно, что ни координата ни скорость не могут принять комплексные значения)
