ЯННП
Ох уж эта Космическая Одиссея 2001. Стоит помнить, что она вышла в 68 году и отражает тогдашние представления об ИИ (в первую очередь, представления Марвина Минского, который консультировал Кларка и Кубрика). Тогда думали, будто искусственный разум можно реализовать просто как набор правил, что делать можно, нужно и нельзя. Минский был матерый человечище, но эти представления устарели на 50 лет (если я правильно помню, Минский скептически относился к нейронным сетям, потому что на одном нейроне нельзя реализовать побитную комплементацию). Но в фантастике они стали заштампованном обязательным свойством ИИ.
По нынешним представлениям ИИ развивается в результате процесса глубинного обучения, последствия которого не могут до конца просчитать даже его создатели. Имхо в такой ситуации бояться следует не столько излишней рациональности, сколько как раз непредсказуемой иррациональности (с человеческой точки зрения) мышления ИИ.