В ответ на: Это к тому, что я сильно подозреваю что "задача решена и давно". Просто нам это - не надо.

Возможно она пока не решена так как надо бы чтобы была решена - т.е. решена в каком-то сыром виде. Проблема заключается в том, что потребность в интеллекте принимающем безошибочные и наиболее оптимальные решения есть, но доверия такому интеллекту не будет - поскольку чтобы проверить его нужен интеллект ещё более грамотно организованный.
Ситуация патовая. Если трезво оценить существование цивилизации людей, то потенциально она перспективна, но пока делает столько всего безумного что естественное решение - уничтожить её. ИИ такого уровня способен существовать бесконечно долго и до чего он там додумается в ходе этой вечности никто не знает.