Все знают, каким СИИ должен быть, но никто не знает как именно он устроен.
Эта тема, действительно, про Strong artifical intelligence (сильный искусственный интеллект), или же про Artifical general intelligence?
https://en.wikipedia.org/wiki/Artificia ... rong_AI%22Вопрос про определение понятия сознания не решен даже для человека, судя по многочисленным обсуждениям в более биологических разделах этого форума. Пытаться определять новый термин через обязательное наличие чего-то, что тоже не могут чётко и однозначно определить изначально, мне представляется пустым философствованием. Может оказаться, что, с одной стороны, это уже сознание, но с другой стороны, это ещё не сознание, и, вообще, сознанием может обладать только человек, по определению. Мне представляется, что это рассуждения о бессмысленном.
Напишу несколько тезисов, чего ещё не хватает ИИ, чтобы люди его признали за ИИ. Прошу меня поправить, если это не про СИИ, про который уже все, кроме меня, знают, каким он должен быть, и это оффтопик в этой теме.
1. AGI должен уметь строить различные конкурирующие гипотетические цепочки вывода. Для различных гипотетических цепочек вывода он должен уметь грубо оценивать их качество (вероятность) на основании оценок вероятностей исходных данных.
2. AGI должен уметь самостоятельно разбивать сложные задачи на более мелкие подзадачи. Обучение решению сложной задачи должно осуществляться через обучение решению мелких подзадач и, затем, комбинированию результата с использованием п. 1.
3. Чтобы люди приняли AGI за интеллект, ошибки, которые допускает AGI, должны быть "человечны", т. е. понятны людям. ИИ может допускать те же ошибки, что и люди, может допускать меньше ошибок, но крайне плохо, если он часто допускает ошибки, которые люди легко диагностируют, как ошибки.