Транстрансгуманизм

[epros]

Mihaylo в сообщении #1422244 писал(а):

Это Вы боготворите цели, будто они прописаны в Библии или еще где-то.

Это не я здесь заговорил о целях. Моё замечание было о том, что не нужно пытаться искать "прынципияльные" различия между искусственным и естественным интеллектами. Хоть в целях, хоть в предсказуемости, хоть в чём угодно.

Mihaylo в сообщении #1422244 писал(а):

На самом деле нет никаких целей, есть только естественный отбор и болевые сигналы в мозг от нервной системы.

На самом деле цели - это один из способов организации деятельности. Можно организовать деятельность как программу для конечного автомата: "Если состояние такое-то, то выполни вот это", а можно посредством целей: "Определи целевую функцию на множестве состояний, а потом разработай план действий, максимизирующих целевую функцию".

Откуда берётся целевая функция - результат ли она естественного отбора или результат обучения искусственного интеллекта - дело десятое.

Mihaylo в сообщении #1422244 писал(а):

У робота этого нет, а значит у него не могут самостоятельно формироваться целевые установки. Ну если только имитировать: подбрасываем монетку, орел - воюем за белых, решка - воюем за красных.

Я не знаю что означает Ваше "самостоятельно". Целевые установки у человека тоже возникают как результат наследственности и обучения, т.е. в некотором смысле "не самостоятельно". Робот ничем в этом плане не отличается: Его целевые установки возникают как результат изначального программирования (считай, наследственности) и обучения.

А "боль" там или какие-то иные сигналы о неуспешности действий, никакого значения не имеет.

[Vladimir-80]

epros в сообщении #1422316 писал(а):

Целевые установки у человека тоже возникают как результат наследственности и обучения

Тогда бы мы по сей день каменными орудиями пользовались. Человеку свойственно любопытство, бескорыстная тяга к познанию. Едва ли первые попытки получить бронзу делались сразу с прицелом на мечи и канделябры, вряд ли всевозможные научные теории возникали в головах гениев с целью посытнее поесть и помягче поспать. Чем в этом плане могут похвастать машины?

[epros]

Vladimir-80 в сообщении #1422342 писал(а):

Тогда бы мы по сей день каменными орудиями пользовались

С чего бы это? Умение пользоваться некаменными орудиями - как раз результат обучения.

Vladimir-80 в сообщении #1422342 писал(а):

Человеку свойственно любопытство, бескорыстная тяга к познанию. Едва ли первые попытки получить бронзу делались сразу с прицелом на мечи и канделябры, вряд ли всевозможные научные теории возникали в головах гениев с целью посытнее поесть и помягче поспать.

К чему это всё сказано? Это с намёком на "посмотрите какой я весь из себя уникально разумный, неполноценным железякам по определению такими никогда не стать"?

Vladimir-80 в сообщении #1422342 писал(а):

Чем в этом плане могут похвастать машины?

Ну, если возникнет такая неоходимость, можно и машины заинтересовать в разработке бронзовых канделябров.

[NikShoker]

Vladimir-80 в сообщении #1422342 писал(а):

epros в сообщении #1422316 писал(а):

Целевые установки у человека тоже возникают как результат наследственности и обучения

Тогда бы мы по сей день каменными орудиями пользовались. Человеку свойственно любопытство, бескорыстная тяга к познанию. Едва ли первые попытки получить бронзу делались сразу с прицелом на мечи и канделябры, вряд ли всевозможные научные теории возникали в головах гениев с целью посытнее поесть и помягче поспать. Чем в этом плане могут похвастать машины?

Это самое любопытство и тяга к познанию возникает от тех же чувств, которые также заставляют людей сейчас тратить много времени на чтение новостных лент и разных мемов. Природа предопределила, что любая новая информация предпочтительна. Она помогает выживать и размножаться. Это подсознательный процесс, а не сознательный. Соответственно, эти действия легко интерпретировать, как что-то особенное и непредсказуемое, что вы и делаете.
Машины не могут похвастать этим, так как развитие ИИ не достигает уровня развития ЕИ человека.

[Vladimir-80]

epros в сообщении #1422362 писал(а):

С чего бы это? Умение пользоваться некаменными орудиями - как раз результат обучения.

А откуда эти некаменные орудия взять, чтобы кого-либо учить работе с ними?

epros в сообщении #1422362 писал(а):

К чему это всё сказано? Это с намёком на "посмотрите какой я весь из себя уникально разумный, неполноценным железякам по определению такими никогда не стать"?

Не надо приписывать мне то, чего я не писал. Я обратил ваше внимание на существенное, с моей точки зрения, отличие машин от людей. Без ранжирования и оценок.

[Dmitriy40]

Vladimir-80
Утверждая что человеку присуще нечто уникальное (собственное целеполагание) Вы игнорируете одну существенную мелочь: человек развился из примитивных животных без этого уникального свойства (про простые химические соединения ладно уж не буду чтобы совсем не смущать) методом тупой эволюции. Смоделировав столь же сложный мир и дав ему столь же много времени вполне можно получить из простых неразумных машин/роботов нечто подобное человеку с его якобы уникальным свойством. Надеюсь Вы не будете это оспаривать (ибо тогда подпадёте под лженауку). При этом никакой осмысленной цели в исходные машины (типа развиться до разумных) можно и не закладывать, задать лишь правила существования мира (физические законы) и всё, дальше всё произойдёт само. На этом пути разумеется есть технические трудности, но не видно принципиальной невозможности.
Многие животные демонстрируют поведение, не укладывающееся в цели размножения, т.е. они тоже могут ставить себе довольно произвольные цели, как и человек.

Резюме: приписывая человеку нечто уникальное и внешне заданное Вы уходите в религию и лженауку.

[Vladimir-80]

Dmitriy40 в сообщении #1422366 писал(а):

человек развился из примитивных животных без этого уникального свойства (про простые химические соединения ладно уж не буду чтобы совсем не смущать) методом тупой эволюции.

Вот именно. Сам развился, методом перебора под воздействием внешней среды. Никто ничего не подсказывал, ничего целенаправленно извне не закладывал. Даже с учётом таких интересных штук, как горизонтальный перенос генов. Всё сами, потихоньку, помаленьку - но очень-очень долго.

Dmitriy40 в сообщении #1422366 писал(а):

Смоделировав столь же сложный мир и дав ему столь же много времени вполне можно получить из простых неразумных машин/роботов нечто подобное человеку с его якобы уникальным свойством.

Не исключено. А как прикажете относиться к оптимизму энтузиастов, у которых уже завтра-послезавтра "на Марсе будут яблони цвести"?

[realeugene]

Dmitriy40 в сообщении #1422366 писал(а):

Смоделировав столь же сложный мир и дав ему столь же много времени вполне можно получить из простых неразумных машин/роботов нечто подобное человеку с его якобы уникальным свойством.

Не факт. Вопрос в вероятности подобного исхода. К "моделированию" вопрос о вероятности успешного исхода применим, в отличие от вопроса о возникновении самого человека, задаваемого самим человеком.

-- 25.10.2019, 15:09 --

Dmitriy40 в сообщении #1422366 писал(а):

Резюме: приписывая человеку нечто уникальное и внешне заданное Вы уходите в религию и лженауку.

Отрицая в человеке уникальность вы уходите в фантастику. На данный момент альтернатив нет. Это не значит, что альтернативы не появятся в будущем, возможно.

[Dmitriy40]

Vladimir-80 в сообщении #1422368 писал(а):

А как прикажете относиться к оптимизму энтузиастов, у которых уже завтра-послезавтра "на Марсе будут яблони цвести"?

Как к детям: оптимисты, не столкнувшиеся вплотную с реальными трудностями (как объективными, так и субъективными).

realeugene в сообщении #1422369 писал(а):

Отрицая в человеке уникальность

Не отрицаю. Но вот что она изначально заложена и именно это принципиальное отличие ЕИ от ИИ - да, отрицаю. Раз Вы прочитали по диагонали я повторю: не видно принципиальной невозможности развить ИИ до уровня ЕИ, лишь технические трудности (дать поучиться достаточно сложной нейронке в достаточно сложном мире). Любая принципиальная невозможность сразу же отсылает к религии. К тому же у нас уже есть реально поставленный подтверждающий эксперимент - мы сами как продукт эволюции. И значит такой результат развития (хоть бактерий, хоть машин) возможен.

[realeugene]

Dmitriy40 в сообщении #1422371 писал(а):

К тому же у нас уже есть реально поставленный подтверждающий эксперимент

В единственном экземпляре. И ставили этот эксперимент не мы совершенно точно.
Молчание Вселенной заставляет предполагать, что в уравнении Дрейка присутствуют какие-то малые множители.

Dmitriy40 в сообщении #1422371 писал(а):

Раз Вы прочитали по диагонали я повторю: не видно принципиальной невозможности развить ИИ до уровня ЕИ, лишь технические трудности (дать поучиться достаточно сложной нейронке в достаточно сложном мире).

Возможно, но мне это достоверно не известно.

Мне кажется, что учёный должен уметь говорить "я не знаю". Без этого это всё не наука.

-- 25.10.2019, 15:37 --

Dmitriy40 в сообщении #1422371 писал(а):

И значит такой результат развития (хоть бактерий, хоть машин) возможен.

В принципе, ничто не запрещает вознкновения человека и самосборкой из отдельных атомов, а не в ходе эволюции.

[Dmitriy40]

realeugene в сообщении #1422372 писал(а):

В принципе, ничто не запрещает вознкновения человека и самосборкой из отдельных атомов, а не в ходе эволюции.

Ну вот и Вы согласились что для создания/возникновения ИИ не хуже ЕИ нет принципиальной необходимости в закладывании изначально каких-то уникальных свойств (умение произвольного целеполагания). Т.е. ничто (кроме чисто технических трудностей и времени жизни Вселенной ) не мешает нам развить ИИ до уровня ЕИ, чему тут выше возражают. О чём и речь.

[realeugene]

Dmitriy40 в сообщении #1422378 писал(а):

Ну вот и Вы согласились что для создания/возникновения ИИ не хуже ЕИ нет принципиальной необходимости

Вы не заметили в этих моих словах сарказм. И время жизни Вселенной - это совершенно фундаметальное ограничение, а не "техническая трудность". Кроме того, вы выдумали, что я с вами согласился. Я не знаю, нет ли на самом деле какой-то принципиальной необходимости в закладывании изначально в ИИ "уникальных свойств". Скорее, я склонен считать, что правильная архитектура и правильные процедуры обучения - это то, что необходимо для ИИ.

[Dmitriy40]

realeugene в сообщении #1422383 писал(а):

Скорее, я склонен считать, что правильная архитектура и правильные процедуры обучения - это то, что необходимо для ИИ.

Необходимо?! Ну для существующих технологий и за разумное время вполне да, но в принципе то? Теперь и Вы отрицаете возможность возникновения разума в процессе эволюции, хотя есть прямой подтверждающий пример. А если не отрицаете, то потрудитесь объяснить кардинальное отличие эволюции машин/роботов/нейросетей от эволюции химических соединений, почему вторая привела к разуму (пусть и случайно), а первая этого не сможет в принципе (даже каким-нибудь другим путём). И без привлечения технических трудностей (типа мол компы слабые или 4млрд лет не дают).

(PS.)

Снова попахивает божественным вмешательством в эволюцию человека ...

[epros]

Vladimir-80 в сообщении #1422364 писал(а):

А откуда эти некаменные орудия взять, чтобы кого-либо учить работе с ними?

Да к чему этот вопрос? К тому, что якобы только человек способен к созданию нового, а машины - никак? Так неправда ж.

Vladimir-80 в сообщении #1422364 писал(а):

Я обратил ваше внимание на существенное, с моей точки зрения, отличие машин от людей.

Да где же оно, это "существенное отличие"? В том, что человек разработал бронзовые канделябры, а машины пока не сподобились? Так задач у них таких пока не возникало, вот и всё. Я уж не говорю про то, что искусственный интеллект пока развит чуть больше улитки. Но это же преодолимо.

[realeugene]

epros" в сообщении #1422390 писал(а):

Но это же преодолимо.

Я тоже на это надеюсь.

-- 25.10.2019, 17:39 --

Dmitriy40 в сообщении #1422388 писал(а):

Теперь и Вы отрицаете возможность возникновения разума в процессе эволюции, хотя есть прямой подтверждающий пример.

Я против подобных утверждений без чёткого формального смысла.

(PS)

Я атеист. Но это мне не мешает видеть проблемы с "научным" обоснованием эволюции разума на примере развития только одного вида. Я, тоже, могу навыдвигать непроверяемых гипотез. Но к науке они отношения не иметь не будут. Потому как ненаучно это всё.