Очередной обмен мнениями об ИИ и мозге

[ozheredov]

mihaild в сообщении #1730104 писал(а):

"Достойность" - это социальный конструкт.

Не согласен. Даже если 100% населения (включая меня) согласятся с тем, что врать, воровать и использовать людей как скот достойно, все равно это будет не так. Is a citation needed?

mihaild в сообщении #1730104 писал(а):

Чем сложнее процессы, тем точнее должно быть копирование именно механизма, а не просто внешнего сходства.

Вначале нужно создать систему понятий, разработать теорию и построить модель. Иначе не понятно, что важно а что нет. Была такая история - русские копировали у америкосов архитектуру процессора целиком. Хотя для их нужд хватило бы и половины того, что там было, они понятия не имели, что там за что отвечает, поэтому боялись выкинуть нужное. С моей точки зрения это лютый кринж. Ну и что, - скажет кто-нибудь, - микросхема работала и "интеллектуальные задачи" решала. Вполне рабочая схема: копируем мозг в железо, запустим на нем ИИ и просим сгенерировать фундаментальную теорию взаимодействий. Напишем промпт. Вполне рабочая схема, как по мне. Только (опять же, это моя точка зрения) такие вот вайб-ресёчеры и эйждент-ресёчеры те ёще читеры от науки и не имеют НИКАКОГО морального права критиковать космо-поисковиков, плоскозёмов, лозоходцев, ферматистов и прочих лжеучёных.

mihaild в сообщении #1730104 писал(а):

Зачем нам система, лучше умеющая решать интеллектуальные задачи? Я в принципе конечно могу какой-то частичный список написать, но Вы точно это хотели спросить?

Нет, я хотел спросить, зачем нам превращаться в блондинку, которая насо....бирала на автомобиль, но не понимает как работает СВД ДВС.

mihaild в сообщении #1730104 писал(а):

А я просил ссылки не на это, а на "дикими людьми движут эмоции" и "цивилизацией движут идеи".

А, на это я ответил, что это моё, как мне кажется, рационально обоснованное убеждение, сформировавшееся под влиянием кучи информации. Но мне теперь самому интересно Обещаю выяснить, высказывались ли имплицитно подобные тейки кем-нибудь из известных. По крайней мере, с ИИшками точно подробно поговорю.

[mihaild]

ozheredov в сообщении #1730137 писал(а):

Даже если 100% населения (включая меня) согласятся с тем, что врать, воровать и использовать людей как скот достойно, все равно это будет не так. Is a citation needed?

Ага. Мне никакие сколь-нибудь убедительные аргументы против гильотины Юма неизвестны.

ozheredov в сообщении #1730137 писал(а):

Вначале нужно создать систему понятий, разработать теорию и построить модель

Соответственно пока не построена теория всего, все конструкторские бюро закрываем?

ozheredov в сообщении #1730137 писал(а):

но не понимает как работает

Мы ничего из работающего "до конца" не понимаем. Лучше, конечно, понимать, но отказываться от попыток решить какие-то задачи только потому, что мы это предполагаемое решение полностью не понимаем - ИМХО крайне странно.

Я могу согласиться с тем, что непонятно, лежит ли наиболее реалистичный путь к созданию системы, способной доказать гипотезу Римана, через попытку воспроизвести мозг человека на уровне нейронов, или нет. Мне интуитивно кажется, что скорее нет, но, поскольку я не знаю, как такую систему создать, моя интуиция стоит не очень много. И я могу согласиться, что создать её с помощью копирования мозга, не разбираясь на подходящем каузальном уровне, как именно мозг решает математические задачи, может быть сильно сложнее, чем разобравшись.
Но это всё про перспективность таких попыток. Если, допустим, к нам прилетел Омега и сказал, что да, если мы начнем в эту сторону копать, то за 10 лет сколько нужно накопаем - то мне сложно придумать, как "а мы не понимаем что там в целом происходит" должно стать основанием не копать.

[Ghost_of_past]

Mihaylo в сообщении #1730098 писал(а):

Лучше бросьте клич: "Кто согласен с тем, что современные нейросети - это отстой?".

Как-то очень расплывчато и слишком общо.

Mihaylo в сообщении #1730098 писал(а):

Отсюда будет практически 100% следовать, что апологет ждёт полноценного вскрытия исследования мозга человека, потому что нет иной причины думать, что современный ИИ "слабоват".

Не вижу логической связи.

-- добавлено через 1 минуту --

ozheredov в сообщении #1730137 писал(а):

Не согласен. Даже если 100% населения (включая меня) согласятся с тем, что врать, воровать и использовать людей как скот достойно, все равно это будет не так.

И тем не менее это социальные конструкты, да еще и подвижные во времени и пространстве.

[realeugene]

ozheredov в сообщении #1730137 писал(а):

Нет, я хотел спросить, зачем нам превращаться в блондинку, которая насо....бирала на автомобиль, но не понимает как работает СВД ДВС.

Могу предположить, что вам самому превратиться в блондинку гораздо сложнее, чем в автомеханика. Не завидуйте.

-- добавлено через 6 минут --

mihaild в сообщении #1730104 писал(а):

Ну я согласен. И мой работодатель, очевидно, тоже, иначе бы он меня уволил.

И затем тихонько открыли ChatGPT?

[Alex-Yu]

ozheredov в сообщении #1730137 писал(а):

зачем нам превращаться в блондинку, которая насо....бирала на автомобиль, но не понимает как работает СВД ДВС.

Как это зачем??? Ответ же очевиден: для того, чтобы торгаши, торгующие автомобилями, нажили больше денег.

Вообще если экономцентризм не будет преодолен, деградация человечества неизбежна.

-- добавлено через 31 минуту --

SergeyGubanov в сообщении #1730070 писал(а):

Вы как будто осуждаете. Это ж просто работа за деньги.

А работать за деньги и есть предосудительное занятие. Хотя при современном общественном устройстве и неизбежное (впрочем, не для всех неизбежное, да и немаловажно вся ли работа за деньги или только ее часть).

-- добавлено через 2 минуты --

Ghost_of_past в сообщении #1730087 писал(а):

Уж точно не настолько, чтобы кто-то всерьез верил в то, что "биологические и эволюционные процессы совершенны".

И что с того? Зачем НАМ нечто, более совершенное чем мы?

[Dedekind]

Alex-Yu in post #1730193 писал(а):

А работать за деньги и есть предосудительное занятие.

Только за еду, только хардкор?:)

[Alex-Yu]

Mihaylo в сообщении #1730098 писал(а):

"Кто согласен с тем, что современные нейросети - это отстой?".

Дело совсем не в том, "отстой" или нет эти нейросети. На самом деле как раз самое омерзительное то, что не "отстой". А если нынешние и "отстой", то в довольно обозримом будущем станут не "отстой". И это запредельно мерзко.

[Ghost_of_past]

Alex-Yu в сообщении #1730193 писал(а):

Зачем НАМ нечто, более совершенное чем мы?

Тогда можно для начала отказаться от калькуляторов: они тоже более совершенно считают, чем подавляющее большинство людей. И от тостеров - они быстрее и лучше готовят тосты, чем люди.

Стоит ли сразу вернуться в пещеры или остановимся на средневековье?

-- добавлено через 1 минуту --

(Оффтоп)

Dedekind в сообщении #1730196 писал(а):

Только за еду, только хардкор?:)

Есть еще альтернативы.

-- добавлено через 47 секунд --

Alex-Yu в сообщении #1730197 писал(а):

И это запредельно мерзко.

Неолуддизм?

[Mihaylo]

Alex-Yu в сообщении #1730197 писал(а):

И это запредельно мерзко.

Ну да, трудно признать себя каким-то хоминидом, то есть по сути обезьяной. Нет, на самом деле мы, люди, достаточно умны... Но... Есть ПРЕДЕЛ.

[warlock66613]

Ghost_of_past в сообщении #1730202 писал(а):

Неолуддизм?

Луддисты были против прогресса, а мы всецело за прогресс, мы просто против ИИ.

[mihaild]

Alex-Yu
Какой-то аргументации, или хотя бы более подробных формулировок, от Вас ждать стоит, или только эмоциональных возгласов?
(каждый имеет право на произвольные личные эстетические предпочтения, но я не очень понимаю, зачем их многократно высказывать в примерно одной и той же компании)

Alex-Yu в сообщении #1730193 писал(а):

Зачем НАМ нечто, более совершенное чем мы?

А зачем НАМ вообще ЧТО БЫ ТО НИ БЫЛО?
Лично мне очень интересно, равны ли P и NP, или нет. Шансы выяснить это самостоятельно у меня, естественно, близки к нулю. Если кто-то найдет решение - я попытаюсь в нём разобраться (но, скорее всего, не разберусь). И непонятно, почему мне должно быть важно, найдет это решение ChadGPT 42.666 или Тао.
(понятно, что в решении Тао у меня шансов разобраться в несколько раз больше, но всё равно пренебрежимо мало)

[Ghost_of_past]

warlock66613 в сообщении #1730205 писал(а):

Луддисты были против прогресса

Ну это какие-то очень общие луддисты. Так-то исторически они были против конкретных вещей - например, против ткацких станков, паровых машин, паровозов и железных дорог и т.д.

warlock66613 в сообщении #1730205 писал(а):

мы просто против ИИ.

Так это огромный комплекс технологий с кучей негативных и позитивных последствий. Не слишком общо быть против них? Если что, то я тоже не фантастический поклонник нынешнего ИИ-оптимизма (и есть у меня подозрение, что за этот финансовый пузырь нам придется еще всем дорого заплатить), но как-то совсем однозначно относиться тоже не получается. Но конкретно нейрослоп, заполонивший музыку, фанфики и пр. меня тоже дико раздражает.

[yesterday]

Не хотел никогда встревать в эти бессмысленные с моей точки зрения споры, но, всё же отмечусь с позиции : современные ИИ -- игрушка в руках человека. Да, игрушка прикольная. И мне даже нравится. Порой даже думаешь--вот это по настоящему новая технология, которая интересна сама по себе, потому что качественно новая. Интересно за ней наблюдать. Но, пока это игрушка в руках человечества.

[Alex-Yu]

Ghost_of_past в сообщении #1730202 писал(а):

Dedekind в сообщении #1730196

писал(а):
Только за еду, только хардкор?:)

Есть еще альтернативы.

Ну о чем можно говорить с людьми, которые не могут себе даже представить иной работы, чем работа за что-нибудь (за деньги, за еду или за еще что -- не важно)....

-- добавлено через 3 минуты --

warlock66613 в сообщении #1730205 писал(а):

Луддисты были против прогресса, а мы всецело за прогресс, мы просто против ИИ.

Я бы сказал иначе. Прогресс может быть разный. Может быть прогресс "железок", сопровождающийся прогрессом людей (и способствующий прогрессу людей), а может быть сопровождающийся наоборот регрессом людей (и ему способствующий) . Лично я всецело за первую разновидность и категорически против второй.

-- добавлено через 8 минут --

mihaild в сообщении #1730207 писал(а):

почему мне должно быть важно, найдет это решение ChadGPT 42.666 или Тао.

Потому, что в решении Тао у Вас есть хоть какой-то шанс разобраться (а не повезет, так разберутся другие люди), а в решении ChatGPT такого шанса нет вообще (ни у Вас, ни у кого другого). А ответ сам по себе... Да на фиг он не нужен, ответ сам по себе, нечеловеческий ответ. Такой ответ даже наоборот вреден по указанной выше причине.