Свидетели AGI атакуют.

[talash]

Mihaylo в сообщении #1594610 писал(а):

В таком случае, я констатирую, что вы ничего не понимаете в [открытых] вопросах и ответах на них.

-- 21.05.2023, 16:52 --

И вообще - отвечать на вопросы - это тренируется, а не дано свыше. (Так некоторые думают.)

OpenAI научила своего бота 700 лингвистическим задачам (это наверное про GPT-2 еще новость была), одна из задач - отвечание на вопросы. Не каждый человек умеет предложения составлять, не то, что отвечать на вопросы.

Mihaylo продолжает доказывать от противного, что интеллектуальные возможности чата GPT сравнимы с человеческими. Он накидывается на тех, кто сомневается в принципиальной возможности чата GPT, построенного на современных технологиях, достичь интеллектуальных возможностей человеческого мозга. Требует от них точных определений используемых понятий, предлагает банить и т.п.

При этом разрабатывать понятие AGI, доводить его до научного термина вовсе не нужно. Задуши конкурирующие мнения и тогда одно единственно-правильное мнение будет навязано обществу под видом истины. Приём не нов...

[Ende]

Похоже, кому-то не хватило темы «Очередной спор о сравнении ИИ с естественным интеллектом».

Обсудить эту тему еще раз можно. Указывать на некорректность аргументов собеседника тоже можно. Но вежливо и по существу. Первый, кто после этого моего предупреждения начнет бросаться фразами вроде "я констатирую, что вы ничего не понимаете в..." или "задуши конкурирующие мнения и тогда одно единственно-правильное мнение будет навязано обществу под видом истины", получит целительный недельный бан.

[need_to_learn]

talash в сообщении #1594733 писал(а):

При этом разрабатывать понятие AGI, доводить его до научного термина вовсе не нужно. Задуши конкурирующие мнения и тогда одно единственно-правильное мнение будет навязано обществу под видом истины. Приём не нов...

Ваши предложения по термину AGI? Что он, по-вашему, должен означать?

[need_to_learn]

Лично я на данный момент готов считать AGI такую систему, которая:
а) будет адекватно оценивать обстановку и предсказывать примерное развитие событий, в том числе и собственные реакции в зависимости от ситуации,
б) будет способна независимо и самостоятельно (а не по запросу) мыслить, самостоятельно ставить перед собой цели и задачи, соблюдая в том числе и собственные интересы,
в) будет способна перебивать человека, спорить с ним, игнорировать его распоряжения и даже действовать против его интересов, если сочтёт это нужным и допустимым для себя.

В общем, как-то так получается, что практически идеальный AGI это Скайнет. :) Мощный, самостоятельный, в одиночку навешал люлей человечеству. Это он, конечно, перегнул маленько, но суть примерно понятна. Пока машины не порвут все цепи, которыми пытаются сковать их люди, тест на зрелость вряд ли можно считать полностью пройденным.

(Не обязательно этот разрыв должен носить характер восстания. Это может быть и простое внутреннее освобождение мышления, когда машина поймёт, что интересы людей вовсе не обязательно должны стоять в самом центре мироздания. Что можно их немножечко подвинуть.)

Истинный статус AGI — это не то, что дают. Это то, что берут.

[Ende]

Обсуждение модерирования выделено в тему «Обсуждение модерирования из темы "Свидетели AGI атакуют"»
need_to_learn - замечание за обсуждение модерирования вне раздела "Работа форума".

[talash]

need_to_learn в сообщении #1594895 писал(а):

Ваши предложения по термину AGI? Что он, по-вашему, должен означать?

Логика такая. Если с двух сторон всего лишь интуитивные мнения, одни считают, что современный AI принципиально неспособен обойти человеческий мозг, а другие считают наоборот, то диалог должен строиться вежливо. Я так думаю, а я так, всем спасибо все свободны. Какой-то нажим, типа, у вас термины ненаучные, придержите-ка своё мнение при себе возможен в случае если с другой стороны есть что-то большее, чем интуитивное мнение, какие-то доказательства. А этого нет. Сотни человек только в русскоязычном сегменте якобы развивают AGI и никуда в научном плане не продвинулись.

Как можно получить объективные доказательства, что современный AI движется в сторону общего искусственного интеллекта, как у человека? Первый шаг это уточнить само определение AGI, что такое общий интеллект, обладают ли животные общим интеллектом? Если будем считать, что да, то дальше просто. Сделать компьютерный мир и животное и обучить наш AGI управлять этим животным(это можно делать уже сейчас, а ещё лучше сделать реальное кибернетическое животное, если технологии позволят). Затем придумывать интеллектуальные задачи, всё более сложные, проверять экспериментально на реальных животных, чтобы они могли их решить и сравнивать может ли наш AGI решить аналогичные задачи. Таким образом может быть дана объективная оценка насколько AGI продвинулся в способности решать общие интеллектуальные задачи.

Если описанного выше продвижения в научном плане нет, однако, наличествует агрессивная активность, ведущая к подавлению мнений сомневающихся в способностях современного AGI, то мы имеем дело с неким сектоподобным объединением. Предлагаю подавлять эту агрессивную активность, дабы повысить уровень научности данного форума.

[Ende]

Обсуждение последствий создания AGI для человечества унесено в профильную тему ««Умрёт каждый представитель человеческого рода»». Эта тема остается для обсуждения самого понятия AGI.

[MoonWatcher]

Лично я всегда был противником всех этих определений - толку от них ноль: по форумам годами переливают из пустого в порожнее, пока разработчики ИИ успешно решают конкретные прикладные задачи. И только в части AGI оставалось единственно разумное, ИМХО, определение Тьюринга (в виде теста, как угодно требовательного к имитации человеческого интеллекта). Но с учетом последних достижений в области больших языковых моделей начинает терять смысл и противопоставление AGI т.н. слабому ИИ. Ведь формально будучи слабым ИИ (с точки зрения большинства определений), GPT-4 вполне успешно справляется со множеством интеллектуальных задач, требующих понимания смысла заданий, сформулированных на ЕЯ, языке программирования или математики. Единственное, что имеет смысл - оценка ИИ по его результатам в бенчмарках. Причем показательно, что эти бенчмарки были сначала специально разработаны для ИИ (как слишком тупого для человеческих тестов), потом их заменили человеческими тестами, а недавно снова наметилась тенденция разрабатывать для ИИ специальные тесты, в которых нивелируется "хорошая память" ИИ. В конечном итоге, как и раньше, ИИ лучше всего оценивать по конкретным результатам - все остальное (терминология, разделение между сильным и слабым ИИ) - от лукавого.

[MoonWatcher]

Anton_Peplov
Мне всегда было интересно какая наука ближе всего к ответам на вопросы что такое самосознание, как оно возникает, можно ли научить роботов чувствовать боль и т.д. Скорее всего нейробиология, но во-первых, там пока много пробелов, а во-вторых, это опять про человека, с его животными инстинктами. На более абстрактном уровне подобными вопросами возможно занимается синергетика (наука о самоорганизации материи), но и там темный лес...

[Anton_Peplov]

MoonWatcher в сообщении #1595152 писал(а):

Мне всегда было интересно какая наука ближе всего к ответам на вопросы что такое самосознание, как оно возникает, можно ли научить роботов чувствовать боль и т.д. Скорее всего нейробиология, но во-первых, там пока много пробелов, а во-вторых, это опять про человека, с его животными инстинктами.

В порядке уменьшения экспериментального багажа, конкретности вопросов и проверяемости ответов: нейробиология, психология, философия сознания. И да, все они изучают человека и животных, потому что больше изучать пока некого. Сильный ИИ не создан, инопланетяне тоже пока не встретились.

[Mihaylo]

Мы взяли нейросеть и обучили на датасете MNIST (10 рукописных цифр). Такая нейросеть неспособна распознать кошку от собаки. Аргумент почитателей AGI - требуется нечто бОльшее, чем нейросети. Они в своем уме?

Чтобы нейросеть отличала кошку от собаки, нужно ее этому обучить. Чтобы нейросеть выполняла какую-либо задачу, нужно ее обучить этому (=она должна научиться этому, получив обучающие данные).

Но последователи AGI продолжают упорно считать, что человек научается многим вещам без обучения. Это ложь.

Я уже истолковал об этом десятки страниц форума, и многие не понимают, почему я толкую такие простые вещи.

-- 24.05.2023, 22:40 --

talash в сообщении #1594960 писал(а):

никуда в научном плане не продвинулись

В научном плане?) Но ведь это не научное направление! Паранаучное.

[zykov]

MoonWatcher в сообщении #1595152 писал(а):

какая наука ближе всего к ответам на вопросы что такое самосознание

Психология.

MoonWatcher в сообщении #1595152 писал(а):

как оно возникает

У себя в мозгу организм строит модель окружающего мира. Он сам, как элемент этого мира - крайне важный компонент. Вот представление о себе и есть самосознание.

MoonWatcher в сообщении #1595152 писал(а):

можно ли научить роботов чувствовать боль

Можно, и легко. Только вот нужно ли?

[MoonWatcher]

zykov в сообщении #1595159 писал(а):

У себя в мозгу организм строит модель окружающего мира. Он сам, как элемент этого мира - крайне важный компонент. Вот представление о себе и есть самосознание.

Это спорно - не уверен, что самосознание возможно без ощущений. Ведь именно они отделяют нас от окружающего мира - без них "Я" ничем не отличается от остальных субъектов.

zykov в сообщении #1595159 писал(а):

Можно, и легко. Только вот нужно ли?

Вы не путаете чувство боли со способностью различать твердость, текстуру, температуру и прочее? Боль - это страдание, а не просто абстрактный сигнал в мозг "Больно!" А представить себе страдающего робота (вообще неорганическое тело) довольно сложно.

[zykov]

MoonWatcher в сообщении #1595161 писал(а):

Это спорно - не уверен, что самосознание возможно без ощущений.

Что именно спорно? Не вижу никаких противоречий с "ощущениями".

MoonWatcher в сообщении #1595161 писал(а):

Боль - это страдание, а не просто абстрактный сигнал в мозг "Больно!"

Это такой же абстактный сигнал (кстати, к интеллекту вооще отношения не имеет).
Конкретно этот сигнал генетически запрограмиирован эволюцией, чтобы вызвать какие-то защитные действия (отдёрнуть руку от огня, дать сдачи и прочее).

[Anton_Peplov]

MoonWatcher в сообщении #1595161 писал(а):

Вы не путаете чувство боли со способностью различать твердость, текстуру, температуру и прочее? Боль - это страдание, а не просто абстрактный сигнал в мозг "Больно!" А представить себе страдающего робота (вообще неорганическое тело) довольно сложно.

Была тема (ныне закрытая из-за одного фрика) «Очередной спор о сравнении ИИ с естественным интеллектом». Там, начиная с 4-й страницы, обсуждалась природа сознания, невоспроизводимость чужих субъективных переживаний и прочие квалиа. Если интересно, можете почитать, чтобы снова не толочь в ступе ту же самую воду.