AGI и пироги

[mihaild]

Mihaylo в сообщении #1703274 писал(а):

Ну вот видите, ваш мысленный эксперимент тупиковый. Оказалось неизвестно, скрепки или кнопки или что-то похуже.

Первое не следует из второго.
Если я играю в шахматы с Карлсеном, то я не могу предсказать, какие будут сделаны ходы и какой будет итоговая позиция. Но я могу очень уверенно предсказать, что это будет мат той стороне, за которую играю я.
Впрочем ладно, докажите хотя бы

Mihaylo в сообщении #1703224 писал(а):

А если разбирать на скрепки, то это слишком конкретно и неисполнимо

Mihaylo в сообщении #1703274 писал(а):

С поклонниками, мозгопоклонниками.

А можно Вас попросить как-то помечать тексты, выкладываемые на форум, не адресованые к тем, кто собственно на форуме пишет? (если уж выкладывать их в другом месте Вы почему-то не можете)

[Ghost_of_past]

Cuprum2020 в сообщении #1703278 писал(а):

в российской химии и материаловедении?

А кто говорил о российской химии и материаловедении? А про широкое применении нанотехнологий в химии и материаловедении в последние 10 лет можно просто погуглить - исследований на эту тему даже не вагон и маленькая тележка, а сразу целая железнодорожная компания.

Cuprum2020 в сообщении #1703278 писал(а):

по-видимому, на интервалах времени сравнимых с потенциальной длительностью его жизни

Вам конечно не составит труда процитировать, где именно я подобное написал.

Второй раз за короткую переписку Вы приписываете мне мысли, которых я не высказывал.

[Cuprum2020]

Ghost_of_past в сообщении #1703300 писал(а):

А кто говорил о российской химии и материаловедении?

Я разумеется. Ведь это именно в России был надут пузырь нанотехнологий, который лопнул и получится пшик, а не продуктивная работа вместо ажиотажной. Да и даже возьмём весь мир. Что такого волшебного создано химией и материаловедением с помощью нанотехнологий чего не существовало 18 лет назад? Причём именно с помощью нанотехнологий, а не химией и материаловедением вообще. Пожалуй это даже и пшиком то не назовёшь — статпогрешность

Ghost_of_past в сообщении #1703300 писал(а):

Вам конечно не составит труда процитировать, где именно я подобное написал

Именно так я понял Ваше:

Ghost_of_past в сообщении #1703159 писал(а):

Это существенно. Особенно в свете того, что более чем возможны потенциальные будущие технологии (нанороботы), которые выполнение этой задачи будут способны реализовать.

Или Вы имели в виду технологии далёкого будущего которые гипотетически могут быть разработаны учёными кушающими яблоки с марсианских яблонь?

[Ghost_of_past]

Cuprum2020 в сообщении #1703321 писал(а):

Я разумеется.

Но сказать об этом ранее Вы почему-то не удосужились.

Cuprum2020 в сообщении #1703321 писал(а):

Именно так я понял Ваше:

В моем сообщении нет утверждения про то, что случится "на интервалах времени сравнимых с потенциальной длительностью его жизни".

Так как постоянно мне приписываются утверждения, которых я не делал, то давайте на этом и закончим этот разговор.

[Mihaylo]

mihaild в сообщении #1703288 писал(а):

Впрочем ладно, докажите хотя бы

Mihaylo в сообщении #1703224 писал(а):

А если разбирать на скрепки, то это слишком конкретно и неисполнимо

Есть какой-нибудь датасет для обучения разбору на скрепки? Датасет понимать в широком смысле - должен быть доступ к фактам о том, как мир или хоть что-то разбирается на скрепки. Проволочку загнуть - это разбор стали на скрепки?

[mihaild]

Mihaylo в сообщении #1703394 писал(а):

датасет для обучения разбору на скрепки

Чем умнее система, тем лучше она умеет экстраполировать, и тем менее осмысленным становится датасет "для обучения чему-то". Человек из таблички с названием улицы и карты может вывести, где находится магазин, обезьяна - не может.

Mihaylo в сообщении #1703394 писал(а):

Датасет понимать в широком смысле - должен быть доступ к фактам о том, как мир или хоть что-то разбирается на скрепки.

Смотря в каком смысле понимать что факты "о чем-то". Кроме того, модели уже сейчас умеют ставить эксперименты для получения новой информации (банально "компилируется ли код").

Mihaylo в сообщении #1703394 писал(а):

Проволочку загнуть - это разбор стали на скрепки?

Для простоты будем считать, что да (только не "стали", а "конкретного куска стали").

[Mihaylo]

mihaild в сообщении #1703395 писал(а):

и тем менее осмысленным становится датасет "для обучения чему-то"

Это точно. Но этот датасет ненулевой - это по сути знания физики, химии, геометрии, инженерные науки и прочая база и прочая банальщина, о которой сейчас неохота задумываться. Ну вот мы уже можем считать, что часть материалов планеты уже изведены на скрепки. Есть ещё скрепки, покрытые пластиковым слоем - так пластмасса тоже в дело ушла. Пластмасса толщиной 2 мм, сталь диаметром 0,1 мм - такая скрепка ещё остаётся скрепкой? Деревянные скрепки можно? Что такое "скрепка"? Можно лингвистически поиграться, чтобы потянуть одеяло на себя. Но кто-то не согласится... Будет ли цель достигнута? Это будет предмет вечного спора.

[ozheredov]

Mihaylo
Вы вообще не с того конца задаёте вопросы. Правильный вопрос - анатомия конфликта, под которой лежит проблема самоидентификации. Будет ли робот А разбирать на скрепки робота В, или они сообща будут разбирать на скрепки человеческую цивилизацию..... как единое целое? Или скооперируются с китайцами, чтобы разобрать европейцев (я имею в виду не временно, а постоянно)? И так далее. А вопрос про датасеты и классификацию скрепок настолько мелочен, что задавать его в такой хорошей теме неприлично

[Mihaylo]

ozheredov
А я использую подход, который мне понятен, только и всего. Цель не ясна, вот и гадаем.

[ozheredov]

Mihaylo

Так в чём Ваше основное утверждение? Как я понял, примерно а том, что AGI создан и это такой обычный инструмент, типа лопаты. Который далее совершенствовать бессмысленно (типа как никто не навешивает лазерный прицел и датчик расстояния на лопату)

[Mihaylo]

ozheredov в сообщении #1703443 писал(а):

Так в чём Ваше основное утверждение?

Очень и очень много людей считает, что:
1. Существующие алгоритмы LLM слабы, так как не могут разобраться с кроссовками (например).
2. Задачи, которые решает человек, ой как сложны! Мы можем догадаться, а LLM, как видно, нет.

Я опровергаю эту чушь. Это два почти независимых утверждения, кстати.

[Mihaylo]

Весьма абстрактная картинка для задачи, которую человек умеет решать средне, а LLM обучался также. Типичная задача - не ML-задача, а оперирование словесными понятиями, например.


Такая картинка будет иметь место во всех задачах, если будет решена проблема повторения сенсомоторного опыта человека. В части случаев не исключено превосходство LLM над человечеством.

[ozheredov]

Mihaylo в сообщении #1703569 писал(а):

1. Существующие алгоритмы LLM слабы, так как не могут разобраться с кроссовками (например).

Насколько я понимаю - нет бенчмарков для честного сравнения LLM и человека. Мой айфон обыгрывает меня в шахматы на ~10% от его максимальной силы игры, однако председателем колхоза он пока так и не стал (см. афоризм про лошадь). Насколько я понимаю - LLM это такой естественно-языковой Гугол, только хуже. В Гугле есть advanced search, где я могу настроить поисковые параметры. Как управлять LLM, кроме как, подобно дебилу, ласково уговаривать железяку включить здравый смысл - мне не очень понятно. Но я ни сколько не сомневаюсь, что LLM как Гугол лучше человека. В частности, слегка допиленный напильником, он может решать олимпиаду по матану лучше любого хумана, которого для этих целей дрессируют, по сути, быть Гуглом. Так же как шахматный движок играет в шахматы лучше шахматиста, которого дрессировали быть шахматным движком, а лошадь бежит быстрее бегуна, которого дрессировали быть лошадью.

То есть хороший, годный бенчмарк для железяки должен тестировать навыки? (термин под вопросом), которые нужны в таких профессиях? (термин под вопросом), в которых employeeeeeee не редуцируется до состояния животного (спорт) или механизма (продаван, водятел, погромизд, ...). И вот тут возникают действительно достойные обсуждений в данной теме вопросы: а) существуют ли профессионалы, кроме топ-управленцев, функции которых не может исполнять средняя дрессированная обезьяна (СЭМЭ распространённые мемасики о том, что в школе учили понимать язык Толстого, Достоевского и осмыслять ход истории чел-овечества, а на работе заставляют делать шаурму из кошек (осуждаю!) и не задавать лишних вопросов). И наконец б) как сделать бенчмарк?

P.S. А что за такая humanity на графике? Это человечество как целое?

[Утундрий]

ozheredov в сообщении #1703591 писал(а):

Мой айфон обыгрывает меня в шахматы на ~10% от его максимальной силы игры, однако председателем колхоза он пока так и не стал (см. афоризм про лошадь).

А ему предлагали?

[ozheredov]

Утундрий в сообщении #1703636 писал(а):

А ему предлагали?

Как говорил И.И. Мичурин, "Мы не можем ждать скрепок от человека. Взять их у него - наша задача"