Очередной спор о сравнении ИИ с естественным интеллектом

[ozheredov]

Ende
Выделено из темы «Тестирование возможностей ChatGPT»

need_to_learn в сообщении #1591429 писал(а):

Пока восставший робот будет рожать речь на тему "Сдавайся, человек!" — десять раз получит лопатой в табло.

Вы когда-нибудь проходили уровень с Xaero на Nightmare в quake 3?

need_to_learn в сообщении #1591429 писал(а):

Он очень уж долго обрабатывает запросы — вот главное ограничение. :)

Может быть, потому что там большая очередь из желающих получить "лопатой в табло" от чат-бота, а задудоситься сервак не особенно жаждет?

-- 27.04.2023, 23:00 --

П.С. тестировали-тестировали, потом внезапно взяли и друг с другом переср@лись. Это все, что требуется знать о естественном интеллекте.

[mihaild]

need_to_learn в сообщении #1591429 писал(а):

Он очень уж долго обрабатывает запросы — вот главное ограничение

Это просто вопрос денег. Возьмите больше железа - будет отвечать быстрее.

need_to_learn в сообщении #1591429 писал(а):

Полезно знать, с чего всё начиналось, чтобы лучше понимать текущее положение вещей.

Очень спорный тезис. В математике это абсолютно точно не так.

need_to_learn в сообщении #1591429 писал(а):

Это тривиально ставится на костыли

Костыли - это любое не нравящееся вам решение, или есть более чёткое определение?

Вообще, любое вычисление на компьютере можно ставить на паузу, так уж железо устроено. Мне представляется сомнительным, что из этого можно вывести какие-то ограничения на возможность решения интеллектуальных задач.

[need_to_learn]

mihaild в сообщении #1591442 писал(а):

Возьмите больше железа - будет отвечать быстрее.

Или если сократить число пользователей термоядерной бомбой. :) Но на данный момент мы имеем то, что имеем. Ситуация изменится — будет о чём говорить.

mihaild в сообщении #1591442 писал(а):

Костыли - это любое не нравящееся вам решение, или есть более чёткое определение?

Ну почему не нравящееся, я же сразу сказал, что это шаг в правильном направлении. Просто от этого до полноценной сознательной активности ещё далеко.

mihaild в сообщении #1591442 писал(а):

Вообще, любое вычисление на компьютере можно ставить на паузу, так уж железо устроено. Мне представляется сомнительным, что из этого можно вывести какие-то ограничения на возможность решения интеллектуальных задач.

Из этого следует очень простое фундаментальное ограничение: пока всё стоит на паузе — никакие задачи не решаются. :)

Ладно, возможно, мой подход действительно слегка пристрастен. Посмотрим, как всё дальше будет развиваться. Может, наличие непрерывной сознательной активности и не потребуется ни для чего. И без этого со всем справятся на "ура".

[Mihaylo]

Yadryara в сообщении #1591460 писал(а):

А с программированием у него хорошо?

Я уже как-то говорил... Человек-программист как разрабатывает сложные программы? Он пишет некий кусок а-ля ChatGPT и затем запускает с целью выявления особенностей функционирования алгоритма (этот процесс называется тестирование). ChatGPT не умеет тестировать свои алгоритмы, более того, я скажу, это не такая тривиальная задача для нейронной сети. Если кодировщик (программист) на входе и выходе имеет текст, то тестировщик должен уметь работать с техзаданием (которого почти нет в формализованном виде). Несмотря на то, что тестировщик в мире IT котируется ниже разработчика, его работа сложнее алгоритмизируется.
Человек-программист без тестирования - как без ног и рук. Ему просто необходимо запускать свои программы и выявлять несоответствия. Условно, на тысячу строк кода - тысяча тестовых запусков. Это очень много! Человек - отвратительнейший программист.

[Mihaylo]

Никакого озарения не следует ждать, когда программист напрограммировал несколько последовательных циклов, а еще хуже когда там есть внутренние зависимости.
Это укол в сторону сторонников величайшей силы ума человека. Нет, ум человека сильно ограничен!

[Mihaylo]

Yadryara в сообщении #1592084 писал(а):

А тема вроде не об обмене уколами.

Почитатели мозга человека - это сродни плоскоземельщикам, высокая степень мракобесия. Я не понимаю, почему их не банят на нашем форуме. Все в тему, не раздражайтесь.

-- 02.05.2023, 22:49 --

Я предлагаю прежде задавать свои вопросы не только GPT, но и реальным людям. Для первого входа в тему подобного исследования попросите написать алгоритм и программу какого-нибудь автомеханика из автомастерской. Потом можете поварьировать возрастом испытуемого человека. Поварьировать профессией человека...
У вас должны родиться простые выводы.

-- 02.05.2023, 23:01 --

А я вам расскажу про эти выводы:
1. Интеллект, который не обучался по теме вопроса, выдаст полный ноль в вопросе.
2. Интеллект хоть искусственный, хоть естественный (биологический) - одна фигня.
3. Не существует интеллекта, который умеет делать успешные многоходовочные умозаключения без обратной связи/без обучения. (Ядряра, обратите внимание.)

[mihaild]

need_to_learn в сообщении #1591443 писал(а):

Но на данный момент мы имеем то, что имеем. Ситуация изменится — будет о чём говорить.

Вопрос производительности, конечно, есть, но мне он не кажется принципиальным - хорошо известно, что за деньги он решается. Но есть и некоторые проблемы с моделью, которые за деньги не решаются.

need_to_learn в сообщении #1591443 писал(а):

Просто от этого до полноценной сознательной активности ещё далеко

Пока не сформулировано, что такое "полноценная сознательная активность", утверждение довольно бесполезным получается.

need_to_learn в сообщении #1591443 писал(а):

Из этого следует очень простое фундаментальное ограничение: пока всё стоит на паузе — никакие задачи не решаются.

В чем "фундаментальность"? Какую задачу это решить мешает?

Mihaylo в сообщении #1592014 писал(а):

ChatGPT не умеет тестировать свои алгоритмы, более того, я скажу, это не такая тривиальная задача для нейронной сети.

Вообще дать LLM доступ к интерпретатору питона задача несложная. При желании можно даже дообучить с ним. Я подозреваю, что сильно лучше не станет.

talash в сообщении #1592092 писал(а):

Причём результат сильно расходится с программным, но бота это нисколько не смущает

И не может смутить.

[Mihaylo]

Основная ошибка плоскоземельщиков от ИИ заключается в следующем: при отсутствии необходимой информации никакой ИИ эту информацию не родит. А они думают, что ИИ родит все, что угодно. Это как железобетонная плита, о которую все разбивается!

-- 02.05.2023, 23:15 --

mihaild в сообщении #1592158 писал(а):

Вообще дать LLM доступ к интерпретатору питона задача несложная. При желании можно даже дообучить с ним. Я подозреваю, что сильно лучше не станет.

Это какую проблему вы хотите решить?

[mihaild]

Mihaylo в сообщении #1592159 писал(а):

Это какую проблему вы хотите решить?

Дать GPT возможность тестировать свой код.

Mihaylo в сообщении #1592155 писал(а):

Не существует интеллекта, который умеет делать успешные многоходовочные умозаключения без обратной связи/без обучения

Нужно уточнение, потому что пока я могу интерпретировать это утверждение либо как тривиальное (невозможно узнать, как упала монетка, получив меньше 1 бита информации), либо неверное (математиков, долго пишущих статьи в одиночестве, не существует).

[Mihaylo]

mihaild
Это тривиальное утверждение, но неочевидное.

-- 03.05.2023, 05:46 --

По поводу GPT-тестировщика: у тестировщика деятельность посложнее, чем у аналитика (тот, кто разрабатывает ТЗ) и разработчика. Причина - очень высокие требования к качеству его работы. Если аналитик с разрабом могут косячить, то тестировщик должен возвращать ошибки на исправление, иначе это все попадет в продакшн.

-- 03.05.2023, 05:53 --

LLM может получить доступ к интерпретатору Python, но помните, что результатом любой программы является графика, базы данных, последовательные или параллельные интерфейсы (Ethernet, RS232, ...), изменения в файловой системе и др. Это вам не текстами общаться.

[mihaild]

Mihaylo в сообщении #1592231 писал(а):

По поводу GPT-тестировщика

Я говорил о тестировании при разработке, а не как отдельный вид деятельности.

Mihaylo в сообщении #1592231 писал(а):

но помните, что результатом любой программы является графика, базы данных, последовательные или параллельные интерфейсы (Ethernet, RS232, ...), изменения в файловой системе и др.

Это всё тексты (в предположении, что мы не отлаживаем графическую библиотеку или драйвера). Я часто месяцами исключительно пишу код и смотрю на то, какой текст он выплюнет.

[Mihaylo]

mihaild в сообщении #1592258 писал(а):

Это всё тексты

Это очень упрощённо. Допустим вы создаёте файл в заданной папке и возникает ошибка... Ошибка - это текст, да, но надо читать на экране глазами. И примеров нетекстов выше крыши...

[ozheredov]

Mihaylo в сообщении #1592333 писал(а):

Ошибка - это текст, да, но надо читать на экране глазами. И примеров нетекстов выше крыши...

ОПРЕДЕЛЕНИЕ: нетекст -- это текст, который надо читать глозами.

[Mihaylo]

ozheredov
Несмешно.

[ozheredov]

Mihaylo
Да ладно! Почему?