2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 17, 18, 19, 20, 21, 22, 23  След.
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение16.06.2015, 08:32 
Заслуженный участник


08/04/08
8556

(Denis Russkih)

Я не вижу в Ваших ответах интересных вопросов или нетривиальных утверждений, потому отвечать не буду - скучно.


(kry)

kry в сообщении #1027588 писал(а):
мы вообще не можем сказать точно, что такое интеллект, так как не существует единого универсального определения "интеллекта".
Чем плохо определение интеллекта как способности решать задачи? (я не в курсе этой проблемы, если она есть, потому в лоб спрашиваю)


Кстати, вот чтиво по теме:
http://nanosadism.narod.ru/joy.htm
Билл Джой
Почему мы не нужны будущему.
Всем баяцо :D

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение16.06.2015, 10:06 
Аватара пользователя


05/01/13

3968

(Оффтоп)

Sonic86 в сообщении #1027664 писал(а):
Я не вижу в Ваших ответах интересных вопросов или нетривиальных утверждений, потому отвечать не буду - скучно.

Мда, Вы правы, я впал в скучное занудство. Теряю форму — раньше у меня лучше получалось троллить. :)


-- 16.06.2015, 10:19 --

Sonic86 в сообщении #1027664 писал(а):
Кстати, вот чтиво по теме:
http://nanosadism.narod.ru/joy.htm
Билл Джой
Почему мы не нужны будущему.
Всем баяцо :D

Большое спасибо, оказалось неожиданно интересно. :) Я аж зачитался. (И продолжаю читать.)

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение16.06.2015, 12:45 
Аватара пользователя


05/01/13

3968
Sonic86 в сообщении #1027664 писал(а):
http://nanosadism.narod.ru/joy.htm

Читаю с перерывами, дочитал пока до середины. Автор мощно жжет, просто испепеляюще. Очень многие его мысли созвучны моим. Но я бы не смог рассуждать об этом так серьёзно и убедительно, без обычной для меня придури. :) В общем, автор говорит всё то, что мог бы сказать я, если бы был раз в десять умнее, начитаннее и сдержаннее. :) И примерно до середины текста я бы с удовольствием подписался практически под каждым словом.

Но вот сейчас автор плавно переходит от мастерского запугивания к указанию спасительного пути (по его мнению). И я внезапно наткнулся на мысли, которые кажутся мне на редкость наивными (контраст особенно разителен на фоне предыдущих, более чем адекватных рассуждений автора):

Цитата:
Единственной практической альтернативой, которую я вижу, является отказ: надо ограничить развитие слишком опасных технологий путём ограничения нашего стремления к определённым родам знаний.

Да, я знаю, знания хороши, как хороши и поиски новых истин. Мы ищем знаний с древних времён. Аристотель начал свою "Метафизику" с простого утверждения: "Все люди от рождения хотят знать". Мы в качестве основополагающей ценности нашего общества долгое время соглашались с ценностью открытого доступа к информации, и мы признаём проблемы, которые возникают при попытках ограничить доступ к знаниям и ограничить их развитие. В современную эпоху мы пришли к уважению научного знания.

Но невзирая на сильные исторические прецеденты, если свободный доступ к знанию и неограниченное развитие знания подвергает всех нас с этого времени ясной опасности вымирания, то здравый смысл требует, чтобы мы пересмотрели даже эти основные, долго удерживаемые убеждения.

По-моему, это просто бред. :)

Знания — это не какой-нибудь магический артефакт, который можно кинуть в жерло вулкана и забыть. Всегда ведь можно повторить исследования и добиться такого же, а то и более мощного результата. Пока где-то пытаются уничтожить одно-единственное Кольцо Всевластия, на другом краю света похожие колечки могут уже штамповать сотнями.

От чьего-то добровольного самоограничения на получение знаний могут выиграть лишь те, кто не будет налагать на себя таких ограничений.

Лично я всегда недолюбливал подход "А давайте всех сделаем беззубыми, чтобы никто не кусался". В результате зубы оказываются только у людоедов.

(Оффтоп)

Это как запрет на огнестрельное оружие в американских школах. По моему глубочайшему убеждению, люди там страдают не из-за того, что в Америке разрешена свободная продажа оружия, а как раз из-за того, что его запрещено приносить в школу! Такие полумеры приводят к тому, что единственным вооружённым человеком оказывается психованный пацан, который сумел протащить ствол! Он может спокойно расстрелять кучу людей, прежде чем его остановят. А вот если бы у всех учеников и учителей было при себе оружие, то жертвы могли бы ограничиться одним буйным психом.

По-моему, опасность огнестрельного оружия сильно преувеличена. Дети часто имеют дело с кучей опасных вещей: кухонные ножи, электрические розетки и т.д. Если ребёнок в состоянии нарезать себе хлеб, не выпустив кишки, то запросто справится и с пистолетом. Особенно если производить специальные детские модели огнестрела.

Делать из людей беззубых овец выгодно лишь властям, но никак не самим людям! Опасно не огнестрельное оружие, а его отсутствие! Бандиты и психи всё равно находят, где добыть орудие смертоубийства. А вот законопослушные граждане оказываются беззащитны.

Так же и потенциально опасные знания. Нужно не утаивать их, а широко распространять! Чтобы любой дворник был способен собрать в гараже нейтронную бомбу — и так же запросто её обезвредить, если ситуация того потребует. :) Не знания опасны, а тупорылость! Только всеобщая тупорылость может привести человечество к гибели!

Уф-ф, как мощно меня накрыло.

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение16.06.2015, 13:46 
Аватара пользователя


05/01/13

3968
Мда, я в своём репертуаре — нагородил всякой чуши, в которую свято верил на момент написания. Просто мозговые спазмы какие-то. :)

"Смешались в кучу кони, люди..." (с) Лермонтов

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение16.06.2015, 17:38 


06/12/14

617
Denis Russkih в сообщении #1027761 писал(а):
Мда, я в своём репертуаре — нагородил всякой чуши, в которую свято верил на момент написания. Просто мозговые спазмы какие-то. :)

"Смешались в кучу кони, люди..." (с) Лермонтов

Это потому что у Вас интеллект слишком высокий. Вы как автомобиль у которого есть педаль "газ", но нет педали "тормоз". На кольцевом треки - Вы бесподобны. Но проблемы Ваши начинаются на реальной извилистой жизненной дороге. :D
(шутка конечно!)

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение16.06.2015, 23:53 
Аватара пользователя


05/01/13

3968
Kosterik в сообщении #1027837 писал(а):
Это потому что у Вас интеллект слишком высокий.

Нет, это потому, что язык у меня хорошо подвешен, но плохо закреплен.

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение17.06.2015, 00:22 
Заслуженный участник


27/04/09
28128
В общем, не только вы в своём репертуаре.

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение17.06.2015, 03:00 


17/10/08

1313
Слухи о том, что не удается придумать общее определения интеллекта, несколько преувеличены. Например, первое что приходит в голову:
Интеллект (биологический) – косвенный механизм поддержания сложных биологических форм в эволюционном процессе, связанный с созданием моделей/проекций реальности и их использованием. Можно, конечно, это определение улучшить – но все и так представляют, что такое интеллект.

Если требуется построить искусственный интеллект, то разумное пространство поиска для него – «аксиоматические системы», всевозможные языки для описания моделей/проекций и что-то в этом духе. Ничего более мощного мне не известно. Понятно, что пущенная на самотек «эволюция» в стиле «замесить и нарубить» аксиоматические системы, ничего не даст. Поэтому, в таких случаях, стараются придумать некоторые наборы показателей, по которым одни «аксиоматические системы», языки, описания реальности, были бы предпочтительнее других. Ну не бывает поиска без критериев. Способность к правильным прогнозам, обучаемость, эффективность и т.д. – примеры таких показателей, обладание которыми позволяет нам в том или иной мере отнести некий субъект к ИИ.

Если нечто создано, то следующее типовое действие - проверка показателей на некоторые диапазоны значений (т.е. суть речь идет о проверке требований к ИИ). Такие проверки называются тестами. По результатам разработанных тестов можно условно заключить, что это «настоящий ИИ», или «ИИ на 90%» . Кстати говоря, тест Тьюринга – это в этом же духе. Тест не выдержал проверку временем, но, тем не менее, это научный тест и никак не марает его автора.


Люди, которые по части потрындеть, занимаются …. Например, открываем в wiki на странице сильного и слабого интеллекта.
Видим раздел: требования к созданию сильного ИИ.
Находим там эти требования: «принятие решений на основе стратегий», «планирование», «обучение», и т.д. А вот теперь, если нечто сделано, как будет вестись проверка на соответствие этим требованиям? Ну, как протестировать у субъекта «принятие решений на основе стратегий»? Я точно знаю, что «принятие решений на основе стратегий» и «планирование» можно заменить на «эффективность». Которая, кстати, может использоваться не только для тестов, но и использоваться в составе критерия для автоматического синтеза ИИ.

Еще хуже «требования», которые указаны ниже: «сознание», «самосознание», «сопереживание», «мудрость». Как проверить их наличие (где же тесты а-ля Тьюринг)? Психиатров нужно созывать для каждого теста? Боюсь, что они сойдут с ума. И потом, как создавать ИИ – запрограммировать алгоритм вручную, и после каждой модификации собирать консилиум врачей? Если же речь идет о философии, то для ИИ есть и другие основы, например «идеальное», «идеи», «дух» и т.п., которые и приведут нас, в частности, на несколько абзацев выше.

Если сказанное выше верно, то ИИ в обозримой перспективе все же не будет полноценным биологическим аналогом человека. В плане интеллекта, это, видимо, будет суперпрограмма, которая сможет построить модели реальности лучше человека, и поможет решить множество проблем. Поскольку цели для ИИ все же будет ставить человек, опасность будет исходить от самого человека. Чтобы развитие технологий, и создание ИИ в частности, не кончилось концом человечества – некоторые рекламируют жесточайшую диктатуру с остановкой развития, физическим уничтожением большей части человечества и тотальным контролем (Запад, видимо, собрался пойти по этому пути). Есть и другие идеи: создание/воспитание другого антропологического типа человека (в России не мало сторонников движения в эту сторону), чтобы он что-нибудь не учудил. Речь идет о «восхождении»

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение17.06.2015, 09:39 


15/11/09
1489
mserg в сообщении #1028012 писал(а):
Интеллект (биологический) – косвенный механизм поддержания сложных биологических форм в эволюционном процессе, связанный с созданием моделей/проекций реальности и их использованием.


Мысль хорошая, но только Вы ее углубите и развейте. Модель для практического использования это ведь всегда Евклидово пространство. В то время как реальность не проще модели Гильбертова пространства. А интеллект это как раз то что имея эти самые Евклидовы пространства строит в них проекции реальности. А откуда эти Евклидовы пространства берутся, точнее откуда берутся независимые вектора на которые уже натягиваются линейные оболочки? Так вот эти вектора всегда аналоговые. Именинно их эволюция и вырабатывает, и за их пределы без эволюции не выпрыгнуть, как не старайся. А потому все искусственные интеллекты не имеют составляющих перпендикулярных этим самым векторам полученным в процессе эволюции. А значит искусственный интеллект не "сильнее" естественного.

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение17.06.2015, 12:49 


03/03/15

178
Цитата:
А потому все искусственные интеллекты не имеют составляющих перпендикулярных этим самым векторам полученным в процессе эволюции. А значит искусственный интеллект не "сильнее" естественного.


Ортогональные члены машина может вычислить, в процессе факторного анализа и добавить к своему базису, а человек нет.
Человек- это система, которая усредняет окружающий мир, под свое восприятие(проецирует). Эволюция ему почти не помогает, потому надежда на машины.

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение17.06.2015, 16:06 


15/11/09
1489
fedotv в сообщении #1028106 писал(а):
Ортогональные члены машина может вычислить, в процессе факторного анализа и добавить к своему базису, а человек нет.


Это внутри какой-то абстрактной модели. А речь о связи с реальностью. За независимыми векторами стоят измеряемые параметры. Например температуру Вы никак без градусника не измерите, а он принципиально аналоговый, так как температура это макропараметр системы. Но все что мы измеряем в реале это именно макропараметры, даже координаты тела, это координаты его центра масс. Вот набор этих "градусников" и есть те самые вектора и как градусник в смысле градусов не крути метров из него не получишь нужно другое аналоговое устройство - рулетка. А за всеми этими параметрами стоят смыслы, условно некие программы-адаптеры в нашем мозге, все вместе это часть интеллекта, и то чем он ограничен. И не где кроме как в эволюции Вы эти аналоговые устройства "градусники" с соответствующими адаптерами не получите.

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение17.06.2015, 16:47 


03/03/15

178
Цитата:
Например температуру Вы никак без градусника не измерите

Напомню, градусник - это внешний прибор, которым пользуется человек, чтобы собирать информацию и анализировать.

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение17.06.2015, 16:48 


17/10/08

1313
Если речь идет о практических аспектах, то об этом было в предыдущем моем сообщении.
В значительной мере для связи с реальностью, как предполагалось, достаточно иметь достаточно простой «диалект» математического языка. И речь шла о том, что в ближайшее время язык общения с ИИ будет математический. В моем понимании, зрение, слух, осязание человека и т.д. – это некоторые вектора/матрицы во времени, что вполне представимо простыми математическими структурами. Накопленные данные – медицинские, космические, корпоративные и т.д. – для их описания и передаче ИИ какой-то сложной математики также не просматривается.

«Внутри себя» ИИ может себе создать «все что хочет» (любые другие языки, любые формальные системы).) Но реальность (внешнее описание «задач» на выбранном математическом «диалекте») для ИИ неотменяема и ненарушаема.

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение17.06.2015, 18:20 


16/09/12
7127
Sonic86 в сообщении #1027664 писал(а):
Чем плохо определение интеллекта как способности решать задачи? (я не в курсе этой проблемы, если она есть, потому в лоб спрашиваю)


Да ничем не плохо. Просто это как-то очень узко, даже для когнитивных наук. И проблема ещё в том, что нужно понять, что в данном случае будет "решать" и что такое будет "задача".

 Профиль  
                  
 
 Re: Будущее человечества при ИИ. Займемся футурологией?
Сообщение17.06.2015, 19:22 


15/11/09
1489
fedotv в сообщении #1028177 писал(а):
Напомню, градусник - это внешний прибор, которым пользуется человек, чтобы собирать информацию и анализировать.


Градусник прежде всего отражает реальность или по-другому позволяет получить проекцию мира в Евклидово пространство. И интеллект точно так же отражает реальность. Чем такая аналогия хуже аналогии с дискретной цифровой машиной? К тому же аналоговые машины "анализируют" реальность гораздо эффективнее цифровых, просто они очень узко специализированы, но и жизнь создает именно узкоспециализированные системы.

-- Ср июн 17, 2015 19:26:35 --

mserg в сообщении #1028178 писал(а):
И речь шла о том, что в ближайшее время язык общения с ИИ будет математический.


Существующий математический язык оперирует с конечно описываемыми понятиями. Это легко понять так как любую математическую структуру можно записать конечным числом символов. А вот обычная молекула белка (аналоговая структура) не конечно описываема.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 344 ]  На страницу Пред.  1 ... 17, 18, 19, 20, 21, 22, 23  След.

Модератор: Модераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group