Выживание в условиях тотальной роботизации

[kry]

ozheredov в сообщении #1272020 писал(а):

и строим два распределения песен

И эти распределения будут носить совершенно субъективный характер и зависеть от тех самых эстетических вкусов распределяющего.

Mental в сообщении #1272024 писал(а):

Я всего лишь утверждаю, что создание алгоритмов для манипуляции роботами людьми будет не разрешено

А доказательства этого утверждения будут? Вообще, что Вы подразумеваете под "алгоритмы для манипуляции роботами людьми"? Почему тогда большинство видов психологических манипуляций людьми людей не запрещены?

Mental в сообщении #1272024 писал(а):

что так же перекликается с вопросами, которые разбирает такая дисциплина, как этика.

Вот именно, что этика, а не юриспруденция.

[Mental]

kry в сообщении #1272030 писал(а):

Вообще, что Вы подразумеваете под "алгоритмы для манипуляции роботами людьми"?

Объясню на примере. Робот не сможет говорить приватно Пете Иванову:
- Иван Петров, пока тебя лучше, но у тебя потенциал лучше, больше занимайся, и бонус получишь ты. А то …
А затем Ивану Петрову:
- Петя Иванов, пока тебя лучше, но у тебя потенциал лучше, больше занимайся, и бонус получишь ты. А то …

[kry]

Mental в сообщении #1272039 писал(а):

Робот не сможет говорить

Ок, а теперь приведите, пожалуйста, доказательства того, почему это будет запрещено роботу, если большинство психологических манипуляций людьми людей никак не запрещены.

[Mikhail_K]

При чём тут вообще какие-то психологические манипуляции?
Чего роботы-учителя не научатся делать - это "быть на одной волне" с учениками, аппелировать к понятным для них образам и жизненному опыту. Чтобы это уметь, надо самому быть человеком, это ИИ-полная задача.

А вот полезность каких-то манипуляций и вообще бонусов и наград в обучении - сомнительна.

[Mental]

kry в сообщении #1272040 писал(а):

Ок, а теперь приведите, пожалуйста, доказательства того, почему это будет запрещено роботу, если большинство психологических манипуляций людьми людей никак не запрещены.

Мне прямо сейчас в будущее перенестись, чтобы цитаты из тамошних законов скопировать?
Отвечу, что это логично. Психологические манипуляции людьми людей не запрещены, потому что люди смотрят на это более-менее снисходительно, но пока манипулятор не перегибает палку. Вспомните, что стало с Слаеновым в "Республике ШКИД".

[kry]

Mikhail_K в сообщении #1272044 писал(а):

Чего роботы-учителя не научатся делать - это "быть на одной волне" с учениками, аппелировать к понятным для них образам и жизненному опыту.

Через чур категоричное утверждение, как мне кажется. Вы не думали, к примеру, что роботы-учителя в будущем могут обладать полноценным сильным ИИ и даже искусственным разумом и сознанием? Да и как изменятся сами ученики мы тоже может только гадать: биотехнологии, нейроинтерфейсы и другие технологии могут, мягко скажем, сделать границу между людьми и машинами крайне условной.

Mikhail_K в сообщении #1272044 писал(а):

А вот полезность каких-то манипуляций и вообще бонусов и наград в обучении - сомнительна.

Тут вопрос в том, с какой этической платформы мы смотрим. Полезность в контексте утилитаризма, например, вполне себе имеется, исходя просто из системы внутреннего вознаграждения обучаемого.

-- 04.12.2017, 21:52 --

Mental в сообщении #1272046 писал(а):

Мне прямо сейчас в будущее перенестись, чтобы цитаты из тамошних законов скопировать?

Я так и понял, что доказательств нет.

Mental в сообщении #1272046 писал(а):

Психологические манипуляции людьми людей не запрещены, потому что люди смотрят на это более-менее снисходительно

Разные люди в разных ситуациях по-разному смотрят на разные манипуляции. Сорри за банальность.

[arseniiv]

Mental в сообщении #1272046 писал(а):

Отвечу, что это логично.

arseniiv в сообщении #1272008 писал(а):

А то я вот тоже скажу: «в галактику Андромеды мы никогда не попадём». Или там «нормальность числа $\pi$ никогда не докажут».

В самом деле, логично же. Ежу ясно, что Вселенная слишком добра, если $\pi$ нормально*, и что в 20122012 году будет конец света (это выводится логически как конкатенация неудавшегося конца в 2012, и уж двойное-то повторение точно сработает!) из-за нанороботов, заразившихся полемической кустистостью (это уже моё личное предположение, но не сомневаюсь, что оно недалеко от истины), и потому никаких вам андромед.

* Чем по большему числу оснований систем счисления оно нормально, тем это менее вероятно. Но также невероятно, если хоть какое-то конечное множество оснований будет выделено (это же $\pi$!). Значит, оно не должно быть нормальным ни по какому (это вероятнее, чем если оно нормально по всем). Логика!

[Mikhail_K]

kry в сообщении #1272048 писал(а):

Вы не думали, к примеру, что роботы-учителя в будущем могут обладать полноценным сильным ИИ и даже искусственным разумом и сознанием?

Тогда их стоит называть не роботами, а людьми, только искусственно созданными. Если у таких "искусственных людей" будет схожее с человеческим сознание, то перспектива замещения ими "настоящих" людей меня не пугает.
А вот в замещение людей роботами без сильного ИИ поверить сложно. Такое замещение действительно было бы смертью человеческой цивилизации, но вряд ли оно возможно.

kry в сообщении #1272048 писал(а):

Полезность в контексте утилитаризма, например, вполне себе имеется, исходя просто из системы внутреннего вознаграждения.

Как Вы относитесь к вот этим книгам:
Д.Пинк. Драйв: что на самом деле нас мотивирует
А.Кон. Наказание наградой
Приводятся результаты исследований, показывающих, что всякие бонусы увеличивают эффективность обучения в краткосрочной перспективе, но обваливают её в долгосрочной. И даётся объяснение этим явлениям.

[Mental]

arseniiv в сообщении #1272049 писал(а):

и что в 20122012 году будет конец света (это выводится логически как конкатенация неудавшегося конца в 2012, и уж двойное-то повторение точно сработает!) из-за нанороботов

Весьма странное заявление, когда любому здравомыслящему человеку давно известно, что уже в 2666 году Земля налетит на Небесную Ось, что незамедлительнейшим образом приведёт к полному и окончательному Армагеддону.

[kry]

Mikhail_K в сообщении #1272051 писал(а):

Тогда их стоит называть не роботами, а людьми, только искусственно созданными.

Не могу согласиться. Люди - это представители конкретного биологического вида. Здесь, как мне кажется, если и возникнет какой-то этический вопрос, то этот вопрос будет более фундаментальный: можно ли будет назвать такие машины живыми существами. И конечно, подобные вопросы будут в значительной степени носить характер терминологического спора.

Mikhail_K в сообщении #1272051 писал(а):

Как Вы относитесь к вот этим книгам:
Д.Пинк. Драйв: что на самом деле нас мотивирует
А.Кон. Наказание наградой

Первую книгу читал, о второй только слышал. Если вести речь все-таки о книге Пинка, то там, как я её понял, делается немного другой вывод: бонусы и награды в рамках той самой системы внутреннего вознаграждения полезны при обучении, но эта полезность носит не абсолютный, а ограниченный характер - таковая полезность действительно выше при кратковременном процессе обучения, полезность выше при решении стандартных задач, полезность выше при решении задач с преимущественным влиянием внешним стимулов, а не внутренних желаний и т.д. Кроме того, главная мысль книги состоит в том, что полноценное сложное обучение (прежде всего на уровне HR, которому и посвящена в основном книга, но и на других уровнях тоже по-видимому) не может строиться только на внешних стимулах в виде бонусов и наград, но и должно опираться на внутреннюю мотивацию обучаемых (автор это называл Мотивация 3.0.). Это все-таки не тоже самое, что написали изначально Вы:

Mikhail_K в сообщении #1272044 писал(а):

А вот полезность каких-то манипуляций и вообще бонусов и наград в обучении - сомнительна.

[Mikhail_K]

Да, возможно я высказался излишне категорично. Но в контексте обсуждаемого вопроса, умение или неумение робота-учителя производить манипуляции подобные описанным Mental вовсе не кажется мне сколько-нибудь ключевым. Ключевыми кажутся совсем другие способности.

Mental в сообщении #1272039 писал(а):

говорить приватно Пете Иванову:
- Иван Петров, пока тебя лучше, но у тебя потенциал лучше, больше занимайся, и бонус получишь ты. А то …
А затем Ивану Петрову:
- Петя Иванов, пока тебя лучше, но у тебя потенциал лучше, больше занимайся, и бонус получишь ты. А то …

Подобные идеи мне не кажутся хорошими в любом случае. Помимо лишнего акцента на внешней мотивации (какие-то бонусы), тут есть ещё и взращивание неприятельских отношений между учениками. Вместо их возможного сотрудничества.

[ozheredov]

arseniiv в сообщении #1272028 писал(а):

я зря влез

Наоборот, не зря. Я прекрасно понимаю вашу аргументацию и мне приятно дискутировать с вами, при этом я отнюдь не стремлюсь в чём-то вас убедить. Теперь по делу: предположим, у нас стоит задача доказать или опровергнуть тезис о том что попса раньше была лучше:). Для этого мы берём две выборки, которые есть просто данность - мы не планировали эксперимент, а просто взяли то что есть. Да, что-то из того что должно было войти не вошло, что-то вошло лишнее - если тенденция сильна, то сигнал на фоне шума выделить можно. Насчёт достаточности статистики - минимальный объём выборки (из людей) зависит от силы перекоса. Если он велик, то если не двух, то десятка адекватных людей я думаю хватит. Дальше можно требовать определения что такое адекватный человек, и т.д., но заметьте -- под всеми понятиями которыми мы оперируем в повседневной жизни большинство людей интуитивно понимает одно и то же, несмотря на то что сами понятия определены крайне нестрого. Бывают конечно курьезы, когда собирается куча напрочь отбитых людей, возможно я один из них, но разве это повод отказываться от построения закономерностей на базе плохо определённых, но интуитивно осознаваемых понятий?

-- 04.12.2017, 23:45 --

kry в сообщении #1272030 писал(а):

И эти распределения будут носить совершенно субъективный характер и зависеть от тех самых эстетических вкусов распределяющего

Если взять любой наперёд заданный мерзкий продукт, найдётся группа людей, которые его обожают и толко о нем и мечтают. В Финляндии например едят квашенную селёдку (не обвиняйте меня пожалуйста в нацизме - это просто пример), что это см. реакцию среднестатистического европейца на ютьюбе, когда он рискует её съесть. Есть вкусовые предпочтения - вам нравится Mercedes, мне BMW. Но мне не придёт в голову убеждать вас, а вам - меня, что лучше всего сесть в ржавую гнилую таратайку, для которой удар на 50 км/ч = смерть. Так вот, я ожидаю перекоса не от того что раньше производили больше бмв, а сейчас мерседесов. Я ожидаю перекосе от того что раньше производили хёндай, а сейчас все больше запорожец.

-- 04.12.2017, 23:49 --

Mental в сообщении #1272046 писал(а):

Вспомните, что стало с Слаеновым в "Республике ШКИД".

Вот это всем аргументам аргумент

[kry]

ozheredov в сообщении #1272068 писал(а):

Если взять любой наперёд заданный мерзкий продукт, найдётся группа людей, которые его обожают и толко о нем и мечтают.

Обычно именно так оно и есть, поэтому не имеет смысла сравнивать объективно вещи, процессы или явления по критерию "нравится мне - значит хорошая", "не нравится мне - значит плохая", ибо такое сравнение будет просто некорректным, если эта оценка претендует на статус объективной оценки.

ozheredov в сообщении #1272068 писал(а):

Есть вкусовые предпочтения

Вот именно, что вкусовые предпочтения и каждый имеет право иметь любые вкусовые предпочтения, например, ненавидеть современную поп-музыку. Не надо только свои вкусовые предпочтения выдавать за объективную оценку.

ozheredov в сообщении #1272068 писал(а):

Но мне не придёт в голову убеждать вас, а вам - меня, что лучше всего сесть в ржавую гнилую таратайку, для которой удар на 50 км/ч = смерть.

Пока все выглядит так, что Вы как раз Mercedes пытаетесь назвать "ржавой гнилой таратайкой", потому что Вам больше нравятся BMW. А теперь попробуйте сослаться на какие-нибудь объективные критерии различия качества музыки (кинематографа, телевидения, продуктов питания, компьютерных игр/видеоигр) в своих доводах.

[ozheredov]

kry

Я никогда не назову плохим очень многое из того что мне не нравится. Например, мне категорически не правятся iPhone с постфиксом +, я такую лопату никогда не куплю. Мне не нравятся макбуки и MacOS, не нравится джаз, не нравятся стихи Марины Цветаевой, и т.д. Но я первый готов покрутить палец у виска тому, кто скажет что перечисленное мною отстой.

Вот простой пример. Можно ли хоть с какой нибудь точки зрения назвать хорошей песню "Мама Люба давай"?

-- 05.12.2017, 00:11 --

kry в сообщении #1272072 писал(а):

А теперь попробуйте сослаться на какие-нибудь объективные критерии различия качества музыки (кинематографа, телевидения, продуктов питания, компьютерных игр/видеоигр) в своих доводах.

Ясное дело что их не существует:)

[kry]

ozheredov в сообщении #1272073 писал(а):

Я никогда не назову плохим очень многое из того что мне не нравится.

А лично мне пока кажется, что Вы именно этим и занимаетесь. Возможно я ошибаюсь.

ozheredov в сообщении #1272073 писал(а):

Вот простой пример. Можно ли хоть с какой нибудь точки зрения назвать хорошей песню "Мама Люба давай"?

Уточните, какие объективные критерии музыкальной композиции Вы сейчас подразумеваете под словом "хорошо". Только тогда я могу попытаться ответить на Ваш вопрос, а если "хорошо" - это Ваша субъективная эстетическая или этическая оценка, то обсуждать тут нечего, так как за таким "хорошо" нет объективности.

-- 05.12.2017, 00:20 --

ozheredov в сообщении #1272073 писал(а):

Ясное дело что их не существует:)

Вообще-то существуют: в искусствоведение и в частности в музыковедение такие критерии вполне себе есть, вот только они принципиально не сводятся к "нравится"-"не нравится". Литературу по этим наукам можете посмотреть в моем списке.